浮動小数点とは

数値を表現する手段の一つにコンピュータが使用する浮動小数点数があります。これは、数値の具体的な値を提示する「仮数部」と、小数点の場所を示す「指数部」によって構成され、実数の表現では底を指数としてべき乗し、その結果を仮数部に掛ける方法が組み込まれています。その扱える数字の幅が広く、特に科学的な計算や技術的な計算に適しています。ただし、小数点の位置を定める処理が必要なため、小数点位置が一定の固定小数点数に比べると計算速度は若干落ちます。データの詳細さを求める場合、32ビットの情報を含む「単精度実数」や64ビットを含む「倍精度実数」などの浮動小数点が存在します。

関連記事

  1. 納入リードタイムとは

  2. LET(線エネルギー付与)とは

  3. PDCとは

  4. 3期制とは

  5. FOUPとは

  6. ダンピングとは

  7. ドメインパーキングとは

  8. 安全ゴーグルとは

  9. 実在庫とは

人気記事
No column posts found for the specified category.
事例記事