1.11

計算上の有効数字

23.3K 閲覧数00:58

計算結果を正しい有効数字で報告することで、測定の不確実性を回避できます。 これは、次の数値の丸めルールによって決定できます。

  1. 数値を加算または減算する場合は、結果を小数点以下の桁数が最も少ない数値と同じ小数点以下の桁数に四捨五入します。
  2. 数値を乗算または除算する場合は、結果を有効桁数が最小の数値と同…