測定の不確実性：有効数字

科学的な測定では 最後の一桁を除いて すべての数字が確実です 測定の確実性は 測定の桁数と 使用する機器の精度という 2つの要因に依存します 測定された量では 最後の不確かな桁を含む すべての桁は有効数字と呼ばれ 特定な規則を使って 決定することができます ゼロではない数字と ゼロではない2つの数字の 間にあるすべての数字と ゼロは有効数字です 例えば 28 は 2桁の有効数字ですが 26.25 は 4 桁 208 は 3 桁です 先行のゼロは重要ではなく 小数点を示すだけです たとえば 0.00208には 3つの有効数字があります このような量は指数表記法を使い 表現することができます 0.00208は2.08×10⁻³と 書くことができます 末尾のゼロは 小数点形式の 数値のみ有効です 2200は2つの末尾ゼロと 2つの有効数字を持ちますが 2200.0と2200.1は両方 5つの有効数字を持ちます 小数点のない量では 末尾のゼロの意味が曖昧です したがって 2200は2つの 有効数字を持つ2.2×10³ または3つの有効数字を持つ 2.20×10³と書くことができます 有効数字は 数学の演算においても 確実性を得るのに役立ちます 足し算や引き算では 小数点以下の桁数が 最も少ない測定と 同じ桁数になるように 結果を四捨五入 しなければなりません 下の桁が5以下の場合は 切り捨てを行い 5以上の場合は 切り上げを行います 最後の桁が5の場合には 他の丸め方をすることもあります 例えば2.052と1.2の和は 3.3として四捨五入されます ただし 掛け算や 割り算をするときは 有効数字が最も少ない測定値と 同じ有効数字の数になるように します したがって 2.052と1.2の積は 2.5として四捨五入されます 科学者は 測定の精度を上げるために 実験を繰り返すことが よくあります 標準偏差はそのような精度を 統計的に表現したもので 期待値からの ばらつきの指標です 精度が高ければ標準偏差は小さく 逆もまた然りです 例えば 2つのグループが 本の厚さを センチメートル単位で 測定しました 両グループは同じ平均 10.6センチメートルでした しかし最初のグループの測定は より正確であるため 標準偏差が小さくなっています 2番目のグループの方が 測定値の範囲が広く 標準偏差が高くなります