Неопределенность в измерениях: значащие цифры

Все числа в научном измерении точны, за исключением последней цифры. Достоверность измерения зависит от двух факторов:количества цифр в измерении и точности используемого инструмента. В измеряемой величине все цифры, включая последнюю неточную цифру, называются значащими цифрами и могут быть определены с использованием определенных правил.

Любые ненулевые цифры и все связанные нули, которые находятся между двумя ненулевыми цифрами, являются значащими. Например, 28 имеет две значащие цифры, 26, 25 четыре, а 208 три. Нули вначале числа никогда не являются значащими, они просто отмечают десятичный разделитель.

Например, 0.00208 состоит из трех значащих цифр. Такие величины можно выразить с помощью экспоненциальной записи. Таким образом, 0, 00208 можно записать как 2, 08 10⁻³.

Нули в конце имеют значение только в числах в десятичном формате. 2200 имеет два конечных нуля и две значащие цифры, тогда как 2200.0 и 2200.1 имеют по 5 значащих цифр. Для величин без десятичных знаков значение конечных нулей становится неоднозначным.

Таким образом, 2200 можно записать как 2, 2 10³ с двумя значащими цифрами или 2, 20 10³ с тремя значащими цифрами. Значащие цифры помогают добиться уверенности и в математических операциях. При сложении или вычитании результат должен быть округлен, чтобы в нем было такое же количество десятичных знаков, как и в измерении с наименьшим количеством десятичных знаков.

Округление в меньшую сторону следует производить, когда последняя цифра меньше 5, а округление в большую сторону когда она равна 5 или больше. Когда последняя цифра равна 5, иногда используются другие методы округления. Например, сумма 2, 052 и 1, 2 округляется до 3, 3.

Однако при умножении или делении результат необходимо округлять, чтобы иметь такое же количество значащих цифр, что и в измерении с наименьшим количеством значащих цифр. Таким образом, произведение 2, 052 и 1, 2 округляется до 2, 5. Ученые часто повторяют эксперименты, чтобы добиться прецизионности своих измерений.

Стандартное отклонение является статистическим выражением такой прецизионности и показывает отклонение от ожидаемого значения. При высокой прецизионности стандартное отклонение невелико, и наоборот. Например, две группы измерили толщину книги в сантиметрах.

Они нашли одинаковое среднее значение 10.6 сантиметра. Однако измерения первой группы более прецизионны, следовательно, имеют меньшее стандартное отклонение. Вторая группа имеет более разрозненные измерения и более высокое стандартное отклонение.