1.10: Погрешность измерения: приборы для чтения

Подсчет — это тип измерения, при котором отсутствует неточность, при условии, что количество подсчитанных объектов не изменяется во время процесса. Такие измерения приводят к точным числам. Например, подсчитывая яйца в картонной коробке, можно точно определить, сколько яиц находится в коробке. Точно так же точно и числа определенных величин. Например, 1 фут составляет ровно 12 дюймов, 1 дюйм – ровно 2.54 сантиметров, а 1 грамм – ровно 0.001 килограмма. Тем не менее, величины, полученные в результате измерений, отличных от подсчета, неточны из-за практических ограничений используемого процесса измерения.

Значащие цифры

Каждое измерение имеет некоторую неточность, которая зависит от используемого устройства (и умения пользователя). Например, объем жидкости в градуированной емкости измеряется путем считывания нижней части мениска — самой нижней точки на изогнутой поверхности жидкости. Предположим, что дно мениска находится между отметками 15 и 16; это означает, что объем жидкости определенно больше 15 мл, но меньше 16 мл. Кажется, что мениск немного ближе к отметке 16 мл, и таким образом, разумная оценка объема жидкости будет составлять 15.6 мл. В этом измеренном значении цифры 1 и 5 являются точными, но последняя цифра на месте десятых долей, 6, является оценочной. Некоторые экспериментаторы могли бы оценить, что положение мениска одинаково далеко от каждой отметки, и оценить десятичную цифру как 5, в то время как другие могут считать, что оно еще ближе к отметке 16 мл и оценить ее как 7. Численная шкала на этом градуированном цилиндре имеет деления по 1 мм, таким образом, объемы могут быть измерены до ближайшего 0.1 мл. Аналогичным образом, стандартный электронный баланс может считать массу монеты как 5.74 г. Цифры 5 и 7 являются однозначными, а 4 означает, что масса монеты, вероятно, составляет от 5.73 до 5.75 грамма. Монета весит около 5.74 грамма, с номинальной неопределенностью при измерении + 0.01 грамм. Если монета взвешивается на более чувствительных весах, масса может составлять 5.743 г. Это означает, что её масса составляет от 5.742 до 5.744 грамма, неопределенность 0.001 грамм.

Этот текст адаптирован из Openstax, Химия 2e, раздел 1.5: Погрешность измерений, аккуратность и точность.