측정 불확도: 유효 수치

과학적인 측정에서 마지막 자릿수를 제외한 모든 숫자는 확실합니다. 측정의 확실성은 측정값의 자릿수와 사용하는 계측기의 정밀도의 두 가지 요인에 따라 달라집니다. 측정량에서 마지막 자리의 불확실한 숫자를 포함한 모든 숫자를 유효 숫자라고 하며 특정 규칙을 사용하여 결정할 수 있습니다.

0이 아닌 모든 숫자와 그 사이에 있는 모든 0은 유효합니다. 예를 들어 28은 유효 숫자가 두 개이며 26.25는 네 개, 208은 세 개입니다. 앞에 오는 0은 유효하지 않으며 소수점 위치만 지정합니다.

예를 들어 0.00208은 유효 숫자가 세 개입니다. 이러한 수량은 지수 표기법으로 표시할 수 있습니다. 따라서 0.00208은 2.08 10⁻³으로 쓸 수 있습니다.

후행 0은 소수점 형식의 숫자에서만 유효합니다. 2200에는 2개의 후행 0과 2개의 유효 숫자가 있는 반면, 2200.0과 2200.1에는 모두 5개의 유효 숫자가 있습니다. 소수점이 없는 수의 경우 후행 0의 유효성이 모호해집니다.

따라서 2200은 유효 숫자가 2개인 2.2 10³으로 쓰거나 유효 숫자가 세 개인 2.20 10³으로 쓸 수 있습니다. 유효 숫자는 수학적인 연산에서도 확실성을 유지하기 위해 고려해야 합니다. 덧셈과 뺄셈에서 소수점 자릿수가 가장 적은 측정값과 동일한 소수점 자릿수를 가지도록 결과를 반올림해야 합니다.

마지막 자릿수가 5보다 작으면 반내림을 수행하고 5보다 크면 반올림을 수행합니다. 마지막 자릿수가 5일 때 때로는 다른 반올림 방법을 사용합니다. 예를 들어 2.052와 1.2의 합은 3.3으로 반올림됩니다.

그러나 곱하기 또는 나누기에서는 결과를 반올림하여 가장 작은 유효 숫자를 가진 측정값과 동일한 수의 유효 숫자가 되게 해야 합니다. 따라서 2.052와 1.2의 곱은 2.5로 반올림됩니다. 과학자들은 종종 측정값의 정밀도를 높이기 위해 실험을 반복합니다.

표준 편차는 이런 정밀도의 통계적 표현이며 기대값으로부터 분산된 정도를 나타냅니다. 정밀도가 높으면 표준 편차가 작고 정밀도가 낮으면 표준 편차가 큽니다. 예를 들어, 두 그룹이 책의 두께를 센티미터 단위로 측정했다고 가정합시다.

두 그룹은 10.6 센티미터로 같은 평균값을 얻었습니다. 하지만 첫 번째 그룹의 측정이 더 정밀하여 더 작은 표준 편차를 보였습니다. 두 번째 그룹은 측정 값이 더 넓게 산포되어 표준 편차가 더 크게 나왔습니다.