1.11: 측정 불확도: 유효 수치

불확실한 마지막 숫자를 포함하여 측정값의 모든 숫자를 유효 숫자 또는 유효 숫자라고 합니다. 0은 측정된 값일 수 있습니다. 예를 들어, 가장 가까운 파운드 단위로 무게를 표시하는 저울에 "140"이 표시되면 1(백), 4(십), 0(일)이 모두 유효(측정) 값입니다.

측정 결과는 유효 숫자가 측정 프로세스의 확실성을 정확하게 나타낼 때 올바르게 보고됩니다. 다음은 측정 시 유효 숫자의 수를 결정하는 일련의 규칙입니다.

1. 0이 아닌 모든 숫자는 유효합니다. 왼쪽에서 0이 아닌 첫 번째 숫자부터 시작하여 이 숫자와 오른쪽의 나머지 모든 숫자를 셉니다. 이는 측정의 유효숫자 수입니다. 예를 들어 843은 유효 숫자가 3개이고, 843.12는 유효 숫자가 5개입니다.
2. 0이 아닌 두 숫자 사이의 0인 종속 0은 유효합니다. 예를 들어, 808.101에는 2개의 전용 0과 6개의 유효 숫자가 있습니다.
3. 선행 0은 0이 아닌 첫 번째 숫자 왼쪽에 있는 0입니다. 선행 숫자는 중요하지 않습니다. 단지 소수점 위치를 나타낼 뿐입니다. 예를 들어 0.008081의 앞에 오는 0은 중요하지 않습니다. 이 숫자는 지수 표기법을 사용하여 8.081 × 10^−3으로 표현할 수 있으며, 숫자 8.081에는 모든 유효 숫자가 포함되고 10^−3은 소수점 위치에 있습니다.
4. 숫자 끝의 0인 후행 0의 중요성은 위치에 따라 다릅니다. 소수점 앞(그러나 0이 아닌 숫자 뒤)과 뒤의 0은 중요합니다. 그러나 소수점이 없는 숫자의 경우 뒤에 오는 0은 중요할 수도 있고 그렇지 않을 수도 있습니다. 이 모호함은 지수 표기법을 사용하여 해결할 수 있습니다. 예를 들어 측정값 1300은 1.3 × 10^3(유효 숫자 2개), 1.30 × 10^3(10자리를 측정한 경우 유효 숫자 3개) 또는 1.300 × 10^3(1자리도 측정한 경우 유효 숫자 4개)로 쓸 수 있습니다. 정확히 잰).

계산의 유효 숫자

정확한 유효 숫자 수를 사용하여 계산 결과를 보고함으로써 측정의 불확실성을 피할 수 있습니다. 이는 숫자 반올림 규칙에 따라 결정될 수 있습니다.

1. 숫자를 더하거나 뺄 때 소수점 이하 자릿수가 가장 작은 숫자와 동일한 소수점 이하 자릿수로 결과를 반올림합니다.
2. 숫자를 곱하거나 나눌 때는 유효 숫자가 가장 작은 숫자와 동일한 자릿수로 결과를 반올림합니다.
3. 삭제할 숫자(유지할 숫자 바로 오른쪽에 있는 숫자)가 5보다 작은 경우 "내림"하고 유지된 숫자를 변경하지 않고 그대로 둡니다.
4. 삭제할 숫자(보유할 숫자 바로 오른쪽에 있는 숫자)가 5 이상이면 "반올림"하여 유지된 숫자를 1씩 늘립니다. 삭제한 숫자가 5인 경우 대체 반올림 방법을 사용할 수도 있습니다. . 유지된 숫자는 반올림 또는 내림 중 짝수 값을 산출합니다.

중요한 점은 반올림으로 인해 각 단계에서 오류가 누적되는 것을 피하기 위해 다단계 계산이 끝날 때 유효 숫자의 반올림을 수행하는 것이 바람직하다는 것입니다. 따라서 유효숫자와 반올림은 보고된 측정값의 확실성을 정확하게 표현하는 데 도움이 됩니다.

이 문서는 에서 발췌되었습니다 Openstax, Chemistry 2e, Section 1.5: Measurement Uncertainty, Accuracy, and Precision.

과학적인 측정에서 마지막 자릿수를 제외한 모든 숫자는 확실합니다. 측정의 확실성은 측정값의 자릿수와 사용하는 계측기의 정밀도의 두 가지 요인에 따라 달라집니다. 측정량에서 마지막 자리의 불확실한 숫자를 포함한 모든 숫자를 유효 숫자라고 하며 특정 규칙을 사용하여 결정할 수 있습니다.

0이 아닌 모든 숫자와 그 사이에 있는 모든 0은 유효합니다. 예를 들어 28은 유효 숫자가 두 개이며 26.25는 네 개, 208은 세 개입니다. 앞에 오는 0은 유효하지 않으며 소수점 위치만 지정합니다.

예를 들어 0.00208은 유효 숫자가 세 개입니다. 이러한 수량은 지수 표기법으로 표시할 수 있습니다. 따라서 0.00208은 2.08 10⁻³으로 쓸 수 있습니다.

후행 0은 소수점 형식의 숫자에서만 유효합니다. 2200에는 2개의 후행 0과 2개의 유효 숫자가 있는 반면, 2200.0과 2200.1에는 모두 5개의 유효 숫자가 있습니다. 소수점이 없는 수의 경우 후행 0의 유효성이 모호해집니다.

따라서 2200은 유효 숫자가 2개인 2.2 10³으로 쓰거나 유효 숫자가 세 개인 2.20 10³으로 쓸 수 있습니다. 유효 숫자는 수학적인 연산에서도 확실성을 유지하기 위해 고려해야 합니다. 덧셈과 뺄셈에서 소수점 자릿수가 가장 적은 측정값과 동일한 소수점 자릿수를 가지도록 결과를 반올림해야 합니다.

마지막 자릿수가 5보다 작으면 반내림을 수행하고 5보다 크면 반올림을 수행합니다. 마지막 자릿수가 5일 때 때로는 다른 반올림 방법을 사용합니다. 예를 들어 2.052와 1.2의 합은 3.3으로 반올림됩니다.

그러나 곱하기 또는 나누기에서는 결과를 반올림하여 가장 작은 유효 숫자를 가진 측정값과 동일한 수의 유효 숫자가 되게 해야 합니다. 따라서 2.052와 1.2의 곱은 2.5로 반올림됩니다. 과학자들은 종종 측정값의 정밀도를 높이기 위해 실험을 반복합니다.

표준 편차는 이런 정밀도의 통계적 표현이며 기대값으로부터 분산된 정도를 나타냅니다. 정밀도가 높으면 표준 편차가 작고 정밀도가 낮으면 표준 편차가 큽니다. 예를 들어, 두 그룹이 책의 두께를 센티미터 단위로 측정했다고 가정합시다.

두 그룹은 10.6 센티미터로 같은 평균값을 얻었습니다. 하지만 첫 번째 그룹의 측정이 더 정밀하여 더 작은 표준 편차를 보였습니다. 두 번째 그룹은 측정 값이 더 넓게 산포되어 표준 편차가 더 크게 나왔습니다.