2. 유효숫자 표기법
• 유효숫자의 의미: 측정값은 숫자로 표현하여야 하지만 그 의미는 수학에서와는 다르다. 대부분의 측정값은 근사값이므로 근사 범위에 포함된 무의미한 숫자들을 나열하는 것은 측정결과에 대한 잘못된 이해를 가져온다. 따라서 측정결과를 나타낼 때 의미를 가지는 숫자 즉 유효숫자를 올바로 표현하는 것은 매우 중요한 일이다.
• 유효숫자란?: 어떤 수를 표현하는데 있어 단순히 자리를 나타내는 것이 아닌 각 자리의 크기를 나타내는 데 의미를 가지는 숫자(digit). 즉 자리를 나타내는 0을 제외한 숫자.
304, 3.14159, 0.02050, 2.0x102
• 유효숫자를 알기 어려운 경우
예 5400m: 유효숫자를 분명하게 나타내려면 5.4x103m, 5.40x103m, 5.400x103m 등으로 표기 해야 한다.
• 측정값과 불확도의 마지막 자릿수(positional number) 일치
35.15±0.5 mm (X), 35.2± 0.5 mm (O)
1.5x103±0.5x102 g (X), (1.52±0.05)x103 g (O)
• 불확도의 유효숫자는 1개만 사용(우연오차의 경우, 2개의 유효숫자가 유효하려면 최소한 50번은 측정해야 함)
3.142±0.243 mm (X), 3.1±0.2 mm (O)
4.65±0.12 g (O), 4.7±0.1 g (O) (불확도의 첫 번째 유효숫자가 1이면 두 자리 표기도 가능)
• 유효숫자의 덧셈과 뺄셈
유효숫자의 끝자리 중 자릿수가 높은 쪽을 따른다.
321+4.36=325 (O), 325.36 (X)
• 유효숫자의 곱셈과 나눗셈
유효숫자의 개수가 적은 쪽과 유효숫자 수가 같도록 한다.
36.23x0.26=9.4 (O), 9.42 (X)
예: 진자의 주기 계산
,
,
계산한 주기 T=1.1442199787s (X), T=1.1s (O)