물리학 실험 평균과 편차 표기 관련 질문

Question

이 표에서 편차를 구할때 반올림한 값인 981.0을 빼야하는지 아니면 980.97을 빼야되는지 모르겠습니다. 알려주세요!

• 

Answer 1

안녕하세요. 이수민 전문가입니다.

물리학 실험 데이터 처리를 할 때 가장 고민되는 부분 중 하나가 바로 유효숫자와 반올림 시점이죠. 편차를 계산할 때는 반올림하기 전의 값인 980.97을 사용하는 것이 원칙입니다.

중간 계산 과정에서 미리 반올림을 해버리면, 그 오차가 다음 계산(편차의 제곱, 표준편차 등)으로 넘어가면서 최종 결과값이 실제 데이터와 멀어지는 '반올림 오차'가 누적되기 때문이에요. :)