옵션 |
|
아무리 검색해보아도 이경우의 정확한 계산법이 안나와있어서 질문을 올립ㅂ니다.
(2.007-2.01)^2
의 계산의 경우에
1번질문: 각 항마다 유효숫자를 계산해 (0.00)^2= 0*10^(-4)가 맞나요?
아니면 마지막에 계산해 (0.003)^2=9*10^(-6)=0*10^(-4)가 맞나요?
(현재의 경우에 오차가 많이나지않아 결과값은 같은데 만일 표준오차를 구하는경우에 결과값이 상이해서 질문드리는 겁니다.)
2번질문:반올림해서 0*10^(-4)로 표기하는 것이 맞는 것인가요?
출처 보완 |
(-0.003)^2=9*10^(-6)=0*10^(-4)로 수정합니다.
|