게시판 즐겨찾기
편집
드래그 앤 드롭으로
즐겨찾기 아이콘 위치 수정이 가능합니다.
유효숫자 계산법좀 알려주세요.
게시물ID : science_57954짧은주소 복사하기
작성자 : Euopa
추천 : 0
조회수 : 716회
댓글수 : 1개
등록시간 : 2016/03/26 15:26:46
옵션
  • 본인삭제금지


아무리 검색해보아도 이경우의 정확한 계산법이 안나와있어서 질문을 올립ㅂ니다.


(2.007-2.01)^2

의 계산의 경우에


1번질문: 각 항마다 유효숫자를 계산해 (0.00)^2= 0*10^(-4)가 맞나요?


아니면 마지막에 계산해 (0.003)^2=9*10^(-6)=0*10^(-4)가 맞나요?


(현재의 경우에 오차가 많이나지않아 결과값은 같은데 만일 표준오차를 구하는경우에 결과값이 상이해서 질문드리는 겁니다.)


2번질문:반올림해서 0*10^(-4)로 표기하는 것이 맞는 것인가요?

출처
보완
2016-03-26 15:32:18
0
(-0.003)^2=9*10^(-6)=0*10^(-4)로 수정합니다.
전체 추천리스트 보기
새로운 댓글이 없습니다.
새로운 댓글 확인하기
글쓰기
◀뒤로가기
PC버전
맨위로▲
공지 운영 자료창고 청소년보호