게시판 즐겨찾기
편집
드래그 앤 드롭으로
즐겨찾기 아이콘 위치 수정이 가능합니다.
유효숫자 계산을 잘모르겟어요
게시물ID : science_18522짧은주소 복사하기
작성자 : 나는해방이다
추천 : 0
조회수 : 852회
댓글수 : 2개
등록시간 : 2013/04/10 00:44:09
지식게가있지만 더 정확한 설명을 얻을수있을거같아 게시판구분 양해비랍니다.
3.784 * 10^6 + 1.25 * 10^8
여기서는 계산값을 구한후에 더하기나 빼기니까 정밀도가 낮은 1.25에 기준해 소숫점 셋째에서 반올림한 1.29 * 10^8이 맞지요?
궁금한게 곱하기나 나누기는 유효숫자가 적은것에 기준한다는데
(3.783 * 10^6) ÷ ( 3.0 * 10^-2)
답에서는 1.261 * 10^8이라 나와잇는데 유효숫자가 적은 3.0에 기준해서 1.3 * 10^8이 아닌가요..
전체 추천리스트 보기
새로운 댓글이 없습니다.
새로운 댓글 확인하기
글쓰기
◀뒤로가기
PC버전
맨위로▲
공지 운영 자료창고 청소년보호