본문 바로가기

IT 이야기

Round off Error

무한한 세계를 유한한 컴퓨터로 가져오면서 발생하게 되는 문제점.

예를 들어 1/3 은 0.3333..... 컴퓨터로 이 수를 표현한다면 ,

floating point notation을 이용하더라도 IEEE754 는 유효숫자가 6~7 자리 밖에 되지 않으므로,

약간의 오차가 발생한다.

이를 Round off Error 라고 부른다. 반올림오차 라고도 부른다.

작은 값이라도 어떤 연산(multiple , division) 에 의해 중요도가 커질 수 있다.

그러므로 항상 프로그램 할때는 적절한 조치가 필요한 부분이다.

이에 대한 대책으로는 약간의 보정(?) 을 할 수도 있고, 또 다른 방법이 있다는데

정확하게는 잘 모르겠으므로 아래 글을 참조한다.

참조 할 것.

http://cafe.naver.com/mathclub/84160