무한한 세계를 유한한 컴퓨터로 가져오면서 발생하게 되는 문제점.
예를 들어 1/3 은 0.3333..... 컴퓨터로 이 수를 표현한다면 ,
floating point notation을 이용하더라도 IEEE754 는 유효숫자가 6~7 자리 밖에 되지 않으므로,
약간의 오차가 발생한다.
이를 Round off Error 라고 부른다. 반올림오차 라고도 부른다.
작은 값이라도 어떤 연산(multiple , division) 에 의해 중요도가 커질 수 있다.
그러므로 항상 프로그램 할때는 적절한 조치가 필요한 부분이다.
이에 대한 대책으로는 약간의 보정(?) 을 할 수도 있고, 또 다른 방법이 있다는데
정확하게는 잘 모르겠으므로 아래 글을 참조한다.
참조 할 것.
http://cafe.naver.com/mathclub/84160
예를 들어 1/3 은 0.3333..... 컴퓨터로 이 수를 표현한다면 ,
floating point notation을 이용하더라도 IEEE754 는 유효숫자가 6~7 자리 밖에 되지 않으므로,
약간의 오차가 발생한다.
이를 Round off Error 라고 부른다. 반올림오차 라고도 부른다.
작은 값이라도 어떤 연산(multiple , division) 에 의해 중요도가 커질 수 있다.
그러므로 항상 프로그램 할때는 적절한 조치가 필요한 부분이다.
이에 대한 대책으로는 약간의 보정(?) 을 할 수도 있고, 또 다른 방법이 있다는데
정확하게는 잘 모르겠으므로 아래 글을 참조한다.
참조 할 것.
http://cafe.naver.com/mathclub/84160
'IT 이야기' 카테고리의 다른 글
WOL - 원격접속, 부팅 (0) | 2010.10.08 |
---|---|
4GB가 3.2GB로 둔갑한 이유 (0) | 2010.10.08 |
4GB 제한의 진실, 32비트 Windows (XP, Vista, 7)클라이언트 (0) | 2010.10.08 |
window xp32 bit 는 인식용량이 4G ? (0) | 2010.10.08 |
Window 32,64bit 구별법 (0) | 2010.10.08 |