중심점..문제(?)

긴너무님,

이번 글에선 Y값이 1.421E-015 mm이고, 지난번 글에선 X값이 -2.468E-015 mm인데, 둘다 0으로 간주하시기 바랍니다.

E-015 의 뜻은 10의 -15승이란 뜻입니다. 따라서,

1.421E-015 = 0.00000000000000142
-2.468E-015 = -0.000000000000002468

ASM (또은 ACIS)에선 resabs과 resmch이라는 값이 있습니다.

resabs: 표현할 수 있는 가장 작은 숫자를 말하며, default 값은 E-6, 즉 10의 -6승입니다 (0.000001). 만약 두 점이 이 값보다 작은 거리만큼 떨어져 있다면 두 점은 동일한 위치 (coincident)에 있다고 간주합니다.

resmch: 주어진 컴퓨터가 0으로 인식하는 가장 큰 숫자를 말하며, default 값은 E-11, 즉 10의 -11승입니다 (0.00000000001).

————————————————————–
왜 이런 것들이 있냐구요? 다음 글을 읽어보시면 이해가 될 겁니다.

출처: 한빛 네트워크 (http://network.hanbitbook.co.kr/)

머신 입실론은 컴퓨터가 이해할 수 있는 가장 작은 숫자 단위를 말한다. 알다시피 컴퓨터는 실수를 이진수의 형태로 저장한다. 때문에 1/3과 같은 숫자를 저장하는 것은 불가능하다. 하지만 대부분의 경우에 여러분은 무한히 긴 0.333333333333…. 을 볼 수 있었을 것이다. 그러나 그 마지막 값은 일반적으로 3이 아니라… 2나 4가 된다. 이와 같이 컴퓨터가 다룰 수 있는 가장 작은 수, 즉 임계값을 머신 입실론이라한다.