데이터베이스 질문과 답변
안녕하세요.
똑같은 수식으로 oracle과 tibero에서 실행했을때 달라 오류가 나오고있습니다.
쿼리는 아래와 같습니다.
SELECT .0000020379333333333333333333333333333 + (1 - .00022855158847811907846459621614776891822) * .0033528107 * .85326265840536809183904782415872327616 * (ACOS(.99999999997651952498) + .00022855158847811907846459621614776891822 * SIN(ACOS(.99999999997651952498)) * (-.9899163912737362647302041157244328429 + .00022855158847811907846459621614776891822 * .99999999997651952498 * (-1 + 2 * -.9899163912737362647302041157244328429 * -.9899163912737362647302041157244328429)))
FROM dual
이 계산식을 오라클과 티베로에서 실행하면
오라클 : 0.00000205752911958873870068483477865433642762
티베로 : 2.05752910489833E-6
값이 이렇게 다릅니다. 혹시 티베로에도 오라클과 같은 값을 조회 하려면 어떻게 해야 할까요?
도움 요청드립니다.
감사합니다.
뒤에 붙은 E-6 은 지수 형태로 표현된 것입니다.
소수점 이하 오차가 조금 있긴 하지만 같은 값으로 보입니다.
0.0000020575291 까지는 동일하고 그 이후가 다르네요.
값이 미세한 차이가 나는 것은 소수점 계산에 대한 정밀도 차이 인 듯 하고.
표현 방식이 다른 것은 소수 표현에 대한 설정이 달라서 그런게 아닐런지.
set numformat 9.999EEEE
설정하시고 조회하시면 동일한 표현으로 나옵니다.
) 버튼을 클릭하여 작성 하시면 됩니다.