電卓さらに続き

Windowsと浮動小数点演算の誤差を調べてみる。

JDS(GNOME): [1][tan/atan][*][4][-][PI][=]で"0"表示、このまま[1/x]を押すと"11136696004.299135332"

Windows: [1][tan/atan][*][4][-][PI][=]で"-1.393267707463821448075635979701e-37"表示、このまま[1/x]を押すと"-7.1773715463506261657687196560427e+36"

…CPU/FPUは同じはずなんだけどねえ。πの定義が違うのかな?

JDS=3.141592653, Windows=3.1415926535897932384626433832795

違うらしい… これでいいのかJDS(GNOME)… orz

ちなみにWM5(RPN Calculator on W-ZERO3)では[1][atan][4][*][pi][-]で"0"を表示、[1/x]で"INV Error: Division by zero"。なかなかすばらしい。