2007-03-03

53.0 / 100 * 100 = ? in LabVIEW

浮動小数点演算結果を整数に丸めると直感に反する結果が出るという高林さんの考察と、その他の言語での小飼さんの演算結果に便乗。LabVIEW 8.20 で試すと、53 が得られます。



ちなみに LabVIEW は実数から整数に変換するとき、四捨五入します。ただし、*.50000 のときには、偶数側に丸めます。3.5 も 4.5 も 4 に丸めます。Cと同じように切り捨てたいときには、下のコードのように、明にfloor します。


0_4







1_5