hpy 发表于 2013-11-3 08:59:02

奇怪呀，为何相同的表达式在不同版本的CAD中结果不同。

偶然发现(rtos (sin 531537663) 1 16)在打了64位补丁的CAD2008中文版中的计算结果为"-3.746440527993757E-02"，而在64位CAD2013中文版中的计算结果为"-3.746440527925374E-02"。两者的结果不等，这是为什么？系统为64位win8.1。在32位cad2008和cad2013中两者结果相同。

llsheng_73 发表于 2013-11-3 09:44:45

多半是64位下浮点数据精度高于32位，所以才会出现这样的差别吧

baitang36 发表于 2018-10-13 17:22:26

可能64位补丁处理过程中有误差造成的

xinxirong 发表于 2018-10-15 10:11:49

很明显64位的2013是对的。就像我用casio计算器算出来的结果是-3.742944707e-2，这个应该是16位的计算器算出来的。
页: [1]
查看完整版本: 奇怪呀，为何相同的表达式在不同版本的CAD中结果不同。