明经CAD社区

 找回密码
 注册

QQ登录

只需一步,快速开始

搜索
查看: 971|回复: 3

[提问] 奇怪呀,为何相同的表达式在不同版本的CAD中结果不同。

[复制链接]
发表于 2013-11-3 08:59 | 显示全部楼层 |阅读模式
偶然发现(rtos (sin 531537663) 1 16)在打了64位补丁的CAD2008中文版中的计算结果为"-3.746440527993757E-02",而在64位CAD2013中文版中的计算结果为"-3.746440527925374E-02"。两者的结果不等,这是为什么?系统为64位win8.1。在32位cad2008和cad2013中两者结果相同。
"觉得好,就打赏"
还没有人打赏,支持一下
发表于 2013-11-3 09:44 | 显示全部楼层
多半是64位下浮点数据精度高于32位,所以才会出现这样的差别吧
发表于 2018-10-13 17:22 | 显示全部楼层
可能64位补丁处理过程中有误差造成的
发表于 2018-10-15 10:11 | 显示全部楼层
很明显64位的2013是对的。就像我用casio计算器算出来的结果是-3.742944707e-2,这个应该是16位的计算器算出来的。
您需要登录后才可以回帖 登录 | 注册

本版积分规则

小黑屋|手机版|CAD论坛|CAD教程|CAD下载|联系我们|关于明经|明经通道 ( 粤ICP备05003914号 )  
©2000-2023 明经通道 版权所有 本站代码,在未取得本站及作者授权的情况下,不得用于商业用途

GMT+8, 2024-4-26 22:19 , Processed in 1.835712 second(s), 30 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表