帮帮我，大师们，不帮我就死定啦，关于数字精度

yxp

不知道你说的啥啊，怎么不举个例子。

你把这个数放大10个数量级再运算咋样，算完再除回去。

英雄无敌

有两位小数不就够了吗，要那么高的精度？

英雄无敌

其实，小数是参与了运算的，只是运算后可能也只保留两位小数了

英雄无敌

命令: (setq en (car (entsel)))
选择对象: <图元名: 7ef60e80>

命令: (setq en (vlax-ename->vla-object en)) #<VLA-OBJECT IAcadLWPolyline
048b4bf4>

命令: (vla-get-area en) 4034.91

命令: (setq rr (vla-get-area) en)) *取消*
语法错误
命令: (setq rr (vla-get-area en)) 4034.91

命令: (/ rr 8) 504.363

命令: (/ 4034.91 8) 504.364

rr=4034.91

但用rr/8与用4034.91/8的结果是不一样的，证明rr并不是=4034.91，而是实际的值。

再看看下面

(rtos rr 2 10) "4034.9056767338"
命令: (/ 4034.9056767338 8) 504.363

ZZXXQQ

楼主看一下误差理论，如果一个数除以一个很小的数误差要大于该数除以相近的数。

jaminth

dimzin 可以设为8