求助!取整数的问题

liuqian020 · 发表于 2004-11-13 12:06:00

(setq dd 46.3600)
46.36 (setq dd1 (fix dd))
46 (setq dd2 (* (- dd dd1) 100))
36.0 (setq dd3 (fix dd2))
35 dd2=36.0 为什么取整后为35

alin · 发表于 2004-11-13 12:35:00

_$ (rtos (- dd dd1) 2 16)
"0.3599999999999994" 奇怪！

liuqian020 · 发表于 2004-11-13 12:47:00

(setq dd 46.3100)
46.31 (setq dd1 (fix dd))
46 (rtos (- dd dd1) 2 16)
"0.3100000000000023"

spring · 发表于 2004-11-13 12:52:00

看来是个 BUG 了

xyp1964 · 发表于 2004-11-13 22:58:00

不得其解！

ll_j · 发表于 2004-11-14 08:18:00

这是浮点运算的问题，浮点运算最后几位总是有偏差的，这里是负偏差，所以带来后面的运算错误，算BUG，也可以不算BUG。

无痕 · 发表于 2004-11-14 10:46:00

fix的时候加0.5就可以了

ZZXXQQ · 发表于 2004-11-14 11:55:00

这是小数二进制的误差，只能按7楼的方法处理。

liuqian020 · 发表于 2004-11-15 01:12:00

如果CAD不能解决,加0.5的办法不如

(setq dd2 (atof (rtos dd2 2 10)))

更合理些。(问题我们共同讨论)

wdb · 发表于 2004-11-15 11:53:00

将(setq dd2 (* (- dd dd1) 100))改为：
(setq dd2 (- （* dd 100）（* dd1 100）)) 也能解决问题

账号		自动登录	找回密码
密码			注册