大家帮忙解释一下

xiaoliu · 发表于 2004-6-10 21:17:00

我编程遇到了这个问题，很是困惑，大家帮忙解决一下：程序中算得ss为4.36332 (fix (/ 340.339 ss)) 得　７７

但实际上340.339除以4.36332得78.0.再fix 一下应得78,不知为什么得77. 我试了一下 (fix (/ 340.339 4.36332)) 返回７８啊，这是为什么？？？

wzh · 发表于 2004-6-10 22:01:00

怎么会得77呢?你用下面程序算一下 (defun c:try()
(setq ss 4.36332)
(setq AA (fix (/ 340.339 ss)))
)

meflying · 发表于 2004-6-10 22:11:00

看不懂楼主返回的到底是77还是78？

xiaoliu · 发表于 2004-6-10 22:15:00

你试一下这个： (setq range 1570.8
time 360
ss (/ range time)
)
(setq AA (fix (/ 340.339 ss)))

xiaoliu · 发表于 2004-6-10 22:17:00

按道理应该返回78的，但我为什么返回77

meflying · 发表于 2004-6-10 22:25:00

(rtos (/ 1570.8 360) 2 14)

你看看这个，其实是显示问题SS可能并不是你的那个数，你看到的只是显示的数字，实际的数字精度比这个高很多的

xiaoliu · 发表于 2004-6-10 22:27:00

斑竹高明，确实是精度问题

wzh · 发表于 2004-6-10 23:57:00

4楼的数据在取整前其结果是77.9998，当然取整后要返回77。而楼主将SS的小数部分人为截去（4.36333）后其结果为78.000009167，取整后肯定是78。

账号		自动登录	找回密码
密码			注册