明经CAD社区

 找回密码
 注册

QQ登录

只需一步,快速开始

搜索
查看: 1061|回复: 6

[已解答] equal 的容差有时值等于容差就t,有时要大于才是t呢?

  [复制链接]
发表于 2015-1-16 10:50 | 显示全部楼层 |阅读模式
比如这几例,请问怎么理解呢?
(setq a 1.1)
(setq b 1.2)
(equal a b 0.1)
1.1
1.2
T
_$

(setq a 2.1)
(setq b 2.2)
(equal a b 0.1)
2.1
2.2
nil
_$


(setq a 0.1)
(setq b 0.2)
(equal a b 0.1)
0.1
0.2
nil
_$
发表于 2015-1-16 13:03 | 显示全部楼层
用b-a与容差比较,再if,我喜欢这样用。
 楼主| 发表于 2015-1-16 13:54 | 显示全部楼层
434939575 发表于 2015-1-16 13:03
用b-a与容差比较,再if,我喜欢这样用。

嗯,用法我知道,只是不明白第一例中相差0.1,返回t,第二第三例也相差0.1,为什么返回nil
发表于 2015-1-16 14:55 | 显示全部楼层
这是浮点运算的问题,计算机表达整数是比较简单的,表示小数就很复杂了,看到的是一个简单小数,实际上是用复杂运算得到的冗长的数,所以不会很“精确”,也正是这样,才会得到2.1+0.1不等于2.2的情况。
具体可以百度一下“浮点数”。
 楼主| 发表于 2015-1-17 10:08 | 显示全部楼层
原来如此
发表于 2017-11-29 17:39 | 显示全部楼层
ll_j 发表于 2015-1-16 14:55
这是浮点运算的问题,计算机表达整数是比较简单的,表示小数就很复杂了,看到的是一个简单小数,实际上是用 ...

命令: (setq x 7119.4542)
7119.45
命令: (setq x 119.4542)
119.454
命令: (setq x 19.4542)
19.4542
命令: (setq x 9.4542)
9.4542

我这个是怎么回事?怎么修正?谢谢!
发表于 2017-11-29 19:00 | 显示全部楼层
fl202 发表于 2017-11-29 17:39
命令: (setq x 7119.4542)
7119.45
命令: (setq x 119.4542)

这个只是显示问题,无需修正,实际精度一般是到小数点后16位。
如果需要“精确”显示,可以使用rtos函数转换成字符串。
您需要登录后才可以回帖 登录 | 注册

本版积分规则

小黑屋|手机版|CAD论坛|CAD教程|CAD下载|联系我们|关于明经|明经通道 ( 粤ICP备05003914号 )  
©2000-2023 明经通道 版权所有 本站代码,在未取得本站及作者授权的情况下,不得用于商业用途

GMT+8, 2024-3-28 21:20 , Processed in 0.221208 second(s), 25 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表