明经CAD社区

 找回密码
 注册

QQ登录

只需一步,快速开始

搜索
查看: 1776|回复: 1

[源码] [求助]为什么返回的余数不正确

[复制链接]
发表于 2009-11-25 11:56 | 显示全部楼层 |阅读模式

例图error.dwg

测试记录:
命令: (setq ss (ssget) ent1 (ssname ss 0) ent2 (ssname ss 1))

选择对象: 指定对角点: 找到 2 个

选择对象:
<图元名: 7e3dbef8>

命令: (setq elev (cdr (assoc 38 (entget ent1))))
125.0

命令: (setq h 1.0)
1.0

命令: (rem elev h)
1.0

命令: (rem 125.0 1.0)
0.0

命令: !elev
125.0

命令: !h
1.0

命令: (rem elev 1.0)
1.0    (为什么是1.0,而不是0呢?)

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?注册

x
发表于 2009-11-25 12:26 | 显示全部楼层
在计算机中的浮点数是有误差的,如果没必要就用整数计算。
您需要登录后才可以回帖 登录 | 注册

本版积分规则

小黑屋|手机版|CAD论坛|CAD教程|CAD下载|联系我们|关于明经|明经通道 ( 粤ICP备05003914号 )  
©2000-2023 明经通道 版权所有 本站代码,在未取得本站及作者授权的情况下,不得用于商业用途

GMT+8, 2024-5-18 04:50 , Processed in 0.154385 second(s), 26 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表