明经CAD社区

 找回密码
 注册

QQ登录

只需一步,快速开始

搜索
查看: 1174|回复: 4

[已解答] 字符串转换成实数时,为什么小数点后精度不足?

[复制链接]
发表于 2014-12-19 23:05 | 显示全部楼层 |阅读模式
如下,第一种和第二种转换后精度均不足,而第三个不影响,为什么?

(SETQ CC "124982.7986584")

(ATOF CC)                                ;返回124983.0
(ATOF "124982.7986584")      ;返回124983.0
(ATOF "12.222")                      ;返回12.222
发表于 2014-12-19 23:09 | 显示全部楼层
没问题,你看到不是他的实际结果
(rtos (ATOF "124982.7986584") 2 7);===124982.7986584,还是原样
 楼主| 发表于 2014-12-19 23:16 | 显示全部楼层
wzg356 发表于 2014-12-19 23:09
没问题,你看到不是他的实际结果
(rtos (ATOF "124982.7986584") 2 7);===124982.7986584,还是原样

谢谢你啊

确实是,显示的问题,但如果我要把(ATOF "124982.7986584") 的值写入到TXT文件中,还是124983.0

另外,如何才能让它在编译时显示足够的小数位数呢

点评

写入txt的时候必须字符串,字符串啥样在txt就是啥样  发表于 2014-12-19 23:48
 楼主| 发表于 2014-12-20 00:18 | 显示全部楼层
kay338 发表于 2014-12-19 23:16
谢谢你啊

确实是,显示的问题,但如果我要把(ATOF "124982.7986584") 的值写入到TXT文件中,还是12498 ...

谢谢谢谢,就按字符串写入了
发表于 2017-11-29 17:45 | 显示全部楼层
本帖最后由 fl202 于 2017-11-29 17:46 编辑
wzg356 发表于 2014-12-19 23:09
没问题,你看到不是他的实际结果
(rtos (ATOF "124982.7986584") 2 7);===124982.7986584,还是原样
如果是显示的问题,取小数点后两位的数值:
命令: (setq x 147119.85)
147120.0
命令: (setq b (fix (abs (* (- x (fix x)) 100)) ) )
85
命令: (setq x 147119.15)
147119.0
命令: (setq b (fix (abs (* (- x (fix x)) 100)) ) )
14
此处应该返回15才对啊?
您需要登录后才可以回帖 登录 | 注册

本版积分规则

小黑屋|手机版|CAD论坛|CAD教程|CAD下载|联系我们|关于明经|明经通道 ( 粤ICP备05003914号 )  
©2000-2023 明经通道 版权所有 本站代码,在未取得本站及作者授权的情况下,不得用于商业用途

GMT+8, 2024-3-28 19:55 , Processed in 0.201760 second(s), 29 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表