明经CAD社区

 找回密码
 注册

QQ登录

只需一步,快速开始

搜索
查看: 559|回复: 4

[提问] 关于expt函数的准确性

[复制链接]
发表于 2018-12-28 08:43:15 | 显示全部楼层 |阅读模式
刚才用(fix (expt 216 (/ 1.0 3.0)))算出来的结果是5,实际上,6的三次方是216;汗啊,看来expt有误差啊,不知道有没有次幂的函数?
发表于 2018-12-28 09:22:50 | 显示全部楼层
浮点精度问题,取整要改成这样消除浮点误差:
(fix (+ 1e-8  (expt 216 (/ 1.0 3.0))))
回复 支持 1 反对 0

使用道具 举报

发表于 2018-12-28 08:46:30 | 显示全部楼层
expt没有问题, 把fix去掉
 楼主| 发表于 2018-12-28 09:03:57 | 显示全部楼层
小菜123 发表于 2018-12-28 08:46
expt没有问题, 把fix去掉

216开三次方是6,fix 6,应该也是6
发表于 2018-12-28 09:39:12 | 显示全部楼层
在数直运算上若逢小数点值得考量计算机不是十进位
您需要登录后才可以回帖 登录 | 注册

本版积分规则

小黑屋|手机版|CAD论坛|CAD教程|CAD下载|联系我们|关于明经|明经通道 ( 粤ICP备05003914号 )  
©2000-2023 明经通道 版权所有 本站代码,在未取得本站及作者授权的情况下,不得用于商业用途

GMT+8, 2025-5-19 01:02 , Processed in 0.157980 second(s), 32 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表