只需一步,快速开始
现在需要进行角度计算 精度要求比较高
lisp只保留5位小数经过三角函数计算后结果误差太大了
rtos 虽然能显示更多 但却转成了字符串 不能进行后续计算了
请问有什么好的方法进行处理
使用道具 举报
实际上CAD是用16位有效数字进行计算的,如果有误差是计算机本身的离散误差。
为了减少计算误差,在进行乘除运算时要先乘以大的数再除以小的数。
如有可能,可否将计算公式贴上来让大家分析分析?
本版积分规则 发表回复 回帖后跳转到最后一页
小黑屋|手机版|CAD论坛|CAD教程|CAD下载|联系我们|关于明经|明经通道 ( 粤ICP备05003914号 ) ©2000-2023 明经通道 版权所有 本站代码,在未取得本站及作者授权的情况下,不得用于商业用途
GMT+8, 2025-9-21 04:10 , Processed in 0.124544 second(s), 26 queries , Gzip On.
Powered by Discuz! X3.4
Copyright © 2001-2021, Tencent Cloud.