明经CAD社区

 找回密码
 注册

QQ登录

只需一步,快速开始

搜索
查看: 1659|回复: 1

如何增加Lisp计算精度

[复制链接]
发表于 2008-7-11 21:04:00 | 显示全部楼层 |阅读模式

现在需要进行角度计算  精度要求比较高  

  lisp只保留5位小数经过三角函数计算后结果误差太大了

rtos 虽然能显示更多 但却转成了字符串 不能进行后续计算了

请问有什么好的方法进行处理

"觉得好,就打赏"
还没有人打赏,支持一下
发表于 2008-7-12 10:14:00 | 显示全部楼层

实际上CAD是用16位有效数字进行计算的,如果有误差是计算机本身的离散误差。

为了减少计算误差,在进行乘除运算时要先乘以大的数再除以小的数。

如有可能,可否将计算公式贴上来让大家分析分析?

您需要登录后才可以回帖 登录 | 注册

本版积分规则

小黑屋|手机版|CAD论坛|CAD教程|CAD下载|联系我们|关于明经|明经通道 ( 粤ICP备05003914号 )  
©2000-2023 明经通道 版权所有 本站代码,在未取得本站及作者授权的情况下,不得用于商业用途

GMT+8, 2025-9-21 04:10 , Processed in 0.124544 second(s), 26 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表