明经CAD社区

 找回密码
 注册

QQ登录

只需一步,快速开始

搜索
查看: 1455|回复: 4

[基础] [求助]rtos 的精度受什么变量参数影像?

[复制链接]
发表于 2009-10-26 09:24 | 显示全部楼层 |阅读模式

比如输入

(rtos 19.021 2 1)

在有些电脑上返回值为“19.0”,而有些却是“19”,那么rtos的精度受什么变量参数的影响呢?

发表于 2009-10-26 09:27 | 显示全部楼层

函数本身的值不受任何系统变量的影响

你说的是命令行的显示

发表于 2009-10-26 09:49 | 显示全部楼层
Dimzin
 楼主| 发表于 2009-10-27 00:19 | 显示全部楼层

谢谢啦

发表于 2009-10-27 14:53 | 显示全部楼层
rtos 函数的取值精度只与 最后面一个数字有关,例如,本例中,如果你的函数式是(rtos 19.021 2 4),返回的就是"19.0210"了
您需要登录后才可以回帖 登录 | 注册

本版积分规则

小黑屋|手机版|CAD论坛|CAD教程|CAD下载|联系我们|关于明经|明经通道 ( 粤ICP备05003914号 )  
©2000-2023 明经通道 版权所有 本站代码,在未取得本站及作者授权的情况下,不得用于商业用途

GMT+8, 2024-5-20 20:32 , Processed in 0.159585 second(s), 25 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表