如何保留小数位数

1404073417 · 发表于 2022-5-23 18:24:00

如何保留小数位数

自贡黄明儒 · 发表于 2022-5-23 18:47:00

这个比较难，得自己解决。

xj6019 · 发表于 2022-5-23 18:52:34

这个问题应该超级复杂，搜遍了整个cad的帮助文件，又经世外高人指点，终于找到了一个叫rtos的，也不知道管用不管用！！

1404073417 · 发表于 2022-5-23 20:47:22

xj6019 发表于 2022-5-23 18:52
这个问题应该超级复杂，搜遍了整个cad的帮助文件，又经世外高人指点，终于找到了一个叫rtos的，也不知道 ...

（rtos 数 mode 精度）是把数用字符串表示
例：
（rtos 99.1111 2 3) 返回："99.111"

vitalgg · 发表于 2022-5-23 20:57:18

数值型的只要不进行类型转换，其内部有效数学总是 15位左右的。

1404073417 · 发表于 2022-5-23 22:05:01

vitalgg 发表于 2022-5-23 20:57
数值型的只要不进行类型转换，其内部有效数学总是 15位左右的。

我想只保留三位小数

vitalgg · 发表于 2022-5-23 22:13:37

1404073417 发表于 2022-5-23 22:05
我想只保留三位小数

双精度数字在内存中，有效数字位数是固定。
你说的3位，只是在显示出来才有要求是几位。
也就是那个 (rtos realn 2 3) .
不管怎么控制，在内存中 realn 就是一个双精度浮点数。

1404073417 · 发表于 2022-5-23 22:14:17

1404073417 发表于 2022-5-23 22:05
我想只保留三位小数

好吧，原来直接这样就行了：（atof (rtos 9.1111111 2 3))

muwind · 发表于 2022-5-25 00:25:04

账号		自动登录	找回密码
密码			注册

[建筑] 如何保留小数位数