数字字符串转数值保留小数位数的问题

lht · 发表于 2018-5-4 12:07

(atof "338270.523")=338271.0，为何不=338270.523?
(* 338270523 0.001)=338271.0，为何不=338270.523?

lht · 发表于 2018-5-4 12:32

经测试，超过7位（包括小数点）就不能正确保留小数位数，如下：

(atof "270.523")=270.523

(atof "8270.523")=8270.52

超过7位就四舍五入了，不知在哪更改设置？

自贡黄明儒 · 发表于 2018-5-4 12:53

vectra · 发表于 2018-5-4 12:59

_$ (rtos (atof "338270.523") 2 4)
"338270.523"

保存的数据精度还是高的只是显示的问题

lht · 发表于 2018-5-4 23:06

经测试，确实是显示的问题，实际精度是不变的，谢谢以上两位老师！

账号		自动登录	找回密码
密码			注册

[函数] 数字字符串转数值保留小数位数的问题