lht 发表于 2018-5-4 12:07:54

数字字符串转数值保留小数位数的问题

(atof "338270.523")=338271.0，为何不=338270.523?
(* 338270523 0.001)=338271.0，为何不=338270.523?





lht 发表于 2018-5-4 12:32:00

经测试，超过7位（包括小数点）就不能正确保留小数位数，如下：

(atof "270.523")=270.523

(atof "8270.523")=8270.52

超过7位就四舍五入了，不知在哪更改设置？

自贡黄明儒 发表于 2018-5-4 12:53:35

http://bbs.mjtd.com/forum.php?mod=viewthread&tid=107567&highlight=%D0%A1%CA%FD%CE%BB%CA%FD

vectra 发表于 2018-5-4 12:59:16

_$(rtos (atof "338270.523") 2 4)
"338270.523"

保存的数据精度还是高的 只是显示的问题

lht 发表于 2018-5-4 23:06:28

经测试，确实是显示的问题，实际精度是不变的，谢谢以上两位老师！
页: [1]
查看完整版本: 数字字符串转数值保留小数位数的问题