请问小数的精度问题!

tchen

比如我想把字符串"123456.4567898 "

转换成实数123456.457(也就是说保留三位小数)

请问该怎么写??

我个人用distof 和 atof都试过 都不行 不知道该怎么写

王咣生

(atof (rtos (atof "123456.4567898 ") 2 3))
在命令行显示结果:
123456.0
其实已经正确了,用
(alert (rtos (atof (rtos (atof "123456.4567898 ") 2 3)) 2 3))测试结果为:
123456.457

tchen

哦  谢谢  我就是不懂

(atof (rtos (atof "123456.4567898 ") 2 3))
在命令行显示结果:
123456.0

为什么出现这个结果,这对我的程序影响很大啊,因为我要求N个这样的字符串的数字的总和

tchen

斑竹 我还是没弄懂啊 虽然你用alert测试出字符串是只有三为小数,

但是我现在要的结果是实数型的三位小数,难道没办法吗?

那我要把他们的数字总和相加是不是没办法做了???

tchen

搞定了