tchen 发表于 2007-7-27 19:47:00

请问小数的精度问题!

<p>比如我想把字符串"123456.4567898 "</p><p>转换成实数123456.457(也就是说保留三位小数)</p><p>请问该怎么写??</p><p>我个人用distof 和 atof都试过 都不行 不知道该怎么写</p>

王咣生 发表于 2007-7-27 21:19:00

(atof (rtos (atof "123456.4567898 ") 2 3))<br/>在命令行显示结果:<br/>123456.0<br/>其实已经正确了,用<br/>(alert (rtos (atof (rtos (atof "123456.4567898 ") 2 3)) 2 3))测试结果为:<br/>123456.457<br/>

tchen 发表于 2007-7-27 21:33:00

<p>哦&nbsp; 谢谢&nbsp; 我就是不懂</p><p>(atof (rtos (atof "123456.4567898 ") 2 3))<br/>在命令行显示结果:<br/>123456.0</p><p>为什么出现这个结果,这对我的程序影响很大啊,因为我要求N个这样的字符串的数字的总和</p>

tchen 发表于 2007-7-27 21:43:00

<p>斑竹 我还是没弄懂啊 虽然你用alert测试出字符串是只有三为小数,</p><p>但是我现在要的结果是实数型的三位小数,难道没办法吗?</p><p>那我要把他们的数字总和相加是不是没办法做了???</p>

tchen 发表于 2007-7-27 22:02:00

<p>搞定了 </p>
页: [1]
查看完整版本: 请问小数的精度问题!