atoi的返回值

citykunan

(atoi "439244444")的返回值是439244444，而(atoi "4392444444")返回值是2147483647，只要再大的数返回都会不对，这是不是和cad 的精度有关，有没有办法克服？谢谢。

BDYCAD

经过证明用　ATOF　不会有事吧．如下 _$
_$ (=(AtoF "4392444444")4392444444)
T
_$

citykunan

用(- (AtoF "43924444444") 10000000000)会返回3.39244e+010，我想让其返回33924444444，有办法吗？

龙龙仔

指令: (rtos(- (AtoF "43924444444") 10000000000))
"33924444444" 3.39244e+010只是显示数据,实际数值不变

meflying

citykunan发表于2004-8-10 14:19:00回复：（citykunan）atoi的返回值 (atoi \"439244444\")的返回值是439244444，而(atoi \"4392444444\")返回值是2147483647，只要再大的数返回都会不对，这是不是和cad 的精度有关，有没有办法克

atoi是返回整数，而4392444444已经超出计算机处理的整数范围了，就要改用实数，如楼上几位的

citykunan

谢谢三位版主。我知道“3.39244e+010只是显示数据,实际数值不变”。但是我是想用prompt函数将其显示在command中。如果有二十几位，就会显示科学计数，有没有办法，让其完全显示？


如(rtos(- (AtoF "431972331971753017") 131972331971753017))返回"3.0000E+17"


谢谢。

meflying

(rtos xxx 2 14)


仔细看看帮助文件中rtos函数中各参数的介绍


不过你的数字已经超出了CAD的控制精度范围了，将无法满足你的要求，你除以100就可以了，不知道什么地方你需要处理这么大的数字？你是做天文的还是做量子学的？

citykunan

我不是做天文的和量子学的，飞版主把我想的太高深了。 ：）