[风之影][经验]有效小数位数

cabinsummer · 发表于 2011-12-11 10:37:51

本帖最后由 cabinsummer 于 2011-12-11 11:39 编辑

最近有新手咨询如何得到小数位数。
其实这个问题必须考虑计算机数据的存储方式。在默认的方式下，double数据（LISP里叫real）只能有16位有效小数，LISP会将超出16位的部分截断，LISP的＋－×÷也是基于这个来的。在内存中，double精度就是16位。参见http://zhidao.baidu.com/question/11599532.html。其它语言的小数能保存多少位，视情况而定。
我的圆周率大挑战可以计算到上万位，但绝对不是以一般的方式存储的，而是以表的方式存储，此时，它的运算完全不能用简单的＋－×÷，必须重新定义。当然，你也可以自己来一套新玩法，这个能否通用就不是由你说了算的。
在默认的情况下，求得小数有效位数可以用以下方法
(setvar "DIMZIN" 8)
(- (strlen (rtos (- x (fix x)) 2 16)) 2)

另外，字符串也不是无限的，最多4096个字符。
整数范围-2147483648——2147483647。

cabinsummer · 发表于 2011-12-11 21:46:43

本帖最后由 cabinsummer 于 2011-12-11 21:48 编辑

我在圆周率计算时用strcat，加到4096个字符时就出错了，见大挑战第一季

LLXXZZ · 发表于 2011-12-13 18:26:13

谈经验，很难得。。。。

zqb05 · 发表于 2011-12-14 00:43:25

zqb05 · 发表于 2011-12-14 14:04:03

革天明 · 发表于 2012-8-30 18:01:51

cabinsummer 发表于 2011-12-11 21:46
我在圆周率计算时用strcat，加到4096个字符时就出错了，见大挑战第一季

见我的帖子，肯定不是4096
http://bbs.mjtd.com/thread-95140-1-1.html
我测试时100万出错，10万不出错

账号		自动登录	找回密码
密码			注册

[风之影][经验]有效小数位数

点评

相关帖子