请教高手

gslee · 发表于 2004-10-12 13:47:00

(/ (* 155.0 pi 88.5419) 180.0)

在上述的计算式中，怎样能保证计算结果精确到小数点后6位。

注：用units设置精度后无效

meflying · 发表于 2004-10-12 14:05:00

不用保证,肯定这么精确,大概有10多位小数

gslee · 发表于 2004-10-12 16:29:00

别保证了，请问：怎么我的机子就只有3位?

meflying · 发表于 2004-10-12 17:06:00

这是不可能的,我只想知道你是怎么看的

(rtos (/ (* 155.0 pi 88.5419) 180.0) 2 13);你看看是多少位吧

sieben · 发表于 2004-10-13 11:34:00

但作为数值显示出来的一般只是小数点后3位或4位，能否显示更多？

meflying · 发表于 2004-10-13 11:54:00

4楼的显示的还不够多吗?

xyp1964 · 发表于 2004-10-13 13:05:00

有效显示位为6位。如239.529、23.9529或2.39529等等。其精度与显示无关。

ZZXXQQ · 发表于 2004-10-13 14:03:00

楼主用units更改单位后要将DIMZIN设为零才行。

gslee · 发表于 2004-10-14 20:31:00

多谢诸位指点！

账号		自动登录	找回密码
密码			注册