cfxqm 发表于 2015-7-16 16:15:53

FIX的问题

我想查询图框大小，首先获取图框（块）两点，获取图框高度h及块放大比例scl，然后计算图框大小：
(setq h (/ (- (cadr p2) (cadr p1)) scl));;h的值此时为594.0
(setq h (fix h));;FIX 一下，h的值变成593
h的值fix后有594.0变成593，是为什么？

edata 发表于 2015-7-16 16:59:55

你的值应该是593.99999999999999999999999999999之类是，
fix指认整数部分。

springwillow 发表于 2015-7-16 17:06:32

参考http://bbs.mjtd.com/thread-113185-1-1.html

masterlong 发表于 2015-7-16 17:34:08

rtos h 2 0

cfxqm 发表于 2015-7-17 00:05:08

谢谢大家，的确是精度问题。
页: [1]
查看完整版本: FIX的问题