FIX的问题

cfxqm · 发表于 2015-7-16 16:15:53

我想查询图框大小，首先获取图框（块）两点，获取图框高度h及块放大比例scl，然后计算图框大小：
(setq h (/ (- (cadr p2) (cadr p1)) scl)) ;;h的值此时为594.0
(setq h (fix h)) ;;FIX 一下，h的值变成593
h的值fix后有594.0变成593，是为什么？

edata · 发表于 2015-7-16 16:59:55

你的值应该是593.99999999999999999999999999999之类是，
fix指认整数部分。

springwillow · 发表于 2015-7-16 17:06:32

参考http://bbs.mjtd.com/thread-113185-1-1.html

masterlong · 发表于 2015-7-16 17:34:08

rtos h 2 0

cfxqm · 发表于 2015-7-17 00:05:08

谢谢大家，的确是精度问题。

账号		自动登录	找回密码
密码			注册

[已解答] FIX的问题

点评