phoenixdjq 发表于 2019-5-24 13:05:51

关于atof保留位数的问题

(setq a "0.123456")
(atof a)   返回 0.123456


我在程序中提出的参数
(setq zuooa(atof (substr (cdr (assoc 1 (entget (ssname zuooa1 0))))4)))   ;这里zuooa1为文字   “OA=-308.7075”
返回的结果却是-308.707   后面却省去了一位

不知道什么原因，请高手们指点迷津，谢谢.

Andyhon 发表于 2019-5-24 13:38:14

you might check like this

Command: (rtos zuooa1 2 4)
"-308.7075"

Gu_xl 发表于 2019-5-24 22:29:42

这是实数在CAD命令行内部显示的问题，其实atof返回值是精确的！如果要在命令行显示实数，可用rtos将其转化为字串来显示！

lenlenq 发表于 2019-5-25 17:41:58

其实返回值是精确的，只是你看到的略有不同而已。
页: [1]
查看完整版本: 关于atof保留位数的问题