---

hallo zusammen,

habe ein problem mit der rechenungenauigkeit von ermittelten längen in einem lisp programm. (brauch den genauen wert, da ich ein textattribut mit der genauen länge vergeben will.)

beim umwandeln von einer gemessenen kantenlänge von bspw. 12 wandelt er mir bei dem befehl
(setq txt_laenge (format nil "~A" laenge))
diesen wert zum teil in 11.99999999998 um.
(display laenge) ergibt 12
(display txt_laenge) ergibt 11.99999999998
wie kann ich die textvarible txt_laenge mit dem genauen wert belegen ?
habe das ganze mit runden und umwandeln in brüche die ich wieder zurückgewandelt habe versucht. das ergab alles keinen erfolg !

hat jemand ein tip ?

grüße
steffen

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

---

Die Sache mit den Rundungsproblemen haeuft sich gerade! Siehe dazu auch die Diskussionen unter http://ww3.cad.de/foren/ubb/Forum92/HTML/000150.shtml und http://ww3.cad.de/foren/ubb/Forum15/HTML/000869.shtml.

Claus

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

---

Hallo Steffen,

benutze einfach die Funktion sd-num-to-string um diese Rundungsfehler zu umgehen.

Viele Gruesse,
Markus

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

---

hallo jungs,

danke !

der sd-num-to-string bringt den gewünschten erfolg.

grüße
  steffen

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP