---

Hallo zusammen

Hat ME10 Rechenschwächen?
Seht Euch mal folgende Zeilen an:

LET MYNUMERO ( 1 - (VAL '0.99'))
DISPLAY (MYNUMERO > 0.01) {Ergebnis = 1}

gegenueber...

LET MYNUMERO (VAL '0.01')
DISPLAY (MYNUMERO > 0.01) {Ergebnis = 0}

Warum gibt ME10 hier unterschiedliche Ergebnisse aus, wobei der Inhalt der Variable doch eigentlich identisch ist??

Gruss - Tilman

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

---

 

Zitat:

---

Original erstellt von Kocher:
Warum gibt ME10 hier unterschiedliche Ergebnisse aus, wobei der Inhalt der Variable doch eigentlich identisch ist??

---

Ist er nicht unbedingt, jedenfalls fuer einen Computer, der mit standardkonformer Fliesskommadarstellung arbeitet. Siehe dazu das beruehmte White Paper "What Every Computer Scientist Should Know About Floating-Point Arithmetic" (zu finden zum Beispiel unter http://docs-pdf.sun.com/800-7895/800-7895.pdf).  Auch hilfreich ist der deutlich kuerzere und deutsche Artikel unter http://www.aboutwebdesign.de/awd/content/1014916256.shtml  .

Fliesskommaberechnungen sind auf Computern grundsaetzlich ungenau, jedenfalls bei Verwendung der Fliesskommadarstellung von Zahlen, wie sie in heutigen CPUs ueblich ist. Wenn man Fliesskommaberechnungen anstellt, muss man sich gegen Rundungs- und Rechenfehler absichern ("Epsilontik"), und das gilt auch fuer Makrocode.

Claus

[Diese Nachricht wurde von clausb am 25. Sep. 2004 editiert.]

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

---

Hallo Claus,

danke für Deine Antwort.
Hat mir sehr geholfen (die Kurzfassung zumindest).

Gruss - Tilman

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

---

Try this:

display ((VAL STR (1-0.99))>0.01)

OK?

/Darren

------------------
Darren Litherland
Accurate Consulting, Norway
http://www.nethut.net/me10

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP