---

Hallo IDEAS Gemeinde

ich hab eine Liste mit Punktkoordinaten erstellt und hab dazu eine Frage:
Was bedeutet z.B. das D-xx an den Eintragungen

5 Punktposition :  3343.689      0.1620105      744.0000
6 Punktposition :  3330.500      7.429285D-16  749.0000
7 Punktposition :  3330.500      18.00000      749.0000
36 Punktposition :  3338.000      29.05000      742.1389
37 Punktposition :  3333.000      -4.210013D-09  747.0000
38 Punktposition :  3330.500      2.500000      747.0000
39 Punktposition :  3328.000      -4.210013D-09  747.0000

Danke schon mal

------------------
Grüsse aus der Oberlausitz

rr.plastic

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

---

Hallo,

das D bedeutet nichts anders als E.
Also in deinem Fall  -4.210013 * 10 hoch -9.

Gruß
SCH10

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

---

D-xx bedeutet das gleiche wie E-xx. Die Zahl wurde allerdings Programmintern mit "D"oppelter Genauigkeit berechnet.
Das "E" bedeutet, dass der "E"xponent folgt:

z.B. ist 1.0E+03, 1.0E03 oder 1.0D03 alles 1000,
und 1.0E-03 oder 1.0D-03 ist das gleiche wie 1/1000

Martin

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP