Hot News:

Mit Unterstützung durch:

  Foren auf CAD.de (alle Foren)
  Lisp
  Maximale Zahlenwerte

Antwort erstellen  Neues Thema erstellen
CAD.de Login | Logout | Profil | Profil bearbeiten | Registrieren | Voreinstellungen | Hilfe | Suchen

Anzeige:

Darstellung des Themas zum Ausdrucken. Bitte dann die Druckfunktion des Browsers verwenden. | Suche nach Beiträgen nächster neuer Beitrag | nächster älterer Beitrag
  
Gut zu wissen: Hilfreiche Tipps und Tricks aus der Praxis prägnant, und auf den Punkt gebracht für Autodesk Produkte
Autor Thema:  Maximale Zahlenwerte (1126 mal gelesen)
CADmium
Moderator
Maschinenbaukonstrukteur




Sehen Sie sich das Profil von CADmium an!   Senden Sie eine Private Message an CADmium  Schreiben Sie einen Gästebucheintrag für CADmium

Beiträge: 13508
Registriert: 30.11.2003

.

erstellt am: 07. Jul. 2004 09:19    Editieren oder löschen Sie diesen Beitrag!  <-- editieren / zitieren -->   Antwort mit Zitat in Fett Antwort mit kursivem Zitat    Unities abgeben: 1 Unity (wenig hilfreich, aber dennoch)2 Unities3 Unities4 Unities5 Unities6 Unities7 Unities8 Unities9 Unities10 Unities

Mit wieviel Bits werden eigentlich die Zahltypen unter AutoLisp abgelegt?
.. und daraus resultierend : was ist die max. verarbeitbaren Zahlen ?
( Bei Real sowas um 1e308 )
Hat einer da Infos? Hab auf die schnelle nichts gefunden.

------------------
- Thomas -

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

CADmium
Moderator
Maschinenbaukonstrukteur




Sehen Sie sich das Profil von CADmium an!   Senden Sie eine Private Message an CADmium  Schreiben Sie einen Gästebucheintrag für CADmium

Beiträge: 13508
Registriert: 30.11.2003

.

erstellt am: 07. Jul. 2004 09:31    Editieren oder löschen Sie diesen Beitrag!  <-- editieren / zitieren -->   Antwort mit Zitat in Fett Antwort mit kursivem Zitat    Unities abgeben: 1 Unity (wenig hilfreich, aber dennoch)2 Unities3 Unities4 Unities5 Unities6 Unities7 Unities8 Unities9 Unities10 Unities

ok, hab doch was gefunden :
64 Bit... 52 für Mantisse und 12 für den Exponenten
ergibt
Real +/-10^-308 ..+/-10^308

------------------
- Thomas -

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

Dabrunz
Mitglied



Sehen Sie sich das Profil von Dabrunz an!   Senden Sie eine Private Message an Dabrunz  Schreiben Sie einen Gästebucheintrag für Dabrunz

Beiträge: 127
Registriert: 28.05.2003

erstellt am: 07. Jul. 2004 12:15    Editieren oder löschen Sie diesen Beitrag!  <-- editieren / zitieren -->   Antwort mit Zitat in Fett Antwort mit kursivem Zitat    Unities abgeben: 1 Unity (wenig hilfreich, aber dennoch)2 Unities3 Unities4 Unities5 Unities6 Unities7 Unities8 Unities9 Unities10 Unities Nur für CADmium 10 Unities + Antwort hilfreich

Zumindest fast - da hast du das Bit für's Vorzeichen unterschlagen. En detail:

Code:

double - 64 bit:
  - Vorzeichen: 1 Bit - vz
  - Mantisse:  52 Bit - m := (m0, m1, m2, .. m51)
  - Exponent:  11 Bit - e := (e0, e1, e2, .. e10)

Hierbei werden die einzelnen Bits dann als Binär-Ziffern aufgefasst und eine Zahl im Binärsystem ergibt sich dann wie folgt:

x := (-1)^vz * 1,m0m1m2..m51 * 2^(e0e1e2..e10 - 10000000000)


2 kleine Beispiele:

(1) Wie wird 4.0 in dieser Schreibweise dargestellt?

Code:

4.0 = 2^2 = (-1)^0 * 2^2, also vz = 0
    = (-1)^0 * 1,00..0 * 2^2, also m = (0, 0, ...0)
    = (-1)^0 * 1,00..0 * 2^(1026 - 1024), also e = (10000000010)

Die 1024 entsprechen dem (fest bestimmten) Abzug am Exponenten e, dem sogenannten Bias. Abschließend noch ein Beispiel dafür, dass ganz harmlos aussehende Zahlen wie 0.2 in dieser Darstellung nur gerundet wiedergegeben werden können:

Code:

0.2 = 900 719 925 474 099,2 / 2^52; also vz = 0

Allerdings ist noch immer ein Dezimalrest übrig und mehr als 52 Stellen stehen uns in der Binärdarstellung nicht zur Verfügung, Was bleibt ist - wie fast immer beim Rechnen mit Fließkomma-Zahlen - das Abschneiden des Nachkomma-Anteils:

Code:

0.2 ~= 900 719 925 474 099 / 2^52; also vz = 0
      = 900 719 925 474 099 * 2^(-52)

Wechsel zur Binärdarstellung

      = 11 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 * 2^(-52)
      = 0,0011 0011 0011 .. * 2^0
      = 1,1 0011 0011 ... * 2^(-3), also m = (1 0011 0011 .. 001)
      = 1,1 0011 0011 ... * 2^(1021 - 1024), also e = (01111111101)


Die so dargestellte Dezimalzahl lautet aber:

0,19999999999999998334665463062265

Leicht daneben ...

Achim Dabrunz

[Diese Nachricht wurde von Dabrunz am 07. Jul. 2004 editiert.]

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

CADmium
Moderator
Maschinenbaukonstrukteur




Sehen Sie sich das Profil von CADmium an!   Senden Sie eine Private Message an CADmium  Schreiben Sie einen Gästebucheintrag für CADmium

Beiträge: 13508
Registriert: 30.11.2003

.

erstellt am: 07. Jul. 2004 13:14    Editieren oder löschen Sie diesen Beitrag!  <-- editieren / zitieren -->   Antwort mit Zitat in Fett Antwort mit kursivem Zitat    Unities abgeben: 1 Unity (wenig hilfreich, aber dennoch)2 Unities3 Unities4 Unities5 Unities6 Unities7 Unities8 Unities9 Unities10 Unities

Schön ausführlich... Danke! Mit den Intwerten war mir ja noch geläufig
bei den gebrochenen .. na ja, lang ist's her

------------------
- Thomas -

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

Anzeige.:

Anzeige: (Infos zum Werbeplatz >>)

Darstellung des Themas zum Ausdrucken. Bitte dann die Druckfunktion des Browsers verwenden. | Suche nach Beiträgen

nächster neuerer Beitrag | nächster älterer Beitrag
Antwort erstellen


Diesen Beitrag mit Lesezeichen versehen ... | Nach anderen Beiträgen suchen | CAD.de-Newsletter

Administrative Optionen: Beitrag schliessen | Archivieren/Bewegen | Beitrag melden!

Fragen und Anregungen: Kritik-Forum | Neues aus der Community: Community-Forum

(c)2023 CAD.de | Impressum | Datenschutz