| | |
 | Gut zu wissen: Hilfreiche Tipps und Tricks aus der Praxis prägnant, und auf den Punkt gebracht für PTC CREO |
| | |
 | Besichtigung der MAIT.Cloud in Frankfurt | 19.11.2025, eine Veranstaltung am 19.11.2025
|
|
Autor
|
Thema: Zahlen Runden Problem (1246 / mal gelesen)
|
Seele
Mitglied
Konstrukteur
   Beiträge: 412
Registriert: 11.06.2003 Intel(R) Xeon(R) W-2245 CPU @ 3,90 GHz, 64GB RAM
NVidia Quadro RTX A4000
Win10-64Bit
Elements/Direct v20.7.1.0
PartLibrary, Surfacing, 3D-PDF,
3D-Access, Unigraphics-Schnittstelle
|
erstellt am: 04. Mai. 2016 15:17  <-- editieren / zitieren -->   Unities abgeben:          
Hallo ich runde z.B die Zahl 1.59999999987 in einem Makro mit folgendem Code : (setf DURCHMESSER (/ (ROUND (* (+ DURCHMESSER 0.0004) 100.0) 1.0) 100.00)) gebe ich diese Zahl jetzt aus erscheint fälschlicher Weise: 1.6000000000000001  auf der Suche nach dem Fehler bin ich darauf gestossen, das hier ein riesen Bug begraben ist. DISPLAY (/ 160 100.0) Ergebnis 1.6000000000000001  mein Problem ist, ich greife Durchmesser ab und möchte den Wert auf 2 Stellen hinter dem Komma (Hundertstel Genauigkeit) ausgeben.
Ich bekomme aber immer wieder das Ergebnis 1.6000000000000001 Habt ihr einen Tip, wie ich dieses Verhalten umgehen kann?
Ich möchte als Ausgabewert 1.60 erhalten !!! Vielen Dank im vorraus ------------------
alles ist möglich, nichts funktioniert und trotzdem muß es bis morgen geschafft sein.  Werden wir es schaffen? Ja wir schaffen das !!! :-) Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP |
lix b
Mitglied
Konstrukteur, CAD-Admin
Beiträge: 305
Registriert: 03.10.2014 Creo Elements / Direct Modeling 20.4
Creo Elements / Direct Model Manager 20.4
<P>Notepad++
Win 11
|
erstellt am: 04. Mai. 2016 15:35 <-- editieren / zitieren --> Unities abgeben: Nur für Seele 
Hi! Wandle die Zahl doch einfach in einen String mit beliebig vielen Kommastellen um. Wenn du später wieder damit weiterrechnen möchtest einfach wieder in eine Zahl umwandeln Code:
(setf DURCHMESSER (sd-num-to-string DURCHMESSER 2))
------------------
Viele Grüße
Felix Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP |
Seele
Mitglied
Konstrukteur
Beiträge: 412
Registriert: 11.06.2003 Intel(R) Xeon(R) W-2245 CPU @ 3,90 GHz, 64GB RAM
NVidia Quadro RTX A4000
Win10-64Bit
Elements/Direct v20.7.1.0
PartLibrary, Surfacing, 3D-PDF,
3D-Access, Unigraphics-Schnittstelle
|
erstellt am: 04. Mai. 2016 15:46 <-- editieren / zitieren --> Unities abgeben:
Danke, ... funktioniert einwandfrei, ...  ------------------
alles ist möglich, nichts funktioniert und trotzdem muß es bis morgen geschafft sein. Werden wir es schaffen? Ja wir schaffen das !!! :-) Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP |
Walter Geppert
Moderator
Frank und Frei
    
Beiträge: 2173
Registriert: 12.12.2000 Konstruktion von Sondermaschinen, Montageautomaten, Meß- und Prüfeinrichtungen, Vorrichtungen und Produktentwicklung mit Creo Elements/Direct Modeling 20.8, AdvancedDesign, Surfacing, SolidPower, ModelManager auf
HP ZBook Fury 16 G9, Windows 11 Pro 64
|
erstellt am: 04. Mai. 2016 17:10 <-- editieren / zitieren --> Unities abgeben: Nur für Seele
|
clausb
Ehrenmitglied V.I.P. h.c.
Beiträge: 2914
Registriert: 20.12.2000 Ich schreibe das hier in meiner Freizeit und spreche weder für meinen Arbeitgeber noch für andere Firmen. Mehr Unsinn von mir unter clausbrod.de.
|
erstellt am: 06. Mai. 2016 22:19 <-- editieren / zitieren --> Unities abgeben: Nur für Seele
|
cadffm
Ehrenmitglied V.I.P. h.c.
良い精神
Beiträge: 22689
Registriert: 03.06.2002
|
erstellt am: 06. Mai. 2016 22:42 <-- editieren / zitieren --> Unities abgeben: Nur für Seele
|
Foren auf CAD.de
| 
