| |
 | Gut zu wissen: Hilfreiche Tipps und Tricks aus der Praxis prägnant, und auf den Punkt gebracht für Autodesk Produkte |
| |
 | Von Digital Twins bis Hochleistungs-Computing: PNY präsentiert seine Zukunftstechnologien für die Industrie von morgen, eine Pressemitteilung
|
Autor
|
Thema: Dezimalstellen (6159 mal gelesen)
|
InesP Mitglied

 Beiträge: 66 Registriert: 23.08.2004 Win XP AutoCAD 2004 Office 2000
|
erstellt am: 24. Mai. 2006 11:24 <-- editieren / zitieren --> Unities abgeben:         
Hi Leute, gibt es bei VBA eine Möglichkeit die Anzahl der Dezimalstellen zu begrenzen? Meine Variablen sollen zwar Fließkommawerte enthalten, aber nur maximal 5 Kommastellen haben, da sonst intern Rundungsfehler auftreten. Könnt Ihr mir weiterhelfen? Danke schon mal und Gruß Ines! Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP |
Markus_Leitl Mitglied Maschinenbautechniker
 Beiträge: 2 Registriert: 20.05.2006
|
erstellt am: 24. Mai. 2006 12:11 <-- editieren / zitieren --> Unities abgeben:          Nur für InesP
|
InesP Mitglied

 Beiträge: 66 Registriert: 23.08.2004 Win XP AutoCAD 2004 Office 2000
|
erstellt am: 24. Mai. 2006 12:39 <-- editieren / zitieren --> Unities abgeben:         
Hallo Markus, danke für deine schnelle Antwort! Ich hatte gehofft,die überschüssigen Nachkommastellen einfach abschneiden zu können ohne Rundung. Sollte dies aber nicht gehen, werde ich auf Deine Rundungsvariante zurückkommen. Ich habe gerade unter dem Thema benutzerdefinierte numerische Formate nachgelesen, habe aber die Verfahrensweise noch nicht ganz verstanden. Vielleicht weißt Du ja da besser Bescheid. Mein Problem besteht darin, daß ich die Koordinaten 2er Punkte auslese, die eigentlich denselben y-Wert haben müßten (jedenfalls bei eingeschaltetem Orthomodus) und diese sich aber in der 13. Kommastelle unterscheiden und ich somit bei der weiteren Berechnung Fehler bekomme. Gruß Ines Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP |
Carsten1210 Mitglied staatl. geprüfter Holztechniker
   
 Beiträge: 1360 Registriert: 24.07.2002
|
erstellt am: 24. Mai. 2006 13:32 <-- editieren / zitieren --> Unities abgeben:          Nur für InesP
Hallo Ines, Probier mal diesen Code: Public Sub Nachkomma() Dim Double_Wert As Double Dim String_Wert As String Dim unit As Long Double_Wert = 1.23423265436377 MsgBox Double_Wert & vbCr & "Komplette Nachkommastellen als Double" String_Wert = ThisDrawing.Utility.RealToString(Double_Wert, acDecimal, 2) '2 Nachkommastellen MsgBox String_Wert & vbCr & "Konvertierter Wert als string" unit = acDecimal Double_Wert = ThisDrawing.Utility.DistanceToReal(String_Wert, unit) MsgBox Double_Wert & vbCr & "Konvertierte Nachkommastellen als Double" End Sub Gruß, Carsten Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP |
InesP Mitglied

 Beiträge: 66 Registriert: 23.08.2004 Win XP AutoCAD 2004 Office 2000
|
erstellt am: 24. Mai. 2006 13:45 <-- editieren / zitieren --> Unities abgeben:         
Hallo Carsten, vielen Dank für Deine Hilfe. So funktioniert es wunderbar, 10 Unities für Dich. Eine Frage habe ich aber noch dazu: Welchen Einfluß hat das unit in der DistanceToReal-Funktion? Gruß Ines Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP |
Carsten1210 Mitglied staatl. geprüfter Holztechniker
   
 Beiträge: 1360 Registriert: 24.07.2002
|
erstellt am: 24. Mai. 2006 13:57 <-- editieren / zitieren --> Unities abgeben:          Nur für InesP
Hallo Ines, Folgendes aus der Hilfe: RetVal = DistanceToReal(Distance, Unit) String; input-only The distance as a string value. Unit AcUnits enum; input-only The unit to which the string is to be converted. acDefaultUnits acScientific acDecimal acEngineering acArchitectural acFractional Die Units sind die Einheiten, in die der String konvertiert wird. Gruß, Carsten Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP |
H.D. Mitglied

 Beiträge: 25 Registriert: 12.05.2005 P4 3.20 GHz 1,00 GB RAM WinXP SP2 Autodesk Architectural Desktop 2004
|
erstellt am: 24. Mai. 2006 17:12 <-- editieren / zitieren --> Unities abgeben:          Nur für InesP
N'abend hier eine zweite Version:
Code:
Private Sub test() Dim Zahl As Double Zahl = 1.23456789 Zahl = Nachkomma(Zahl, 6) End Sub Private Function Nachkomma(Zahl As Double, Nachkommastellen As Integer) As Double Nachkomma = CDbl(Mid$(CStr(Zahl), 1, InStr(CStr(Zahl), ",") + Nachkommastellen)) End Function
Bis denn dann
H.D. Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP |
InesP Mitglied

 Beiträge: 66 Registriert: 23.08.2004 Win XP AutoCAD 2004 Office 2000
|
erstellt am: 29. Mai. 2006 09:47 <-- editieren / zitieren --> Unities abgeben:         
Hallo Carsten, hallo H.D., vielen Dank für Eure Antworten. H.D. Deine Funktion muss ich erst noch ausprobieren, sie würde jedenfalls mein Programm sehr verkürzen, da ich sie mehrfach verwenden kann. Also vielen Dank nochmal für Eure Hilfe. Die Unities sind unterwegs. Gruß Ines Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP |
Stelli1 Moderator Verm.-Ing.
    
 Beiträge: 1526 Registriert: 17.08.2005 Map 2000-2014, Rasterdesign, MapGuide, Autodesk Topobase, VS6, VS.net 2013
|
erstellt am: 29. Mai. 2006 11:51 <-- editieren / zitieren --> Unities abgeben:          Nur für InesP
|
InesP Mitglied

 Beiträge: 66 Registriert: 23.08.2004 Win XP AutoCAD 2004 Office 2000
|
erstellt am: 29. Mai. 2006 13:39 <-- editieren / zitieren --> Unities abgeben:         
Hi Stelli, danke für Deine Hilfe. Den Formatbefehl hatte ich schon in der Hilfe gefunden, aber nicht so richtig verstanden. Von welchem Format ist dann Zahl_Rund? Ist das Double oder ein benutzerdefiniertes Format, aber eben mit 4 Kommastellen? Wird die letzte Kommastelle dabei gerundet oder einfach der Rest abgeschnitten? Mit Zahl wäre dann meine Zahl gemeint, die ich runden will? Wie Du siehst Fragen über Fragen über die Du Dich wahrscheinlich kaputtlachen wirst. Gruß Ines Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP |
Carsten1210 Mitglied staatl. geprüfter Holztechniker
   
 Beiträge: 1360 Registriert: 24.07.2002
|
erstellt am: 29. Mai. 2006 14:30 <-- editieren / zitieren --> Unities abgeben:          Nur für InesP
Hallo Ines, der Format-Befehl erzeugt ein String mit den vorgegebenen Nachkommastellen. Hier wird die Zahl gerundet. Das CDbl bedeutet Convert to Double. Daher hast du am Ende wieder ein Double-Wert. Du kannst das einfach ausprobiern: Public Sub Zahl() Dim Zahl As Double Zahl = 0.123456789 Zahl = CDbl(Format(Zahl, "0.00000")) msgbox zahl 'Gibt 0.12346 zurück End Sub Gruß, Carsten [Diese Nachricht wurde von Carsten1210 am 29. Mai. 2006 editiert.] Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP |
InesP Mitglied

 Beiträge: 66 Registriert: 23.08.2004 Win XP AutoCAD 2004 Office 2000
|
erstellt am: 29. Mai. 2006 15:55 <-- editieren / zitieren --> Unities abgeben:         
|
H.D. Mitglied

 Beiträge: 25 Registriert: 12.05.2005 P4 3.20 GHz 1,00 GB RAM WinXP SP2 Autodesk Architectural Desktop 2004
|
erstellt am: 30. Mai. 2006 11:52 <-- editieren / zitieren --> Unities abgeben:          Nur für InesP
Hallo Ines, wenn du nur Runden willst auf eine bestimmte Nachkommastellen kannst du auch die fertige VBA-Funktion round(Zahl, Nachkommastellen) benutzten. Code:
Private Sub TEST1() Dim Zahl As Double Zahl = 1.23456789 Zahl = Round(Zahl, 6) End Sub
Für das Abschneiden der letzten Nachkommastellen habe ich noch eine Ergänzung bei meinem oben aufgeführten Code zu machen. Beispiel aus der Zahl 12345678 und bei einer Übergabe an die Funktion mit 6 Nachkommastellen würden sonst 123456 zurückgegeben werden.
Richtig muss es heißen: Code:
Private Function Nachkomma(Zahl As Double, Nachkommastellen As Integer) As Double If InStr(CStr(Zahl), ",") <> 0 Then Nachkomma = CDbl(Mid$(CStr(Zahl), 1, InStr(CStr(Zahl), ",") + Nachkommastellen)) Else Nachkomma = Zahl End If End Function
Bis denn dann
H.D.
Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP |

| |
InesP Mitglied

 Beiträge: 66 Registriert: 23.08.2004 Win XP AutoCAD 2004 Office 2000
|
erstellt am: 30. Mai. 2006 13:05 <-- editieren / zitieren --> Unities abgeben:         
Hallo H.D., vielen Dank für Deine ausführliche Info. Jetzt habe ich das Thema verstanden. Ich bin noch garnicht dazu gekommen, Deine 1. Version auszuprobieren, weil erstmal andere Arbeit dazwischen kam. So kann ich mir ja gleich Deine 2. Version zu Gemüte führen. Also besten Dank nochmal. Gruß Ines! Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP |