---

float.png

Hallo,

ich möchte für eine Mikrocontrollersimulation Mathcad dazubringen mit der Genauigkeit des Mikrocontrollers zu rechnen.
Hat jemand sowas schonmal gemacht? Im Prinzip muss ja jeder Wert entsprechend einer Vorgabe abgeschnitten bzw. gerundet werden. Ich hab das im beigefügten Bild mal von Hand gemacht (die Zahlenwerte _neu).
Geht das auch automatisch oder mit einer passenden globalen Variable?

Gruß,
Sven

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

---

Hi,
Warum nicht Res:=round(Zahl,sollsein)?
Gruss

[Diese Nachricht wurde von Clayton am 28. Apr. 2011 editiert.]

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

---

Hallo,

danke für den Hinweis, funktioniert aber leider nicht, da ich das Komma durch den Exponenten immer an einer anderen Stelle haben kann.
1,23456*10^5 würde daher mit Round anders behandelt als 1,23456*10^0. Dies insbesondere da ich nicht vorhersagen kann welcher Exponent an welcher Stelle auftritt. Und ich es dann wieder von Hand machen müsste.
Falls nochmal jemand ein ähnliches Problem hat: Ich habe mir mit Excel weiterbeholfen. Dort das Zahlenformat auf "wissenschaftlich" mit 5 Nachkommastellen gestellt und in den Berechnungsoptionen die "Berechnungsgenauigkeit wie angezeigt" eingestellt. Man muss dann zwar noch die Berechnung in ziemlich kleine Schritte teilen (da Excel sonst intern mit größerer Genauigkeit rechnet und nur das Ergebnis entsprechend rundet), hat für mich aber zum Ziel geführt.

Sven

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

---

Hallo Sven,

Mit einem Programm kann man dies lösen.

Schlaufe Anfang
Abfrage ob der Wert > 10 ist, wenn ja
  durch 10 Dividieren
  zähler um 1 hochsezten
                              wenn nein
  Schlaufe beenden
  Zurück zu Schlaufe Anfang

Den Wert auf die gewünschte Anzahl Kommas runden.
Den Wert mit Zähler x 10 multiplizieren
Fertig

Gruss
Mike
 
Gruss
Mike

------------------

The Power Of Dreams

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

---

110429gleitkommarunden.png

Super,

das wars! So einen Anstoss hab ich gebraucht.
Wie gesagt ich hatte mir das Ganze für den konkreten Fall inExcel gebastelt, aber beim nächsten Mal läufts dann in Mathcad.

Danke, Sven

Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP