Zahlen Runden Problem (PTC Engineering Solutions/PTC Creo Elements/Programmierung) - Lösung vorhanden!


	Gut zu wissen: Hilfreiche Tipps und Tricks aus der Praxis prägnant, und auf den Punkt gebracht für Creo
Autor	Thema: Zahlen Runden Problem (1098 mal gelesen)
Seele Mitglied Konstrukteur Beiträge: 364 Registriert: 11.06.2003	erstellt am: 04. Mai. 2016 15:17 <-- editieren / zitieren --> Unities abgeben: Hallo ich runde z.B die Zahl 1.59999999987 in einem Makro mit folgendem Code : (setf DURCHMESSER (/ (ROUND (* (+ DURCHMESSER 0.0004) 100.0) 1.0) 100.00)) gebe ich diese Zahl jetzt aus erscheint fälschlicher Weise: 1.6000000000000001 auf der Suche nach dem Fehler bin ich darauf gestossen, das hier ein riesen Bug begraben ist. DISPLAY (/ 160 100.0) Ergebnis 1.6000000000000001 mein Problem ist, ich greife Durchmesser ab und möchte den Wert auf 2 Stellen hinter dem Komma (Hundertstel Genauigkeit) ausgeben. Ich bekomme aber immer wieder das Ergebnis 1.6000000000000001 Habt ihr einen Tip, wie ich dieses Verhalten umgehen kann? Ich möchte als Ausgabewert 1.60 erhalten !!! Vielen Dank im vorraus ------------------ alles ist möglich, nichts funktioniert und trotzdem muß es bis morgen geschafft sein. Werden wir es schaffen? Ja wir schaffen das !!! :-) Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP
lix b Mitglied Konstrukteur, CAD-Admin Beiträge: 279 Registriert: 03.10.2014 Creo Elements / Direct Modeling 20.2 Creo Elements / Direct Model Manager 20.2 Creo 5.0 Simulate <P>Notepad++ Win 7	erstellt am: 04. Mai. 2016 15:35 <-- editieren / zitieren --> Unities abgeben: Nur für Seele Hi! Wandle die Zahl doch einfach in einen String mit beliebig vielen Kommastellen um. Wenn du später wieder damit weiterrechnen möchtest einfach wieder in eine Zahl umwandeln Code: (setf DURCHMESSER (sd-num-to-string DURCHMESSER 2)) ------------------ Viele Grüße Felix Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP
Seele Mitglied Konstrukteur Beiträge: 364 Registriert: 11.06.2003	erstellt am: 04. Mai. 2016 15:46 <-- editieren / zitieren --> Unities abgeben: Danke, ... funktioniert einwandfrei, ... ------------------ alles ist möglich, nichts funktioniert und trotzdem muß es bis morgen geschafft sein. Werden wir es schaffen? Ja wir schaffen das !!! :-) Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP
Walter Geppert Moderator Frank und Frei Beiträge: 2143 Registriert: 12.12.2000 Konstruktion von Sondermaschinen, Montageautomaten, Meß- und Prüfeinrichtungen, Vorrichtungen und Produktentwicklung mit Creo Elements/Direct Modeling 20.4, AdvancedDesign, Surfacing, Simulate, SolidPower, ModelManager auf HP ZBook 17 G4, Windows 10 Pro 64	erstellt am: 04. Mai. 2016 17:10 <-- editieren / zitieren --> Unities abgeben: Nur für Seele Ein HInweis zur Thematik in einem alten Thread ------------------ meine LISP-Makros sind auf osd.cad.de Disclaimer Grüße aus Wien Walter Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP
clausb Ehrenmitglied V.I.P. h.c. Beiträge: 2914 Registriert: 20.12.2000 Ich schreibe das hier in meiner Freizeit und spreche weder für meinen Arbeitgeber noch für andere Firmen. Mehr Unsinn von mir unter clausbrod.de.	erstellt am: 06. Mai. 2016 22:19 <-- editieren / zitieren --> Unities abgeben: Nur für Seele http://floating-point-gui.de Modeling FAQ: http://www.clausbrod.de/CoCreateModeling/ - Blog: http://www.clausbrod.de/Blog Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP
cadffm Ehrenmitglied V.I.P. h.c. 良い精神 Beiträge: 21533 Registriert: 03.06.2002	erstellt am: 06. Mai. 2016 22:42 <-- editieren / zitieren --> Unities abgeben: Nur für Seele Verwertbar sind nach meiner Erfahrung nach 15 Stellen, mit den 18 wirst du nicht glücklich, aber das steht ja oben und den Links schon erklärt. Wollte nur noch mal die 15 in den Raum werfen ------------------ CAD on demand GmbH - Beratung und Programmierung rund um AutoCAD Eine Antwort auf diesen Beitrag verfassen (mit Zitat/Zitat des Beitrags) IP

Anzeige.:
X

Anzeige: (Infos zum Werbeplatz >>)