Thema Datum  Von Nutzer Rating
Antwort
27.08.2021 10:42:02 Markus Rudolph
NotSolved
Blau Vergleichsoperator gibt fälschlicherweise wahr aus
27.08.2021 11:29:38 Zwenn
Solved
27.08.2021 12:31:14 Markus
NotSolved

Ansicht des Beitrags:
Von:
Zwenn
Datum:
27.08.2021 11:29:38
Views:
245
Rating: Antwort:
 Nein
Thema:
Vergleichsoperator gibt fälschlicherweise wahr aus

Hallo Markus,

das liegt an der internen Verarbeitung von Gleitkommazahlen. Wenn Du solche Rechnungen direkt in den Vergleich schreibst, kann es passieren, dass intern hinter dem erwarteten Ergebnis (hier 20,1) noch "irgendwo" in der Mantisse weitere Bits gesetzt sind und dann ist diese Zahl eben nicht kleiner (oder gleich), sondern sie ist größer, als die ausgeschriebenen 20,1.

Videoerklärung durch Daniel Jung: https://www.youtube.com/watch?v=hHpSwBf0DCA

Technischer Hintergrund Elektronik Kompendium: https://www.elektronik-kompendium.de/sites/dig/1807231.htm

Um den Vergleich richtig durchzuführen, musst Du erst die Rechnung durchführen und das Ergebnis dann auf die zu berücksichtigenden Nachkommastellen runden, bzw. die "überflüssigen" Nachkommastellen "abschneiden".

https://docs.microsoft.com/de-de/office/vba/language/reference/user-interface-help/round-function

Viele Grüße,

Zwenn


Ihre Antwort
  • Bitte beschreiben Sie Ihr Problem möglichst ausführlich. (Wichtige Info z.B.: Office Version, Betriebssystem, Wo genau kommen Sie nicht weiter)
  • Bitte helfen Sie ebenfalls wenn Ihnen geholfen werden konnte und markieren Sie Ihre Anfrage als erledigt (Klick auf Häckchen)
  • Bei Crossposting, entsprechende Links auf andere Forenbeiträge beifügen / nachtragen
  • Codeschnipsel am besten über den Code-Button im Text-Editor einfügen
  • Die Angabe der Emailadresse ist freiwillig und wird nur verwendet, um Sie bei Antworten auf Ihren Beitrag zu benachrichtigen
Thema: Name: Email:



  • Bitte beschreiben Sie Ihr Problem möglichst ausführlich. (Wichtige Info z.B.: Office Version, Betriebssystem, Wo genau kommen Sie nicht weiter)
  • Bitte helfen Sie ebenfalls wenn Ihnen geholfen werden konnte und markieren Sie Ihre Anfrage als erledigt (Klick auf Häckchen)
  • Bei Crossposting, entsprechende Links auf andere Forenbeiträge beifügen / nachtragen
  • Codeschnipsel am besten über den Code-Button im Text-Editor einfügen
  • Die Angabe der Emailadresse ist freiwillig und wird nur verwendet, um Sie bei Antworten auf Ihren Beitrag zu benachrichtigen

Thema Datum  Von Nutzer Rating
Antwort
27.08.2021 10:42:02 Markus Rudolph
NotSolved
Blau Vergleichsoperator gibt fälschlicherweise wahr aus
27.08.2021 11:29:38 Zwenn
Solved
27.08.2021 12:31:14 Markus
NotSolved