Warum gibt der Vergleich doppelter Werte in C# manchmal „Falsch' zurück?

Vergleiche mit doppelter Genauigkeit in C# verstehen

Problem:

Der direkte Vergleich von double Variablen in C# kann zu unerwarteten Ergebnissen führen. Beispielsweise könnte if (x == 0.1) zu false ausgewertet werden, auch wenn x der Wert 0.1 zugewiesen ist.

Grundursache:

Das Problem ergibt sich daraus, wie Gleitkommazahlen (wie float und double) im Computerspeicher dargestellt werden. Sie verwenden eine binäre Bruchdarstellung, im Gegensatz zu der dezimalen Bruchdarstellung, die wir gewohnt sind. Das bedeutet, dass viele Dezimalwerte, wie zum Beispiel 0,1, nicht präzise binär dargestellt werden können. Die resultierende Näherung führt zu geringfügigen Rundungsfehlern.

Auflösung:

Die effektivste Lösung ist die Verwendung des Datentyps decimal, wenn Präzision im Vordergrund steht. decimal verwendet eine dezimale Bruchdarstellung, die in der Lage ist, Werte wie 0,1 genau zu speichern.

Weitere Details:

Binäre Brüche verwenden, ähnlich wie Dezimalbrüche, Zweierpotenzen statt Zehnerpotenzen. Genauso wie 1/3 (0,3333...) nicht exakt dezimal dargestellt werden kann, fehlt 1/10 (0,1) eine exakte Binärdarstellung . Diese inhärente Einschränkung führt zu Rundungsfehlern, die zu Vergleichsdiskrepanzen führen. Der Computer speichert eine enge Näherung von 0,1, aber diese Näherung entspricht nicht genau der im Vergleich verwendeten wörtlichen 0,1.

Das obige ist der detaillierte Inhalt vonWarum gibt der Vergleich doppelter Werte in C# manchmal „Falsch' zurück?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!