Dezimalberechnungsprobleme im JavaScript-Tutorial

Erstes Bild:

Was ist los?

Grund: js verwendet Binärzahlen für Dezimalberechnungen

Schauen Sie sich zunächst die Methode zur Konvertierung von Dezimalzahlen in Binärzahlen an:

Die ganzzahligen Ziffern einer Dezimalzahl sind die ganzzahligen Ziffern von eine Binärzahl, Dezimalzahl Die Dezimalstelle einer Zahl ist die Dezimalstelle einer Binärzahl

Wenn wir eine Dezimalzahl 111,4 (10) haben, berechnen wir sie:

Nehmen Sie zuerst die Dezimalstelle 0,4 und „mit zwei multiplizieren“ Rundungsmethode „

0,4*2=0,8 Die Zahl an der ganzzahligen Position des Ergebnisses ist 0 | Drücken Sie

0,8*2=1,6                                                                                     *2 = 1,2 Erhalten Sie 0 🎜>0,8*2=1,6                                             1 |. <.> 0,6*2 = 1,2 Nehmen Sie 1 |.

0,2*2 = 0,4 Nimm 0 |.

Komm her. Die Binärzahl nach dem Dezimalpunkt ist

0,01100110... (Schleife 0110)

Ich werde die Ganzzahl nicht schreiben, die Methode besteht darin, durch 2 zu dividieren und den Rest zu bilden

2,6+2,6+2,6 in der Frage =7,800000000001. Bei der Berechnung von Dezimalzahlen werden zunächst Dezimalzahlen in die entsprechende Binärzahl umgewandelt. Hier tritt der erste Fehler auf. Nachdem alle Dezimalzahlen in Binärzahlen umgewandelt wurden, werden Operationen zwischen Binärzahlen durchgeführt, um das Binärergebnis zu erhalten. Das binäre Ergebnis wird dann in eine Dezimalzahl umgewandelt, wobei normalerweise ein zweiter Fehler auftritt.

Lösung: Geben Sie an, wie viele Dezimalstellen beibehalten werden sollen (7.8).toFixed(2)=7.80; Es gibt auch Möglichkeiten, diese Addition online anzupassen 🎜>

Das obige ist der detaillierte Inhalt vonDezimalberechnungsprobleme im JavaScript-Tutorial. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!