Wie verschiebt man Dezimalstellen in einem Double genau, ohne Rundungsfehler?

So verschieben Sie Dezimalstellen in einem Double ohne Rundungsfehler

Um eine Dezimalstelle in einem Double zu verschieben, können Sie instinktiv mit 0,1 multiplizieren. Dies kann jedoch zu Rundungsfehlern führen, da 0,1 keine exakte binäre Darstellung ist.

Ein genauerer Weg

Anstelle von 0,1 ist es vorzuziehen, 100 zu verwenden, was genau dargestellt werden kann im Binärformat. Um eine Dezimalstelle zu verschieben, dividieren Sie einfach durch 100:

double x = 1234;
x /= 100;

Warum Rundungen unvermeidbar sind

Selbst bei diesem Ansatz treten aufgrund der Einschränkungen der Gleitkommazahl immer noch einige Rundungsfehler auf Darstellung. Double.toString() führt eine gewisse Rundung durch, aber um Rundungen ganz zu vermeiden, ist oft die Verwendung von BigDecimal erforderlich.

Vergleich zwischen x / 100 und x * 0,01

Beachten Sie, dass x / 100 und x * 0,01 dies nicht sind hinsichtlich des Rundungsfehlers identisch. Der Rundungsfehler im ersten Ausdruck hängt vom Wert von x ab, während 0,01 im zweiten einen festen Rundungsfehler aufweist. Dies kann in bestimmten Fällen zu unterschiedlichen Ergebnissen führen.

Fazit

Das Verständnis der Einschränkungen der Gleitkommadarstellung und die Verwendung geeigneter Techniken können eine genaue Handhabung von Dezimalstellen in Duplikaten gewährleisten und so Rundungsfehler minimieren entstehen durch ungenaue Multiplikationsoperationen.

Das obige ist der detaillierte Inhalt vonWie verschiebt man Dezimalstellen in einem Double genau, ohne Rundungsfehler?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!