> Java > java지도 시간 > 반올림 오류 없이 Double에서 소수 자릿수를 정확하게 이동하는 방법은 무엇입니까?

반올림 오류 없이 Double에서 소수 자릿수를 정확하게 이동하는 방법은 무엇입니까?

Mary-Kate Olsen
풀어 주다: 2024-11-28 00:15:12
원래의
457명이 탐색했습니다.

How to Accurately Move Decimal Places in a Double Without Rounding Errors?

반올림 오류 없이 Double에서 소수점 자리 이동하는 방법

Double에서 소수점 자리를 이동하려면 본능적으로 0.1을 곱할 수도 있습니다. 그러나 0.1은 이진수로 정확하게 표현되지 않기 때문에 반올림 오류가 발생할 수 있습니다.

더 정확한 방법

0.1을 사용하는 대신 정확하게 표현할 수 있는 100을 사용하는 것이 좋습니다. 바이너리로. 소수점 자리를 옮기려면 100으로 나누면 됩니다.

double x = 1234;
x /= 100;
로그인 후 복사

반올림이 불가피한 이유

이 접근 방식을 사용하더라도 부동 소수점의 한계로 인해 일부 반올림 오류가 여전히 존재합니다. 대표. Double.toString()은 일부 반올림을 수행하지만 반올림을 모두 피하려면 BigDecimal을 사용해야 하는 경우가 많습니다.

x/100과 x * 0.01의 비교

x/100과 x * 0.01은 그렇지 않습니다. 반올림 오류 측면에서 동일합니다. 첫 번째 표현식의 반올림 오류는 x 값에 따라 달라지지만 두 번째 표현식의 0.01은 고정된 반올림 오류를 갖습니다. 이는 특정 경우에 다른 결과를 초래할 수 있습니다.

결론

부동 소수점 표현의 한계를 이해하고 적절한 기술을 사용하면 복식에서 소수 자릿수를 정확하게 처리하고 반올림 오류를 최소화할 수 있습니다. 부정확한 곱셈 연산으로 인해 발생합니다.

위 내용은 반올림 오류 없이 Double에서 소수 자릿수를 정확하게 이동하는 방법은 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

원천:php.cn
본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.
저자별 최신 기사
인기 튜토리얼
더>
최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿