.NET에서 이중 곱셈이 부정확한 이유는 무엇입니까?

.NET 배정밀도 곱셈의 부정확성 이해

.NET에서 "배정밀도"라는 용어는 오해의 소지가 있을 수 있습니다. 배정밀도 부동 소수점 연산이 항상 완벽하게 정확하지는 않습니다. 일반적인 예를 살펴보겠습니다.

<code>double i = 10 * 0.69;</code>

예상된 6.9 대신 결과가 6.8999999999999995인 경우가 많습니다. 이러한 부정확성은 부동 소수점 숫자가 표현되고 저장되는 방식으로 인해 발생합니다.

Double은 다른 부동 소수점 유형과 마찬가지로 특정 이진 형식을 사용하여 실수에 가깝습니다. 0.69 및 1/3과 같은 많은 소수 값은 고유한 한계로 인해 이 이진수 형식으로 정확하게 표현될 수 없습니다.

컴파일러는 일반적으로 컴파일 타임에 곱셈을 최적화하여 결과를 상수로 저장합니다. 그러나 6.9에는 정확한 이진 표현이 부족하므로 저장된 상수는 근사치입니다.

이 문제를 완화하려면 성능 저하를 감수하면서 더 높은 정밀도를 제공하는 decimal 유형을 사용하는 것이 좋습니다. 매우 높은 정확도가 요구되는 애플리케이션의 경우 BigRational과 같이 유리수 지원을 제공하는 라이브러리는 대체 접근 방식을 제공합니다.

위 내용은 .NET에서 이중 곱셈이 부정확한 이유는 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!