부동 소수점 비교가 부정확한 이유는 무엇이며 올바른 결과를 보장하려면 어떻게 해야 합니까?

부동 소수점 비교 혼란

주어진 코드 조각에서 부동 소수점 숫자 간의 비교 검사는 예상만큼 간단하지 않습니다. . 부동 소수점 비교를 다룰 때는 부동 소수점 표현과 발생하는 잠재적인 함정을 이해하는 것이 중요합니다.

부동 소수점 함정

코드는 부동 소수점 숫자를 비교하는 데 있습니다. 부동 소수점 숫자는 크기와 지수를 모두 표현하기 위해 유한한 수의 비트를 사용하는 이진 형식으로 저장됩니다. 이는 부동 소수점 숫자가 특정 값을 표현할 수 있는 정확도에 본질적인 제한이 있어 반올림 오류가 발생한다는 것을 의미합니다.

제공된 코드에서 변수 a와 b는 모두 부동 소수점으로 정의됩니다. a를 0.7과 비교할 때 컴파일러는 비교를 위해 float를 double로 승격합니다. 이 유형 승격으로 인해 a의 이중 표현이 정확히 0.7과 같지 않을 수 있으므로 정밀도가 손실될 수 있습니다. 또한 0.5는 2의 정확한 거듭제곱으로 부동 소수점 형식으로 정확하게 표현할 수 있습니다.

결과적으로 비교 a < 0.7은 a를 double로 승격하고 0.7의 부정확한 표현으로 인해 true로 평가됩니다. 이는 예상한 "0이 옳습니다" 대신 "1이 옳습니다"라는 예상치 못한 결과를 설명합니다.

올바른 비교 보장

이러한 문제를 방지하려면 두 가지가 있습니다. 가능한 접근법:

• float 대신 double을 사용하세요. b를 double로 사용하면(double a = 0.7; double b = 0.5;) double의 전체 정밀도로 비교가 수행되어 반올림 오류의 위험을 줄일 수 있습니다.
• 부동 부동 사용 -point 접미사: 또는 부동 소수점 리터럴에 f 접미사를 추가하여 컴파일러가 비교 중에 이를 부동 소수점으로 처리하도록 할 수 있습니다. 이 접근 방식을 사용하면 올바른 정밀도를 보장하면서 float 유형을 유지할 수 있습니다. if (a < 0.7f).

위 내용은 부동 소수점 비교가 부정확한 이유는 무엇이며 올바른 결과를 보장하려면 어떻게 해야 합니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!