了解 .NET 雙精確度乘法中的錯誤
.NET 中的術語「雙精確度」可能會產生誤導。 雙精度浮點運算並不總是完全準確。讓我們來看一個常見的例子:
<code>double i = 10 * 0.69;</code>
結果通常是 6.8999999999999995,而不是預期的 6.9。這種不精確性源自於浮點數的表示和儲存方式。
與其他浮點類型一樣,雙精度數使用特定的二進位格式來近似實數。 由於其固有的局限性,許多十進制值,例如 0.69 和 1/3,無法用這種二進位格式精確表示。
編譯器通常在編譯時最佳化乘法,將結果儲存為常數。 然而,由於 6.9 缺乏精確的二進位表示,因此儲存的常數是一個近似值。
為了緩解這種情況,請考慮使用 decimal
類型,它以降低效能為代價提供更高的精確度。 對於需要極高精確度的應用程序,提供有理數支援的函式庫(例如BigRational
)提供了另一種方法。
以上是為什麼 .NET 中的雙倍乘法不精確?的詳細內容。更多資訊請關注PHP中文網其他相關文章!