首頁 > web前端 > js教程 > Javascript 浮點運算精確度問題分析與解決_javascript技巧

Javascript 浮點運算精確度問題分析與解決_javascript技巧

WBOY
發布: 2016-05-16 16:54:22
原創
1242 人瀏覽過

分析

JavaScript 只有一種數字類型 Number ,而且在Javascript中所有的數字都是以IEEE-754標準格式表示的。 浮點數的精確度問題不是JavaScript特有的,因為有些小數以二進位表示位數是無窮的:

十進制           二進制
0.1              0.0001 1001 1001 1001 ...
0.2              0.0011 0011 0011 0011 ...
0.3              0.0100 1100 1100 1100 ...
0.4              0.0110 0110 0110 0110 ...
0.5              0.1
0.6             

所以例如 1.1 ,其程式實際上無法真正的表示 ‘1.1',而只能做到一定程度上的準確,這是無法避免的精度丟失:

1.09999999999999999

在JavaScript中問題還要複雜些,這裡只給一些在Chrome中測試資料:

 輸入               輸出

1.0-0.9 == 0.1        False
1.0-0.6 == 0.4     True
1.0- 0.5 == 0.5     True
1.0-0.4 == 0.6     True
1.0-0.3 == 0.7     True
1.0.3 == 0.7     True
1.0-0.20.     True

解決

那如何來避免這類 1.0-0.9 != 0.1 的非bug型問題發生呢?下面給出一種目前用的比較多的解, 在判斷浮點運算結果前對計算結果進行精度縮小,因為在精度縮小的過程總會自動四捨五入:


複製程式碼 程式碼如下:(1.0-0.9).toFixed(digits)        間
parseFloat((1.0-0.9).toFixed(10)) === 0.1   // 結果為True
parseFloat((1.0-0.8).toFixed(10)) === 0.2   // 結果為True
parseFloat((1.0-0.7).toFixed(10)) === 0.3   // 結果為True
parseFloat((11.0-11.8).toFixed(10)) === -0.8  // 結果為True


方法提煉


複製程式碼 程式碼如下: >// 透過isEqual工具方法判斷數值是否相等function isEqual(number1, number2, digits){ digits = digits == undefined? 10: digits; // 預設精確度為10}

isEqual(1.0-0.7, 0.3);  // return true

// 原生擴充方式,偏好物件導向的風格
Number.prototype.isEqual = function(number, digits){
 digits = digits == undefined? 10: digits; // 預設精確度為預設精確度10 return this.toFixed(digits) === number.toFixed(digits);

}

(1.0-0.7).isEqual(0.3); // return true


相關標籤:
來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板