首頁 > web前端 > js教程 > js小數運算出現多位小數如何解

js小數運算出現多位小數如何解

PHPz
發布: 2018-09-28 17:30:38
原創
2905 人瀏覽過

關於JavaScript小數進行加、減、乘、除出現多位小數問題,自己研究了一下,而且作了相關的測試,收穫不少知識點,需要的朋友可以參考下。

跟大家分享一個有趣的測驗:

0.1 0.2 == 0.3 //false
頓時鬱悶,好!原來0.1 0.2變成:0.30000000000000004
再來一個2.4/0.8 =>2.9999999999999996 沒辦法換種方式,都轉換成整數(2.4 * 100)/(.又出現了很多的小數10.110000000000001,然後我就用了toFixed 方法來過濾小數,但是不知道跟前面那種轉換成整數後再執行哪種效率高,好!還是試下再說吧!

var date1 = new Date();
for(var i = 0; i < 10000; i++){
 var result1 = (10.22 - 0.11).toFixed(2);    
}
alert(new Date() - date1);//效率低
  
var date2 = new Date();
for(var j = 0; j < 10000; j++){
 var result2 = (10.22 * 1000 - 0.11 * 1000) / 1000;    
}
alert(new Date() - date2);//效率高
 
alert(0.1 + 0.2 == 0.3); //既然返回false
alert(0.1 + 0.2); //既然返回0.30000000000000004
alert(parseFloat(0.1) + parseFloat(0.2)); //还是返回0.30000000000000004
登入後複製
查了一些資料,一是JavaScript 浮點數計算的Bug,另一個是和計算機最終轉換成二進制計算有關係,但是為什麼不是所有小數都會有這種現象,目前我也不清楚,有時間再去深入研究。

解決方法:
解決這個問題兩種方法,第一種就是利用JavaScript 的toFixed(n) 方法,直接取得N 位小數,不過,個人覺得這種方法在資料精度上會有一些問題。如果資料精度要求不高的話可以使用。

alert((0.1 + 0.2).toFixed(1));
登入後複製
第二種方法就是自己寫運算方法。以下是自訂加法函數,使用此方法進行相加會避免上面問題。


//自定义加法运算
function addNum (num1, num2) {
 var sq1,sq2,m;
 try {
  sq1 = num1.toString().split(".")[1].length;
 }
 catch (e) {
  sq1 = 0;
 }
 try {
  sq2 = num2.toString().split(".")[1].length;
 }
 catch (e) {
  sq2 = 0;
 }
 m = Math.pow(10,Math.max(sq1, sq2));
 return (num1 * m + num2 * m) / m;
}
alert(addNum(0.1, 0.2));
登入後複製
當然,簡單一點也可以寫成:alert((num * 3 10 * 3) /3); 這樣也不會出現 N 多位小數。

alert((num * 3 10 * 3) /3); 與alert(num 10); 這兩種寫法計算機在底層轉換成二進制運算是有區別的,或許這就是出現上述問題的原因,還有待我們去深入研究,大家可以多討論。

以上就是本章的全部內容,更多相關教學請訪問

JavaScript影片教學

來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
最新問題
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板