ホームページ > ウェブフロントエンド > jsチュートリアル > javascript_javascriptスキルにおけるfloat演算精度の分析例

javascript_javascriptスキルにおけるfloat演算精度の分析例

WBOY
リリース: 2016-05-16 18:20:49
オリジナル
1530 人が閲覧しました

誰かが JS の質問をしました:

コードをコピー コードは次のとおりです:

var i = 0.07;
var r = i*100;
alert(r);

情報を確認すると、実際には次のようになります。変数を格納する場合、数値型と浮動小数点型の区別はありませんが、一律に浮動小数点数として格納されます。 JavaScript は、IEEE 754-2008 標準で定義された 64 ビット浮動小数点形式を使用して、IEEE 754 の定義に従います: http://en.wikipedia.org/wiki/IEEE_754-2008
の長さ。 10 進数 64 に対応する整数は 10、小数部の長さは 16 であるため、デフォルトの計算結果は「7.0000000000000001」になります。最後の小数点が 0 の場合、1 を有効桁フラグとして受け取ります。

同様に、1/3 の結果は 0.3333333333333333 になるはずだと想像できます。
では、この値を修正するにはどうすればよいでしょうか?
次のメソッドを使用できます:

1. parseInt
var r4=parseInt(i*100);


2. .round
var r2=Math.round((i*100)*1000)/1000;

上記の 2 つのメソッドはどちらも 7 を取得できます。
完全なテスト コード:

コードをコピー コードは次のとおりです。
🎜>
テスト スクリプト



関連ラベル:
ソース:php.cn
このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。
人気のチュートリアル
詳細>
最新のダウンロード
詳細>
ウェブエフェクト
公式サイト
サイト素材
フロントエンドテンプレート