> 웹 프론트엔드 > JS 튜토리얼 > js_javascript 기술의 부동 소수점 연산 문제에 대한 간략한 분석

js_javascript 기술의 부동 소수점 연산 문제에 대한 간략한 분석

WBOY
풀어 주다: 2016-05-16 17:05:18
원래의
1009명이 탐색했습니다.

js에서는 부동 소수점 연산이 어떻게 수행되나요?

예: var a=0.69;

var c=a*10;을 작성하여 6.9를 얻고 싶습니다.

alert(c); 결과는 다음과 같습니다: 6.8999999999999995

온라인에서 검색한 결과 일부 네티즌은 이것이 JS 부동 소수점 계산 버그라고 말하고 해결책을 찾았습니다.

방법 1: js 사용자 정의 기능 사용

코드 복사 코드는 다음과 같습니다. 다음:

<스크립트>

//정확한 덧셈 결과를 얻기 위해 사용되는 덧셈 함수
//설명: JavaScript의 덧셈 결과에는 오류가 있으며, 이는 두 개의 부동 소수점 숫자를 더할 때 더 분명해집니다. 이 함수는 더 정확한 덧셈 결과를 반환합니다.
//Call: accAdd(arg1,arg2)
//반환 값: arg1과 arg2의 정확한 결과
function accAdd(arg1,arg2){
var r1,r2,m
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(". ")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (arg1*m arg2*m)/ m
}
//Number 타입에 add 메소드를 추가하여 더욱 편리하게 통화할 수 있습니다.
Number.prototype.add = 함수(arg){
return accAdd(arg,this)
}

//정확한 덧셈 결과를 얻기 위해 사용되는 덧셈 함수
//설명: JavaScript의 덧셈 결과에는 오류가 있으며, 이는 두 개의 부동 소수점 숫자를 더할 때 더 분명해집니다. 이 함수는 더 정확한 덧셈 결과를 반환합니다.
//Call: accAdd(arg1,arg2)
//반환 값: arg1과 arg2의 정확한 결과
function accSub(arg1,arg2){
var r1,r2,m,n ;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split( ".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
//deeka가 마지막으로 수정
//동적 제어 정밀도 길이
n=(r1>=r2)?r1:r2;
return ((arg1*m-arg2*m)/m).toFixed(n);
}

//정확한 나눗셈 결과를 얻기 위해 사용되는 나눗셈 함수
//설명: JavaScript의 나눗셈 결과에는 오류가 있으며, 이는 두 개의 부동 소수점 숫자를 나눌 때 더 분명해집니다. 이 함수는 더 정확한 나누기 결과를 반환합니다.
//Call: accDiv(arg1,arg2)
//반환 값: arg1을 arg2로 나눈 정확한 결과
function accDiv(arg1,arg2){
var t1=0,t2= 0 ,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString(). 분할 (".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""))
r2=Number(arg2.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1)
}
}
//Number 유형에 div 메소드를 추가하면 통화가 더욱 편리해집니다.
Number.prototype.div = 함수(arg){
return accDiv(this, arg)
}

//정확한 곱셈 결과를 얻기 위해 사용되는 곱셈 함수
//설명: JavaScript의 곱셈 결과에는 오류가 있으며, 이는 두 개의 부동 소수점 숫자를 곱할 때 더 분명해집니다. 이 함수는 더 정확한 곱셈 결과를 반환합니다.
//Call: accMul(arg1,arg2)
//반환 값: arg1에 arg2를 곱한 정확한 결과
function accMul(arg1,arg2)
{
var m=0 , s1=arg1.toString(),s2=arg2.toString();
try{m =s1.split(".")[1].length}catch(e){}
try{m = s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".", " "))/Math.pow(10,m)
}
//Number 유형에 mul 메소드를 추가하여 보다 편리하게 호출할 수 있습니다.
Number.prototype.mul = 함수(arg){
return accMul(arg, this)
}

var a=0.69;
var b=10;
alert(a*b);//6.8999999999999995
alert((a*100)/10);


함수를 직접 호출하면 됩니다.

방법 2: 소수점 자릿수를 알고 있다면 부동 소수점 수를 정수로 증폭(그리고 마지막으로 해당 배수로 나누는 것)하는 것을 고려할 수 있습니다. 그런 다음 올바른 결과를 얻을 수 있도록 계산 작업을 수행하십시오

alert(11*22.9);//251.89999999999998 가져오기
alert(11*(22.9*10)/10);//251.9 가져오기

관련 라벨:
원천:php.cn
본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.
최신 이슈
인기 튜토리얼
더>
최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿