• 技术文章 >web前端 >js教程

    详解JS- 浮点数运算处理

    高洛峰高洛峰2016-12-05 09:41:27原创715
    一. 问题描述

    最近在做一个项目,页面上会存在一些JS浮点数的运算,发现JS浮点数运算存在一些bug.譬如:

    0.1+0.2 == 0.30000000000000004
      
    0.1 + 0.7 == 0.7999999999999999
      
    7*0.8 == 5.6000000000000005
      
    5.6/7 == 0.7999999999999999

    二.解决方案  

    JS运算后都会有很小的误差. 不像.Net或者Java那样准确. 主要是JS重点不在运算上面,可是有时候项目一定要用到.想了一下大概有两种解决方案

    A 方案一:

    运算结果保留2-3位小数位数. 前端界面一般用到的运算比较少。精度要求不会太高。 所以取2位小数位即可。

    B. 方案二:

    将小数位数转换为整数运算. 譬如:

    0.1+0.2 =》 (1+2)/10 == 0.3
      
    0.1 + 0.7 =》 (1+7)/10 == 0.8
      
    7*0.8 == (7*8)/10 == 5.6
      
    5.6/7 == (56/7)/10 == 0.1

    为了方便调用. 所以我们可以提取一个公共的方法出来.譬如下面的JSMath库,JSMath重写了加减乘除. 会先将参数转换为整数再运算JSMath(参数1).操作(参数2)

    参数1和参数2分别就是运算的第一个Number和第二个Number. 计算后通过Value属性获取值.

    (function() {
      
      var JSMath = function() {
        return this;
      }
      
      JSMath.prototype.from = function(value) {
      
        // 支持JSMath参数传递主要是用于嵌套的调用
        if ((typeof(value) == 'object') && (value.value != undefined)) {
          this.value = value.value;
        } else {
          this.value = value;
        }
        return this;
      }
      
      // 加法
      JSMath.prototype.add = function(value) {
        var thisValueString = this.value.toString();
        var valueString = value.toString();
        var timesCount1 = 0;
        var timesCount2 = 0;
        if (thisValueString.indexOf('.') > 0) {
          timesCount1 = thisValueString.split('.')[1].length;
        }
        if (valueString.indexOf('.') > 0) {
          timesCount2 = valueString.split('.')[1].length;
        }
        var maxtimeCount = timesCount1 > timesCount2 ? timesCount1 : timesCount2;
        this.value = (Math.pow(10, maxtimeCount) * this.value + Math.pow(10, maxtimeCount) * value) / Math.pow(10, maxtimeCount);
        return this;
      }
       
     // 减法
      JSMath.prototype.sub = function(value) {
        var thisValueString = this.value.toString();
        var valueString = value.toString();
        var timesCount1 = 0;
        var timesCount2 = 0;
        if (thisValueString.indexOf('.') > 0) {
          timesCount1 = thisValueString.split('.')[1].length;
        }
        if (valueString.indexOf('.') > 0) {
          timesCount2 = valueString.split('.')[1].length;
        }
        var maxtimeCount = timesCount1 > timesCount2 ? timesCount1 : timesCount2;
        this.value = (Math.pow(10, maxtimeCount) * this.value - Math.pow(10, maxtimeCount) * value) / Math.pow(10, maxtimeCount);
        return this;
      }
      
      // 除法  
      JSMath.prototype.div = function(value) {
        var thisValueString = this.value.toString();
        var valueString = value.toString();
        var timesCount1 = 0;
        var timesCount2 = 0;
        if (thisValueString.indexOf('.') > 0) {
          timesCount1 = thisValueString.split('.')[1].length;
        }
        if (valueString.indexOf('.') > 0) {
          timesCount2 = valueString.split('.')[1].length;
        }
        var maxtimeCount = timesCount1 > timesCount2 ? timesCount1 : timesCount2;
        this.value = ((Math.pow(10, maxtimeCount) * this.value) / (Math.pow(10, maxtimeCount) * value));
        return this;
      }
      
      // 乘法
      JSMath.prototype.times = function(value) {
      
        var thisValueString = this.value.toString();
        var valueString = value.toString();
        var timesCount1 = 0;
        var timesCount2 = 0;
        if (thisValueString.indexOf('.') > 0) {
          timesCount1 = thisValueString.split('.')[1].length;
        }
        if (valueString.indexOf('.') > 0) {
          timesCount2 = valueString.split('.')[1].length;
        }
        var maxtimeCount = timesCount1 > timesCount2 ? timesCount1 : timesCount2;
        this.value = (Math.pow(10, maxtimeCount) * this.value * Math.pow(10, maxtimeCount) * value) / Math.pow(10, maxtimeCount * 2);
        return this;
      }
      
      if (window.JSMath == undefined) {
        window.JSMath = function(value) {
          var result = new JSMath();
          result.from(value);
          return result;
        }
      }
    })()

    B1.基本运算

      0.1+0.2
    => JSMath(0.1).add(0.2).value == 0.3
      
    7+0.8
    => JSMath(7).times(0.8).value == 5.6
      
    5.6/7
    => JSMath(5.6).div(7).value = 0.8

    B2.多目运算

      0.05 + 0.05 + 0.2
    => JSMath(JSMath(0.05).add(0.05)).add(0.2).value == 0.3
      
    (5+0.6)/7
    => JSMath(JSMath(5).add(0.6)).div(7).value == 0.8

    三.小总结

    上面自己自己暂时知道的一些解决方案.不太清楚是否有开源的更可靠的三方库来解决这个问题。

    声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn核实处理。
    专题推荐:JS
    上一篇:Javascript 判断两个IP是否在同一网段实例代码 下一篇:javascript实现无法关闭的弹框
    VIP课程(WEB全栈开发)

    相关文章推荐

    • 【活动】充值PHP中文网VIP即送云服务器• 聊聊Node.js中的http模块• 一文带你了解npm的原理• 聊聊npm配置国内镜像(淘宝镜像)• 深入解析npm的包管理机制• 深入浅析package.json文件
    1/1

    PHP中文网