浮点数运算导致精度丢失

58 阅读1分钟

Date: 2017-04-03

资料地址:segmentfault.com/a/119000000…

解决一:使用math.js库

解决二:使用函数

加法运算(0.1 + 0.2)

function accAdd(arg1, arg2) {    
  var r1, r2, m, c;    
  try {
    r1 = arg1.toString().split(".")[1].length;
  } catch (e) {
    r1 = 0;
  } try {
    r2 = arg2.toString().split(".")[1].length;
  } catch (e) {
    r2 = 0;
  }
  c = Math.abs(r1 - r2);
  m = Math.pow(10, Math.max(r1, r2));    
  if (c > 0) {        
    var cm = Math.pow(10, c);        
    if (r1 > r2) {
      arg1 = Number(arg1.toString().replace(".", ""));
      arg2 = Number(arg2.toString().replace(".", "")) * cm;
    } else {
      arg1 = Number(arg1.toString().replace(".", "")) * cm;
      arg2 = Number(arg2.toString().replace(".", ""));
    }
  } else {
    arg1 = Number(arg1.toString().replace(".", ""));
    arg2 = Number(arg2.toString().replace(".", ""));
  }  
  return (arg1 + arg2) / m;
}
//给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function (arg) {   
  return accAdd(arg, this);
};

减法运算(0.3 - 0.1)

function accSub(arg1, arg2) {    
  var r1, r2, m, n;    try {
    r1 = arg1.toString().split(".")[1].length;
  } catch (e) {
    r1 = 0;
  } try {
    r2 = arg2.toString().split(".")[1].length;
  } catch (e) {
    r2 = 0;
  }
  m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //动态控制精度长度
  n = (r1 >= r2) ? r1 : r2;    
  return ((arg1 * m - arg2 * m) / m).toFixed(n);
}
// 给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.sub = function (arg) {    
  return accMul(arg, this);
};

乘法运算(1.1 * 100)

function accMul(arg1, arg2) {    
  var m = 0, s1 = arg1.toString(), s2 = arg2.toString();    
  try {
    m += s1.split(".")[1].length;
  } catch (e) {
  }    
  try {
    m += s2.split(".")[1].length;
  } catch (e) {
  }    
  return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}
// 给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.mul = function (arg) {    
  return accMul(arg, this);
};

除法运算(111 / 1.11)

function accDiv(arg1, arg2) {    
  var t1 = 0, t2 = 0, r1, r2;    
  try {
    t1 = arg1.toString().split(".")[1].length;
  } catch (e) {
  }    
  try {
    t2 = arg2.toString().split(".")[1].length;
  } catch (e) {
  }    
  r1 = Number(arg1.toString().replace(".", ""));
  r2 = Number(arg2.toString().replace(".", ""));        
  return (r1 / r2) * Math.pow(10, t2 - t1);
}
//给Number类型增加一个div方法,调用起来更加方便。
Number.prototype.div = function (arg) {    
  return accDiv(this, arg);
};