聊聊js的运算精度问题

聊聊js的运算精度问题

都知道拿js去做运算肯定会遇到计算精准的问题(或称舍入误差),但是怎么避开这些坑,这里是我从网上整理的方案,欢迎探讨。

1.jpg

精准丢失的原因

计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示,如 圆周率 3.1415926…,1.3333… 等。JavaScript 使用 64 位存储数字类型,因此超出的会舍去。舍去的部分就是精度丢失的部分。

以下是十进制小数对应的二进制表示

0.1 >> 0.0001 1001 1001 1001…(1001无限循环)0.2 >> 0.0011 0011 0011 0011…(0011无限循环)

登录后复制

解决方案

如需要更加复杂的计算类库,可以考虑 math.js等知名类库

浮点数(小数)

对于小数,前端出现问题的几率还是很多的,尤其在一些电商网站涉及到金额等数据。解决方式:把小数放到位整数(乘倍数),再缩小回原来倍数(除倍数)转换成整数后的运算结果 不能超过 Math.pow(2,53)

// 0.1 + 0.2(0.1*10 + 0.2*10) / 10 == 0.3 // true

登录后复制

浮点精准运算

/** * floatObj 包含加减乘除四个方法,能确保浮点数运算不丢失精度 * * ** method ** *  add / subtract / multiply /divide * * ** explame ** *  0.1 + 0.2 == 0.30000000000000004 (多了 0.00000000000004) *  0.2 + 0.4 == 0.6000000000000001  (多了 0.0000000000001) *  19.9 * 100 == 1989.9999999999998 (少了 0.0000000000002) * * floatObj.add(0.1, 0.2) >> 0.3 * floatObj.multiply(19.9, 100) >> 1990 * */var floatObj = function() {    /*     * 判断obj是否为一个整数     */    function isInteger(obj) {        return Math.floor(obj) === obj    }    /*     * 将一个浮点数转成整数,返回整数和倍数。如 3.14 >> 314,倍数是 100     * @param floatNum {number} 小数     * @return {object}     *   {times:100, num: 314}     */    function toInteger(floatNum) {        var ret = {times: 1, num: 0}        if (isInteger(floatNum)) {            ret.num = floatNum            return ret        }        var strfi  = floatNum + ''        var dotPos = strfi.indexOf('.')        var len    = strfi.substr(dotPos+1).length        var times  = Math.pow(10, len)        var intNum = parseInt(floatNum * times + 0.5, 10)        ret.times  = times        ret.num    = intNum        return ret    }    /*     * 核心方法,实现加减乘除运算,确保不丢失精度     * 思路:把小数放大为整数(乘),进行算术运算,再缩小为小数(除)     *     * @param a {number} 运算数1     * @param b {number} 运算数2     * @param digits {number} 精度,保留的小数点数,比如 2, 即保留为两位小数     * @param op {string} 运算类型,有加减乘除(add/subtract/multiply/divide)     *     */    function operation(a, b, digits, op) {        var o1 = toInteger(a)        var o2 = toInteger(b)        var n1 = o1.num        var n2 = o2.num        var t1 = o1.times        var t2 = o2.times        var max = t1 > t2 ? t1 : t2        var result = null        switch (op) {            case 'add':                if (t1 === t2) { // 两个小数位数相同                    result = n1 + n2                } else if (t1 > t2) { // o1 小数位 大于 o2                    result = n1 + n2 * (t1 / t2)                } else { // o1 小数位 小于 o2                    result = n1 * (t2 / t1) + n2                }                return result / max            case 'subtract':                if (t1 === t2) {                    result = n1 - n2                } else if (t1 > t2) {                    result = n1 - n2 * (t1 / t2)                } else {                    result = n1 * (t2 / t1) - n2                }                return result / max            case 'multiply':                result = (n1 * n2) / (t1 * t2)                return result            case 'divide':                result = (n1 / n2) * (t2 / t1)                return result        }    }    // 加减乘除的四个接口    function add(a, b, digits) {        return operation(a, b, digits, 'add')    }    function subtract(a, b, digits) {        return operation(a, b, digits, 'subtract')    }    function multiply(a, b, digits) {        return operation(a, b, digits, 'multiply')    }    function divide(a, b, digits) {        return operation(a, b, digits, 'divide')    }    // exports    return {        add: add,        subtract: subtract,        multiply: multiply,        divide: divide    }}();

登录后复制

使用方法:

floatTool.add(a,b);//相加floatTool.subtract(a,b);//相减floatTool.multiply(a,b);//相乘floatTool.divide(a,b);//相除

登录后复制

超大整数

虽然运算结果不超过Math.pow(2,53)的整数(9007199254740992)也可以使用上面的方法,但是如果就是有超过的呢,实际场景中可能会是一些批次号、号段之类的需求,这里我也找到了一个解决方案,直接上代码。

在线运算:https://www.shen.ee/math.html

function compare(p, q) {  while (p[0] === '0') {    p = p.substr(1);  }  while (q[0] === '0') {    q = q.substr(1);  }  if (p.length > q.length) {    return 1;  } else if (p.length  b) {        return 1;      } else if (a  0) {    point += fill = B.length - A.length;  }  for (let i = 0; i  lb) {      max = Math.ceil((parseInt(Adb.substr(0, 2)) + 1) / b0);    } else {      result.push(0);      Adb += A[0];      A = A.substr(1);      continue;    }    for (let i = max - 1; i >= 0; i--) {      if (i === 0) {        result.push(0);        Adb += A[0];        A = A.substr(1);        break;      } else {        temp = temp || multiply(B, i + '');        r = compare(temp, Adb);        if (r === 0 || r === -1) {          result.push(i);          if (r) {            Adb = reduce(Adb, temp);            Adb += A[0];          } else {            Adb = A[0];          }          A = A.substr(1);          break;        } else {          temp = reduce(temp, B);        }      }    }    temp = 0;  }  for (let i = 0; i  0; i--) {    result[i] += '';    if (result[i].length > -l) {      result[i - 1] += parseInt(result[i].slice(0, l));      result[i] = result[i].substr(l);    }    while (result[i].length  0; i--) {    result[i] += '';    if (result[i].length > -l) {      result[i - 1] += 1;      result[i] = result[i].substr(1);    } else {      while (result[i].length  -l) {    result[0] = (result[0] + '').substr(1);    result.unshift(parseInt(A.substr(l)) + 1);    A = A.slice(0, l);  }  if (A) {    while ((result[0] + '').length  0; i--) {      if (result[i] > 0) {        result[i] -= N;        result[i - 1]++;      }      result[i] *= -1;      result[i] += '';      while (result[i].length  0; i--) {      if (result[i] 

使用方法:不可使用负数,参数最好使用字符串

divide(A,B)    // 除法multiply(A,B)    //乘法add(A,B)    //加法reduce(A,B)    //减法

登录后复制

toFixed 的修复

在Firefox / Chrome中,toFixed并不会对于最后一位是5的如愿以偿的进行四舍五入。

1.35.toFixed(1) // 1.4 正确1.335.toFixed(2) // 1.33  错误1.3335.toFixed(3) // 1.333 错误1.33335.toFixed(4) // 1.3334 正确1.333335.toFixed(5)  // 1.33333 错误1.3333335.toFixed(6) // 1.333333 错误

登录后复制

Firefox 和 Chrome的实现没有问题,根本原因还是计算机里浮点数精度丢失问题。

修复方式:

function toFixed(num, s) {    var times = Math.pow(10, s)    var des = num * times + 0.5    des = parseInt(des, 10) / times    return des + ''}

登录后复制

本篇文章到这里就已经全部结束了,更多其他精彩内容可以关注PHP中文网的JavaScript视频教程栏目!  

以上就是聊聊js的运算精度问题的详细内容,更多请关注【创想鸟】其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至253000106@qq.com举报,一经查实,本站将立刻删除。

发布者:PHP中文网,转转请注明出处:https://www.chuangxiangniao.com/p/2729765.html

(0)
上一篇 2025年3月8日 00:09:38
下一篇 2025年3月8日 00:09:50

AD推荐 黄金广告位招租... 更多推荐

相关推荐

  • JS数组基础知识(总结)

    本篇文章给大家总结一些js数组基础知识,有一定的参考价值,有需要的朋友可以参考一下,希望对大家有所帮助。 数组:存储一组有序的数据 数组的作用:一次性存储多个数据 数组的定义方式: 1、构造函数定义数组: var 数组名=new Array…

    2025年3月8日
    200
  • 5种正确处理JS的this指向的方式

    我喜欢在JS中更改函数执行上下文的指向,也称为 this 指向。 例如,咱们可以在类数组对象上使用数组方法: const reduce = Array.prototype.reduce;function sumArgs() {  retur…

    2025年3月8日
    200
  • 详解JS箭头函数

    在js中,箭头函数可以像普通函数一样以多种方式使用。但是,它们一般用于需要匿名函数表达式,例如回调函数。 下面示例显示举例箭头函数作为回调函数,尤其是对于map(), filter(), reduce(), sort()等数组方法。 con…

    2025年3月8日
    200
  • JavaScript中对象属性详解

    JavaScript 中的对象概念的确很容易让人困惑。看下面一个例子: var strPrimitive = “I’m mamacat”;typeof strPrimitive; // “string”strPrimitive instan…

    2025年3月8日
    200
  • JavaScript中你所不知道的sort方法

    在平时的业务开发中,数组(array) 是我们经常用到的数据类型,那么对数组的排序也很常见,除去使用循环遍历数组的方法来排列数据,使用js数组中原生的方法 sort 来排列(没错,比较崇尚js原生的力量)。  【相关课程推荐:JavaScr…

    2025年3月8日
    200
  • three.js使用gpu选取物体并计算交点位置

    光线投射法 使用three.js自带的光线投射器(Raycaster)选取物体非常简单,代码如下所示: var raycaster = new THREE.Raycaster();var mouse = new THREE.Vector2(…

    2025年3月8日
    200
  • js中相等判断===、==、Object.is()的区别

    相信刚接触js的人都会被他的相等性判断给整糊涂,看看下面代码,你能答对几个? NaN === NaN // falseNaN == NaN // falseObject.is(NaN, NaN) // true0 == false  // …

    2025年3月8日
    200
  • 纯js实现3d相册(附源码)

    纯javascript实现 旋转木马/3d相册特效(鼠标拖拽旋转) 先来看看效果图 说一下实现的思路 旋转木马是通过依靠拥有景深(perspective)属性的盒子(此处盒子id起为:perspective)产生向网页内部的延伸感,并让装有…

    2025年3月8日
    200
  • 浅谈JS函数及闭包

    每声明一个函数就会产生一个作用域。而外面的作用域访问不了里面的作用域(把里面的变量和函数隐藏起来),而里面的可以访问到外面的。对于隐藏变量和函数是一个非常有用的技术。 基于作用域隐藏的方法叫做最小授权或最小暴露原则。 这个原则是指在软件设计…

    2025年3月8日
    200
  • 浅谈json.stringify()和json.parse()的应用

    本篇文章给大家浅谈一下json.stringify()和json.parse(),通过代码示例来看看应用。有一定的参考价值,有需要的朋友可以参考一下,希望对大家有所帮助。 JSON.stringify()将 js 对象转换为 JSON 字符…

    2025年3月8日
    200

发表回复

登录后才能评论