javascript中数字存储使用的是ieee754 64位双精度浮点数
在计算机中存储为64位
1 11 52
1: 符号位 0正数 1负数
11: 指数位 用来确定范围
52: 尾数位 用来确定精度
转成十进制表示法为
num = (-1)^s * (1.f) * 2^EE = e - 1023s:符号位e:指数位f:尾数位1023偏正值 使得指数位真实取值为[-1023, 1024] 而非 [0, 2047] 目的是为了方便比较大小实际指数值 = 阶码 - 偏正值阶码 = 指数的移码 - 1移码与补码符号为互为取反举例:如果指数位实际值为-1原码:100 0000 0001反码:111 1111 1110补码:111 1111 1111移码:011 1111 1111阶码:011 1111 1110 = 1022也可以通过阶码 = 指数 + 偏正值 = -1 + 1023 = 1022 = 011 1111 1110来计算得到
登录后复制
指数位全0和全1有特殊含义,在后面会讲到,用来表示+-0 和 +-∞
特殊值
机器精度
del = 2^-52
接下来解释一下为什么在使用IEEE754标准的语言中0.1 + 0.2 = 0.30000000000000004
首先我们计算下0.1的二进制
0.1 * 2 = 0
0.2 * 2 = 0
0.4 * 2 = 0
0.8 * 2 = 1
0.6 * 2 = 1
0.2 * 2 = 0
0.4 * 2 = 0
0.8 * 2 = 1
0.6 * 2 = 1
0.2 * 2 = 0
….
所以0.1的二进制为 0.0001100110011001100…循环,
可以转换为2^-4 * 1.100110011001100…
由于保留位数共52位,不包括最左边整数位1,
所以最终在计算机中存储的数值是:2^-4 * 1.100 11001100 11001100 11001100 11001100 11001100 11001100 1
同理0.2
0.2 * 2 = 0
0.4 * 2 = 0
0.8 * 2 = 1
0.6 * 2 = 1
0.2 * 2 = 0
0.4 * 2 = 0
0.8 * 2 = 1
0.6 * 2 = 1
…
所以0.2的二进制为 0.001100110011001100…循环,
可以转换为2^-3 * 1.100110011001100…
最易最终在计算机中存储的数值是:2^-3 * 1.100 11001100 11001100 11001100 11001100 11001100 11001100 1
两者相加
0.0001100 11001100 11001100 11001100 11001100 11001100 11001100 1
+
0.001100 11001100 11001100 11001100 11001100 11001100 11001100 1
= 0.0 10011001 10011001 10011001 10011001 10011001 10011001 10011
≈ 0.30000000000000004
以上就是解析js中0.1 + 0.2 != 0.3的详细内容,更多请关注【创想鸟】其它相关文章!
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至253000106@qq.com举报,一经查实,本站将立刻删除。
发布者:PHP中文网,转转请注明出处:https://www.chuangxiangniao.com/p/2786160.html