网上有很多帖子讨论浮点数的精度问题,其中有如下命题:
-
0.2+0.4=0.600 000 000 000 000 1
-
0.58*10=5.8
,但0.58*100=57.999 999 999 999 99
,0.58*1000=580
首先,我们可以肯定的是:浮点数是不能完全表示实数集的(从信息论的角度很容易得出此结论),所以必然存在误差。
而对有误差的数据进行计算,会带来累加误差。
这里讨论的都是二进制格式的浮点数表示,不包括十进制等其他进制的表示。
浮点数表示的误差
在IEEE标准中,浮点数用三元组 < 符号位s, 指数e, 有效数字t> 来表示 (-1)s×t×2e。
整数的表示
对于十进制的整数,如果有效数字不太多,则是可以精确表示的。比如100 表示为(-1)0×1.1001×26 。
但是如果有效数字太多,则可能会出问题。比如对于12 345 678 901 234 567 000,即使使用了double(binary64)来表示,结果为1.010 101 101 010 100 101 010 011 000 110 011 101 011 000 111 110 000 1×263,但这个二进制表示其实代表的却是1.234 567 890 123 456 7e19。
小数0.6如何表示?
对于整数,二进制表示只会丢失有效数字,而不会有其他的编号。然而对于小数,则可能会很麻烦,因为小数的二进制表示可能是无限循环的。
比如,对于0.6,的binary64表示:
(0.6)10 = (0.100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 100 1...)2
= (1.001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001...)2×2-1
于是,符号位s=0,指数e为-1,有效数字为1.001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001...
我们知道,binary64的有效数字最多有53位,也就是说
1.001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001... 的黄色部分需要被抛弃。
那么我们应该如何抛弃这部分数据呢?在IEEE中规定了若干舍入方法,一般来说,普遍使用的是roundTiesToEven方式来舍入。
roundTiesToEven方法:round到相邻的浮点数据上。如果两个浮点数据都一样近,
则round到最后一位是偶数的浮点数据上。
由此,0.6~=(-1)0×1.001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 1×2-1。
再试试0.2和0.4
(0.2)10 =(0.001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 1...)2
=(1.100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 1...)2×2-3 。
(0.4)10 =(0.011 001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 0...)2
=(
1.100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 10...)
2×2-2。
使用roundTiesToEven方式舍入黄色部分后,前面的部分加1。也即
0.2 =(1.100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 101 0)2×2-3
0.4 =(1.100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 101 0)2×2-2
其实,0.2和0.4的有效位数是一样的,只是指数不同。
到现在,我们可以发现。0.2和0.4都是向上取整的,也即浮点数表示的值比实际值是要大那么一丢丢的。
浮点数计算误差
浮点数在计算时也是有误差的。
比如对于0.2+0.4,0.2对应的指数是-3, 0.4对应的指数是-2。IEEE要求结果应该优先使用-3作为指数(也即较小的指数值)。
当采用-3作为指数时,0.2和0.4需要表示成
0.2 =( 1.100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 101 0)2×2-3
0.4 =(11.001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 010 )2×2-3
可以看到,小数位后,0.4少了一位,我们需要用0补齐,然后计算加法。得到
0.2+0.4=(100.110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 100 111 0×2-3)2
规则化
0.2+0.4=(1.001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 001 110)2×2-1
我们又需要舍弃黄色部分了,在这里,由于它离两边是一样近的,于是我们round到最后一位是偶数的浮点数上,于是有
0.2+0.4=(1.001 100 110 011 001 100 110 011 001 100 110 011 001 100 110 011 010 0__)2×2-1
请注意:这里我们又往上取整了,也即此处的结果是比实际值要大那么一丢丢的。
而这个结果到底是多少呢?精确结果是0.600 000 000 000 000 088 817 841 970 012 523 233 890 533 447 265 625。
考虑到有效数字,小数点后只保留16位,所以需要舍弃黄色部分,其结果是0.600 000 000 000 000 1=0.600 000 000 000 000 0 + 1E-16。
0.2+0.4的最后那个1来自哪里?
- 对0.2舍入时,我们偏大了一丢丢。>=1.5 × 2-57
- 对0.4舍入时,我们偏大了一丢丢。>=1.5 × 2-56
- 对0.2+0.4舍入时,我们偏大了一丢丢。= 1 × 2-54
- 在输出时,我们又偏大了一丢丢。
哈,我们连续三次偏大了一丢丢,也是偏大发了,就多出了哪个1来了。总共偏差>=(1.5 + 1.5 × 2 + 1 × 2×2×2) * 2-57 = 1.5625 × 2-54 >8.6e-17。考虑到在输出因为四舍五入,从而会多出最后的那个1。
最后的总结
- 浮点数表示可能存在Round
- 浮点数计算可能存在Round
- 结果输出时可能存在Round
这些Round的累加可能会引起有效数字的最后一位偏大或偏小。
题外:对于0.2或0.4,如果采用其他的Round方法,则有可能0.2+0.4=0.6的。而具体采用何种Round,是由语言实现平台决定,或者程序指定的。
分享到:
相关推荐
涉及面试题:为什么 0.1 + 0.2 != 0.3?如何解决这个问题? 原因,因为 JS 采用 IEEE 754双精度版本(64位),并且只要采用 IEEE 754的语言都有该问题 我们都知道计算机是通过二进制来存储东西的,那么 0.1 在二进制...
console.log(0.1+0.2===0.3)// true or false?? 在正常的数学逻辑思维中,0.1+0.2=0.3这个逻辑是正确的,但是在JavaScript中0.1+0.2!==0.3,这是为什么呢?这个问题也会偶尔被用来当做面试题来考查面试者对...
c语言浮点数高精度加法计算
关于浮点数的精度问题,对于了解和学习C语言有一定帮助
最近在做项目的时候,涉及到产品价格的计算,经常会出现JS浮点数精度问题,这个问题,对于财务管理系统的开发者来说,是个非常严重的问题(涉及到钱相关的问题都是严重的问题),这里把相关的原因和问题的解决方案...
问题描述 在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此。 所以我们在打印 1.00 这样的浮点数的结果是 1 而非 1.00 。...// 0.2 + 0.4 = 0.600
JS 数字精度丢失的一些典型问题 JS 数字精度丢失的原因 解决方案(一个对象+一个函数) 一、JS数字精度丢失的一些典型问题 1. 两个简单的浮点数相加 0.1 + 0.2 != 0.3 // true 这真不是 Firebug 的问题,可以用...
浮点数转换器,可将浮点数、单精度 双精度的数值转换为16进制发送
NULL 博文链接:https://xide829.iteye.com/blog/663554
单精度浮点数,双精度浮点数,浮点数是属于有理数中某特定子集的数的数字表示,在计算机中用以近似表示任意某个实数。
本代码将双精度浮点数转换为单精度浮点数,适合浮点数为正值的转换。 使用后将占用VD2810~VD2970字节,欢迎交流。 本代码的完成经历了一段时间的刻苦研究,无偿提供给真正需要的人,希望同行少走弯路。 代码允许复制...
目前支持二进制浮点数的硬件和软件文档中,几乎都声称其浮点数实现符合IEEE 754标准。那么,什么是IEEE 754标准? 最权威的解释是IEEE754标准本身ANSI/IEEE Std 754-1985《IEEE Standard for Binary Floating-Point...
python中表达式4+0.5值的数据类型为? 表达式中4是整数、0.5是浮点数,所以它们相加的值类型是浮点型。 >>> type(4+0.5) 解析如下: Python的整数运算结果仍然是整数,浮点数运算结果仍然是浮点数: 1 + 2 # ==> ...
S7-200SMART_双精度浮点数转换为单精度浮点数库文件及使用说明
js精度,js浮点数,js浮点数计算,js计算精度问题解决方案,js保留小数位,
为了方便调试电力通信规约,自己写的一个小工具,主要是计算浮点数使用,计算4字节的浮点数.附加了16进制转化10进制的功能.
定义一个实数计算类 Real,实现单精度浮点数 +、-、*、 / 基本算术运算。要求:可以进行数据范 围(-3.4e38~3.4e38) 检查,数据溢出时显示错误信息并中断程序运行 输入格式 进行运算的两个单精度浮点数 A、B ...
解决JS浮点数(小数)计算加减乘除的BUG
4字节浮点数计算工具
十进制浮点 to IEEE754浮点 & IBM浮点转换工具 可完成十进制单精度浮点数到IEEE754浮点数、IBM浮点数的转换。