浮点数为什么不精确?
其实这句话本身就不精确, 相对精确一点的说法是: 我们码农在程序里写的10进制小数,计算机内部无法用二进制的小数来精确的表达。
什么是二进制的小数? 就是形如 101.11 数字,注意,这是二进制的,数字只能是0和1。
101.11 就等于 1 * 2^2 +0 *2^1 + 1*2^0 + 1*2^-1 + 1*2^-2 = 4+0+1+1/2+1/4 = 5.75
下面的图展示了一个二进制小数的表达形式。
从图中可以看到,对于二进制小数,小数点右边能表达的值是 1/2, 1/4, 1/8, 1/16, 1/32, 1/64, 1/128 … 1/(2^n)
现在问题来了, 计算机只能用这些个 1/(2^n) 之和来表达十进制的小数。
我们来试一试如何表达十进制的 0.2 吧。
0.01 = 1/4 = 0.25 ,太大
0.001 =1/8 = 0.125 , 又太小
0.0011 = 1/8 + 1/16 = 0.1875 , 逼近0.2了
0.00111 = 1/8 + 1/16 + 1/32 = 0.21875 , 又大了
0.001101 = 1/8+ 1/16 + 1/64 = 0.203125 还是大
0.0011001 = 1/8 + 1/16 + 1/128 = 0.1953125 这结果不错
0.00110011 = 1/8+1/16+1/128+1/256 = 0.19921875
已经很逼近了, 就这样吧。
这就是我说的用二进制小数没法精确表达10进制小数的含义。
浮点数的计算机表示
那计算机内部具体是怎么表示的呢?
计算机不可能提供无限的空间让程序去存储这些二进制小数。
它需要规定长度, 在Java 中, 提供了两种方式: float 和double , 分别是32位和64位。
可以这样查看一下一个float的内部表示(以0.09f为例):
Float.floatToRawIntBits(0.09f)
你将会得到:1035489772, 这是10进制的, 转化成二进制, 在前面加几个0补足 32位就是:
0 01111011 01110000101000111101100
你可以看到它分成了3段:
第一段代表了符号(s) : 0 正数, 1 负数 , 其实更准确的表达是 (-1) ^0
第二段是阶码(e):01111011 ,对应的10进制是 123
第三段是尾数(M)
你看到了尾数和阶码,就会明白这其实是所谓的科学计数法:
(-1)^s * M * 2^e
对于0.09f 的例子,就是:
0101110000101000111101100 * (2^123)
好像不对,这肯定远远大于0.09f !
这是因为浮点数遵循的是IEEE754 表示法, 我们刚才的s(符号) 是对的,但是 e(阶码)和 M(尾数)需要变换:
对于阶码e , 一共有8位, 这是个有符号数, 特别是按照IEEE754 规范, 如果不是0或者255, 那就需要减去一个叫偏置量的值,对于float 是127
所以 E = e - 127 = 123-127 = -4
对于尾数M ,如果阶码不是0或者255, 他其实隐藏了一个小数点左边的一个 1 (节省空间,充分压榨每一个bit啊)。
即 M = 1.01110000101000111101100
现在写出来就是:
1.01110000101000111101100 * 2^-4
=0.000101110000101000111101100
= 1/16 + 1/64 + 1/128+ 1/256 + ….
= 0.0900000035762786865234375
你看这就是0.09的内部表示, 很明显他比0.09更大一些, 是不精确的!
64位的双精度浮点数double是也是类似的, 只是尾数和阶码更长, 能表达的范围更大。
符号位 :1位
阶码 : 11位
尾数: 52位
上面的例子0.09f 其实是所谓的规格化的浮点数, 还有非规格化的浮点数,这里就不展开了。
使用浮点数
由于浮点数表示的这种“不精确性”或者说是“近似性”, 对于精确度要求不高的运算还行, 如果我们用float或者double 来做哪些要求精确的运算(例如银行)时就要小心了, 很可能得不到你想要的结果。
具体的改进方法推荐大家看看《Effective Java》在第48条所推荐的“使用BigDecimal来做精确运算”。
相关推荐
NULL 博文链接:https://xide829.iteye.com/blog/663554
Java对浮点数的计算是不精确的,比如0.05+0.01结果不是0.06,而是0.060000000000000005,更有甚者,一个数除以0.0,Java是不会抛异常,而是得出无穷大的结果.本工具类解决了上述问题.该类提供了加减乘除四则运算的精确计算...
为什么float型浮点数9.87654321 > 9.87654322不成立?为何10.2 - 9的结果不是1.2,而是1.1999998?为何987654321 + 987.654322的结果不是987655308.654322? 如何才能精确比较浮点数真实的大小? 看完本文档,你...
在计算机中有关浮点数转二进制的计算方法,里面讲得很清楚,原来是PPT文档,我已转成PDF的格式,看起来非常舒服。在编程中,特别是一些算法中经常用会一些浮点数的计算
为了方便调试电力通信规约,自己写的一个小工具,主要是计算浮点数使用,计算4字节的浮点数.附加了16进制转化10进制的功能.
一个关于浮点数的计算软件,也就是一个浮点数对应的4字节数值是多少,该软件会帮你显示出来,特别在一个通讯传输,或则在调试算法的时候这个软件还是很有用的
浮点数的数据结构 浮点数的数据结构 周末在家,重新学习了⼀下以前不太懂的知识点。浮点数和数据结构。 1 什么是浮点数? 通俗来说带有⼩数点的数都是浮点数。⽐如1.1,121.212,-1.11,-222.111 2 在JAVA中常⽤表⽰...
IEEE浮点数工具.rar IEEE浮点数工具,帮助计算IEEE浮点数
c语言浮点数高精度加法计算
4字节浮点数计算工具
javascript浮点数加法运算精确计算方法,能够有效避免无限循环小数的产生
算法-计算浮点数相除的余(信息学奥赛一本通-T1029)(包含源程序).rar
输入的时候有两个选项:请收入需要转换的浮点数,这个时候如果是想将十进制的数据转换为浮点数的话 直接输入十进制 如果将报文数据转换成十进制的话就需要在一开始的时候先随便输入一个数据跳过“请收入需要转换的...
C语言浮点数转字符串
讲解浮点数载计算机中的表示
向您详细介绍浮点数的表达方式,相信您一定会有所收获。
STEP7 Wincc中变量如何显示小数或浮点数?
深入介绍浮点数的存储形式,讲解误差形成的缘由!新的层面,新的认知!!
输入4个字节的浮点数,自动装换成浮点数。还有16进制转换
计算机之所以叫"计算"机就是因为发明它主要是用来计算的,"计算"当然是它的特长,在大家的印象中,计算一定是非常准确的。但实际上,即使在一些非常基本的小数运算中,计算的结果也是不精确的。