如果a>0,那么1+a一定大于1吗?在数学上,答案是肯定的。但在计算机上,答案就与a的大小和浮点数的精度有关了。在matalb上,可以作以下计算:
>> a=1/2^52
a =
2.220446049250313e-016
>> 1+a>1
ans =
1
>> a=1/2^53
a =
1.110223024625157e-016
>> 1+a>1
ans =
0
可见,当a等于1/2^53时,1+a>1是不成立的。
1 浮点数
IEEE754定义了单精度浮点数和双精度数浮点数,即float和double。float有32bit,double有64bit。它们都包括符号位、指数和尾数。
|
符号位 |
指数 |
尾数 |
float |
31(1) |
30-23(8) |
22-0(23) |
double |
63(1) |
62-52(11) |
51-0(52) |
符号位有1bit,0表示正、1表示负。设一个数的指数是e,指数部分的值是bias+e。加上一个bias是为了表示负数。 float的bias是127,double的bias是1023。指数全0或全1有特殊含义,不算正常指数。
- float的指数部分有8bit,可以取值1~254,减掉127,得到对应的指数范围-126~127。
- double的指数部分有11位,可以取值1~2046,减掉1023,得到对应的指数范围-1022~1023。
这里的指数是以2为底的,同样尾数也是二进制的。IEEE754要求浮点数以规范形式存储,即小数点前有1位非零数字。对于二进制数,非零数字只有1。所以IEEE754在存储时省略了这个小数点前面的1,只存储小数点后面的位。
2 误差
看个例子,设:
double a=0.2;
在PC上,我们可以看到a对应的存储区数据是:
9A 99 99 99 99 99 C9 3F
PC的数据是小尾的,即低位字节在后,将其写成高位字节在前,得到:
3F C9 99 99 99 99 99 9A
可见符号位为0。指数位是0x3FC,即1020,减掉1023,得到指数-3。尾数是999999999999A。所以完整的数字就是16进制的1.999999999999A乘上2^-3。即:
a=(1+9*(1/16+1/16^2+...+1/16^12)+10/16^13)*2^-3
(1/16+...+1/16^12)可以用等比级数求和公式a1*(1-q^n)/(1-q)计算,其中a1=1/16,q=1/16,n=12,因此:
a=(1+9*(1-1/16^12)/15+10/16^13)*2^-3
用windows的计算器计算上式,得到
a=0.2000 0000 0000 0000 1110 2230 2462 5157
这也不是精确解,但已经可以看到用double表示0.2时存在的误差。这个例子说明在用有限字长的二进制浮点数表示任意实数a可能引入误差。设实数a的指数为e,尾数位数为n,显然:
误差<(1/2^n)*2^e
3 精度
可以把机器精度定义为满足条件
fl(1+ε)>1
的最小浮点数ε。其中fl(1+ε)是1+ε的浮点表示。显然double的机器精度是1/2^52。float的机器精度是1/2^23。 matlab内部采用double,1+1/2^53对double来说就是1,所以1+1/2^53不会大于1。
对于规范数来说,因为小数点前默认有个1,所以float的有效数字是24bit,对应8位十进制有效数字; double的有效数字是53bit,对应16位十进制有效数字。
4 特殊的浮点数
前面提到浮点数的指数全0或全1有特殊含义,让我们来看看这些特殊的浮点数:
- 指数和尾数都是全0表示0。根据符号位不同可以分为+0和-0。
- 指数全0,尾数不为全0,这些数是非规范数,即尾数部分不假设前面存在小数点前的1。或者说这些数太接近0了,因为指数已经不能再小,所以这些数不能写成规范形式。例如:double数0000 0000 0000 0001的尾数是0 0000 0000 0001,即1/2^52,对应的数是1/(2^52)*2^-1022,即4.9406564584124654e-324。
- 指数全1,尾数全0表示无穷大,即inf。根据符号位不同可以分为+inf和-inf。
- 指数全1,尾数不为全0表示NaN,即Not a Number,不是数。尾数最高位为1的NaN被称作QNaN(Quiet NaN)。尾数最高位为0的NaN被称作SNaN(Signalling NaN)。通常用QNaN表示不确定的操作,用SNaN表示无效的操作。
在计算机内部,double就是一个64位数。从0x0000 0000 0000 0000~0xFFFF FFFF FFFF FFFF,每个64位数都对应一个浮点数或NaN。我写了一个小程序,按照64位无符号整数的顺序打印出典型的浮点数。表格的第一列是浮点数的内部表示。为了便于阅读,按大尾顺序输出。第二列是对应的浮点数。第三列是注释,对于非规范数和规范数给出了由内部表示计算数值的matlab算式。注意在C/C++中,2^52要写成pow(2.0,52.0)。
0000 0000 0000 0000 |
0.0000000000000000e+000 |
+0 |
0000 0000 0000 0001 |
4.9406564584124654e-324 |
1/(2^52)*2^-1022 |
000F FFFF FFFF FFFF |
2.2250738585072009e-308 |
.5*(1-.5^52)/(1-.5)*2^-1022 |
0010 0000 0000 0000 |
2.2250738585072014e-308 |
1.0*2^-1022 |
0010 0000 0000 0001 |
2.2250738585072019e-308 |
(1+1/2^52)*2^(-1022) |
001F FFFF FFFF FFFF |
4.4501477170144023e-308 |
(1+.5*(1-.5^52)/(1-.5))*2^-1022 |
0020 0000 0000 0000 |
4.4501477170144028e-308 |
1.0*2^-1021 |
3FF0 0000 0000 0000 |
1.0000000000000000e+000 |
1.0 |
3FF0 0000 0000 0001 |
1.0000000000000002e+000 |
1.0+1/(2^52) |
3FFF FFFF FFFF FFFF |
1.9999999999999998e+000 |
1+.5*(1-.5^52)/(1-.5) |
4000 0000 0000 0000 |
2.0000000000000000e+000 |
1.0*2^1 |
7FEF FFFF FFFF FFFF |
1.7976931348623157e+308 |
(1+.5*(1-.5^52)/(1-.5))*2^1023 |
7FF0 0000 0000 0000 |
1.#INF000000000000e+000 |
+INF |
7FF0 0000 0000 0001 |
1.#SNAN00000000000e+000 |
SNaN |
7FF7 FFFF FFFF FFFF |
1.#SNAN00000000000e+000 |
SNaN |
7FF8 0000 0000 0000 |
1.#QNAN00000000000e+000 |
QNaN |
7FFF FFFF FFFF FFFF |
1.#QNAN00000000000e+000 |
QNaN |
8000 0000 0000 0000 |
0.0000000000000000e+000 |
-0 |
8000 0000 0000 0001 |
-4.9406564584124654e-324 |
-(1/(2^52)*2^-1022) |
800F FFFF FFFF FFFF |
-2.2250738585072009e-308 |
-(.5*(1-.5^52)/(1-.5)*2^-1022) |
8010 0000 0000 0000 |
-2.2250738585072014e-308 |
-(1.0*2^-1022) |
8010 0000 0000 0001 |
-2.2250738585072019e-308 |
-((1+1/2^52)*2^(-1022)) |
801F FFFF FFFF FFFF |
-4.4501477170144023e-308 |
-((1+.5*(1-.5^52)/(1-.5))*2^-1022) |
8020 0000 0000 0000 |
-4.4501477170144028e-308 |
-(1.0*2^-1021) |
BFF0 0000 0000 0000 |
-1.0000000000000000e+000 |
-1.0 |
BFFF FFFF FFFF FFFF |
-1.9999999999999998e+000 |
-(1+.5*(1-.5^52)/(1-.5)) |
C000 0000 0000 0000 |
-2.0000000000000000e+000 |
-(1.0*2^1) |
FFEF FFFF FFFF FFFF |
-1.7976931348623157e+308 |
-((1+.5*(1-.5^52)/(1-.5))*2^1023) |
FFF0 0000 0000 0000 |
-1.#INF000000000000e+000 |
-INF |
FFF0 0000 0000 0001 |
-1.#SNAN00000000000e+000 |
SNaN |
FFF7 FFFF FFFF FFFF |
-1.#SNAN00000000000e+000 |
SNaN |
FFF8 0000 0000 0000 |
-1.#IND000000000000e+000 |
QNaN |
FFFF FFFF FFFF FFFF |
-1.#QNAN00000000000e+000 |
QNaN |
从表中可以看到,double内部表示的设计是很有规律的,按照对应64位数的顺序依次为 +0、正非规范数、正规范数、正无穷大、符号位为正的NaN、-0、负非规范数、负规范数、负无穷大、符号位为负的NaN。
double内部表示的设计保持了浮点数的有序性。即:如果正double数a<正double数b,则a对应的64位无符号整数<b对应的64位无符号整数。负数因为差了个符号,所以浮点数与对应整数的顺序相反。 float也有类似的规律。
4 结束语
float和int都是32bit,但float的尾数只用了23bit。int的精度高于float,float的表示范围大于int。float牺牲精度换取了更大的表示范围。 double的尾数是52bit,高于32bit的int,所以用dobule表示int不会有精度损失。 double是科学计算的常用类型,了解double的内在和限制,有助于我们更好地使用它。
分享到:
相关推荐
单精度浮点数,双精度浮点数,浮点数是属于有理数中某特定子集的数的数字表示,在计算机中用以近似表示任意某个实数。
单精度和双精度精确的范围不一样。 计算机里的最基本的存储单位用位(bit)来表示。bit只能用来存储0或1。 稍大一点的单位是字节(Byte,简写为B)。 再大一级的是千字节(kilo Bytes),用k来表示。 再大一级的单位是兆...
符合IEEE-754标准的单精度浮点形数据,C51里用4字节存储一个浮点数,如用0x3F000000表示小数0.5;0xBDCCCCCD表示小数-0.1。一般我们还是习惯用十进制来表示容易看。但有的时候我们需要知道一个十进制的小数保存到...
IEEE754浮点数详解.doc
1 浮点数的表示 通常,我们可以用下面的格式来表示浮点数 ...以单精度浮点数为例,可以得到其二进制的表示格式如下 S(第31位) P(30位到23位) M(22位到0位) 其中S是符号位,只有0和1,分别表示正负
S7-200SMART 双精度浮点型数据转换为单精度浮点型的方法
IEEE_754关于浮点数的规定★.ppt
RT EXCEL的简单公式转换坐标位置为浮点数,不带数据库
该资源用MIPS汇编语言实现整型数实现浮点数运算,通过MFC1和MTC1转换浮点数和整型数,不使用其他浮点数运算函数。
模拟计算机中浮点数的除法运算,采用二进制表示,符合IEEE7标准
Python中的浮点数是双精度浮点数,可以用十进制或科学计数法表示。 实际精度依赖于机器架构和创建Python解释器的编译器。 浮点数值通常都有一个小数点和一个可选的后缀e(大写或小写,表示科学计数法)。 在e和...
float浮点数要比同为4字节的int定点数表示的范围大的多,那么是否可以使用浮点数替代定点数? 为什么float型浮点数9.87654321 > 9.87654322不成立?为何10.2 - 9的结果不是1.2,而是1.1999998?为何987654321 + ...
浮点数用十六进制表示和十进制表示的相互转换
大多数编程语言都有几种数值型数据类型,但是JavaScript却只有一种。...如果这一事实使你疑惑JavaScript是如何表示整数的,请记住,双精度浮点数能完美地表示高达53位精度的整数。从–9 007 199 254 7
错误 1 不安全代码只会在使用 /unsafe 编译的情况下出现 E:\Visual Studio 2008\Projects\TEST\testOfFloat
(1)深入掌握二进制数的表示方法以及不同进制的转换; (2)掌握二进制不同编码的表示方法; (3)掌握IEEE754中单精度浮点数的表示和计算。
在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此。 所以我们在打印 1.00 这样的浮点数的结果是 1 而非 1.00 。在一些特殊的数值表示中,例如金额,这样...
浮点数的精度问题不是JavaScript特有的,因为有些小数以二进制表示位数是无穷的。 十进制 二进制 0.1 0.0001 1001 1001 1001 … 0.2 0.0011 0011 0011 0011 … 0.3 0.0100 1100 1100 1100 … 0.4 0.0110 ...
十进制浮点 to IEEE754浮点 & IBM浮点转换工具 可完成十进制单精度浮点数到IEEE754浮点数、IBM浮点数的转换。
将单精度和双精度浮点数据转换为对应的16进制表示形式 包括一个基于VC6.0的工程和工具安装包(可直接安装运行)