因为计算机保存浮点数时,是把数看作a*2^b这样的形式,不是以10为底数,而是以2为底数。即将数转换成以2为底的“科学计数法”的形式,再由这个形式反转换成10进制形式,但数据又有位数限制,所以有些数转换成二进制计数法形式后位数超出了限制的位数,那么转换回来时得到的数就会与原数有偏差,不同的数这个偏差是不同的,有可能在小数点后第7位,也有可能在第8位,也有可能在其他位数,但能保证第6位之前是正确的。
它是说保证7位准确,并不是说第8位就肯定不准确。
Type Exponent length Mantissa length
float 8 bits 23 bits
浮点数的有效位:23Bits,合24位
其分辨率为:1/(2^24)=0.000,000,059,604644775390625
=0.000,000,06
即浮点数可表示的最小数的单位为0.000000059604644775390625;
其他的数都由0.000000059604644775390625 * 2^X来表示的,
12345678920
12345678900
000000059604644775390625
=12345678848
12345678848=0.000000059604644775390625 * 2^X
具体计算略,原理如此