关于MySQL中FLOAT和DOUBLE类型的存储(2)

实际的数据是
000001cc6d09        rowid       
 0000002d5679ab      事物ID         
 00000d0c0110        回滚指针         
39b49649            1234570     
 91ed7c1f87d63241    1234567.123 
 67616f70656e67      'gaopeng'   
关于如何得到数据的可以参考我的博文

我们来分析下float的组成,因为LINUX属于小端,存储会是反向的
39b49649实际是4996b439

49 01001001
 96 10010110
 b4 10110100
 39 00111001

0    10010011    00101101011010000111001
符号位  指数位            尾数

10010011=147
这里需要减去127
 147-127=20为指数

尾数 00101101011010000111001需要加入一个1.
如下1.00101101011010000111001
如此我们需要将1.00101101011010000111001
乘以2的20次方实际就是右移动20位
 为
100101101011010000111.001
整数部分
100101101011010000111=1234567这里就是最后的数据1234567
而显示的时候1234567又被四舍五入为1234570

再来看double

91ed7c1f87d63241
实际为
4132d6871f7ced91

0                          符号位
10000010011  1043 然后1043-1023=20 级指数位
0010110101101000011100011111011111001110110110010001

1.0010110101101000011100011111011111001110110110010001
 100101101011010000111.00011111011111001110110110010001


整数部分为100101101011010000111=1234567
关于小数部分的计算:
0*2^(0-1) 第一位
0*2^(0-2) 第二位
0*2^(0-3) 第三位
1*2^(0-4)=1/16 第四位
1*2^(0-5)=1/32 第五位
1*2^(0-6)=1/64 第六位
.....
及0.123=0.0001111101111100其额外的部分为无效数字

实际上数据是没有问题的。

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/f3e043773c7e3a9b0aa5473b35e706e3.html