计算值类型取值范围时,发现的一条公式

在计算byte类型的取值范围时,无意中发现一条数据公式。

首先我们知道byte类型在内存中占1个字节,而一个字节占8bit,它在内存中的存储方式如下,

符号位指数位
17

 

 

所以最大值为 1111111(2进制),

亮点就在这,在转为10进制的过程,我首先凭经验,判断出这个10进制的值为2的7次方 减1。

但根据2进制转10进制的规则,1111111(2进制)这个值,从0位开始,最高为6次方。

实际最大值的计算过程为 1*2的6次方+1*2的5次方+……+1*2的0次方。即127。

而2的8次为128。由此猜想,2的n次方=2的(n次方-1) + 2的2的(n次方-2)+……+2的0次方-1 

再次计算2的5次方 ,进行验证,果然还是这个结果。

 

转载于:https://www.cnblogs.com/chenjfblog/p/7737991.html

    原文作者:dizhengquan1198
    原文地址: https://blog.csdn.net/dizhengquan1198/article/details/102342599
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞