课程名称:基本数据类型的储存
章节名称:3-3IEEE754及Bi给Decimal
讲师姓名:舞马
内容概述:IEEE754的实值计算规则:float(32位)(-1)^s×(1=M)×2^E-(127) double:(-1)^s×(1=M)×2^E-(1023) IEEE754标准中的格式化的浮点数真值表示公式。
IEEE754中规则中的特殊值:
当E为全1(2^e-1),且M为全0时,值为±∞。
当E为全1(2^e-1),且M非全0时,代码无效()
当E为全0(0),且M为全0时,值为±0
当E为全0(0),且M非全0时,尾数非规约浮点数
浮点真值:(-1)^s×(M)×2^E(-1260r-1022)
浮点型的精度情况:真值F(绝对值)=尾数M×2^E(阶码)。
float尾数是23位二进制数,转化成10进制,有效数字6~7位。
double尾数是52位二进制,转化成10进制,有效数字15~16位
精确小数BigDecimal:①用来对超过16位有效位的小数进行精确的运算。②数值储存使用BigDecimal+scale标度进行储存保证精度(十进制科学技术制)③bigDecimal声明创建以及基本及算法。
学习心得:学习了IEE754的规则,公式,精度情况。学习了BigDecimal的简单使用。
学习截图:
點(diǎn)擊查看更多內(nèi)容
為 TA 點(diǎn)贊
評(píng)論
評(píng)論
共同學(xué)習(xí),寫下你的評(píng)論
評(píng)論加載中...
作者其他優(yōu)質(zhì)文章
正在加載中
感謝您的支持,我會(huì)繼續(xù)努力的~
掃碼打賞,你說多少就多少
贊賞金額會(huì)直接到老師賬戶
支付方式
打開微信掃一掃,即可進(jìn)行掃碼打賞哦