課程
/移動(dòng)開發(fā)
/Android
/2021Android從零入門到實(shí)戰(zhàn)(Kotlin版)
2022-05-03
源自：2021Android從零入門到實(shí)戰(zhàn)(Kotlin版) 2-3
正在回答
說小數(shù)點(diǎn)后6位會(huì)被自動(dòng)舍去其實(shí)是不對(duì)的。因?yàn)檫@個(gè)限制不來源于算法，而來源于32位浮點(diǎn)精度的計(jì)算機(jī)限制。float大概可以精確7位數(shù)字（小數(shù)點(diǎn)前的位數(shù)+小數(shù)點(diǎn)后的位數(shù)），后面的數(shù)字是不精確的，而且是按照二進(jìn)制舍入的，不是按照十進(jìn)制。
如果你做科學(xué)計(jì)算，最好直接用double，我之前用float就造成了微小誤差的累積
舉報(bào)
移動(dòng)端大牛帶你快速入門Android
1 回答Float小數(shù)位可能為7位？
1 回答為什么的我的編輯器沒有聲明變量的時(shí)候沒有自動(dòng)推斷出數(shù)據(jù)類型
2 回答Float 轉(zhuǎn)換二進(jìn)制是如何計(jì)算的
1 回答視頻中老師轉(zhuǎn)換成字符串模板的快捷鍵是什么
1 回答安裝項(xiàng)目類運(yùn)行不了單獨(dú)的kotlin代碼
Copyright ? 2025 imooc.com All Rights Reserved | 京ICP備12003892號(hào)-11 京公網(wǎng)安備11010802030151號(hào)
購課補(bǔ)貼聯(lián)系客服咨詢優(yōu)惠詳情
慕課網(wǎng)APP您的移動(dòng)學(xué)習(xí)伙伴
掃描二維碼關(guān)注慕課網(wǎng)微信公眾號(hào)
2024-05-12
說小數(shù)點(diǎn)后6位會(huì)被自動(dòng)舍去其實(shí)是不對(duì)的。因?yàn)檫@個(gè)限制不來源于算法，而來源于32位浮點(diǎn)精度的計(jì)算機(jī)限制。float大概可以精確7位數(shù)字（小數(shù)點(diǎn)前的位數(shù)+小數(shù)點(diǎn)后的位數(shù)），后面的數(shù)字是不精確的，而且是按照二進(jìn)制舍入的，不是按照十進(jìn)制。
如果你做科學(xué)計(jì)算，最好直接用double，我之前用float就造成了微小誤差的累積