                        課程
                    
                        /移動開發(fā)
                        
                            /Android
                        
                        /2021Android從零入門到實戰(zhàn)(Kotlin版)

float類型的小數(shù)點6位后數(shù)字并不是單純的四舍五入，例如3.1415924444會變成3.1415925 3.141592222會變成3.1415923

這里面的邏輯是什么？

慕設(shè)計532529

2022-05-03

源自：2021Android從零入門到實戰(zhàn)(Kotlin版) 2-3

關(guān)注問題我要回答

220

操作

收起

1 回答

任e逍遙
2024-05-12

說小數(shù)點后6位會被自動舍去其實是不對的。因為這個限制不來源于算法，而來源于32位浮點精度的計算機限制。float大概可以精確7位數(shù)字（小數(shù)點前的位數(shù)+小數(shù)點后的位數(shù)），后面的數(shù)字是不精確的，而且是按照二進制舍入的，不是按照十進制。

如果你做科學(xué)計算，最好直接用double，我之前用float就造成了微小誤差的累積