js乘法，138.33*100為啥出現(xiàn)這么多小數(shù)點？
慕的地6264312
2018-07-31 10:10:55
1 回答
守著一只汪
TA貢獻1872條經(jīng)驗 獲得超4個贊
這個和數(shù)據(jù)結(jié)構(gòu)有關(guān)系
整數(shù)型自動轉(zhuǎn)換成正型計算
小數(shù)型直接轉(zhuǎn)成double型計算
這是在內(nèi)存中運算的時候必須這樣
你該知道計算機只認識0和1吧
具體的就是浮點精準度的問題
float 精確到小數(shù)點后7位
double 精確到小數(shù)點后15位
這在往下說就多了 反正你知道知道這些就OK了 具體的你去學(xué)學(xué)數(shù)據(jù)結(jié)構(gòu)和程序運行就知道了
添加回答
舉報
0/150
提交
取消