js乘法，138.33*100為啥出現(xiàn)這么多小數(shù)點(diǎn)？
慕的地6264312
2018-07-31 10:10:55
1 回答
守著一只汪
TA貢獻(xiàn)1872條經(jīng)驗(yàn) 獲得超4個贊
這個和數(shù)據(jù)結(jié)構(gòu)有關(guān)系
整數(shù)型自動轉(zhuǎn)換成正型計(jì)算
小數(shù)型直接轉(zhuǎn)成double型計(jì)算
這是在內(nèi)存中運(yùn)算的時候必須這樣
你該知道計(jì)算機(jī)只認(rèn)識0和1吧
具體的就是浮點(diǎn)精準(zhǔn)度的問題
float 精確到小數(shù)點(diǎn)后7位
double 精確到小數(shù)點(diǎn)后15位
這在往下說就多了 反正你知道知道這些就OK了 具體的你去學(xué)學(xué)數(shù)據(jù)結(jié)構(gòu)和程序運(yùn)行就知道了
添加回答
舉報
0/150
提交
取消