3 回答

TA貢獻(xiàn)1799條經(jīng)驗(yàn) 獲得超9個(gè)贊
你正在劃分整數(shù),這意味著你正在使用整數(shù)除法。
在整數(shù)除法中,結(jié)果的小數(shù)部分被丟棄。
請(qǐng)嘗試以下方法:
float res = (float) quantity / standard;
^^^^^^^
上面強(qiáng)制將分子視為一個(gè)float反過(guò)來(lái)促進(jìn)分母浮動(dòng)的分子,并且執(zhí)行浮點(diǎn)除法而不是整數(shù)除法。
請(qǐng)注意,如果您正在處理文字,則可以更改
float f = 6800 / 500;
包含f后綴以使分母成為浮點(diǎn)數(shù):
float f = 6800f / 500;

TA貢獻(xiàn)1833條經(jīng)驗(yàn) 獲得超4個(gè)贊
如果你擔(dān)心精度,我會(huì)建議使用double精度數(shù)位的兩倍以上。然而,浮點(diǎn)僅精確地表示為0.5的冪或冪的分?jǐn)?shù)。這意味著0.6僅近似表示。這不一定是適當(dāng)舍入的問(wèn)題。
double d = (double) 6800 / 500;
要么
double d = 6800.0 / 500;

TA貢獻(xiàn)1810條經(jīng)驗(yàn) 獲得超4個(gè)贊
就我而言,我這樣做:
double a = (double) (MAX_BANDWIDTH_SHARED_MB/(qCount+1));
而不是“正確”:
double a = (double)MAX_BANDWIDTH_SHARED_MB/(qCount+1);
添加回答
舉報(bào)