我在Java中有一個非常簡單的劃分（它是每小時的產(chǎn)品數(shù)量/產(chǎn)量），但是每當我進行這個劃分時，我都會遇到奇怪的錯誤：float res = quantity / standard;我已經(jīng)嘗試了上面的幾個值的分區(qū)，但我總是得到錯誤，但是我在其他地方嘗試并且正確的那個是這樣的：世界各地：13.6 = 6800 / 500;Java的：13.0 = 6800 / 500;我已經(jīng)研究過BigDecimal和BigInteger，但是我還沒有找到一種方法來創(chuàng)建這個除法，有沒有其他方法在Java中進行這種劃分而沒有精度錯誤？任何幫助將不勝感激。
3 回答
揚帆大魚
TA貢獻1799條經(jīng)驗 獲得超9個贊
你正在劃分整數(shù)，這意味著你正在使用整數(shù)除法。
在整數(shù)除法中，結(jié)果的小數(shù)部分被丟棄。
請嘗試以下方法：
float res = (float) quantity / standard;
^^^^^^^
上面強制將分子視為一個float反過來促進分母浮動的分子，并且執(zhí)行浮點除法而不是整數(shù)除法。
請注意，如果您正在處理文字，則可以更改
float f = 6800 / 500;
包含f后綴以使分母成為浮點數(shù)：
float f = 6800f / 500;
瀟瀟雨雨
TA貢獻1833條經(jīng)驗 獲得超4個贊
如果你擔心精度，我會建議使用double精度數(shù)位的兩倍以上。然而，浮點僅精確地表示為0.5的冪或冪的分數(shù)。這意味著0.6僅近似表示。這不一定是適當舍入的問題。
double d = (double) 6800 / 500;
要么
double d = 6800.0 / 500;
慕萊塢森
TA貢獻1810條經(jīng)驗 獲得超4個贊
就我而言，我這樣做：
double a = (double) (MAX_BANDWIDTH_SHARED_MB/(qCount+1));
而不是“正確”：
double a = (double)MAX_BANDWIDTH_SHARED_MB/(qCount+1);
添加回答
舉報
0/150
提交
取消