我有一個(gè)浮點(diǎn)值,如果超過100,我想舍入到1位小數(shù),如果超過1000,則不舍入小數(shù),否則舍入到2位小數(shù)。這有效:func r(f float64) float64 { if f >= 999.5 { return math.Round(f) } if f >= 99.95 { return math.Round(f*10) / 10 } return math.Round(f*100) / 100}但我想知道這是否會(huì)更好:func r(f float64) float64 { if f >= 999.5 { return math.Round(f) } if f*10 >= 999.5 { // **** only changed line **** return math.Round(f*10) / 10 } return math.Round(f*100) / 100}這更安全,因?yàn)?9.95不能完全使用具有二進(jìn)制指數(shù)的浮點(diǎn)來表示。(我相信Go語言需要使用具有二進(jìn)制指數(shù)的IEEE fp格式。999.5 完全可以表示為 fp 值。但是,我的測(cè)試(使用)表明,第一個(gè)解決方案對(duì)于從99.94999999到99.95000001的所有值都非常有效。第一個(gè)問題:我擔(dān)心得不恰當(dāng)。math.NextAfter()第二種解決方案的問題在于,我擔(dān)心可能會(huì)對(duì)其進(jìn)行兩次評(píng)估。第二個(gè)問題:是否有任何保證優(yōu)化器將確保它只完成一次。f*10
小數(shù)點(diǎn)后 1 位和 2 位之間的舍入差
呼喚遠(yuǎn)方
2022-08-15 10:05:38