再跟隨完老師寫完計算器這個app后,在調(diào)試bug的環(huán)節(jié)里發(fā)現(xiàn),在計算小數(shù)的除法的時候,并不能得到準(zhǔn)確的值,比如:在計算1.2/3時得到的結(jié)果是0.399999999997,記得以前學(xué)java時也碰見過這個問題,計算機二進(jìn)制的問題,但是具體的解決辦法忘記了,請大神,老師幫忙
求助:計算器app如何解決小數(shù)除法不能的到準(zhǔn)確值?
weibo_請叫我迷你mamba_0
2015-12-12 19:38:11