梯度下降的公式的解釋
請(qǐng)問(wèn)老師,梯度下降公式中學(xué)習(xí)速率乘上損失函數(shù)的偏倒的意義仍然不理解,什么叫對(duì)每次損失函數(shù)減小的維度進(jìn)行不近似的參數(shù)遞減?最小二乘法的公式是通過(guò)矩陣求導(dǎo)得到的嗎?是否也可以用線性代數(shù)的知識(shí)解釋呢?
請(qǐng)問(wèn)老師,梯度下降公式中學(xué)習(xí)速率乘上損失函數(shù)的偏倒的意義仍然不理解,什么叫對(duì)每次損失函數(shù)減小的維度進(jìn)行不近似的參數(shù)遞減?最小二乘法的公式是通過(guò)矩陣求導(dǎo)得到的嗎?是否也可以用線性代數(shù)的知識(shí)解釋呢?
2018-07-09
舉報(bào)
2018-07-13
損失函數(shù)的偏導(dǎo)就是一個(gè)導(dǎo)數(shù),就是theta的斜率,調(diào)節(jié)學(xué)習(xí)率是為了斜率變化不大,這樣多次迭代就能達(dá)到最低值