梯度下降的公式的解釋
請問老師,梯度下降公式中學(xué)習(xí)速率乘上損失函數(shù)的偏倒的意義仍然不理解,什么叫對每次損失函數(shù)減小的維度進行不近似的參數(shù)遞減?最小二乘法的公式是通過矩陣求導(dǎo)得到的嗎?是否也可以用線性代數(shù)的知識解釋呢?
請問老師,梯度下降公式中學(xué)習(xí)速率乘上損失函數(shù)的偏倒的意義仍然不理解,什么叫對每次損失函數(shù)減小的維度進行不近似的參數(shù)遞減?最小二乘法的公式是通過矩陣求導(dǎo)得到的嗎?是否也可以用線性代數(shù)的知識解釋呢?
2018-07-09
舉報
2018-07-13
損失函數(shù)的偏導(dǎo)就是一個導(dǎo)數(shù),就是theta的斜率,調(diào)節(jié)學(xué)習(xí)率是為了斜率變化不大,這樣多次迭代就能達到最低值