您好,登錄后才能下訂單哦!
在使用Pytorch進行神經網絡訓練時,有時會遇到訓練學習率不下降的問題。出現這種問題的可能原因有很多,包括學習率過小,數據沒有進行Normalization等。不過除了這些常規的原因,還有一種難以發現的原因:在計算loss時數據維數不匹配。
下面是我的代碼:
loss_function = torch.nn.MSE_loss() optimizer.zero_grad() output = model(x_train) loss = loss_function(output, y_train) loss.backward() optimizer.step()
要特別注意計算loss時網絡輸出值output和真實值y_train的維數必須完全匹配,否則訓練誤差不下降,無法訓練。這種錯誤在訓練一維數據時很容易忽略,要十分注意。
以上這篇解決Pytorch訓練過程中loss不下降的問題就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持億速云。
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。