91超碰碰碰碰久久久久久综合_超碰av人澡人澡人澡人澡人掠_国产黄大片在线观看画质优化_txt小说免费全本

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

解決Pytorch訓練過程中loss不下降的問題

發布時間:2020-10-21 23:15:03 來源:腳本之家 閱讀:989 作者:貓猬獸 欄目:開發技術

在使用Pytorch進行神經網絡訓練時,有時會遇到訓練學習率不下降的問題。出現這種問題的可能原因有很多,包括學習率過小,數據沒有進行Normalization等。不過除了這些常規的原因,還有一種難以發現的原因:在計算loss時數據維數不匹配。

下面是我的代碼:

loss_function = torch.nn.MSE_loss()
optimizer.zero_grad()
output = model(x_train)
loss = loss_function(output, y_train)
loss.backward()
optimizer.step()

要特別注意計算loss時網絡輸出值output和真實值y_train的維數必須完全匹配,否則訓練誤差不下降,無法訓練。這種錯誤在訓練一維數據時很容易忽略,要十分注意。

以上這篇解決Pytorch訓練過程中loss不下降的問題就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持億速云。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

通江县| 长海县| 报价| 郓城县| 闵行区| 高阳县| 巩留县| 保亭| 绥化市| 安龙县| 板桥市| 禹州市| 凭祥市| 兴文县| 云阳县| 垫江县| 竹山县| 霞浦县| 宝山区| 肃南| 临泉县| 会昌县| 舒城县| 顺平县| 遵义县| 岳西县| 邢台县| 舞钢市| 肃宁县| 伊川县| 米林县| 鸡西市| 苍梧县| 定兴县| 磐安县| 攀枝花市| 张北县| 鄱阳县| 简阳市| 巩留县| 涿鹿县|