溫馨提示×
您好，登錄后才能下訂單哦！
點擊 登錄注冊 即表示同意《億速云用戶服務條款》
您好，登錄后才能下訂單哦！
這篇文章主要講解了“如何解決pytorch損失反向傳播后梯度為none的問題”，文中的講解內容簡單清晰，易于學習與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學習“如何解決pytorch損失反向傳播后梯度為none的問題”吧！
a = torch.ones((2, 2), requires_grad=True).to(device)
b = a.sum()
b.backward()
print(a.grad)修改后的代碼為：
a = torch.ones((2, 2), requires_grad=True)
c = a.to(device)
b = c.sum()
b.backward()
print(a.grad)類似錯誤：
self.miu = torch.nn.Parameter(torch.ones(self.dimensional)) * 0.01應該為
self.miu = torch.nn.Parameter(torch.ones(self.dimensional) * 0.01)補充：pytorch梯度返回none的bug
tensor即使設置了requires_grad，反向傳播之后， x返回沒有grad梯度，為none
不知道其他版本有無此bug
補充：PyTorch中梯度反向傳播的注意點
optimizer.zero_grad()語句的位置比較隨意，只要放在loss.backward()前面即可，它的作用是將梯度歸零，否則會在每一個迭代中進行累加，
loss.backward()的作用是反向傳播，計算梯度，optimizer.step()的功能是優化器自動完成參數的更新。
optimizer.zero_grad()
loss.backward()
optimizer.step()感謝各位的閱讀，以上就是“如何解決pytorch損失反向傳播后梯度為none的問題”的內容了，經過本文的學習后，相信大家對如何解決pytorch損失反向傳播后梯度為none的問題這一問題有了更深刻的體會，具體使用情況還需要大家實踐驗證。這里是億速云，小編將為大家推送更多相關知識點的文章，歡迎關注！
免責聲明：本站發布的內容（圖片、視頻和文字）以原創、轉載和分享為主，文章觀點不代表本網站立場，如果涉及侵權請聯系站長郵箱：is@yisu.com進行舉報，并提供相關證據，一經查實，將立刻刪除涉嫌侵權內容。
