Pytorch遇到錯誤的解決方法

Pytorch遇到錯誤的解決方法，很多新手對此不是很清楚，為了幫助大家解決這個難題，下面小編將為大家詳細講解，有這方面需求的人可以來學習下，希望你能有所收獲。

pytorch運行錯誤：RuntimeError: cuDNN error: CUDNN_STATUS_INTERNAL_ERROR

解決方法：

代碼中添加： 

torch.cuda.set_device(0)

訓練RNN網絡loss出現Nan解決辦法

（1）. 梯度爆炸的原因可以通過梯度裁決解決

GRAD_CLIP = 5loss.backward()torch.nn.utils.clip_grad_norm_(model.parameters(), GRAD_CLIP)optimizer.step()

（2）testModel和evaluate中需要使用

with torch.no_grad():

（3） 學習率調小一點

RuntimeError: Expected object of device type cuda but got device type cpu for argument #1 'self' in call to _th_addmm

在代碼中由三個位置需要進行cuda()轉換：

1. 模型是否放到了CUDA上model = model.to(device)

2. 輸入數據是否放到了CUDA上data = data.to(device)

3. 模型內部新建的張量是否放到了CUDA上p = torch.tensor([1]).to(device)

關于第一條中model = model.to(device)只對model中實例化在__init__()中的函數有效，如果在forward中實例化并直接使用則不會將model放置到cuda中。

下面給出一個錯誤的代碼：

import torch
import torch.nn as nn


data = torch.rand(1, 10).cuda()


class TestMoule(nn.Module):
    def __init__(self):
        super(TestMoule, self).__init__()
        # self.linear = torch.nn.Linear(10, 2)

    def forward(self, x):
        # return self.linear(x)
        return torch.nn.Linear(10, 2)(x)


model = TestMoule()
model = model.cuda()

print(model(data))

RuntimeError: CUDA error: an illegal memory access was encountered

出現上面問題一種情況是某些nn模塊下的函數傳入了gpu類型的數據，如下錯誤代碼：

import torch

data = torch.randn(1, 10).cuda()

layernorm = torch.nn.LayerNorm(10)
# layernorm = torch.nn.LayerNorm(10).cuda()

re_data = layernorm(data)
print(re_data)

RuntimeError: CUDA error: device-side assert triggered

分類的類別target與模型輸出softmax的值不是一一對應的，如三分類問題：

targets 為 1-3的值，但是softmax計算的值是0-2，因此提示上面的錯誤。

df = pd.read_csv('data/reviews.csv')

def to_sentiment(score):
    score = int(score)
    if score <= 2:
        return 0
    elif score == 3:
        return 1
    else:
        return 2

df['sentiment'] = df.score.apply(to_sentiment)

看完上述內容是否對您有幫助呢？如果還想對相關知識有進一步的了解或閱讀更多相關文章，請關注億速云行業資訊頻道，感謝您對億速云的支持。