您好,登錄后才能下訂單哦!
小編給大家分享一下PyTorch中inplace字段的示例分析,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!
torch.nn.ReLU(inplace=True)
inplace=True
表示進行原地操作,對上一層傳遞下來的tensor直接進行修改,如x=x+3;
inplace=False
表示新建一個變量存儲操作結果,如y=x+3,x=y;
inplace=True
可以節省運算內存,不用多存儲變量。
補充:PyTorch中網絡里面的inplace=True字段的意思
在例如nn.LeakyReLU(inplace=True)中的inplace字段是什么意思呢?有什么用?
inplace=True的意思是進行原地操作,例如x=x+5,對x就是一個原地操作,y=x+5,x=y,完成了與x=x+5同樣的功能但是不是原地操作。
上面LeakyReLU中的inplace=True的含義是一樣的,是對于Conv2d這樣的上層網絡傳遞下來的tensor直接進行修改,好處就是可以節省運算內存,不用多儲存變量y。
inplace=True means that it will modify the input directly, without allocating any additional output. It can sometimes slightly decrease the memory usage, but may not always be a valid operation (because the original input is destroyed). However, if you don't see an error, it means that your use case is valid.
1.PyTorch是相當簡潔且高效快速的框架;2.設計追求最少的封裝;3.設計符合人類思維,它讓用戶盡可能地專注于實現自己的想法;4.與google的Tensorflow類似,FAIR的支持足以確保PyTorch獲得持續的開發更新;5.PyTorch作者親自維護的論壇 供用戶交流和求教問題6.入門簡單
以上是“PyTorch中inplace字段的示例分析”這篇文章的所有內容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內容對大家有所幫助,如果還想學習更多知識,歡迎關注億速云行業資訊頻道!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。