您好,登錄后才能下訂單哦!
這篇文章將為大家詳細講解有關pytorch中torch.backends.cudnn設置的示例分析,小編覺得挺實用的,因此分享給大家做個參考,希望大家閱讀完這篇文章后可以有所收獲。
cuDNN使用非確定性算法,并且可以使用torch.backends.cudnn.enabled = False來進行禁用
如果設置為torch.backends.cudnn.enabled =True,說明設置為使用使用非確定性算法
然后再設置:
torch.backends.cudnn.benchmark = true
那么cuDNN使用的非確定性算法就會自動尋找最適合當前配置的高效算法,來達到優化運行效率的問題
一般來講,應該遵循以下準則:
如果網絡的輸入數據維度或類型上變化不大,設置 torch.backends.cudnn.benchmark = true 可以增加運行效率;
如果網絡的輸入數據在每次 iteration 都變化的話,會導致 cnDNN 每次都會去尋找一遍最優配置,這樣反而會降低運行效率。
所以我們經常看見在代碼開始出兩者同時設置:
torch.backends.cudnn.enabled = True
torch.backends.cudnn.benchmark = True
關于“pytorch中torch.backends.cudnn設置的示例分析”這篇文章就分享到這里了,希望以上內容可以對大家有一定的幫助,使各位可以學到更多知識,如果覺得文章不錯,請把它分享出去讓更多的人看到。
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。