奈寻味导航网 » 文章资讯 » pytorch使用指定GPU训练的实例

pytorch使用指定GPU训练的实例

2023-08-16 23:46:03 488

本文适合多GPU的机器，并且每个用户需要单独使用GPU训练。

虽然pytorch提供了指定gpu的几种方式，但是使用不当的话会遇到outofmemory的问题，主要是因为pytorch会在第0块gpu上初始化，并且会占用一定空间的显存。这种情况下，经常会出现指定的gpu明明是空闲的，但是因为第0块gpu被占满而无法运行，一直报outofmemory错误。

解决方案如下：

指定环境变量，屏蔽第0块gpu

CUDA_VISIBLE_DEVICES=1main.py

这句话表示只有第1块gpu可见，其他gpu不可用，此时要注意第1块gpu已经变成第0块，因此代码里应该使用编号0来指定gpu。如果依然使用cuda:1会报invaliddeviceordinal。

当然也可以在代码里使用os模块达到同样效果：

importos

#多块使用逗号隔开
os.environ['CUDA_VISIBLE_DEVICES']='1'

使用torch.cuda.device
withtorch.cuda.device(1):
...

注意这种情况下gpu编号也会改变

关于这个问题的讨论，感兴趣的也可以去这里查看cudaoutofmemoryerrorwhenGPU0memoryisfullyutilized

以上这篇pytorch使用指定GPU训练的实例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持毛票票。