如何在PyTorch CUDA中定义tensor并详细说明减少CPU操作的技巧？

本文共计316个文字，预计阅读时间需要2分钟。

python定义变量a，使用torch.ones在GPU上创建一个形状为[1000, 1000, 3]的张量a=torch.ones(1000, 1000, 3).cuda()

指定GPU设备为cuda1cuda1=torch.device('cuda:1')

在cuda1上创建一个形状为[1000, 1000, 1000]的随机张量bb=torch.randn((1000, 1000, 1000), device=cuda1)

删除变量adel a

在CPU上定义一个新的tensor，然后将其移动到GPUa=torch.zeros().cuda()

cuda上tensor的定义

a = torch.ones(1000,1000,3).cuda()

某一gpu上定义

cuda1 = torch.device('cuda:1')
b = torch.randn((1000,1000,1000),device=cuda1)

删除某一变量

del a

在cpu定义tensor然后转到gpu

torch.zeros().cuda()

直接在gpu上定义，这样就减少了cpu的损耗

torch.cuda.FloatTensor(batch_size, self.hidden_dim, self.height, self.width).fill_(0)

补充知识：pytorch cuda.FloatTensor->FloatTensor

错误类型：

RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor）

定义残差块时定义在model的外面，在使用gpu进行训练的时候，残差块的参数是torch.FloatTensor类型，

虽然使用了model.cuda(),但是只对model里面的参数在gpu部分，所以把残差块对应的操作都在model的__init__(），

重新定义，即可解决问题

以上这篇pytorch cuda上tensor的定义 以及减少cpu的操作详解就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持易盾网络。