产生这类错误的原因,模型和数据未在相同设备上
解决方法:
将其放在同一设备上,模型和数据都放在GPU上 net .to(“cuda”) data.to(“cuda”)
最后如果还出现相同错误,请检查网络模型定义部分,将 nn.Linear() nn.LayerNorm() 等放在 def __init__函数里初始化
对于将不同结构组成一个module的情况, 初始化时不要使用[],一定要使用 nn.ModuleList()
如:
self.mlp_blocks = nn.ModuleList()
for _ in range(num_blocks):
self.mlp_blocks.append(MixerBlock(tokens_mlp_dim, channels_mlp_dim, tokens_hidden_dim, channels_hidden_dim))
Original: https://blog.csdn.net/qq_40471091/article/details/123447402
Author: 五金综合市场
Title: RuntimeError: Tensor for ‘out‘ is on CPU, Tensor for argument #1 ‘self‘ is on CPU, but expected them
原创文章受到原创版权保护。转载请注明出处：https://www.johngo689.com/708953/
转载文章受原作者版权保护。转载请注明原作者出处！