RuntimeError: CUDA error: device-side assert triggered
问题描述
当我在调试模型的时候，出现了如下的问题
/opt/conda/conda-bld/pytorch_1656352465323/work/aten/src/ATen/native/cuda/IndexKernel.cu:91: operator(): block: [5,0,0], thread: [63,0,0] Assertion
index >= -sizes[i] && index < sizes[i] && "index out of bounds"failed.
通过提示信息可以知道是个数组越界的问题。但是如图一中第二行话所说这个问题可能并不出在提示的代码段。
一开始碰到这个问题就一个劲儿地查看提示的错误代码，发现调整了代码段之后，问题依然存在在并且提示的问题代码变化了。
; 解决思路
首先明确一点，如图中描述的”RuntimeError: CUDA error: device-side assert triggered”该类问题，不应该仅从提示的代码进行检查。问题可能出在别的地方。
通过检查代码，以及查找出现类似问题的解中发现对于，” index >= -sizes[i] && index < sizes[i] && “index out of bounds”“，这类数组越界的问题，如果大家的模型任务是用于分类任务，可以查看下自己模型在设置类别数量时，数值是否大于数据集中的给定的类别。
发现问题：
因为本人自己修改了COCO的dataset，所以在赋值类别数量的时候如下代码
num_classes = 20 if args.dataset_file != 'coco' else 91
修改过后的的dataset_file名称为 coco_vl，所以类别给了20，实际模型在最后预测阶段的类别应该为91，所以在criterion阶段（计算loss）时会报数值越界错误。
更改代码如下：
num_classes = 20 if args.dataset_file != 'coco' and args.dataset_file != 'coco_vl' else 91
总结
- 分类任务模型中，出现类似于数值越界的问题，可以优先查看下dataset中的类别是否填写符合要求，不应该小于模型预测的类别数量。
- 出现device-side assert triggered的BUG不能只关注报错代码
Original: https://blog.csdn.net/weixin_44244168/article/details/125689985
Author: ball today
Title: 【RuntimeError: CUDA error: device-side assert triggered】问题与解决
原创文章受到原创版权保护。转载请注明出处：https://www.johngo689.com/705465/
转载文章受原作者版权保护。转载请注明原作者出处！