跳到正文
掘金 · 人工智能· 武子康·· 6 小时前AI 评分60

CUDA OOM 不只是显存不够:按失败阶段定位根因的排查方法

CUDA OOM 不只是“显存不够”

AI 导读

作者指出 CUDA out of memory 只说明某次分配失败,不能直接归因于显存不足,应按加载、条件编码、采样首步、采样中途、VAE Decode、后处理等失败阶段分别核对候选原因。

来源:掘金 · 人工智能 · juejin.cn