pytorch模型提示超出内存cuda runtime error(2): out of memory

复现github代码显示内存错误，我想不对啊，人家训练好的模型我复现怎么会内存溢出呢? 查了一下，batch_size太大了电脑抗不住，改小一点就能继续运行了...

zichen7055

22497人浏览 · 2018-10-15 20:35:29

zichen7055 · 2018-10-15 20:35:29 发布

复现github代码显示内存错误，我想不对啊，人家训练好的模型我复现怎么会内存溢出呢? 查了一下，batch_size太大了电脑抗不住，改小一点就能继续运行了

FlagOS智算系统软件栈

欢迎来到FlagOS开发社区，这里是一个汇聚了AI开发者、数据科学家、机器学习爱好者以及业界专家的活力平台。我们致力于成为业内领先的Triton技术交流与应用分享的殿堂，为推动人工智能技术的普及与深化应用贡献力量。

更多推荐

不要死磕CUDA，国内首个Triton技术大会官宣，AI芯片编程迎来新范式

你将听到 Triton 诞生背后的第一性原理与未来演进的宏伟蓝图，获取关于 AI 编译器的最新学术研究报告，了解众智 FlagOS 社区生态的最新进展，更有对增强版 Triton 编译器特性的深度讲解。作为国内专注于 Triton 技术及其生态的开发者盛会，我们诚挚地邀请全球的 AI 研究员、高性能计算工程师、编译器专家、编程语言爱好者，以及所有希望突破 AI 芯片编程复杂性的开发者，与我们一起，