报错runtimerror:cuda out of memory.tried to allocate 98.00MB(GPU 0;10.91 GiB total capacity;):

pycharm上跑代码的时候,过不了多久代码就跑停报错,但是我显卡内存是充足的。


解决方案:

在报错的那一行代码前面加上两句话释放内存即可。

import torch, gc

gc.collect()
torch.cuda.empty_cache()


Logo

欢迎来到FlagOS开发社区,这里是一个汇聚了AI开发者、数据科学家、机器学习爱好者以及业界专家的活力平台。我们致力于成为业内领先的Triton技术交流与应用分享的殿堂,为推动人工智能技术的普及与深化应用贡献力量。

更多推荐