最近在弄tts,用的框架GPT-SoVITS,记录一下:

1.资料
使用github上缩略版的tts
经验:记得用congda新环境并直接用requirement.TXT省的自己搞一些包互相冲突,浪费时间

2.运行server后,生成音频太慢,原来用的是cpu,然后就改为GPU
1)安装了torch2.6.0+cu124提示“torch-directml 0.2.5.dev240914 requires torch2.4.1, but you have torch 2.6.0+cu124 which is incompatible.”
2)直接执行pip install 安装 torch
2.4.1错误消失,但是python执行代码依然是调用cpu
3)初步排查原因应该是pytorch和cuda不匹配
查看nvidia-smi的cuda是12.6,查看之前的安装包,安装的是12.4呀?
啊,之前还以为是nvidia的驱动有问题,装了新驱动nivia-smi后cuda版本显示为12.8,一顿库库卸载,然后又安装个低版本的nvidia的驱动,nivia-smi后显示版本12.6,因为卸载的时候因为也卸载了cuda,所以安装的时候发现了问题,为啥没有安装cuda,nivia-smi后还是显示版本呢?至此百度后发现答案,原来这里的12.6并不是当前安装的版本,而是当前驱动可以支持的cuda最高的版本(操,不能多写几个字吗。。坑)

3.ok至此,之前提示的torch-directml 0.2.5.dev240914 requires torch==2.4.1,就去找对应的torch版本就就行,到下面链接搜索,torch-2.4.1,选择你要的版本,注意对应的python版本以及操作系统。

4.打开pycharm,执行命令:
import torch
print(torch.version) # 查看torch版本
print(torch.cuda.is_available()) # 查看cuda是否安装
print(torch.backends.cudnn.is_available()) # 查看cudnn是否安装
print(torch.version.cuda) # 打印cuda的版本
print(torch.backends.cudnn.version()) # 打印cudnn的版本

ok安装完毕~~

运行代码,显示“CUDA可用,将使用CUDA进行推理加速。”
妈耶~~哭了。。从4点搞到夜里4点,12个小时。。。

5.感谢知乎文章:https://www.zhihu.com/question/622711856/answer/3339303390,一句话点醒2个问题,1,cuda版本问题,2,可以直接一键cuda,不用拆开装,好用还方便
对了翻墙下载慢,用下面的链接,找到torch安装包后,用下载器下载后用pip命令直接安装,方便快捷~
希望这篇文章能让小伙伴们少走一些冤枉路~

以上误区总结:
误区1:nivia-smi后显示的cuda版本,不是当前版本的cuda,而是可以支持到的最大cuda版本(超级大的误区啊,搞了2个小时)
误区2:装cuda在装torch,不要,不要,不要装cuda,直接去装torch,torch非常友好,他可以把你的cuda 安装好

最后,网址记录:

常见的Torch、CUDA和Python版本的对应关系:https://blog.csdn.net/weixin_41809117/article/details/141246957

N卡安装程序下载
https://www.nvidia.cn/drivers/lookup/

首先进入CUDA Toolkit 官方界面:
https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html

torch安装包下载
https://download.pytorch.org/whl/torch/

最后的最后,想说:可以运用钞能力搞定,闲鱼30块~

Logo

欢迎来到FlagOS开发社区,这里是一个汇聚了AI开发者、数据科学家、机器学习爱好者以及业界专家的活力平台。我们致力于成为业内领先的Triton技术交流与应用分享的殿堂,为推动人工智能技术的普及与深化应用贡献力量。

更多推荐