如图情况是正常的么,第一步一直warning好久了才开始慢慢进行推理,出现这些warning是正常的么:
然后我现在使用的cuda是11.8,发现第一步和第二步仍然没有gpu参与:
我看给的实例是it/s,我的怎么s/it,也太慢了吧
Q
[2noise/ChatTTS]推理太慢问题
5
A
回答
5
明明CUDA版本和torch是对应的,compile设置的也是false了,还是找不到gpu,这是怎么回事
5
可能是cuda 库找的不对. 如果你用的是Ubuntu 系统, 可以参考: https://github.com/2noise/ChatTTS/issues/213
2
可能是cuda 库找的不对. 如果你用的是Ubuntu 系统, 可以参考: #213
我用的不是webui啊,而且也不是这个错
6
搞个测试文件运行一下看是true还是false import torch print(torch.cuda.is_available())
3
我猜你可能torch库没装
1
使用cuda12.1解决了,证明cuda11.8不行
0
我用的就是cuda11.8,没啥问题
1
我用的就是cuda11.8,没啥问题
那就很玄学了,11.8装了官方相配的torch两个版本都不行,换成12.1可以了
2
涉及到torch就会变得玄学, 我也是试了各种组合, torch就一句话:就要用cpu
6
Nvidia 驱动、cuda版本、pytorch 版本太玄学了,我昨晚更新了一下Ubuntu系统,别说快与慢了,系统登入后直接卡死,键盘鼠标都没法操作,最好只能通过iPad登入,卸载所有Nvidia驱动,折腾了好几个小时才恢复到能使用GPU的状态。学到教训了,以后轻易不乱升级系统😄