[2noise/ChatTTS]推理太慢问题

2024-06-05 446 views
6

如图情况是正常的么,第一步一直warning好久了才开始慢慢进行推理,出现这些warning是正常的么: image 然后我现在使用的cuda是11.8,发现第一步和第二步仍然没有gpu参与: image image 我看给的实例是it/s,我的怎么s/it,也太慢了吧

回答

9

1717385313467 明明CUDA版本和torch是对应的,compile设置的也是false了,还是找不到gpu,这是怎么回事

1

可能是cuda 库找的不对. 如果你用的是Ubuntu 系统, 可以参考: #213

我用的不是webui啊,而且也不是这个错

9

搞个测试文件运行一下看是true还是false import torch print(torch.cuda.is_available())

2

我猜你可能torch库没装

9

使用cuda12.1解决了,证明cuda11.8不行

6

我用的就是cuda11.8,没啥问题

8

我用的就是cuda11.8,没啥问题

那就很玄学了,11.8装了官方相配的torch两个版本都不行,换成12.1可以了

0

涉及到torch就会变得玄学, 我也是试了各种组合, torch就一句话:就要用cpu

2

Nvidia 驱动、cuda版本、pytorch 版本太玄学了,我昨晚更新了一下Ubuntu系统,别说快与慢了,系统登入后直接卡死,键盘鼠标都没法操作,最好只能通过iPad登入,卸载所有Nvidia驱动,折腾了好几个小时才恢复到能使用GPU的状态。学到教训了,以后轻易不乱升级系统😄