[2noise/ChatTTS]速度问题,明明有GPU但是运行好慢

2024-06-06 711 views
9

image 平均1.34it/s,这正常吗,怎么回事啊,显卡如下图: image 推理的时候根本没占用gpu,这是什么问题啊?

回答

7

same here. It use so much CPU

0

我也一样,感觉就没使用GPU

6

CUDA版本太低了, pytorch 2.1.0+ 只支持CUDA 11.8 or 12.1或以上

image 平均1.34it/s,这正常吗,怎么回事啊,显卡如下图: image 推理的时候根本没占用gpu,这是什么问题啊?

5

image 平均1.34it/s,这正常吗,怎么回事啊,显卡如下图: image 推理的时候根本没占用gpu,这是什么问题啊?

检查一下torch版本,需要用torch+cuda的版本

0

更新下显卡驱动,安装 cuda11.8+

9

预编译compile选项为True时, gpu就不工作了 @lich99

3

1717385313467

明明CUDA版本和torch是对应的,compile设置的也是false了,还是找不到gpu,这是怎么回事