在自己电脑上部署GPU版本,由于cuda 版本原因, 使用的pytorch为1.7.1,执行web_demo.py 报错, 执行这个modeling_chatglm.py时报错, 在这个版本下要怎么修改呢,能帮忙贴下代码吗,感谢
在torch为1.7.1 时 正常加载模型
python web-demo.py
Environment- OS:window
- Python:3.9
- Transformers:
- PyTorch:1.7.1
- CUDA Support (`python -c "import torch; print(torch.cuda.is_available())"`) : true