ABSoft

最新提问

3热度

12回答

[PaddlePaddle/PaddleOCR]请问怎么修改默认9.7M大小的版本面分析模型为221.0M大小的版本面分析模型？

直接修改模型和字典会报错，是不是哪里还要设置？例如我想用官方模型库里的ppyolov2_r50vd_dcn_365e_publaynet该怎么办？没看到文档里有说明 https://github.com/PaddlePaddle/PaddleOCR/blob/ release/2.6/ppstruct/docs/models_list.md 报错：layout_res, elapse = self

6热度

5回答

[THUDM/ChatGLM-6B]tokenization中文标点符号会映射成英文标点符号

用预训练的ChatGLM做抽取任务的时候发现，抽取的标点符号会修改，发现中文标点符号encoder再decoder之后会转为英文标点。 e.g. :"，"会变成","。请问这么做是认为中英文标点符号表达意思一致，这样做减少训练成本嘛？但是可能在其它特定标点符号修正上是不是会有点问题？请问词表未来还有变更的计划嘛？

4热度

6回答

[THUDM/ChatGLM-6B][Help] <请问p-tuning 和 p-tuning V2 仅仅只修改prefix_projection 参数>吗

原code的ptuning里的train.sh脚本里没有加入prefix_projection参数，这样默认是通过p-tuning训练吗？我尝试增加参数 --prefix_projection True 但是出现训练报错显存不够？batch缩到很小也不行。报错：显示显存不足。但是我看示例代码的train.sh里面也没有写prefix_projection这个参数，而model默认

7热度

7回答

[THUDM/ChatGLM-6B]多卡部署高并发测试问题：部署可以平均分配显存，为啥推理预测时不行？

from utils import load_model_on_gpus model = load_model_on_gpus("THUDM/chatglm-6b", num_gpus=2) 使用以上官方代码部署多卡推理多卡部署高并发测试问题：部署阶段可以平均分配显存，为啥推理预测时不行？当我高并发测试时，其中一张卡显存一直在涨，另一张显卡显存占用始终不变。直到第一张显卡显存涨到顶就崩掉。为啥

4热度

8回答

[THUDM/ChatGLM-6B][BUG/Help] 在对话时文本长度被限制了，对话不完整

对话不完整，有长度限制，回答戛然而止按着ptuning的readme走的，在启动了web——demo之后出现的 Environment - OS:ubuntu16 - Python:3.9 - Transformers:4.27.1 - PyTorch:2.0.1 - CUDA Support (`python -c "import torch; print(torch.cuda.is_

2热度

5回答

[THUDM/ChatGLM-6B][BUG/Help] 6B模型下怎么解决

我使用ChatGLM-6B模型，使用4bit量化训练，更换了 bell math的数据源，训练时报RuntimeError: expected scalar type Float but found Half，报错信息和执行命令如下 Traceback (most recent call last): File "main.py", line 434, in <module> main

1热度

10回答

[THUDM/ChatGLM-6B][BUG/Help] readme文档里为啥没有多卡ptuning的教程呢，或者解释一句会有什么情况吧，这个问题困扰好多人啊

readme文档里为啥没有多卡ptuning的教程呢，或者解释一句会有什么情况吧，这个问题困扰好多人啊

1热度

6回答

[THUDM/ChatGLM-6B][Feature] 请问ChatGLM-6B支持batch inference吗？

请问ChatGLM-6B支持做batch inference吗？如果支持，请问怎么设置？谢谢！

6热度

7回答

[THUDM/ChatGLM-6B]P-tuning v2怎么多卡训练啊？能不能出一个详细教程？ [BUG/Help]

我直接把train指定为下面这样，主要是CUDA_VISIBLE_DEVICES=0,1,2,3这里改了 PRE_SEQ_LEN=128 LR=2e-2 CUDA_VISIBLE_DEVICES=0,1,2,3 python3 main.py \ --do_train \ --train_file junshi/full_train.json \ --validation_file junshi/

2热度

5回答

[THUDM/ChatGLM-6B][Help] 如何像stable diffusion一样只要启动第一次后续就不需要联网

第一次打开web_demo.py正常运行后我使用控制面板把网络禁用进入断网状态，但是在这状态下再次打开web_demo.py脚本后出现以下 C:\Users\open>E:\1\chatglm-6b\web_demo1232.py Explicitly passing a revision is encouraged when loading a model with custom code

8热度

11回答

[THUDM/ChatGLM-6B]怎么释放GPU内存，使用torch.cuda.empty_cache()不起作用

随着提问的问题的增多，GPU内存占用也会增加，内存会溢出，有没有办法，每次推理完成后，释放下内存，我使用torch.cuda.empty_cache()不起作用。怎么修改代码，可以在推理内存满了后，释放下内存，继续推理

5热度

7回答

[THUDM/ChatGLM-6B][Help] <使用deepspeed全量模型微调，内存不够用>

环境是5个RTX3090，300多GB内存，使用了deepspeed的zero3，把优化器和模型参数都offload到内存跑deepspeed全量模型微调跑到1000个step的时候，做checkpoint，写入文件失败，查询发现是内存不够想问问作者跑deepspeed的时候，用的服务器是多大内存期望可以正常跑完训练 deepspeed.json `{ "fp16": { "en

9热度

12回答

[PaddlePaddle/PaddleOCR]使用ABInet训练时报错

我想要识别的文本比较长，所以想尝试将max_text_length设置为一个更大的数，但是改变该值后（默认为25，修改成50后），训练报错： Traceback (most recent call last): File "PaddleOCR/tools/train.py", line 208, in <module> main(config, device, logger

2热度

18回答

[PaddlePaddle/PaddleOCR]PPstructure 表格识别错误

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment： Windows 10 家庭中文版 22H2： 1060MaxQ + CUDA 11.6 版本号/Version： Python：3.9, anaconda Paddle：p

7热度

11回答

[PaddlePaddle/PaddleOCR]训练ser任务报错

SER单卡训练 python3 tools/train.py -c configs/kie/vi_layoutxlm/ser_vi_layoutxlm_xfund_zh.yml 报错： TypeError: init() got an unexpected keyword argument 'num_classes'

0热度

14回答

[PaddlePaddle/PaddleOCR]PPLCNetNew找不到對應模型

系统环境/System Environment：Ubuntu 版本号/Version：Paddle v2.5： PaddleOCR：问题相关组件/Related components： ppocr/modeling/necks/db_fpn.py 运行指令/Command Code：python tools/train.py -c ./ch_PP-OCRv4_det_cml.yml

2热度

14回答

[PaddlePaddle/PaddleOCR]训练ch_PP-OCRv4_rec_distill.yml，各种报错：1. KeyError: 'NRTRLabelDecode'；2. KeyError: 'valid_ratio'；3. The input of Op(Conv) should be a 4-D or 5-D Tensor. But received: input's dimension is 3, input's shape is [128, 240, 256]

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment：docker ubuntu 20.04，是官方提供的镜像版本号/Version：Paddle：2.5.1， PaddleOCR：release/2.7 或者 dygra

4热度

16回答

[PaddlePaddle/PaddleOCR]PPOCRLabel开启时报错，打不开

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment：python 3.11.4 版本号/Version：Paddle： PaddleOCR：问题相关组件/Related components：PPOCRLabel 运行指

8热度

17回答

[PaddlePaddle/PaddleOCR]更换了高精度的检测模型det和识别模型rec以后，cuda会报错: [Hint: 'CUDNN_STATUS_NOT_SUPPORTED'. The functionality requested is not presently supported by cuDNN. ]

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment：debian 11 版本号/Version：Paddle：2.5.1 PaddleOCR：2.7.0.1 问题相关组件/Related components：cuda

9热度

15回答

[PaddlePaddle/PaddleOCR]训练DBNet，使用det_mv3_db.yml GPU利用率波动

请提供下述完整信息以便快速定位问题/Please provide the following information to quickly locate the problem 系统环境/System Environment：ubuntu 18 版本号/Version：Paddle： PaddleOCR：问题相关组件/Related components：paddle 2.4.1 运行指令/