Python

2热度

6回答

[babysor/MockingBird]训练vocoder会自动停止

8热度

4回答

[babysor/MockingBird]点击 record 之后会报 Axis limits canot be NaN or Inf

5热度

4回答

[babysor/MockingBird]训练synthesizer时，如何获得已经收敛的模型？

晚上挂着训练日语模型的时候，今早起来突然发现在18000step和19500step的时候已经完全收敛了，但是还在挂着一直训练，好像没有自动保存的样子。怎么获得对应step的模型？ 18000step : 19500ste p 由于一直挂着，现在已经到25k了，自动保存的好像也是25k的 25000: 有办法获得对应step的模型吗，还是只能人工看收敛的时候停止训练？

4热度

6回答

[THUDM/ChatGLM-6B][BUG/Help] linux下chatglm-6b-int4模型无法用GPU加载

用GPU加载chatglm-6b-int4模型，kernel编译失败： >>> from transformers import AutoTokenizer, AutoModel >>> model = AutoModel.from_pretrained("./chatglm-6b-int4", trust_remote_code=True).half().cu

8热度

6回答

[THUDM/ChatGLM-6B][Help] macOS intel U，使用CPU推理

发现推理的时候，只有一个python进程的CPU利用率是100%，其他的CPU都在围观，是不是没有用到并行计算？希望所有的CPU利用率都打满，提高推理速度。 python cli_demo.py Environment - OS: macOS 10.15.7 Intel - Python: 3.8.16 - Transformers: 4.26.1 - PyTorch: 1.7.0 - CU

9热度

8回答

[THUDM/ChatGLM-6B][BUG/Help] readme给出的最小demo示例有 bug，无法跑通

readme给出的最小demo示例是无法跑通的，response返回的总是空的，已经有不少人遭遇了同样的问题，并且提过issue，但没有人解答。这个基础的bug预计何时修复？ Environment - OS: any - Python:any - Transformers:any - PyTorch:any - CUDA Support (`python -c "import torch

6热度

7回答

[THUDM/ChatGLM-6B]我的gpu为11G，跑不了小模型THUDM/chatglm-6b-int4-qe

python wll.py 内容如下：测试 - GPU from transformers import AutoTokenizer, AutoModel tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b-int4-qe", trust_remote_code=True) model = AutoModel.from_pret

1热度

5回答

[THUDM/ChatGLM-6B]ptuning评估的时候报错：The expanded size of the tensor (140) must match the existing size (312) at non-singleton dimension 0. Target sizes: [140]. Tensor sizes: [312]

File "/ptuning/main.py", line 416, in <module> main() File "/ptuning/main.py", line 354, in main train_result = trainer.train(resume_from_checkpoint=checkpoint) File "/home/searchg

10热度

7回答

[THUDM/ChatGLM-6B][Help] PTuning之后，进行evaluate时候，无法复现效果

这是从generated_predictions.txt里面截取的： {"labels": "设计剪裁立体有心意,穿着更加有型有范儿。设计师匠心独制,高腰阔腿设计修饰腿部线条为此款白色牛仔短裤添彩,另外做旧毛边工艺设计又将短裤点缀得恰到好处。简约大方的牛仔面料,使每个女孩子都能轻松驾驭,展现夏日", "predict": "何以故何以故何以故何以故何以故何以故何以故何以故何以故何

9热度

5回答

[THUDM/ChatGLM-6B][BUG/Help] 我可以使用我自己的公网ip吗

在使用web_demo.py时我没找到成功修改/指定ip的方法在Anaconda中，运行了此项目 Environment - OS:win10 企业版 LTSC - Python: 3.10 - Transformers: 4.27.1 - PyTorch: 2.0.0 - CUDA Support (`python -c "import torch; print(torch.cuda.

2热度

6回答

[THUDM/ChatGLM-6B]ptuning时报错： AttributeError: 'ChatGLMModel' object has no attribute 'prefix_encoder'

Traceback (most recent call last): File "/ChatGLM-6B/ptuning/main.py", line 392, in main() File ""/ChatGLM-6B/ptuning/main.py", line 120, in main model.transformer.prefix_encoder.float() File "/root/

9热度

10回答

[THUDM/ChatGLM-6B]菜鸟选手请教：如何构建自己的数据集

真的要一条条数据手动生成吗QAQ？还是说有没有一个方法，根据已有的文本数据自动生成一些问答数据集。看官方的广告生成数据集，差不多1.5w条数据，要是自己手动弄，工作量也忒大了吧

4热度

10回答

[THUDM/ChatGLM-6B]ptuning 的evaluate.sh执行失败

[WARNING|tokenization_auto.py:652] 2023-04-03 18:03:23,678 >> Explicitly passing a revision is encouraged when loading a model with custom code to ensure no malicious code has been contributed i

10热度

5回答

[THUDM/ChatGLM-6B][BUG/Help] web_demo.py处理对话报错 RuntimeError: Tensors must have same number of dimensions: got 4 and 2

步骤使用该镜像启动容器调用镜像自带chatglm模型并联网下载tokenizer 启动web_demo.py后在对话框进行对话错误现象模型可以正常加载，但执行对话报错。主要错误 File "/root/miniconda3/lib/python3.8/site-packages/transformers/generation/utils.py", line 733, i

4热度

6回答

[THUDM/ChatGLM-6B][Help]请教有没有方法拓展Chat-GLM-6B在某个学科领域的知识储备？

想借助ChatGLM-6B进行专业领域文本的分析，希望ChatGLM-6B阅读一段专业领域文本后，回答提出的问题。例如实现这样的效果：我问：胃癌是不是恶性肿瘤？ ChatGLM答：是。这里面需要ChatGPT知晓胃癌是癌症这个知识，请问如何做能让ChatGLM扩充知识内容？感谢！ Environment - OS: not needed - Python: n

9热度

5回答

[THUDM/ChatGLM-6B][BUG/Help] 布置到windows服务器上，没有报错，但AI也没有回复

我本地电脑上能正常运行cli_demo.py，但部署在腾讯GPU服务器上却有问题，我是通过远程桌面连接到服务器，然后打开VSCdoe跑cli_demo.py，提问之后AI没有回复消息，也没报错，字符串变量response没有任何内容（cli_demo.py第18~21行），我没改动过代码，都是本地测试过在上传到服务器的。试过换了windows server 2022系统，还是同样的问题。 ---

8热度

9回答

[THUDM/ChatGLM-6B][BUG/Help] <使用evaluate.sh 评估模型效果时报错>

在adgen数据上进行微调之后想测试模型效果。尝试运行evaluate.sh时总会报这个错误，但是不知道怎么解决 Steps To Reproduce bash evaluate.sh Environment - OS: - Python: 3.7.5 - Transformers: 4.27.1 - PyTorch: 1.13.1 - CUDA Support (`python -c "

9热度

5回答

[THUDM/ChatGLM-6B]如何在微调后应该对其进行下游任务的训练TRAIN this model on a down-stream[BUG/Help]

微调后加载模型和checkpoint 出现如下提示： Some weights of ChatGLMForConditionalGeneration were not initialized from the model checkpoint at D:\glm\chatglm_webui\chatglm-6b and are newly initialized: ['transformer.pr

5热度

12回答

[THUDM/ChatGLM-6B]想保留原有的对话能力并增加现有的问题处理对话哪种更适合呢？lora还是ptuning？？？我还有个疑问，#413 说到ptuning微调之后就只支持当前任务了，这种同样是对话的任务微调之后之前的对话能力是否也会变差？如果想保留原有的对话能力并增加现有的问题处理对话是不是使用lora更适合？

想保留原有的对话能力并增加现有的问题处理对话哪种更适合呢？lora还是ptuning？？？我还有个疑问，https://github.com/THUDM/ChatGLM-6B/issues/413 说到ptuning微调之后就只支持当前任务了，这种同样是对话的任务微调之后之前的对话能力是否也会变差？如果想保留原有的对话能力并增加现有的问题处理对话是不是使用lora更适合？ Environment

9热度

6回答

[THUDM/ChatGLM-6B][BUG/Help] M1上无法运行，报错“AssertionError: Torch not compiled with CUDA enabled”

本地下载完成模型，修改完代码，运行python cli_demo.py，报错AssertionError: Torch not compiled with CUDA enabled，似乎是cuda不支持arm架构，本地启了一个conda装了pytorch，但是不能装cuda 1、python cli_demo.py Environment - OS: mac 13.0 - Python: 3