CUDA

2热度

1回答

[2noise/ChatTTS]linux gpu服务器上，设置compile=True报错

系统信息：cenos7 GPU: NVIDIA GeForce RTX 3070 CUDA: cuda_11.4 torch: 2.3.0+cu118 关键代码： chat.load_models(source="local",local_path='models',compile=True) 报错信息：

5热度

1回答

[2noise/ChatTTS]生成语音质量不错，但速度太慢没法用

OS: MX x86_64 Host: Z390 AORUS ELITE Kernel: 6.8.12-1-liquorix-amd64 CPU: Intel i7-9700K (8) @ 3.601GHz GPU: NVIDIA GeForce RTX 3090 Memory: 10768MiB / 64230MiB Cuda 11.8 生成12秒的语音需要120秒以上，是不是我哪里设置的不

3热度

7回答

[2noise/ChatTTS]速度问题，明明有GPU但是运行好慢

平均1.34it/s，这正常吗，怎么回事啊，显卡如下图：推理的时候根本没占用gpu，这是什么问题啊？

6热度

5回答

[2noise/ChatTTS]时长最长30秒是吗

时长最长30秒是吗

5热度

3回答

[2noise/ChatTTS]有些常用字比如“梓”怎么都会识别不了

这个又不是生僻字，怎么被系统识别的时候转成了几个随机的英文字母了呢？前后的汉字都没问题

1热度

10回答

[2noise/ChatTTS]推理太慢问题

如图情况是正常的么，第一步一直warning好久了才开始慢慢进行推理，出现这些warning是正常的么：然后我现在使用的cuda是11.8，发现第一步和第二步仍然没有gpu参与：我看给的实例是it/s，我的怎么s/it，也太慢了吧

2热度

6回答

[2noise/ChatTTS]支持 MacbookPro M1/2/4？

4热度

6回答

[2noise/ChatTTS]本地测试的时候，不能100% 是什么原因？

2热度

5回答

[2noise/ChatTTS]一些参数的含义问题

请问推理代码中'[speed_5]，[oral_2]，[laugh_0]，[break_6]这些参数都是用来干什么的啊，有什么意义么，源代码如下 params_infer_code = {'prompt':'[speed_5]', 'temperature':.3} params_refine_text = {'prompt':'[oral_2][laugh_0][break_6]'}

2热度

2回答

[2noise/ChatTTS]在chattts现有模型上进行加速推理和流式语音输出

chattts确实是目前开源tts的天花板。但用于实际应用，应该还要解决下面几个问题：训练自己的语音（克隆）加速推理（目前推理速度太慢，很难做到机器人实时对话）推理结果流式输出（做到机器人实时对话必须要流式输出）咨询过作者，关于推理加速，以及流式输出，作者希望由社区来自主开发完成。不知道有没有有兴趣的朋友已经在动手做了？

9热度

3回答

[2noise/ChatTTS]保存并基本固定音色的方法

采用core里的sample_random_speaker方法随机生成音色： text = "简短的测试文字，可以节省生成测试语音的时间" rand_spk = chat.sample_random_speaker() params_infer_code = { 'prompt':'[speed_5]', 'temperature':.3, 'spk_emb': rand

3热度

5回答

[2noise/ChatTTS]报错:WARNING:ChatTTS.utils.gpu_utils:No GPU found, use CPU instead

6热度

10回答

[THUDM/ChatGLM-6B][BUG/Help] readme文档里为啥没有多卡ptuning的教程呢，或者解释一句会有什么情况吧，这个问题困扰好多人啊

readme文档里为啥没有多卡ptuning的教程呢，或者解释一句会有什么情况吧，这个问题困扰好多人啊

1热度

6回答

[THUDM/ChatGLM-6B][Feature] 请问ChatGLM-6B支持batch inference吗？

请问ChatGLM-6B支持做batch inference吗？如果支持，请问怎么设置？谢谢！

4热度

7回答

[THUDM/ChatGLM-6B]P-tuning v2怎么多卡训练啊？能不能出一个详细教程？ [BUG/Help]

我直接把train指定为下面这样，主要是CUDA_VISIBLE_DEVICES=0,1,2,3这里改了 PRE_SEQ_LEN=128 LR=2e-2 CUDA_VISIBLE_DEVICES=0,1,2,3 python3 main.py \ --do_train \ --train_file junshi/full_train.json \ --validation_file junshi/

3热度

5回答

[THUDM/ChatGLM-6B][Help] 如何像stable diffusion一样只要启动第一次后续就不需要联网

第一次打开web_demo.py正常运行后我使用控制面板把网络禁用进入断网状态，但是在这状态下再次打开web_demo.py脚本后出现以下 C:\Users\open>E:\1\chatglm-6b\web_demo1232.py Explicitly passing a revision is encouraged when loading a model with custom code

4热度

11回答

[THUDM/ChatGLM-6B]怎么释放GPU内存，使用torch.cuda.empty_cache()不起作用

随着提问的问题的增多，GPU内存占用也会增加，内存会溢出，有没有办法，每次推理完成后，释放下内存，我使用torch.cuda.empty_cache()不起作用。怎么修改代码，可以在推理内存满了后，释放下内存，继续推理

10热度

7回答

[ggerganov/llama.cpp]构建 C 对象 CMakeFiles/ggml.dir/ggml.co 失败

我输入： git clone https://github.com/ggerganov/llama.cpp cd llama.cpp mkdir build cd build cmake .. -DLLAMA_CUBLAS=ON cmake --build 。--config 发布失败于：[ 2%] 构建 C 对象 CMakeFiles/ggml.dir/ggml.co 错误显示：调用“alw

1热度

5回答

[ggerganov/llama.cpp]服务器可执行文件在空闲时不应消耗 cpu/gpu 功率。

当我运行服务器可执行文件时，它不断地将我的 GPU 保持在 50W 功耗，同时没有提示正在处理。当我在交互式终端模式下运行 llama 可执行文件时，不会出现此问题。在几代之间，当 llama 等待新输入时，GPU 可以休息并放松（闲置功耗约为 11W 左右）。为什么服务器可执行文件使 GPU（或 cpu，无论您使用什么）占用这么多？我确信这是没有必要的