[geekan/MetaGPT]GPT4好贵,如何接入其他模型呢

2024-05-16 223 views
3

比如Qwen、Baichuan2等...

回答

0

哪怕能接GPT3.5也行 谢谢

5

只要是openai接口规范的模型都是可以接的。 如果要使用GPT3.5,修改config.yaml中的OPENAI_API_MODEL就行了。

7

同意!

9

能不能call本地serve的model呢?比如用TGI和vllm

1

只要是openai接口规范的模型都是可以接的。 如果要使用GPT3.5,修改config.yaml中的OPENAI_API_MODEL就行了。

谢谢

2

只修改config.yaml中的OPENAI_API_MODEL和API_Base就可以了吗?没有别的需要修改的地方吗

只要是openai接口规范的模型都是可以接的。 如果要使用GPT3.5,修改config.yaml中的OPENAI_API_MODEL就行了。

1

但gpt3。5写出来的基本不能用, 和4 没法比呀

2

但gpt3。5写出来的基本不能用, 和4 没法比呀

唉,GPT4太贵了,公司也不给报销 :P

9

感觉可以上langchain当 支持一堆llm可以直接用