[geekan/MetaGPT]GPT4好贵,如何接入其他模型呢

2024-05-16 621 views
5

比如Qwen、Baichuan2等...

回答

6

哪怕能接GPT3.5也行 谢谢

0

只要是openai接口规范的模型都是可以接的。 如果要使用GPT3.5,修改config.yaml中的OPENAI_API_MODEL就行了。

9

同意!

2

能不能call本地serve的model呢?比如用TGI和vllm

0

只要是openai接口规范的模型都是可以接的。 如果要使用GPT3.5,修改config.yaml中的OPENAI_API_MODEL就行了。

谢谢

7

只修改config.yaml中的OPENAI_API_MODEL和API_Base就可以了吗?没有别的需要修改的地方吗

只要是openai接口规范的模型都是可以接的。 如果要使用GPT3.5,修改config.yaml中的OPENAI_API_MODEL就行了。

2

但gpt3。5写出来的基本不能用, 和4 没法比呀

4

但gpt3。5写出来的基本不能用, 和4 没法比呀

唉,GPT4太贵了,公司也不给报销 :P

3

感觉可以上langchain当 支持一堆llm可以直接用