比如Qwen、Baichuan2等...
Q
[geekan/MetaGPT]GPT4好贵,如何接入其他模型呢
3
A
回答
0
哪怕能接GPT3.5也行 谢谢
5
只要是openai接口规范的模型都是可以接的。 如果要使用GPT3.5,修改config.yaml中的OPENAI_API_MODEL就行了。
7
同意!
9
能不能call本地serve的model呢?比如用TGI和vllm
1
只要是openai接口规范的模型都是可以接的。 如果要使用GPT3.5,修改config.yaml中的OPENAI_API_MODEL就行了。
谢谢
2
只修改config.yaml中的OPENAI_API_MODEL和API_Base就可以了吗?没有别的需要修改的地方吗
只要是openai接口规范的模型都是可以接的。 如果要使用GPT3.5,修改config.yaml中的OPENAI_API_MODEL就行了。
1
但gpt3。5写出来的基本不能用, 和4 没法比呀
2
但gpt3。5写出来的基本不能用, 和4 没法比呀
唉,GPT4太贵了,公司也不给报销 :P
9
感觉可以上langchain当 支持一堆llm可以直接用
5
2