[Chanzhaoyu/chatgpt-web]feat: 添加 Azure OpenAI 连接方式

2024-06-26 361 views
0

项目所用的 chatgpt-api(https://github.com/transitive-bullshit/chatgpt-api) 目前还不支持 Azure OpenAI(aoai)。

因为 Azure OpenAI 在请求 Url 和 Auth Key 上是不一致的,没法直接兼容。

我尝试修改了 chatgpt-web 的 fetch options,在里面兼容 azure 的 url 和 header,但是出现了对话无法自动结束的问题:#831

跟了下代码,是 chatgpt-api 所用的 eventsource-parser 和 aoai 的响应不兼容,涉及到的包有点多,所以我直接做了个 proxy,把 Azure OpenAI 转换成 OpenAI 官方标准的 API。

目前自己已经部署在使用了。

回答

6

Azure OpenAI 有啥好处?支持GPT3.5 , 甚至4吗?

1

我现在就是用的 3.5 ,4目前是waitlist状态,和官方差不多吧,云服务,如果非要说好处的话,就是API不限制调用的地区

6

我看了下 只有美东有这哦服务,国内服务器可以直接调用吗?

另外注册中国区也可以申请吗?

6

可以直接调用,国际版才行

6

支持一波,Azure OpenAI后续国内使用应该方便一些!

2

你好,你写的proxy我用过了,但是经过你代理之后丢失了stream打字的效果,你知道如何实现打字效果吗?

3

我用了@stulzq 的代理, GPT-3.5有打字效果, GPT-4没有(可能是因为GPT-4响应太慢了) 如果前置还有Nginx的话,Nginx conf文件中设置proxy_buffering off;