有没有反向代理 Azure OpenAI 的 Proxy 推荐？

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

• 请不要在回答技术问题时复制粘贴 AI 生成的内容

其实未来，单个 Azure OpenAI 的接口并发量不够，

是否可以有什么反向代理，类似 Nginx ，

可以后端可以指向多个 Azure OpenAI 的 endpoint ？然后对前端供统一的 AK/SK

4 条回复

wind1986

5 天前

这请求不是无状态的么, 要么通过代码随机选一个
要么 nginx 配也可以, 直接修改 http 头

Tink

5 天前

自建一个呗，几分钟的事

ysicing

4 天前

oneapi 不就可以么

ydirel

4 天前

ohmygpt 了解一下