自己一顿操作,写了 Firebase Functions 的套壳,结果发现支持 stream ,所有结果返回后才会统一吐回客户端。
调查了一下,发现 AWS Lambda 支持,但是我对 aws 不熟,也几乎没写过 nodejs ,想找个人帮忙写一下。
具体需求:
1.将 Firebase Jwt 接入 AWS 的 jwt 验证
(这个我大概搜了一下,似乎配置一下就可以,如果我理解的不对欢迎指出)
2.请求 Azure OpenAi 接口,并以流式结果返回(每个 token 以 json 形式返回客户端)
应用还没上线,暂未盈利,所以预算有限,可以接受 1000 左右。
有意可以加我 VX:T2h2bm5ubg==
1
john990 OP 大佬们帮帮忙🥲
|
2
zbinlin 2023-07-30 21:01:38 +08:00 1
没找到人可以 Email 联系我
|
4
john990 OP |
5
MintZX 2023-07-31 10:43:38 +08:00
我倒是用 AWS lambda 做了 python SDK 的 openai 套壳,但是好像没有能以流形式返回结果的方式。
|
6
MintZX 2023-07-31 10:45:25 +08:00
对了,Azure OpenAI 的接口就算是用流的形式返回,也受限于 request + response <= 4096 token limit 的限制。这是 OpenAI API 的限制,跟是否用流的形式返回没有关系。
|