V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
john990
V2EX  ›  程序员

有偿:熟悉 aws lambda 和 nodejs 的 v 友帮忙写一个 openai 套壳接口

  •  
  •   john990 · 2023-07-30 18:12:42 +08:00 · 1011 次点击
    这是一个创建于 480 天前的主题,其中的信息可能已经有所发展或是发生改变。

    自己一顿操作,写了 Firebase Functions 的套壳,结果发现支持 stream ,所有结果返回后才会统一吐回客户端。

    调查了一下,发现 AWS Lambda 支持,但是我对 aws 不熟,也几乎没写过 nodejs ,想找个人帮忙写一下。

    具体需求:

    1.将 Firebase Jwt 接入 AWS 的 jwt 验证

    (这个我大概搜了一下,似乎配置一下就可以,如果我理解的不对欢迎指出)

    2.请求 Azure OpenAi 接口,并以流式结果返回(每个 token 以 json 形式返回客户端)

    应用还没上线,暂未盈利,所以预算有限,可以接受 1000 左右。

    有意可以加我 VX:T2h2bm5ubg==

    第 1 条附言  ·  2023-08-02 10:39:47 +08:00
    已经找到了,结贴,感谢 v2
    john990
        1
    john990  
    OP
       2023-07-30 20:02:51 +08:00
    大佬们帮帮忙🥲
    zbinlin
        2
    zbinlin  
       2023-07-30 21:01:38 +08:00   ❤️ 1
    没找到人可以 Email 联系我
    john990
        3
    john990  
    OP
       2023-07-30 21:48:04 +08:00
    @zbinlin #2 发你邮件了
    john990
        4
    john990  
    OP
       2023-07-31 08:30:09 +08:00
    仍然有效
    MintZX
        5
    MintZX  
       2023-07-31 10:43:38 +08:00
    我倒是用 AWS lambda 做了 python SDK 的 openai 套壳,但是好像没有能以流形式返回结果的方式。
    MintZX
        6
    MintZX  
       2023-07-31 10:45:25 +08:00
    对了,Azure OpenAI 的接口就算是用流的形式返回,也受限于 request + response <= 4096 token limit 的限制。这是 OpenAI API 的限制,跟是否用流的形式返回没有关系。
    john990
        7
    john990  
    OP
       2023-08-02 10:40:44 +08:00
    @MintZX #5 可以用流,不过只支持 nodejs
    MintZX
        8
    MintZX  
       2023-08-02 12:22:38 +08:00
    @john990 #7 这样啊,好吧我确实不太清楚。我不知道你是如何确定可以用流的,不过如果你都确定可以用流了的话自己做就好了。本身 openai 的那个 sdk 就非常简单,好像就三四个参数。
    john990
        9
    john990  
    OP
       2023-08-03 10:36:09 +08:00
    @MintZX #8 AWS 官方文档说可以用流,主要对 nodejs 不熟,不过已经被 v 友完成了,再次感谢 v2
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2908 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 00:19 · PVG 08:19 · LAX 16:19 · JFK 19:19
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.