V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Gunn27
V2EX  ›  程序员

需要用到 GPT API 的项目,大家本地部署门槛高吗?

  •  
  •   Gunn27 · 2023-05-12 09:41:57 +08:00 · 5761 次点击
    这是一个创建于 548 天前的主题,其中的信息可能已经有所发展或是发生改变。

    我们正在做的开源软件 ApiCat 会调用 GPT 的 API ,用户如果想要使用,需要解决两个问题:

    1. GPT API 网络无障碍访问的问题
    2. 拥有自己的 API Key 的问题

    但感觉对一些用户来说是一个麻烦的事情(V2EX 的用户应该会好很多),有一些使用门槛,所以我们在考虑需不需要给用户在海外服务器上搭一套 Cloud 版去使用,并免费提供一定额度的 GPT API 给用户。大家什么看法?

    也欢迎各位关注我们的项目 https://github.com/apicat/apicat

    36 条回复    2023-06-08 18:18:33 +08:00
    jaylee4869
        1
    jaylee4869  
       2023-05-12 10:03:35 +08:00
    直接用 Azure Open AI Service 就行了呀
    luomao
        2
    luomao  
       2023-05-12 10:03:39 +08:00
    国内貌似有很多这种提供代理 API 的平台了。其实我觉得这是一个悖论
    1. 如果用户没有开发能力,他第一选择应该是镜像站,而不是 API 代理
    2. 如果用户有开发能力,那么我觉得他如果解决不了 OpenAI 的付款与访问能力,说明没用心或者欠缺一些探索精神
    所以这种产品挺尴尬的,我也开发了一个 GPT 镜像站,苦于没有变现手段(个人支付的问题)搁置了很久
    Gunn27
        3
    Gunn27  
    OP
       2023-05-12 10:10:21 +08:00
    @jaylee4869 这个不是所有开发者都有吧
    Gunn27
        4
    Gunn27  
    OP
       2023-05-12 10:11:25 +08:00
    @luomao 上线了吗?能否学习一下?
    dada88xyxy
        5
    dada88xyxy  
       2023-05-12 10:18:10 +08:00
    我看到现在大部分的项目是国内部署前端,然后后端用代理方式访问 openai 接口。然后用户界面有一个设置,可以设置是用自己的 api key 抑或是充值用网站主的 key
    gaobh
        6
    gaobh  
       2023-05-12 10:20:39 +08:00
    服务器直接买海外的就行了,要啥代理,太复杂
    yuthelloworld
        7
    yuthelloworld  
       2023-05-12 10:22:56 +08:00
    @gaobh 有推荐的平台可以购买的吗?香港服务器是否可以
    gaobh
        8
    gaobh  
       2023-05-12 10:23:40 +08:00
    @yuthelloworld #7 可以,良心云就行
    cheng6563
        9
    cheng6563  
       2023-05-12 10:27:23 +08:00
    API 网络用 cloudflare action 代理下就行了,有域名就行。
    Gunn27
        10
    Gunn27  
    OP
       2023-05-12 10:54:43 +08:00
    @dada88xyxy 感觉这是目前绝大多数的做法
    luomao
        11
    luomao  
       2023-05-12 10:59:53 +08:00
    xmumiffy
        12
    xmumiffy  
       2023-05-12 11:04:25 +08:00 via Android
    什么价格呢,我知道一个现在是 1/7 官网价格的竞品
    morebuff
        13
    morebuff  
       2023-05-12 13:19:49 +08:00
    用阿里云的日本或者硅谷的函数计算节点就像了,不用买服务器
    Gunn27
        14
    Gunn27  
    OP
       2023-05-12 14:17:10 +08:00
    @morebuff 这也确实是个好办法,感谢
    Gunn27
        15
    Gunn27  
    OP
       2023-05-12 14:19:34 +08:00
    @luomao 不错,刚帮你在微信群里宣传了一下
    luomao
        16
    luomao  
       2023-05-12 14:58:39 +08:00
    @Gunn27 额,我这个暂时不会赠送免费次数,如果有需要按照提示的邮箱发邮件联系我开通试用次数吧
    ztxcccc
        17
    ztxcccc  
       2023-05-12 14:59:28 +08:00
    @Gunn27 填个单子
    TabGre
        18
    TabGre  
       2023-05-12 15:03:08 +08:00 via iPhone
    请教各位,你们用的什么来做付款 /收款的
    luomao
        19
    luomao  
       2023-05-12 15:04:41 +08:00
    刚注册的 8 个用户我都开通了
    luomao
        20
    luomao  
       2023-05-12 16:20:55 +08:00
    15 点 44 分,我收到了内容监测报警,我不知道这位兄弟戾气为何这么重,已经禁止了其账号权益,大家也别注册了,我这个站点暂时也不打算给非好友使用了
    ![11683879478_.pic]( https://clmblog.oss-cn-shenzhen.aliyuncs.com/blog/11683879478_.pic.jpg)
    @Gunn27
    Gunn27
        21
    Gunn27  
    OP
       2023-05-12 16:28:48 +08:00
    @luomao 不好意思,如果这是我分享带来的垃圾用户,我对此说句抱歉。本来好意帮你分享,没想到会发生这种事情。我只是把链接分享给了一个 AI 交流的微信群。Sorry
    woshipanghu
        22
    woshipanghu  
       2023-05-12 16:31:05 +08:00
    哈哈哈 笑死了 生活上的不顺利和 ai 发泄
    yyuanx
        23
    yyuanx  
       2023-05-12 17:17:19 +08:00
    可以看下我的代理项目:
    https://github.com/imyuanx/chatgpt-proxy
    TabGre
        24
    TabGre  
       2023-05-12 17:36:28 +08:00 via iPhone
    @luomao 内容警报是怎么检测的?
    mencounter
        25
    mencounter  
       2023-05-12 17:43:35 +08:00
    截图笑了。什么人啊都是些。。
    JustSong
        26
    JustSong  
       2023-05-12 17:45:11 +08:00 via Android
    可以看一下我的 API 聚合&代理项目: https://github.com/songquanpeng/one-api
    luomao
        27
    luomao  
       2023-05-12 20:43:56 +08:00   ❤️ 1
    @TabGre 国内有很多 阿里云 腾讯云,海外的 azure 也有,不光是文字、语音、视频、图片都能检测。公司有做相关的场景正好有涉猎
    hauzerlee
        28
    hauzerlee  
       2023-05-12 21:33:17 +08:00
    @luomao 稍安勿躁。这种无理谩骂的……就当自带反弹吧……
    jeeyong
        29
    jeeyong  
       2023-05-12 22:09:23 +08:00
    @luomao
    你说的两类, 都是我的客户...
    luomao
        30
    luomao  
       2023-05-12 22:46:26 +08:00
    @jeeyong 哈哈哈,看来是相关行业巨佬
    xabcstack
        31
    xabcstack  
       2023-05-12 23:10:15 +08:00
    别忙活了 😄, 现成的

    本地调试 ChatGPT 服务的地址

    官方调用 api.openai.com + 真实 sk
    国内调用 api.xabcai.com + 虚拟 sk ( sk-XvPxbP1PrHWnd2EgLikIJNT393hszYt7f7CMeJ3HMivL6AWq )

    这个虚拟 sk 可以在 https://chat.xabcai.com 直接测试使用
    Gunn27
        32
    Gunn27  
    OP
       2023-05-13 11:31:14 +08:00   ❤️ 1
    @JustSong 我知道你的这个项目,忘了在哪看到的了,早都 star 了哈哈
    dogfight
        33
    dogfight  
       2023-05-13 17:59:22 +08:00
    Azure 的 openai 有简单的部署吗
    luomao
        34
    luomao  
       2023-05-13 23:08:11 +08:00
    v2ex 这么有趣么?这都什么人


    JustSong
        35
    JustSong  
       2023-05-14 23:18:54 +08:00
    @dogfight 我的项目是支持 Azure 的,见 #26 中的回复。
    woojanelook
        36
    woojanelook  
       2023-06-08 18:18:33 +08:00
    @jaylee4869 这个等待通过快吗?
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1729 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 16:35 · PVG 00:35 · LAX 08:35 · JFK 11:35
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.