V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
brader
V2EX  ›  程序员

chatgpt 接口经常报错

  •  
  •   brader · 2023-05-24 10:46:28 +08:00 · 1501 次点击
    这是一个创建于 540 天前的主题,其中的信息可能已经有所发展或是发生改变。

    在调用 chatgpt 的 https://api.openai.com/v1/chat/completions 接口的时候,间歇性的会报错:

    {
      "error": {
        "message": "That model is currently overloaded with other requests. You can retry your request, or contact us through our help center at help.openai.com if the error persists. (Please include the request ID xxx in your message.)",
        "type": "server_error",
        "param": null,
        "code": null
      }
    }
    

    请问你们遇到这个问题了吗?有什么解决办法吗

    8 条回复    2023-05-24 15:24:06 +08:00
    AdminPL
        1
    AdminPL  
       2023-05-24 10:57:18 +08:00
    是有这种问题出现,我也不知道怎么回事
    zhongjidalao
        2
    zhongjidalao  
       2023-05-24 11:08:14 +08:00
    最近确实老出现这个问题
    xmumiffy
        3
    xmumiffy  
       2023-05-24 11:10:45 +08:00 via Android
    日常 重试就行了
    ITHaoge
        4
    ITHaoge  
       2023-05-24 11:16:40 +08:00
    确实,我自己部署的也间歇性这样。昨晚试了公开站点也有类似情况。估计是服务器压力太大,我是重试几次才能继续答复。以下是 GPT-4 的答复,可参考:

    很抱歉遇到这个问题。这个错误提示表示模型当前正承受着较大的请求压力。您可以尝试以下方法解决此问题:

    重试请求:稍后再次尝试发送请求,可能会成功。由于请求压力可能是短暂的,等待一段时间后再次尝试。

    检查代码和请求频率:确保您的代码没有发送过多的并发请求,这可能会导致服务器压力过大。如果可能,请降低请求频率,给服务器留出更多的处理空间。

    联系客服支持:如果上述方法都无法解决问题,您可以通过发送电子邮件到 help.openai.com 请求技术支持。在您的邮件中,请务必包括请求 ID (错误提示中的 "xxx"),以便客服人员能够更快地定位问题并协助您解决。
    brader
        5
    brader  
    OP
       2023-05-24 11:35:39 +08:00
    @xmumiffy 你们设置了多少次的重试机制,目前我没有在服务端设置自动重试机制,我担心重试的话导致响应时长过长,大量连接拥堵在这个接口
    0914xc
        6
    0914xc  
       2023-05-24 12:32:33 +08:00 via iPhone
    主要是最近 GPT4 买的渠道简单了许多,用的 GPT4 的人太多了。
    xmumiffy
        7
    xmumiffy  
       2023-05-24 12:51:01 +08:00 via Android
    @brader 4 次,三种服务轮询(官方+两个二道贩子的)
    brader
        8
    brader  
    OP
       2023-05-24 15:24:06 +08:00
    @0914xc 没用 4 ,我用的还是 gpt-3.5-turbo 这个模型
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5964 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 02:29 · PVG 10:29 · LAX 18:29 · JFK 21:29
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.