V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
liuys36
V2EX  ›  分享创造

分享一个基于 JSON 片段流的增量解析器(Go)

  •  
  •   liuys36 · 14 小时 34 分钟前 · 274 次点击

    最近在 LLM Stream 场景下踩了个坑:

    模型输出的是 JSON ,但要等完整闭合才能处理,前端体验很差。

    就试着写了个基于 JSON 片段流的增量解析器,可以在对象还没完全生成完时就触发回调处理。

    顺手开源了一下,记录一次工程实践。

    https://github.com/codeforgee/stream

    目前尚无回复
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   798 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 20ms · UTC 20:25 · PVG 04:25 · LAX 12:25 · JFK 15:25
    ♥ Do have faith in what you're doing.