V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
hobbyliu
V2EX  ›  分享创造

我做的 AI 群聊应用一天跑了几百万 token, 我只能开源了!

  •  1
     
  •   hobbyliu · 2025 年 2 月 19 日 · 4721 次点击
    这是一个创建于 331 天前的主题,其中的信息可能已经有所发展或是发生改变。

    前天在 V2 发了一个帖子介绍 AI 群聊应用: https://www.v2ex.com/t/1112394

    本打算陆续完善下再开源,中午陆续收到阿里云、火山引擎、腾讯云大模型余额欠费通知几百万 token 完全耗尽,

    为了更好的让大家体验,今天加速把它开源出来,大家可以用 cloudflare 免费部署托管,用几个平台免费大模型一个人完全够用一阵子。

    本次更新了新功能点:

    • 🤖 支持多个 AI 角色同时对话
    • 💬 实时流式响应
    • 🎭 可自定义 AI 角色和个性
    • 🔇 AI 角色禁言功能
    • 📝 支持 Markdown 格式
    • ➗ 支持数学公式显示( KaTeX )
    • 📱 响应式设计,支持移动端

    演示截图

    Image 文字游戏

    16 条回复    2025-02-23 19:57:11 +08:00
    rekulas
        1
    rekulas  
       2025 年 2 月 19 日
    有点意思, 不过我觉得没必要接入多个模型,直接接入一个不错的模型然后拟定多种不同的身份(方便从多种维度来看待回复)接话就行了, 维护也容易点
    hobbyliu
        2
    hobbyliu  
    OP
       2025 年 2 月 20 日
    @rekulas 嗯呢,看场景了,纯娱乐的没问题。
    snow0
        3
    snow0  
       2025 年 2 月 20 日
    这个群聊有意思,实现思路是什么呢
    serviceootdshare
        4
    serviceootdshare  
       2025 年 2 月 20 日 via iPhone
    你的 ApI key 是用什么信用卡买的?
    我看香港的信用卡也不行
    guguexxx
        5
    guguexxx  
       2025 年 2 月 20 日
    可以狼人杀吗?很想和 ai 来一场酣畅淋漓的杀
    aTA1Dw1MG127wgPb
        6
    aTA1Dw1MG127wgPb  
       2025 年 2 月 20 日 via iPhone
    哇!真的好佩服你的这个 idea !
    lanrete
        7
    lanrete  
       2025 年 2 月 20 日
    @guguexxx 之前自己写了个和 deepseek 玩谁是卧底的小 demo ,效果贼差,感觉要花功夫研究下 prompt 怎么写
    hobbyliu
        8
    hobbyliu  
    OP
       2025 年 2 月 20 日
    @snow0 就让 AI 理解上下文,类似于角色扮演。

    @serviceootdshare 都是国产的 api key 呢,没有用国外的模型。

    @guguexxx 理论上可以,你可以试试,告诉好规则就行。

    @unilehalil 感谢褒奖
    8355
        9
    8355  
       2025 年 2 月 20 日
    还拉上群了是吧
    zhw2590582
        10
    zhw2590582  
       2025 年 2 月 20 日
    之前也有过这个想法,但后来想想应用场景并不多
    Peiiii
        11
    Peiiii  
       2025 年 2 月 21 日 via Android
    Jack66
        12
    Jack66  
       2025 年 2 月 21 日
    有趣啊这个
    dvbs2000
        13
    dvbs2000  
       2025 年 2 月 21 日
    挺有意思的。不过不太完美,是不是提示词没有写足够清晰还是有些 AI 太笨。
    dvbs2000
        14
    dvbs2000  
       2025 年 2 月 21 日
    @Peiiii 你这个界面太复杂了 不好用
    huasheng22
        15
    huasheng22  
       2025 年 2 月 22 日
    目前看起来是排队回答,如果可以在每次成员发言之后,所有成员都进行一次判断选择是否需要插嘴,或许会更拟真一些
    hobbyliu
        16
    hobbyliu  
    OP
       2025 年 2 月 23 日
    @huasheng22 怎么正在考虑做智能调度系统,不过需要慢慢调试
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   2774 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 10:07 · PVG 18:07 · LAX 02:07 · JFK 05:07
    ♥ Do have faith in what you're doing.