V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
TyCoding
V2EX  ›  分享发现

我写了一套 Java 生态下大模型产品企业解决方案 LangChat

  •  
  •   TyCoding · 117 天前 · 771 次点击
    这是一个创建于 117 天前的主题,其中的信息可能已经有所发展或是发生改变。

    可能去年发布这个项目会更好,毕竟现在已经过了风口了。但是去年 Java 生态并不完善,并且项目的前后端都是我一个人开发的,工作量非常大,于是一直耽搁。

    我从从 SpringBoot 后端写到 Vue3 、TS 、Node 、React ,为了开发这个项目无论是 Java 全栈生态还是 Nextjs React 全栈生态基本都学会了。

    整个项目覆盖了 Java 企业级前后端开发到部署各个领域的知识,代码规范,项目架构设计优雅,无论是企业定制还是个人学习源码都是非常不做的选择。

    从企业知识库的角度,需要的可能是更高级的 RAG 、Function Call 以及更易用的大模型,所以希望这个项目还有所用。

    其实最初我写这个项目的时候 COZE 等这些产品还没有出来,我起初是想写一套 LLM Workflows 流程化引擎的,但是这块工作量实在太大了(无论是前端还是后端都太多东西要写了),并且 Java 生态轻量的 workflow 也不完善所以也在耽搁。

    LangChat 是 Java 生态下企业级 AIGC 项目解决方案,在 RBAC 权限体系的基础上,集成 AIGC 大模型功能,帮助企业快速定制知识库、企业机器人。

    注意: 由于贫穷,作者使用的最低配的阿里云服务器,项目通过 frp 部署在本地电脑,无奈 frp 流量转发太慢,所以访问速度会慢一些请谅解

    欢迎 Star 、fork 持续关注


    特性

    1. 多模态:支持集成国内外数十家 AI 大模型
    2. 动态配置:支持再页面上可视化动态配置大模型参数、Key 等信息,无感刷新、无需每次重启服务
    3. 知识库:支持向量化知识库文档,定制化 Prompt 对话场景
    4. 高级 RAG:支持 Embedding 模型,从知识库中精确搜索;集成 Web Search 等 RAG 插件
    5. Function Call:支持定制化 Tool 工具类,实现本地函数调用,从第三方加载数据并提供给 LLM
    6. 多渠道发布:计划封装 Web SDK ,将 AI 智能客服快速嵌入任意第三方 Web 应用中;计划支持微信、飞书、钉钉等消息通信渠道(待完善)
    7. Workflows:计划开发可视化 LLM 流程设计器,高自定义机器人执行流程(待完善)
    8. 提供 AIGC 客户端应用,快速管理客户端数据
    9. 更多特性和大模型的集成...

    MIK-fYD77Q.png

    MIK-HsjZrq.png

    MIK-qmfti3.png

    2 条回复    2024-07-18 10:10:17 +08:00
    mosliu
        1
    mosliu  
       116 天前
    先 star 为敬
    TyCoding
        2
    TyCoding  
    OP
       114 天前
    @mosliu 感谢大佬的支持,感兴趣可以加群
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1384 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 17:38 · PVG 01:38 · LAX 09:38 · JFK 12:38
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.