请问能本地运行大模型的库，类似 jan

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

这是一个创建于 297 天前的主题，其中的信息可能已经有所发展或是发生改变。

类似
https://github.com/janhq/jan

这个很好，但它是 AGPL-3.0 协议的。

如果有对二开和集成友好的 MIT 、Apache2 等类型的好一些，目前已有的环境是 node express+sqlite3

2 条回复 • 2024-01-29 13:27:52 +08:00

jifengg

297 天前

建议可以看看站内这个帖子： https://www.v2ex.com/t/1007671

saveai

297 天前

@jifengg 好的，感谢感谢