V2EX › gebiwanger 的所有回复 › 第 7 页 / 共 8 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 2 3 4 5 6 7 8

❮

❯

2024-08-04 18:56:23 +08:00

回复了 unstop 创建的主题 › 分享创造 › 我用 3.5 天的时间和 Claude 3.5 联手开发了一个 Mac App，利用本地运行的 Llama 3.1 提供实时的 AI 反应。在 M 系列芯片的 Mac 上可用。免费，完全本地，飞快。

nice 。后续还会有更多有价值的迭代更新吗？

git4all 这样的 app 也可以快速下载开源模型，叠加 RAG 文档训练，开启本地 server 。

这些开源模型都需要比较大的内存，服务器上跑跑还可以，但质量还是不行。
本地的话，还是得上 gpt 和 claude ，但是又不开源。

so ，这个方向价值的局限性，看起来还是很大。

1 2 3 4 5 6 7 8

❮

❯