原文: https://mp.weixin.qq.com/s/at7K_8lEfVzQJq5qnpzvUg
我长期使用本地笔记工具的主要原因,是不想受限制于云端服务,自己的笔记可以安全的存储在自己的电脑硬盘上,不会因为云笔记服务商的跑路,或者出现体验更好的笔记工具,来回横跳,最后笔记过于分散,没有形成系统,在查找所需材料的时候无从下手。
一款可以直接编辑本地文件的 markdown ,才是我的趁手利器。
而 Obsidian 恰好满足了我的全部需求,不仅有很好的码字体验,而且有很多第三方插件可以加强笔记的使用体验,也不会因为服务提供商的策略调整额外付费。在此之前,我使用的是 Typora 和 Ulysses 。
从去年开始,在所有工具都在适配 AI 大模型功能,无论是常用的 Notion 还是去年火起来的 Craft 。在市场的培养中,我也适应了 AI 带来的便利,生成图片、编写文档、小范围写点代码,我已经把很多的工作外包给了 AI 。
然而,自己的电脑肯定是没有带动大模型系统的条件。我有时也会想,如果想实现与本地笔记对话的 AI ,似乎只能把笔记全都手动搬到云端应用上,使用服务提供商的大模型。但这样一是费时间,二是不安全,三是还不确定云端服务的效果。
我回头看了看我的全部笔记,几乎每天都会有至少 2000 字的内容,有习惯养成的复盘、计划和方法、阅读内容的笔记以及时间/精力的分配记录。一个月下来,再去回顾的时候,就要花费很多时间,另外因为笔记文件太多,要去查找的时候并不是特别方便,因此我需要一个 AI 来帮助我做一些总结和提醒。
到此,我需求已经很明确了:找到一款本地可用的大模型工具,或者是把笔记系统搬到线上。不过我更倾向于前者,但不排除前者无法有效满足我需求的可能。
所以,我从两个方向出发先尝试一下本地可用的大模型:一是要在 obsidian 市场中找到一款能使用 AI 的插件,二是要找到一个价格合适而且好用的 AI API 。
得益于开发者提供的插件,我在 obsidian 社区中很快锁定了 copilot for obsidian 插件,理由很简单:不受限于 OpenAI 的服务,可以对接任意的大模型 API 。基于 OpenAI ,虽然效果很不错,但价格确实不便宜。
接着,我碰巧在 Twitter 中看到一条跟我在寻求相同解决方案的帖子,在下方的评论里面,我发现了一家名叫 openrouter.ai 的公司,这家公司提供很多开源模型的服务,无需自己 host 就可直接调用 API ,而且提供了很多大 token 模型的免费 API 调用( Grok 刚刚开源,估计很快就能体验到)。
一切准备就绪之后,就差把大模型应用到 obsidian 里面了。
首先从 openrouter.ai 中生成一份新的密钥。
把密钥配置到 copilot for obsidian 插件中。
这里有很多配置,你可以下拉就能找到 openrouter.ai 。
特别注意的是在选择模型的时候,一定要从 openrouter.ai 提供的模型中复制代码出来,比如你填写「 ChatGPT 」肯定就不能用。可以通过输入框下方的链接中可以找到对应的模型,我使用的「 OpenChat 」模型,原因是携带的上下文比较大而且模型效率还不错,在 openrouter.ai 中免费版对应的代码是「 openchat/openchat-7b:free 」。
填写完密钥和模型代码,记得回到页面顶部,点击保存,才能生效。
这时,在 obsidian 左侧就已经出现了「 Chat 」的图标,点击图标就可以跟实现跟 AI 的对话。
目前来说,我已经用了一个多星期,也切换了不少模型,整体的体验效果不错,免费的 API 速度相较于 GPT-4 来说都能快出很多,虽然效果不如 GPT-4 ,但能满足我的基本需求,剩下的就是我如何调校好写好 prompt 。
不过,唯一的不便是在手机和 iPad 上不能使用,copilot for obsidian 插件仅限电脑端使用。
Reference
欢迎关注我公众号,可以扫链接的二维码关注: https://mp.weixin.qq.com/s/at7K_8lEfVzQJq5qnpzvUg
1
BigBai 271 天前
点赞收藏,有时间研究一下
|
2
woody3rd 271 天前
有时间去看看
|
3
pamphrey 271 天前
op 的 obsidian 主题看起来很好看,求一个主题
|
4
pamphrey 271 天前
相比于免费的 Google 的 gemini1.5 的 api ,哪个模型更好一点呢
|
6
Ivone29 OP |
7
craiiz 270 天前
我用这个 local gpt + chatglm
https://imgur.com/a/cTOgHoI |
8
wangrenhuan 270 天前
一刀额度
GPT-4 Turbo 128,000 context $10 / 1M input tokens $30 / 1M output tokens |