V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  doujiangjiyaozha  ›  全部回复第 1 页 / 共 1 页
回复总数  13
@Jacobson 火狐目前还不行,还没去适配
@gaobh .....这么恐怖
@amlee 嗯嗯 感谢指点
@kneo 头疼....
@ospider 好的 感谢
@RotkPPP 是的,总体就是你自己的所有资料会被向量化,然后根据你的问题进行匹配相关文档,再丢给 ai 回答;其实没有服务端,都是纯客户端,除了最后一步 llm 模型是怎么选的
@smallparking 我去 我还真不知道这玩意 感谢老哥提醒;我找时间研究下,不过 api 我只用我们国内的,支持我们国产模型 qianwen 之类的 hh
@hefish 我想想哈, 如果是你要做服务端的话, 可以去看下 langchain, 它里面有提供 python 和 nodejs(我已知的)的库,基本上是可以帮你直接从清理文本,到存入向量数据库,到搜索匹配,直接一条龙完成了的,很方便; 如果你要是像我一样做客户端的话, web 端我调研的方案, 基本上就是 transformjs 处理向量,加 indexdb 存储, 复杂的点主要是中间的一些优化, 我当初弄我这玩意时候,内存老是爆;向量模型的话,就是 huggingface 上找找 embeding 的, 目前国外很多人用的是 nomic-embed-text-v1,不过我测了中文效果不咋地,我就换成了 jina-embeddings-v2-base-zh,目前测试还不错,后面有时间我应该会更新一些我碰到的坑写到我那个博客里(官网里有挂,才刚弄), 希望能帮到你
@ospider em, cn 域名和 AI 是互斥的, 这话我有点不太理解, 麻烦老哥帮忙解释下; 至于牌照与大模型,我也不太理解,我全程都用的第三方的开源 LLM 模型或者 api 调用,跟牌照有什么关系吗?
@RotkPPP 再试下老哥,我改了下 DNS,测了下全国网速,应该没问题了
@xiaoliuzhenshuai 哈哈 改了改了 官网域名也都改了😂 guanzhangai.cn
@liaanj 非常感谢回复, 我整理了下我的问题,
一是要调整内容,官网内容不够清晰,没有表达出实际解决什么需求问题
二是 ai 本地可能并不是优势,实际上本地 AI 和点三方 api 调用 ai 我都支持了,官网可能过于宣传本地 ai 了
三是用户痛点,实际上我这个插件,主要解决的是,用户资料啊,文件啊比较杂,然后大部分工具搜索其实不强,只做导入资料(可以是邮箱,第三方笔记等,国外有个 Danswer,我是按照这个产品思路来的),然后有语义搜索和 Ai 根据搜索结果进行整理回答
四就是英文 demo,实际上我这个插件做的时候,是中英文兼容的,官网也是如果语言是英文,就是英文,但我后面又想先做中文的市场,这块确实还是有问题
目前最新的想法
先建立自己的个人账号,也就是养号,然后让视频平台后期能推送给更多人我产品对口的人
再就是各大文章平台下,根据问题的搜索关键词,留言回复,让我的需求用户能找到我
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2660 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 13ms · UTC 07:22 · PVG 15:22 · LAX 23:22 · JFK 02:22
Developed with CodeLauncher
♥ Do have faith in what you're doing.