IndexOutOfBounds 最近的时间轴更新 IndexOutOfBounds 最近的时间轴更新 |
IndexOutOfBoundsV2EX 第 475125 号会员，加入于 2020-03-08 14:17:19 +08:00今日活跃度排名 367 |
IndexOutOfBounds 最近回复了
13 小时 3 分钟前 回复了 IndexOutOfBounds 创建的主题 › 分享创造 › Golang 中强制 LLM 返回 JSON 的无感解法 |
@reeco 非 openai ，比如 gemini ，deepseek 也支持 json 输出的，算是一个通用的规范了
https://openrouter.ai/models?fmt=cards&order=newest&supported_parameters=structured_outputs
https://openrouter.ai/models?fmt=cards&order=newest&supported_parameters=structured_outputs
13 小时 4 分钟前 回复了 IndexOutOfBounds 创建的主题 › 分享创造 › Golang 中强制 LLM 返回 JSON 的无感解法 |
@otakustay 暂时不支持 function call ，不过确实有这个想法，自动注入结构体 Method
13 小时 56 分钟前 回复了 IndexOutOfBounds 创建的主题 › 分享创造 › Golang 中强制 LLM 返回 JSON 的无感解法 |
14 小时 2 分钟前 回复了 IndexOutOfBounds 创建的主题 › 分享创造 › Golang 中强制 LLM 返回 JSON 的无感解法 |
@abc634 我理解场景有些区别，markdown 是半结构化的，主要用于直接展示，比如直接让 AI 用 markdown 写篇文章，这是很好的选择
json 是开发内部使用的，比如你需要提供接口给前端做二次展示
另外通过 json schema 可以做到很强的约束，比如文中给文章分类的例子，通过 enum:"Technology,Science,Business,Health,Education,Other" 强限制分类范围
json 是开发内部使用的，比如你需要提供接口给前端做二次展示
另外通过 json schema 可以做到很强的约束，比如文中给文章分类的例子，通过 enum:"Technology,Science,Business,Health,Education,Other" 强限制分类范围
11 天前 回复了 zhoudaiyu 创建的主题 › Kubernetes › 各位工作的公司生产 k8s 是怎么维护应用的 request 和 limit 的？ |
HPA 还可以基于自定义指标，比如 QPS ，这样后续维护只需要关注每个请求的资源变化就可以了
11 天前 回复了 zhoudaiyu 创建的主题 › Kubernetes › 各位工作的公司生产 k8s 是怎么维护应用的 request 和 limit 的？ |
limit 一般是 Request 的两倍到四倍，太高超卖谁也用不高
Request 大概估个范围 + HPA
Request 大概估个范围 + HPA
11 天前 回复了 doujiangjiyaozha 创建的主题 › 推广 › 关于我将自己开发的 chrome 插件上到 product hunt 后 |
最近我也在推广 https://www.v2ex.com/t/1106892 ，同样惨淡哈哈，想加下老哥联系方式，交流交流经验
11 天前 回复了 doujiangjiyaozha 创建的主题 › 程序员 › 开发了一个浏览器插件,一个本地知识库 AI 助手,关于 RAG 的,希望各位大佬帮我指定下,给点建议,产品本身以及推广都可以,谢谢 |
@doujiangjiyaozha 是的，所以单个文章长度太长就没法完了，比如论文。但感觉如果是基于新闻 chat ，每篇新闻一般不长，全文效果会好些
11 天前 回复了 doujiangjiyaozha 创建的主题 › 程序员 › 我做的一个本地知识库系统的浏览器插件,感觉不太行呀 |
爬虫是不是可以加个快捷方式 “一键爬取当前网站”
11 天前 回复了 doujiangjiyaozha 创建的主题 › 程序员 › 开发了一个浏览器插件,一个本地知识库 AI 助手,关于 RAG 的,希望各位大佬帮我指定下,给点建议,产品本身以及推广都可以,谢谢 |
Select Language