@wsbqdyhm 可以请教一下怎样做自媒体吗？

M2 本地跑 Mistral 还不错，phi 可以做成低推理的。

这类的企业应用比较适合使用 RAG 作为智能客服/助理的场景。

我也在想做同样的事，这个应该还有更多的扩展方向。

我最近看 udemy 的 100 Days of Code: The Complete Python Pro Bootcamp ，能深度一两周去看还是不错的

想问问 这个 Product Hunt 是用来干嘛的？

AI 目前对我最大的用处就是学习和加深对知识内容的了解

我的 air 就试过突然掉电严重后不能再开机，之后送修了

@Livid 可否也推行一下认证插件？毕竟有一些插件真的很有用

仅能是纯后端或其他没有其他需要涉及到界面调试的工作，并且有完善的 cli 命令做调试。如果做前端的话就是折腾。

@bululutech 那这样的确很棒！是否可以也提供结果提供的向量数据 的 通过 case ? 这个又是一个针对 RAG 应用的优化场景！

@bululutech 我可否了解成是一个 Prompt 来给另一个 Prompt 做基准相关的测试？但是这个会否把整个 Context 上下文 都带入？就像单例测试，得需要有测试数据，毕竟 Prompt 的测试就像黑盒测试，仅能通过输入输出结果来判断？
但是如果一但超出 token 的限制又会有幻觉的出现，这是否就是说“调 prompt 就像跷跷板”的意思？

Function Calling ？ 最近我也学习研究做 RAG ，后期也需要用到 Prompt 工程。

@smalltong02
之前是在 腾讯云上租用 Hai 算力服务器上部署 8B 模型时（直从 GitHub 下载）就出现 以下错误：
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 1002.00 MiB. GPU 0 has a total capacity of 15.57 GiB of which 961.12 MiB is free. Process 68255 has 14.63 GiB memory in use. Of the allocated memory 13.99 GiB is allocated by PyTorch, and 129.49 MiB is reserved by PyTorch but unallocated. If reserved but unallocated memory is large try setting PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True to avoid fragmentation. See documentation for Memory Management
看似是显卡的内存都被 PyTorch 所占用了但不知道怎样解决

哥，想问一下这个 7B 模型是直接从 GitHub 上下载部署的这个吗？我这边用 16G 的显卡打开也是报 GPU 内存不足

招五线城市的兼职吗？可以高效输出

@blueeon 谢谢邀请! 感觉应该是个很 Cool 的项目,也很乐意为其做出贡献。项目启动后方便的话能否分享一下链接