主题总数 226
这个节点讨论在本地电脑或者局域网里运行 LLM（大语言模型）的技术细节
 |
目前性价比最高的跑本地大模型显卡是？ lemonTreeTop • 2025 年 8 月 16 日 • 最后回复来自 goodboy95 | 18 |
 |
多卡部署 QWQ Q8 是否可行 PalWorld • 2025 年 6 月 16 日 • 最后回复来自 coefuqin | 3 |
 |
intel 显卡跑 Qwen3-14B-GGUF:Q8_0 abc0123xyz • 2025 年 6 月 10 日 • 最后回复来自 coefuqin | 6 |
 |
学习大模型的显卡怎么选型 cuteshell • 2025 年 6 月 3 日 • 最后回复来自 coefuqin | 30 |
 |
求本地部署的 AI 推荐~ WessonC • 2025 年 6 月 1 日 • 最后回复来自 happybabys | 11 |
 |
本地 vllm 部署 Qwen2.5-7B-Instruct 在 stream 模式下 tool_calls 参数 JSON 字符串未正常闭合 BenchWidth • 2025 年 8 月 18 日 • 最后回复来自 DefoliationM | 3 |
 |
本地部署视觉大模型，用于 OCR 中文文献+翻译，最好的模型是什么？ villivateur • 2025 年 5 月 31 日 • 最后回复来自 mili100 | 21 |
 |
mac studio 跑大模型也就那样啊 guoguobaba • 2025 年 5 月 19 日 • 最后回复来自 fredweili | 26 |
 |
有没有能 mac 上直接跑的多语言翻译 LLM？ idblife • 2025 年 5 月 31 日 • 最后回复来自 mili100 | 4 |
 |
llama.cpp/ollama 对于类似 vllm tensor parallel 功能的支持。 coefu • 2025 年 10 月 29 日 • 最后回复来自 coefu | 6 |
 |
英语文本音频按句自动对齐的有推荐的吗？ afkool • 2025 年 5 月 8 日 • 最后回复来自 barnetime | 8 |
 |
本地 llm client kid1412621 • 2025 年 4 月 18 日 • 最后回复来自 kid1412621 | 5 |
 |
公司要搭建本地大模型，推荐配置。 Woolaman • 2025 年 4 月 18 日 • 最后回复来自 coefuqin | 10 |
 |
有老哥用 llm 跑本地代码模型的吗，用的什么显卡，效果怎么样呢 king836334258123 • 2025 年 4 月 17 日 |
 |
有在生产上跑私有化 DeepSeek 70B 大模型的吗？什么配置的机器支持？并发多少呢？ yiyiniu • 2025 年 4 月 18 日 • 最后回复来自 coefuqin | 2 |
 |
跑 AI 大模型，到底是用 4090 魔改版好还是 Mac studio 好？ kisshere • 2025 年 4 月 15 日 • 最后回复来自 egen | 9 |
 |
使用 dify 时代码如何管理? frankyzf • 2025 年 8 月 1 日 • 最后回复来自 ericguo | 8 |
 |
想自己上手跑跑 LLM 大模型，求推荐显卡和主机配置 limatrix81 • 2025 年 4 月 8 日 • 最后回复来自 coefuqin | 28 |
 |
本地 llama.cpp 和 ollama 跑 相同 模型，效果不一样 paranoiagu • 2025 年 4 月 7 日 • 最后回复来自 tool3d | 7 |
 |
打算用 AI 来做企业知识库,最佳的组合是什么? BruceXu • 2025 年 9 月 12 日 • 最后回复来自 GavinY | 20 |
第 61 到 80 / 共 226 个主题
242 人收藏了这个节点
Select Language