主题总数 226
这个节点讨论在本地电脑或者局域网里运行 LLM（大语言模型）的技术细节
 |
想本地部署 AI 大模型,主要用于 AI 问答聊天,电脑配置需要什么样的,总预算 1w5 以内 dary141229 • 2024 年 4 月 8 日 • 最后回复来自 Motorola3 | 2 |
 |
假设有一批客户对话记录，怎么能用 AI 训练出来客服机器人？ JohnChang • 2024 年 4 月 6 日 • 最后回复来自 mmdsun | 8 |
 |
Ollama 运行 Llama2 大模型，怎么友好的支持中文 xiaohupro • 2024 年 7 月 23 日 • 最后回复来自 kangfenmao | 13 |
 |
离线大模型有支持文档翻译的吗 gtese • 2024 年 4 月 3 日 • 最后回复来自 MapleEve | 9 |
 |
Mac 上有哪些适合本地运行的 llm 呢 sheller • 2024 年 4 月 1 日 • 最后回复来自 sheller | 4 |
 |
想用手头的硬件最低成本尝试下本地 LLM 推理，请教一下方案 avalox • 2024 年 3 月 31 日 • 最后回复来自 GeekGao | 15 |
 |
Air M3 24G 能不能跑不量化的 7B 本地大模型推理？ CatCode • 2024 年 3 月 29 日 • 最后回复来自 ozOGen | 14 |
 |
推荐各位利用 ollama 在自有电脑上跑大模型，使用非常方便 keepRun • 2024 年 7 月 18 日 • 最后回复来自 kangfenmao | 24 |
 |
求推荐开源 AI 模型 balabalaguguji • 2024 年 3 月 18 日 • 最后回复来自 weixind | 11 |
 |
在 2024 年 3 月这个时间节点,有哪些可以开箱即用私有化部署的 gpt 大模型可以使用?内网部署仅对投喂导入的资料做回答这种? cvooc • 2024 年 3 月 13 日 • 最后回复来自 retrocode | 2 |
 |
有没有现成的 chrome 插件，能使用 gpt 一键翻译网页内容。 longchisihai • 2024 年 4 月 14 日 • 最后回复来自 sola97 | 40 |
 |
gemma:2b 这个模型想要流畅运行起来需要什么配置的电脑 abcfreedom • 2024 年 3 月 7 日 • 最后回复来自 abcfreedom | 30 |
 |
如何系统的深入 LLM？求资源 lemoon • 2024 年 2 月 29 日 • 最后回复来自 Morriaty | 12 |
|
7B 大模型不量化， 16G 显存就差那么一点儿，难道消费级显卡只有 90 系能跑？ CatCode • 2024 年 3 月 5 日 • 最后回复来自 basncy | 6 |
 |
Google Gemma 开源没人讨论下吗？ Jinnrry • 2024 年 2 月 26 日 • 最后回复来自 snowflake007 | 54 |
 |
ollama 平时不使用的时候会占用内存吗？ coinbase • 2024 年 2 月 23 日 |
 |
有人买英特尔 14 代 ultra 系列的 cpu 了么，里面的 npu 运行 ollama 速度大概什么样？ PungentSauce • 2024 年 2 月 22 日 • 最后回复来自 Track13 | 1 |
 |
运行 LM Studio 的电脑硬件配置 cmonkey • 2024 年 5 月 9 日 • 最后回复来自 fushenzhi | 11 |
 |
ollama 推出 windows 版的 preview，可以在本地跑大模型，在老机器上跑感觉效果不错 frankyzf • 2024 年 2 月 16 日 • 最后回复来自 frankyzf | 6 |
 |
求推荐 基于本地文件的大模型？ Pbe2RsrnVcPrF • 2024 年 2 月 2 日 • 最后回复来自 luguhu | 5 |
第 201 到 220 / 共 226 个主题
242 人收藏了这个节点
Select Language