V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  zhyim  ›  全部回复第 2 页 / 共 9 页
回复总数  173
1  2  3  4  5  6  7  8  9  
298 天前
回复了 zhyim 创建的主题 Local LLM 8 卡 H100 部署 DeepSeekR1 求助
@weiming awq 推理速度特别慢,只有 6t/s
299 天前
回复了 han654 创建的主题 Apple Apple tv 7 代 配什么电视捏?
小米 s65 miniled
299 天前
回复了 omz 创建的主题 Apple M4 Mac mini 仅售 2992 元,这让 M2 大幅贬值
在哪看到 2992 ?我 88vip 没有啊
用 cherrystudio 了,那玩意老是连不上
找本地的二手贩子找找看,咸鱼上基本都是传家宝
306 天前
回复了 Jayleonc 创建的主题 MacBook Pro 月薪 1.4w 的程序员,应该升级 Mac 吗?
说了这么多就是想给自己找个理由买,买吧,早买早享受
314 天前
回复了 zhyim 创建的主题 Local LLM 8 卡 H100 部署 DeepSeekR1 求助
@dayeye2006199 也是不支持 deepseek2 ,我下载的别人的量化模型,单 gguf
314 天前
回复了 zhyim 创建的主题 Local LLM 8 卡 H100 部署 DeepSeekR1 求助
@raycool 是的,用 llamacpp 和 ollama 都能成功,就是并发不行
320 天前
回复了 snowkylin 创建的主题 分享发现 本地部署 DeepSeek-R1 671B 千亿大模型流程
@snowkylin 是 80G 版本的,Q8 的不一定能跑起来,刚把模型下载完。。。
323 天前
回复了 snowkylin 创建的主题 分享发现 本地部署 DeepSeek-R1 671B 千亿大模型流程
8 张 H100 和 2T 内存能跑完整版的 R1 吗? CPU 好像是 192 核的不知道啥型号
323 天前
回复了 HOU 创建的主题 Apple M1 Pro Sequoia 蓝牙连接 Keychron K3 Max 断联严重
@KentY 非常有用
1  2  3  4  5  6  7  8  9  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   839 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 28ms · UTC 22:11 · PVG 06:11 · LAX 14:11 · JFK 17:11
♥ Do have faith in what you're doing.