vpsvps 最近的时间轴更新 vpsvps 最近的时间轴更新 |
vpsvpsV2EX 第 398787 号会员，加入于 2019-04-05 10:32:03 +08:00 |
vpsvps 最近回复了
2 天前 回复了 snowkylin 创建的主题 › 分享发现 › 本地部署 DeepSeek-R1 671B 千亿大模型流程 |
@uncat 谢谢 我试试
2 天前 回复了 snowkylin 创建的主题 › 分享发现 › 本地部署 DeepSeek-R1 671B 千亿大模型流程 |
@uncat 谢谢回复，是直接 ollama run deepseek-r1:671b 这个就行吗？这个简单些。huginnface 上的版本还得合并，比较麻烦，您说的是指用 unsloth/DeepSeek-R1-GGUF 这个模型文件吗
2 天前 回复了 snowkylin 创建的主题 › 分享发现 › 本地部署 DeepSeek-R1 671B 千亿大模型流程 |
@snowkylin #6 👍，这种方式是不是不能直接使用 ollama run deepseek-r1:671b 从 ollama 上下载，404G 的，而需要在 huginnface 上下载？
Download the model files (.gguf) from HuggingFace (better with a downloader, I use XDM), then merge the seperated files into one
Download the model files (.gguf) from HuggingFace (better with a downloader, I use XDM), then merge the seperated files into one
2 天前 回复了 snowkylin 创建的主题 › 分享发现 › 本地部署 DeepSeek-R1 671B 千亿大模型流程 |
@snowkylin #4 谢谢回复，用 ollama 就可以吧，显存用完就会调用内存，
比如 我的服务器有 8 块 4090 ，内存 640G ，能跑得动 671b 404GB 这个，就是速度慢点是吧？
比如 我的服务器有 8 块 4090 ，内存 640G ，能跑得动 671b 404GB 这个，就是速度慢点是吧？
2 天前 回复了 snowkylin 创建的主题 › 分享发现 › 本地部署 DeepSeek-R1 671B 千亿大模型流程 |
请问 1.73-bit 量化版（ 158GB 大小的模型）
一个 4090 24G 加上 160G 内存
可以跑起来吗？
不是需要 7 块 4090 吗？
一个 4090 24G 加上 160G 内存
可以跑起来吗？
不是需要 7 块 4090 吗？
11 天前 回复了 Czzzzzzzzzzr 创建的主题 › 买买买 › 今年买的最值的电子产品是什么 |
Mac mini m4
16 天前 回复了 YJi 创建的主题 › 生活 › 这两天首页刷的有点无语，谁来分享点甜甜的恋爱吧？ |
@yzqn 细说下平时如何相处之类的，谢谢
17 天前 回复了 Sanarara 创建的主题 › NAS › 要注意， qBittorrent 自动运行 torrent 传播的挖矿脚本 |
居然设置后门！
真服了
点开已安装套件页面
进入软件界面
看到发布者是矿神 XXX 的
我都把卸载了
真服了
点开已安装套件页面
进入软件界面
看到发布者是矿神 XXX 的
我都把卸载了
17 天前 回复了 Sanarara 创建的主题 › NAS › 要注意， qBittorrent 自动运行 torrent 传播的挖矿脚本 |
谢谢提醒！
已卸载全部群晖上的所有矿神源提供的软件！
已卸载全部群晖上的所有矿神源提供的软件！
17 天前 回复了 louisliu813 创建的主题 › Apple › 2025 了，大家怎么在 iPad 远程 macbook |
@xinmans windows App （ remote desktop ） 可以远程 Mac ？
Select Language