inorobot

inorobot

V2EX 第 145327 号会员,加入于 2015-11-01 22:38:31 +08:00
I'm NOT a robot
根据 inorobot 的设置,主题列表被隐藏
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
inorobot 最近回复了
tb 修一下,这个机器系统会挂,我之前最新那代挂了 2 次第一次自己用 iphone 恢复好了,第二次闪白灯找 tb 一天就修好了,数据也都还在
@VersionD 之前挂了 8 块 U.2 ,待机 100 来 w
@VersionD 板 U 满载 80w ,这个是个低功耗的 EPYC ,U 满载 55w
@LanhuaMa
@unidotnet
ASRock Rack 永擎 EPYC3251D4I-2T ,8C16T ,4x DDR4 槽,双万兆电口( Intel X550 ),24 lane PCIe 3.0 ( 1x PCIe 3.0 x16 ,1x OcuLink x4 ,1x M.2 PCIe x4 ),2x SATA ,带 IPMI
由于最近的 7K62 大船,组了个双路的家用服务器,8 根 64G 内存,4+1 个二手 1300 瓦的冗余电源,双路板子 ROME2D16-2T ,机箱风扇上了 6 把 9RA ,4 张单槽涡轮的 RTX 4060Ti 16G ,1 张涡轮的 RTX 4070Ti SUPER 16G ,为了散热上了个 4U 的 8 卡 GPU 机箱,还有一些硬盘,实际花了大概 5w 。
实现了跑串流、LLM 、编译等,满载功耗 1600w ,日常待机 300-400w ,冷启动到虚拟机加载好各种服务大概 2-3 分钟。后面准备再上两张 CX6 ,把 10G 的内网升到 100G ,交换机也得再换一个,目前看上的 QNAP 新出的那款 4*100G+8*25G 。
另一台是 7003 的 NAS ,日常 200w 待机,8 块 7.68T 的 U.2 SSD ,把消费 NAS 的存储和应用分开,Host 纯跑存储,Guest 跑一些偏向应用的虚拟机( DSM 和 fnOS ),DSM 的文件同步、备份套件还是没方法替代。
组的过程一个体验就是买二手确实便宜,但是需要花时间找以及辨别矿的程度,直接梭哈全新省事也有保修省心省事,现在比较担心的是双路的机器的二手电源会不会 BOOM 。
另外就是功耗,说实话服务器的功耗确实还是太高,没啥比较好的平衡办法,什么都想集成还要求性能就得上服务器,一个 U 待机基本都能顶一台小主机方案了,而且性能其实日常过剩。
@sdd11 vllm 多卡推理 --tensor-parallel-size 配置成卡数
133 天前
回复了 turfbook 创建的主题 NAS 威联通 QNAP 的 QuMagie 自动备份照片问题
群晖的 Photos Mobile 开上后台刷新 不清掉 app 是可以自动备份的
161 天前
回复了 ruanshiben 创建的主题 Apple IPhone15PM 最近升级系统后最大容量降低了 2-3%
最大容量 92%
循环计数 344
生产日期 2023 年 10 月
初次使用 2023 年 11 月
保护没啥用感觉,我每次充电还都带着散热器
我是整了 4 块 4060Ti 跑推理,64G ,如果上拆分能装 8 卡,能 128G ,基本各种模型都能跑了
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2861 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 11ms · UTC 05:52 · PVG 13:52 · LAX 21:52 · JFK 00:52
Developed with CodeLauncher
♥ Do have faith in what you're doing.