V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Saunak
V2EX  ›  问与答

深度学习服务如何选择?

  •  
  •   Saunak · 2 天前 · 777 次点击

    目前打算采购 8 卡服务器,因为有多人使用,考虑用 RTX PRO 6000 96G * 8 。 比较困惑的是 cpu 不清楚选什么,几个比较好? 还有就是硬盘,之前老服务器用的企业级机械组的 raid10 。不知道是否有性能瓶颈。这次考虑换企业级的 ssd ,但是听说好像 ssd 如果组 raid 对于寿命有很大的影响?是否应该考虑用 ssd ,以及组不组 raid 呢?

    也看到有训练放在 ssd ,其他数据放在机械上的这种方案,但是实际使用是不是拷贝数据比较麻烦?这种方法是否还不如服务器纯 ssd ,外加挂载的 nas ?

    4 条回复    2025-12-07 19:31:05 +08:00
    jayarch
        1
    jayarch  
       2 天前 via Android
    这种服务器找代理商懂怎么配的,不需要自己组装吧
    Saunak
        2
    Saunak  
    OP
       2 天前
    @jayarch 之前就是被代理商坑了。第一次还搞了个华硕的主板一直损坏硬盘。后面换超威的才好
    jayarch
        3
    jayarch  
       2 小时 35 分钟前 via Android
    @Saunak 深度学习服务器确实没怎么见华硕主板,找的不像专业的代理商。训练数据放 ssd ,其他数据放机械,做好备份就可以。硬盘成本相对于显卡还是较低的。
    datocp
        4
    datocp  
       14 分钟前 via Android
    供应商给公司组的 r760 ,22 个 sata ssd 据说是 2 组 raid10 ,大量小文件拷贝时,也依然会掉到 10 几 KB 。

    自己心很大,对 raid 恢复过程不了解。能刷 it ,刷 it ,能 mba 就 mba 。。。就像 pc 一样用,唯一不好的地方享受不到双盘速度。平时机械盘在 300MB 左右,sata ssd 有点夸张超过 500MB 。刚最近买了台 r730 才 2200 ,1 半的钱花到 64GB 内存。2696 22 核 22 线程。
    当时不想背锅让供应商配了台接近 9 万的 R760 ,现在想想坑了老板不少。。。
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   2621 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 11:45 · PVG 19:45 · LAX 03:45 · JFK 06:45
    ♥ Do have faith in what you're doing.