V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
after1990s
V2EX  ›  Local LLM

intel b60 48G 可以买吗

  •  
  •   after1990s · 1 天前 via Android · 432 次点击

    目前售价 12000

    7 条回复    2026-01-16 12:50:47 +08:00
    vvhhaaattt
        1
    vvhhaaattt  
       1 天前 via Android
    现在用的 a770 ,如果是个人用户为了 ai 推理,不建议买 intel 。
    其他情况不予评论。
    after1990s
        2
    after1990s  
    OP
       1 天前 via Android
    @vvhhaaattt llama 能在 a770 上跑吗
    vvhhaaattt
        3
    vvhhaaattt  
       1 天前 via Android
    llama.cpp 看你的模型要求了,如果经常试新模型,新模型又用了新的算子……
    gpt-oss 为例
    sycl 版本 12 月中旬的时候我记得是不能跑还是很慢,因为有算子不支持,会把相关操作退化为 cpu 操作,最近看有 issue 处理,不清楚现状。
    valkan 版本能跑,推理速度能用的程度,算子支持速度还行,不过相对 sycl 有折扣。

    @after1990s
    defaw
        4
    defaw  
       1 天前
    曾经废了九牛二虎之力在 arc a750 上跑起来了 ipex-llm ,inter 跑 ai 还是不如 cuda 方便
    vvhhaaattt
        5
    vvhhaaattt  
       1 天前 via Android
    ipex-llm 停止更新了~
    slowgen
        6
    slowgen  
       1 天前
    这个售价飘了,不如 2 张 AMD 的 7900XTX
    coefu
        7
    coefu  
       14 小时 53 分钟前
    都能整 6 张 v100 32G 了。加一点可以 A100 40G 了。这波 H200 一旦进来,之前的 A 系列很大一部分都会被替换出来。
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   943 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 19:44 · PVG 03:44 · LAX 11:44 · JFK 14:44
    ♥ Do have faith in what you're doing.