V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
herowu
V2EX  ›  机器学习

原创:旗舰游戏显卡(980Ti,1080Ti,TiTan V,2080Ti,3090,4090), AI 画图 stable diffusion)和大模型(chatglm2-6b)推理性能横评

  •  
  •   herowu · 2023-10-25 00:24:09 +08:00 · 1038 次点击
    这是一个创建于 393 天前的主题,其中的信息可能已经有所发展或是发生改变。

    前言: 自从去年 10 月份以 ChatGPT 和 stable diffusion 的发布引发了一波生成式 AI 浪潮,但很多人特别是某些领导整天在会议上说人工智能带来的各种风险和不足,其实自己几乎没用过 ChatGPT 和 stable diffusion ,对生成式 AI ( AIGC )只有偏见!缺少实践对新生事物的理解和抓住机会是有害的,由于这一波 AI 浪潮带着复杂难懂的各种专业术语和昂贵的平台,给习惯了点击购买云主机的 IT 从业者和个人开发者带来了不小的门槛,加之最近美国实体名单居然把游戏显卡 RTX4090 都加入禁止出售给中国的实体清单,我觉得有必要在”廉价”游戏显卡上把大模型对话和 stable diffusion 画小姐姐的生成式 AI 在自己的 PC 机上跑起来!这样才能谈后面的体验和带来的机会。 以下评测数据都是自己花钱、花时间原创测试得到,希望给所有开发者实践大模型和 AI 画图予参考,有帮助和喜欢的朋友请收藏、关注和点赞,让人人都能够参与的 AI 才是真正的 AI

    详细内容参看: https://zhuanlan.zhihu.com/p/663179436

    ztmzzz
        1
    ztmzzz  
       2023-10-25 02:03:01 +08:00 via iPhone
    这就 404 了?
    jack139
        2
    jack139  
       2023-10-26 15:59:24 +08:00
    不错不错!再整个模型训练的对比 :D
    byteboy
        3
    byteboy  
       348 天前 via iPhone
    写得很好
    shm7
        4
    shm7  
       268 天前
    这些老破卡跑个 SD 还行,工业化跑 LLM 简直就是搞笑。
    herowu
        5
    herowu  
    OP
       148 天前
    @shm7 哈哈,确实工业化至少都是 4090 涡轮、A6000,A100 起,这些游戏老卡跑 SD 或者小参数 LLM 就是给手里有现场老卡的普通人的
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3388 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 10:55 · PVG 18:55 · LAX 02:55 · JFK 05:55
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.