adonishong 最近的时间轴更新 adonishong 最近的时间轴更新 |
adonishongV2EX 第 139564 号会员，加入于 2015-09-23 18:19:05 +08:00 |
| M2 Max(14) 对比 M1 Max(16) 的 pytorch 推理性能简测 MacBook Pro • adonishong • 2023-03-22 19:08:07 PM • 最后回复来自 adonishong | 13 |
| macOS 13.0 Ventura 支持用虚拟机里用 Rosetta 跑 X86-64 Linux 了 问与答 • adonishong • 2022-06-08 12:23:00 PM • 最后回复来自 adonishong | 2 |
adonishong 最近回复了
162 天前 回复了 digd 创建的主题 › Apple › 未来苹果的 M 系列芯片的内存会用 HBM 替代 DDR 吗？ |
@whileFalse +1 正确, HBM 宽度太宽, 不适合统一内存这种应用, 另外 HBM 本身堆叠层数太高, 发热量太大, 跑的频率太低
综合宽度太宽以及频率太低两个问题带来的延迟太高, 决定了 HBM 是不会被用在统一内存这种场景的
即使是 nvda 那边, 在 Grace-Hopper 系统或者 Grace-Blackwell 系统里, CPU-GPU 都可以访问的统一内存也是用的 LPDDR5X 而不是 HBM, 只有 Hopper 或者 Blackwell 那边单独给 GPU 访问的 ram 才是 HBM
综合宽度太宽以及频率太低两个问题带来的延迟太高, 决定了 HBM 是不会被用在统一内存这种场景的
即使是 nvda 那边, 在 Grace-Hopper 系统或者 Grace-Blackwell 系统里, CPU-GPU 都可以访问的统一内存也是用的 LPDDR5X 而不是 HBM, 只有 Hopper 或者 Blackwell 那边单独给 GPU 访问的 ram 才是 HBM
2023-10-31 12:01:19 +08:00 回复了 lucifer518 创建的主题 › MacBook Pro › M3 Max 是选 14 核+96G 内存还是 16 核+64G 内存？ |
考虑一下接下来可以跑大模型, 要不要考虑一下 128G 内存 ...
2023-03-22 19:08:07 +08:00 回复了 adonishong 创建的主题 › MacBook Pro › M2 Max(14) 对比 M1 Max(16) 的 pytorch 推理性能简测 |
这一坨 shit 在飞机高铁上这种不方便连远端服务器的环境下, 能让你还相对比较高效的调你的神经网络调个几个小时呢 ...
2023-02-27 18:35:01 +08:00 回复了 adonishong 创建的主题 › MacBook Pro › M2 Max(14) 对比 M1 Max(16) 的 pytorch 推理性能简测 |
@neopenx 收到, 感谢
2023-02-27 18:34:07 +08:00 回复了 adonishong 创建的主题 › MacBook Pro › M2 Max(14) 对比 M1 Max(16) 的 pytorch 推理性能简测 |
@johnsonyeen 38C
2023-02-27 16:07:13 +08:00 回复了 adonishong 创建的主题 › MacBook Pro › M2 Max(14) 对比 M1 Max(16) 的 pytorch 推理性能简测 |
@neopenx 请教一下目前 amd 那边 ROCm 的实现情况怎么样了? 效率方面和英伟达那边 cublas, cudnn 的差距能有多大有了解么?
2023-02-27 16:04:32 +08:00 回复了 adonishong 创建的主题 › MacBook Pro › M2 Max(14) 对比 M1 Max(16) 的 pytorch 推理性能简测 |
@neopenx 这就是准备在没有网络的时候跑跑原型做一下基础的代码测试的 ... 正经炼丹那肯定是发到远程主机上拿英伟达的卡跑啊
2023-02-27 12:10:58 +08:00 回复了 CRH 创建的主题 › MacBook Pro › Max Tech: 不要买 M2 Max 的 14” MacBook Pro |
@chashao 以我自己的情况为例, 我的使用场景是 CPU 和 GPU 不会同时跑到百分百, 所以不存在这个评测里的问题 ...
2023-02-09 11:44:10 +08:00 回复了 kqq19930511 创建的主题 › Apple › m2 pro 10 核和 12 核 |
楼主自己既然是做开发的, 自己用现有的机器看一下, 你的项目 java maven 编译是不是可以全核跑满, 可以跑满多长时间
编译的时候如果能比较持续的全核跑满当然强烈建议 12 核了
编译的时候如果能比较持续的全核跑满当然强烈建议 12 核了
2022-06-08 12:23:00 +08:00 回复了 adonishong 创建的主题 › 问与答 › macOS 13.0 Ventura 支持用虚拟机里用 Rosetta 跑 X86-64 Linux 了 |
恩, 是的, 不是直接跑一个 x86 的发行版, 是在 arm 版本上用 rosetta 跑 x86 的 bin, 更接近用 qemu 跑的方式, 但是性能会有保障
结合苹果这个虚拟化框架可以把显示也直接打进来, 已经有用户期待用这个方式跑 steam 的结果了
另外这套工具依赖苹果的虚拟化工具, 还有 rosetta, 非 apple silicon 的 arm 不知道该怎么用 ...
结合苹果这个虚拟化框架可以把显示也直接打进来, 已经有用户期待用这个方式跑 steam 的结果了
另外这套工具依赖苹果的虚拟化工具, 还有 rosetta, 非 apple silicon 的 arm 不知道该怎么用 ...
Select Language