二手的,跑本地 llm, 是不是只需要考虑显存大小而已?有推荐的吗?不晓得是否能跑 deepseek 14b
1
neteroster 270 天前 via Android
半高刀卡限制太严格了,技嘉有张 4060 Low Profile ,不过 8G 跑 14B 还是太勉强了
|
2
wnpllrzodiac 270 天前 via Android
4060 感觉到顶了
|
3
hertzry 270 天前 via iPhone
SXM2 的 V100 16G 加 PCIe 转接卡。
|
4
uion 270 天前
加一点点上 tesla t4
|
5
20015jjw 270 天前 via iPhone
Ada?
|