首页
注册
登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请
登录
7.51
V2EX
›
Local LLM
Tesla V100-DGXS-32GB 这张卡能用来跑 ollama 或者 vllm 不?
idblife
·
2024 年 7 月 11 日
· 1866 次点击
这是一个创建于 563 天前的主题,其中的信息可能已经有所发展或是发生改变。
朋友有 4 张退下来的
Tesla
v100
大模型
2 条回复
•
2024-09-25 16:26:03 +08:00
1
Kite6
2024 年 7 月 11 日 via Android
大模型很多加速框架其实都不支持 v100 了,比如 flash attention
2
woscaizi
2024 年 9 月 25 日
算力值是 7 , 不支持 bfloat16
关于
·
帮助文档
·
自助推广系统
·
博客
·
API
·
FAQ
·
Solana
·
1238 人在线
最高记录 6679
·
Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 23ms ·
UTC 17:03
·
PVG 01:03
·
LAX 09:03
·
JFK 12:03
♥ Do have faith in what you're doing.
❯