V2EX › orzsome 的所有回复 › 第 1 页 / 共 1 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

32 天前

借个楼问一下，如果就一张 A100 ，想要部署嵌入跟重排序，加上 LLM/LVM ，可以部署多大参数量的？如果都是 qwen3 ，是不是最多嵌入跟重排序是 0.6B ，LLM/LVM 最多是 30B int8 就是极限了，其他的显存留给并发的上下文什么的？我没有这方面的经验，请各位大佬能给一点建议

113 天前

喜不喜欢，合不合适，在不在一起是三件事。
小伙，你还年轻，有一份可以以后回忆的恋爱经历就很好了。好聚好散。那么多初恋到婚纱再到离婚的呢。不要被困在里边。专心搞钱，你总有一天会变成另一个大众男的。会抢走另一个像你现在这样人的女朋友的。