V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  noahlias  ›  全部回复第 11 页 / 共 11 页
回复总数  204
1 ... 2  3  4  5  6  7  8  9  10  11  
@yankebupt 中文你用 qwen 模型吧 那个效果好,instruct 在一些问题回答上会更好啊 当然也是答辩

想看比较,自己去 llm leaderboard 看吧 ,
https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
我看了一下在我的 8G 3060TI 上 推理速度
https://i.imgur.com/XmbsWLD.png

在我的 m1. pro 16g
https://i.imgur.com/9Ey1B4w.jpg

看来还是 cuda🐮
看了一下 点开它的 fork 都是机器人
都是 2 周前注册的 而且他们的 repo 都有这段代码哈哈 应该都是钓鱼的
1 ... 2  3  4  5  6  7  8  9  10  11  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   736 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 14ms · UTC 19:17 · PVG 03:17 · LAX 11:17 · JFK 14:17
Developed with CodeLauncher
♥ Do have faith in what you're doing.