1
Meteora626 1 天前
告诉你 无解
|
2
Muniesa 1 天前
得有家庭宽带的 ip 吧,vps 的 ip 也容易触发风控
|
3
111111111111 1 天前
看过一个文章,出处和细节忘记了
大意是:同样的模型,不同配置、不同部署参数(比如并发量)让速度和水平表现的不一样,速度可以这个都好理解,重点是能力水平也会降低 那么就可以根据 IP 质量,把请求路由到不同的节点来提供 LLM ,得到不同的使用表现 所以 IP 脏就降智,在逻辑上我觉得是行得通的 |
4
111111111111 1 天前
不同配置主要是指显卡(显存)的区别。
相同模型、相同量化水平,不同的并发量,影响水平 相同模型、相同量化水平,不同的可用显存,影响水平 大概就是每次对话时所用到的实际计算资源,影响本次对话的智力水平 |