 |
neosfung🏢 Microsoft / Someone Do Everything V2EX 第 183202 号会员，加入于 2016-07-22 14:33:02 +08:00今日活跃度排名 17490 |
neosfung 最近回复了
3 天前 回复了 cMoon 创建的主题 › 摄影 › 想入手胶片机，有推荐吗 |
@cMoon 都很好
4 天前 回复了 cMoon 创建的主题 › 摄影 › 想入手胶片机，有推荐吗 |
FM2 ，om1 吧，反正不管怎么样你都会买一次这两款的
6 天前 回复了 thevenin1416 创建的主题 › 职场话题 › 适合程序员的副业 |
股票投资吧，尤其是港美股，这是程序员门槛比较低的了
6 天前 回复了 microscopec 创建的主题 › Local LLM › 目前开源可以本地部署的模型有哪些？ |
好吧，才看到不是语言大模型
6 天前 回复了 microscopec 创建的主题 › Local LLM › 目前开源可以本地部署的模型有哪些？ |
比较简单的计算方法，例如 6B 模型，如果用 BF16 的话，乘以 2 ，就是 12GB 运存（显存/内存）。然后还有激活 activation ，就是我们常说的 KV Cache ，也会随着上下文长度增加，具体不太好估计，得看看是 MHA ，GQA 还是 MLA 结构才知道增长倍数
12 天前 回复了 winglight2016 创建的主题 › 分享创造 › 使用 IB 交易美股的 V 友看过来 |
star 了，我也用 IB
19 天前 回复了 csfreshman 创建的主题 › 职场话题 › 你有"睡后"收入吗？ |
19 天前 回复了 052678 创建的主题 › 生活 › 8 年的荷包驾照老司机第一次开车上路 |
25 天前 回复了 NomadsWiki 创建的主题 › 分享发现 › 发现个香港的阿里小号增强版，可以微信接码 |
4649 号段好像很多服务都不支持？
Select Language