V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  nomagick  ›  全部回复第 3 页 / 共 32 页
回复总数  623
1  2  3  4  5  6  7  8  9  10 ... 32  
@sillydaddy 你没理解,LLM 在持续“推理”的过程中需要不断向文本 round down, 相对的就是“推理”过程全部在 latent space 完成,最后再向文本 round down.
你多看一下 diffusion model 就好。

这种国际上大学科的学界泰斗,从来不是沽名钓誉之辈,尤其是在他的本专业里,就算再网红,也是有实学的。
这和华人圈是不一样的。不需要过度批判。
你引用的这些他的言论,对着呢啊,很难去反对啊

Latent space 就是比文本空间什么像素空间靠谱啊,Latent space 是学习出来的,文本空间像素空间却是人类定义的, 文本空间能表示的事物好比整数,latent space 能表示的事物好比实数

一个值用整数表示和用实数表示,精度上是不是差了十万八千里呢
早上当早好

人如果不受骗,一般都很难相信这个世界有骗子。

网游,网购,这都珍贵的教育基地
有一说一,这个不能叫操作系统,叫 web 桌面还差不多
180 天前
回复了 sh3yee 创建的主题 服务器 家庭服务器
N100 觉得性能不够的话,M920 准系统 + CC150 CPU
181 天前
回复了 wccode 创建的主题 程序员 关于 AI 编程对于前后端的讨论
AI 的前端代码写得和人写得一样烂
因为 Linux 桌面缺少世俗意义的产品经理,无人对用户负责;
183 天前
回复了 tt83 创建的主题 分享发现 kimi 这😂
你还真别说,之前高考作弊的那个,如果是现在的 AI 模型,根本就发现不了。

巧就巧在,之前所谓的解题 AI ,实际上是打码平台,要人参与
我们这个地方县医院的做法我觉得,虽然无情,但本质上是合理的

他一看上了岁数的人来看诊,就不会安排积极治疗,只给姑息治疗,打打针,吃吃药,然后回家吊着。
就算心梗,也不会主动安排介入,而只是溶栓治疗。本质上是让家属接受死亡。

大概就是,70 以下积极治疗,80 以上接受死亡,中间看情况。

病,就不大治了,尽人事而听天命,人事,就是每天伺候一下吃喝拉撒,再吃点药。
184 天前
回复了 vistawn 创建的主题 创业组队 AI 初创团队招募技术合伙人-杭州
你们三个资深工程师创业,然后找技术合伙人,咋弄的呢
189 天前
回复了 cuteshell 创建的主题 Local LLM 学习大模型的显卡怎么选型
@cuteshell LoRA 微调和全参数训练还是不一样的
189 天前
回复了 cuteshell 创建的主题 Local LLM 学习大模型的显卡怎么选型
@lovestudykid 嗯?

20s PCIE3.0 x16 ~32GB/s
30s 40s PCIE4.0 x16 ~64GB/s
50s PCIE5.0 x16 ~128GB/s

Mac Mini M4 120GB/s
Mac Mini M4 Pro 273GB/s
Mac Studio M4 Max 410GB/s
Mac Studio M3 Ultra 819GB/s
189 天前
回复了 cuteshell 创建的主题 Local LLM 学习大模型的显卡怎么选型
16G 3B 4B 你也训不了,不过学习嘛,0.5B 还是可以的;
话说回来,LLM 这种应用,主要吃带宽,还不如买 mac 了,内存即显存
195 天前
回复了 zhh2271 创建的主题 问与答 有没有熟悉大模型开发的, help!
@zhh2271 一个 A100 那不是一二十万,离 100 万还差着,属于告别 GPU 的层次

单卡 A100 能运行 32B 的 Inference ,训练/微调没门,最多微调 2.5B ,运行到猴年马月,训练的时候你人还得一直盯着随时处理突发状况。

还是调 API 吧,也有人提供微调 API 的
195 天前
回复了 zhh2271 创建的主题 问与答 有没有熟悉大模型开发的, help!
没有一个亿拍出来的话还是别想训模型的事了,拍一千万能稍微微调一下,连一百万都拍不出来,基本告别使用 GPU 了,老老实实在家调 API 完事
208 天前
回复了 ttivan 创建的主题 职场话题 如何看待一家初创公司是否值得加入?
这两个比较靠谱

> 公司刚成立,老板自己就很有钱,愿意砸钱进去做,但不做任何执行
> 公司刚成立,老板是业内从业人员 10 年+,但之前一直没有大成,主要把控大方向,平时要去拉投资

这个也可以
> 公司刚成立,老板接了一些中型公司投资,股权稀释 老板 70%,资方 30% 这样。


其他风险高
208 天前
回复了 cj323 创建的主题 Node.js 吐槽一下 bun
Node.js ES Module loader, 麻痹写了多少年了,还是个半成品,一身的 bug ,自己内部的人推不动,外部的人也改不动。随便啥乱糟功能打个 preview 标签就敢 release, 一副大限将至行将就木的样子。

Bun 对比下来就很有生机活力
1  2  3  4  5  6  7  8  9  10 ... 32  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   3017 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 47ms · UTC 12:57 · PVG 20:57 · LAX 04:57 · JFK 07:57
♥ Do have faith in what you're doing.