V2EX › ranley123 的所有回复 › 第 1 页 / 共 3 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 2 3

❮

❯

8 天前

回复了 jiangbingo 创建的主题 › 程序员 › 作为后端开发工程师，你们有中途转向机器学习/深度学习的吗？

还有高并发下的推理调度策略等等，所涉及的工程技术非常多，我只是举个例子。也许现在你们做的 agent 或者还在小公司，觉得杀鸡焉用牛刀。但是多提前储备，跳槽到大公司会非常有用。

8 天前

回复了 jiangbingo 创建的主题 › 程序员 › 作为后端开发工程师，你们有中途转向机器学习/深度学习的吗？

总结一下：
学历好：从基础技术出发，直接走训练或推理框架。
学历普通：从 agent 出发，向推理优化学习。如后训练微调技术，推理时长背景的语义压缩，kv cache 技术，etc 。之后一定是大模型的应用时代，如何推理得更便宜，更快, 一定是 agent 和应用工程师应该学习的东西

8 天前

回复了 jiangbingo 创建的主题 › 程序员 › 作为后端开发工程师，你们有中途转向机器学习/深度学习的吗？

@jiangbingo 可以看下我最新的一条，如果是普通学历做 agent ，可以往推理技术靠靠

8 天前

回复了 jiangbingo 创建的主题 › 程序员 › 作为后端开发工程师，你们有中途转向机器学习/深度学习的吗？

@BlAO 其实做 agent 也可以努力往推理靠靠,如何做到推理更快，需要的内存更少也是技术活，因为这个就需要你主动学习类似 kvcache 之类的技术，一点一点往大模型推理浸透，这样也属于加强了个人技术壁垒和业务深度，跟普通做做 agent 有本质区别。

12 天前

回复了 jiangbingo 创建的主题 › 程序员 › 作为后端开发工程师，你们有中途转向机器学习/深度学习的吗？

@BlAO 其他方向说实话今年开始要求也非常高了，除了要求对应的基础架构非常专业，也需要对 LLM 有了解。但是还是比核心算法的要求没有那么逆天，不过至少都要 985 本了，top2 本博也很常见

13 天前

回复了 jiangbingo 创建的主题 › 程序员 › 作为后端开发工程师，你们有中途转向机器学习/深度学习的吗？

@richarddingcn 框架基本不用想了，现在只有清北博士级别和妖孽硕士的才能进。其他的就按照正常的基础架构+LLM 知识学习找点实习吧

13 天前

回复了 jiangbingo 创建的主题 › 程序员 › 作为后端开发工程师，你们有中途转向机器学习/深度学习的吗？

@richarddingcn 不止算子了，infra 包括高端的并行训练框架，算子优化，还有一系列分布式稳定性框架，LLM 故障检测和处理，LLM 存储 hdfs 优化和网络 NCCL 啥的，一大堆

14 天前

回复了 jiangbingo 创建的主题 › 程序员 › 作为后端开发工程师，你们有中途转向机器学习/深度学习的吗？

或者自己写写 ai agent 以后找 agent 工作

14 天前

回复了 jiangbingo 创建的主题 › 程序员 › 作为后端开发工程师，你们有中途转向机器学习/深度学习的吗？

@jiangbingo 外企大厂该不会是 ms 吧哈哈，如果是的话那就是前同事了。我觉得你可以学习一下大模型的原理，比如 transformer 和 attention 之类的，甚至包括一些推理的框架基本知识 kv cache 之类的，如果对训练感兴趣的话可以看看并行训练的基本框架，不过会比较困难。

14 天前

回复了 jiangbingo 创建的主题 › 程序员 › 作为后端开发工程师，你们有中途转向机器学习/深度学习的吗？

@jiangbingo 是的，我赞同你的观点。所以新时代多往 AI 和大模型靠靠，是能够延长的，甚至还有机会远程。个人经验也是如此。自从我入了 LLM infra ，至少前景和钱景上都得到了爆炸式提升

14 天前

回复了 jiangbingo 创建的主题 › 程序员 › 作为后端开发工程师，你们有中途转向机器学习/深度学习的吗？

转大模型 infra ，不过现在这个光景很难了。两年前我后端直接转大模型训练 infra 。现在已经杀得一片红海，同组算是国内最顶尖的大模型 infra 团队，进来的全是清北上交的博士，cmu 的也比比皆是。
但是现在如果实在想转，可以看看大模型相关的存储网络等等基础架构相关的，甚至 GPU 和大模型相关的 k8s 团队也行。应该能吃到一些涨幅溢价，只不过都是大厂了。

140 天前

回复了 yunv2 创建的主题 › 程序员 › 请教关于使用 AI 编程工具，能提高多少效率

写代码的话，个人感觉提效 40%吧。
看代码的话，提效 5 倍（ cursor ），至少我用来看强化学习和一些大模型训练的框架的时候，这种代码其实挺晦涩难懂的，尤其是各种维度张量的拼接转换，是真的牛逼。其中的语义给你娓娓道来。

2023-12-02 21:47:31 +08:00

回复了 wmui 创建的主题 › English › 如何比较系统的学习英语？

程序员技术英语的话，我自己有在做 b 站频道，专门给英语讲简单算法题并且归纳总结技术单词的，https://www.bilibili.com/video/BV11h4y1P7Yp/?spm_id_from=333.999.0.0&vd_source=1b467c44a301cea703059eb872a93c8d 可以随便看看。虽然最近跳字节了，但还是想坚持做下去

2023-09-11 01:06:51 +08:00

回复了 ranley123 创建的主题 › 程序员 › 自荐一下我的视频：让每个程序员都能英语技术面试

每期更新的 coding 技术面试相关的词组。
https://github.com/ranley123/English-for-Technical-Interviews

2023-09-09 16:18:42 +08:00

回复了 ranley123 创建的主题 › 程序员 › 自荐一下我的视频：让每个程序员都能英语技术面试

@zmxnv123 你是说 mock interview 吗，可以啊，等我多做几期类似的视频，大家有了先验的一些单词，然后再做个 mock 应用下这些单词，应该能更好帮助大家记单词。

2023-05-10 17:00:01 +08:00

回复了 unii23i 创建的主题 › 奇思妙想 › 为什么有部分人很喜欢聊天？从高频的聊天可以获得什么？

很多人的爸妈都很喜欢给自己发些“无意义”的信息，“吃了吗”，“睡了吗”，“注意身体”。如果每次聊天都要输送真理，那世界上再无亲情。

2023-04-24 22:55:28 +08:00

回复了 flyFatSeal 创建的主题 › 程序员 › 今天是 4.23 世界读书日，佬们来分享一下

《狂热分子,》讲群众运动的，大学看了两三遍，没有被封真是个奇迹
《动物庄园》个人觉得比 1984 更加引人入胜。

1 2 3

❮

❯