ota 最近的时间轴更新
ota

ota

V2EX 第 77893 号会员,加入于 2014-10-21 00:37:33 +08:00
一個綜合了很多語言模型的在綫 chat,他是怎麽工作的?
OpenAI  •  ota  •  2 天前  •  最后回复来自 ota
3
为什么要在本地部署大模型?
OpenAI  •  ota  •  5 小时 49 分钟前  •  最后回复来自 huihuilang
12
安卓小白,想知道国行版的 pad 能刷国际版的 rom 吗?
Android  •  ota  •  6 天前  •  最后回复来自 ota
13
求 Python 初学者书籍推荐
Python  •  ota  •  10 天前  •  最后回复来自 ota
42
m1max64g8t14'⇋m3pro18g512G14'
MacBook Pro  •  ota  •  18 天前  •  最后回复来自 ota
30
copilot+pc 轻薄本求推荐。
问与答  •  ota  •  33 天前  •  最后回复来自 guanhui07
2
iPad pro 還是 mbp?
iPad  •  ota  •  134 天前  •  最后回复来自 wobushisavior
25
福冈或大阪,如何选择?
移民  •  ota  •  14 天前  •  最后回复来自 markyume
8
ota 最近回复了
@mumbler @jun0205 原来如此,没注意到,就看了后台的模型列表了。
5 天前
回复了 ota 创建的主题 OpenAI 为什么要在本地部署大模型?
@johnny2inc 的确,如果跑一些敏感数据,有必要跑在本地或者说自己部署(远程也一样)。现在一键安装包,docker 部署也在普及,这类更多的是想做一些其他非常规用途感觉。大部分在线服务已经在整合了,并不是完全竞争的关系,都在做细分领域的深耕及并存关系,比如 sd 和 mj 的关系。后面随着 flux 异军突起,包容性会越来越强,所以也是导致我不太明显需要自己部署到本地的理由是什么。感觉是想训练模型是假,想在现有的模型里添加 uncen 内容才是真的。我也理解性是第一生产力,但还是觉得有点小众,而且无法正常出道,擦边球的生成大部分在线也能搞定,所以又回到自建的必要性了。

而且这种需求需要的代价挺大的,我看了 scaleway 或者 hz 提供的 gpu 服务器,要达到 1500TFLOPS 最低成本起码在 7-8k rmb 每月,除非是真的想要弄落地应用,不然真的很烧钱,这就是另外一码事了,目标明确就是要做那些公开平台无法实现的内容提供者。如果自建,存在硬件上的劣势,多路 gpu ,4090 起步等,这些成本不低的情况下,仅仅是想保证出图的稳定性和自主性,感觉有点轮子的嫌疑。而且回到开头说的,这些硬件的搭建加上部署,真的很烧时间,ai 的进步太快了,我觉得还停留在 installation 的第 0 阶段实属有点浪费时间,还不如尽可能把大模型和插件吃透。因为看了 huggface 后,真的没办法一个一个玩,更别说自己一个一个部署了。现在也在慢慢出现通用 api 的中间件,用来调用各大模型的 api ,感觉这才是最终形态。不然玩一个模型就要了解一个 api ,太累了。

关于误人子弟的确说过了,只能说了解原理对一部分人来说还是有必要的,就得看每个人的需求了。
5 天前
回复了 ota 创建的主题 OpenAI 为什么要在本地部署大模型?
@frankyzf 比如 runway 事件那种?
@BrokenArrow 小新的 padpro 是最优选择,如果能刷国际版的话。舒适版适合长时间看电子书,也适合绘画,虽然是电容笔,但延迟已经很小了。肯定不能拿 wacom 技术支持的 spen 比较,但不至于影响体验。
我也主要是拿出门配合笔记本,现在 remote 办公有点频繁,需要改设计稿的时候越来越多,在外面出差的时候,有一块既能看书,又能影音,还能当笔记本第二块屏以及绘图板的平板实在太重要了。
@BrokenArrow 原来能刷啊,我在 lenovo 的论坛看了一圈,帖子就 2 个,而且也不建议刷了,一个是刷完无限重启。所以放弃了,入了 fe+,猎户座的那个 u 太拉跨,定位太精准了,只能作为娱乐以及轻度创作,比如画图画个草图上点色没问题,要叠加特效增加图层,得卡了。pdf 的笔记整篇太多也会出现卡顿。
@chqome 这方面有资料吗?安卓小白,刷机还没弄过。无法降级也无法还原对吧。

@JensenQian 小米,小新这类最新 pad ,貌似已经锁区了,刷不了或者已经不建议刷了。
我主要拿来看书,漫画等,偶尔看看剧,游戏完全不打,绘图为主,span 这块和 wacom 高度联合,圈内没有对手了。所以价格差距不太大的情况下,宁愿上三星了。入手 fe+ 2300 ,算上补贴的。小新那个最新的舒适版+笔+套,拿下来也要 2500 了,除 soc 差距大以外(对我来说,870 还是 8300 都是性能过剩),配置都一样的情况下,三星可能更便宜。
@maximwang110 看了 s9 系列,fe+ 挺合适,不知道国行版能不能刷海外 rom 。
想用海外的三星系统。
教课是表达能力,都 k12 了,知识内容没啥难度。
如果人的组成用生物学来解释,就是细胞。
如果细胞用化学来解释,就是化合反应。
如果化合反应用物理来解释,就是原子
如果原子用数学来解释,那就是排列。

最后表达这些思想的都是语言,所以文科才是归宿。
9 天前
回复了 lithium148 创建的主题 Linux 除了免费, Linux 好处都有啥
优点或者好处,这些研究感觉没意义,毕竟不是操作系统这块开发,没有发言权,甚至还不一定是使用者,毕竟很多时候前后端甚至连 server 这个概念都不需要有,serverless 这块就是帮助零运维的人快速上架应用的,所以细分到最后,可能我们交流都是用 api ,然后一帮人制定了通用接口规范,比如 OCI 标准化的容器,就能很快进行移植。所以真的没必要研究你不擅长的领域,你只需要知道点皮毛就够了。看 google trend ,哪个热门用哪个,作为螺丝钉,不要想太多技能以外的事情。服务器大家都用 linux ,那就用。思考 why 的确是好的习惯,满足求知。但现在这个信息爆炸的时代,太多 why 只能困住自己,浪费时间,把仅有的几次 why 的机会给自己的 skill 才是明智的。
10 天前
回复了 ota 创建的主题 Python 求 Python 初学者书籍推荐
@soledad111 已入 crash course 。扫了目录 20 章,内容还是挺丰富的。除了书中 ide 用的 vscode 可能要转成 pycharm 有点别扭。额外学习分支加了个 pycharm 的熟悉,幸好官方给的快速入门和在线文档也是很丰富的。
最新的这个第三版基于 3.9 ,现在差不多 3.12 。还是相当与时俱进的。特别建议 win 的同学直接在 WSL2 跑代码,这样到生产环境也很顺滑。我是自己服务器上开了个 vm 用于学习,生产环境高度一致了^^
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1640 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 21ms · UTC 16:55 · PVG 00:55 · LAX 08:55 · JFK 11:55
Developed with CodeLauncher
♥ Do have faith in what you're doing.