@
johnny2inc 的确,如果跑一些敏感数据,有必要跑在本地或者说自己部署(远程也一样)。现在一键安装包,docker 部署也在普及,这类更多的是想做一些其他非常规用途感觉。大部分在线服务已经在整合了,并不是完全竞争的关系,都在做细分领域的深耕及并存关系,比如 sd 和 mj 的关系。后面随着 flux 异军突起,包容性会越来越强,所以也是导致我不太明显需要自己部署到本地的理由是什么。感觉是想训练模型是假,想在现有的模型里添加 uncen 内容才是真的。我也理解性是第一生产力,但还是觉得有点小众,而且无法正常出道,擦边球的生成大部分在线也能搞定,所以又回到自建的必要性了。
而且这种需求需要的代价挺大的,我看了 scaleway 或者 hz 提供的 gpu 服务器,要达到 1500TFLOPS 最低成本起码在 7-8k rmb 每月,除非是真的想要弄落地应用,不然真的很烧钱,这就是另外一码事了,目标明确就是要做那些公开平台无法实现的内容提供者。如果自建,存在硬件上的劣势,多路 gpu ,4090 起步等,这些成本不低的情况下,仅仅是想保证出图的稳定性和自主性,感觉有点轮子的嫌疑。而且回到开头说的,这些硬件的搭建加上部署,真的很烧时间,ai 的进步太快了,我觉得还停留在 installation 的第 0 阶段实属有点浪费时间,还不如尽可能把大模型和插件吃透。因为看了 huggface 后,真的没办法一个一个玩,更别说自己一个一个部署了。现在也在慢慢出现通用 api 的中间件,用来调用各大模型的 api ,感觉这才是最终形态。不然玩一个模型就要了解一个 api ,太累了。
关于误人子弟的确说过了,只能说了解原理对一部分人来说还是有必要的,就得看每个人的需求了。