AIGC 将成为人类的噩梦

ChatGPT 现世以来，互联网上充满了对各种 AIGC 模型的赞美。各路专家都在各种媒体上畅想着科幻小说般的未来。

然而根据 Murphy's Law： "Anything that can go wrong will go wrong."。在 LLM 革命人机交互方式的同时，在 Diffusion Model 颠覆艺术设计行业的同时，AIGC 不可避免地将成为互联网上极高效的垃圾制造机。比现在多数个数量级的垃圾内容 /虚假内容将把互联网上本就稀少的有价值的信息淹没。未来的人类将把绝大多数计算资源浪费在存储和筛选信息上。

如今的人类社会可以说完全是建构在互联网之上。而一个完全失去真实性的互联网，将使人类社会建构的基础完全被摧毁。假如一个人看到的文章、图片、音频、视频，都看上去有模有样，实际是完全虚假的 AIGC ，那么他还能相信什么？显然对时间和手段都有限的人类个体来说，是没有精力对这么大量的信息进行 fact check 的。失去了一个可以立足的基点，人的精神世界的崩溃只是早晚的事。

因此，各国要尽早立法对 AIGC 进行监管。所有内容提供商必须对 AIGC 产生的内容进行明显的标注；所有 model 提供商必须提供对应的 model 对它们产生的内容进行可靠的检测。如果现阶段不能通过技术手段解决这个问题，暂时禁用 AIGC 也绝不为过。