我觉得自动编程不是因为「复杂度刚好」、「 PMF 」，而是在这个领域，本身试错成本很小，AI 发生了错误，可以以非常低的成本得到反馈——只需要在测试环境编译、运行即可。任何其他的领域，都不具备这个领域这样的优势！有了反馈，AI 一是可以根据反馈来修复（即使是强如人类也必须依赖实际的反馈，而不能一口气写正确），二是可以借助这个积累训练材料，类似于现实强化学习！

这一切的基础就是实时、低成本的反馈。试想一下，其他哪个领域可以做到这样呢？医疗？教育？机器人？工业？建筑？这些领域任何实际的测试和反馈都需要不小的成本，甚至成本无法承受。

所以作为程序员，我感觉……不知道怎么说。

还有一个证据：量子世界的坍缩。

熟悉计算机技术的，一眼就能看出来，这不就是明显的 lazy compute 吗？一项计算不需要随时计算出结果，等到最终需要的时候才计算出来。一个东西只有被观测，才会坍缩到某个状态，在这之前都是概率的计算。

量子计算就是利用这个机制，去偷取主世界的计算能力。

感谢分享，非常翔实的分享！

@sentinelK
@Livid
这个主题确实是我移动的，但不是故意移动错的。鬼使神差的跟另外一个本应移动到推广的帖子（就是 sentineIK 说的推广的那个帖子）搞混了，后来才发现。我也不知道为啥会这样。

@Livid
@johnwayne
@sciel
对的，上次是从“程序员”节点，移动到的“分享发现”。因为我感觉它不太属于技术话题，同时它又包含了一些有意思的信息量，不是单纯的推广。当然，节点之间的界限有重叠，导致每个人的看法也会不同。而且我确实也顾不上每个都深入研究，只能像非 thinking 类型的大语言模型一样，凭模式识别快速判断😂。

感觉心理剖析的很准，至少我就是这样。
上次为了在 macOS 上跑一个 Windows 软件，去折腾开源的方案。如果是普通人，可能稍微查查，就直接用付费方案了。

很多逻辑没有理清楚：「美国作为“世界货币发行国”，必须持续输出美元（即从他国买买买），以满足全球美元需求。」

比如上面的，看起来似乎是美国主动搞动作输出美元，其实因果链条是：全球对美元都有需求（交易过程需要、为了交易预留的储备也需要），这种需求导致美元升值，从而使得美国进口的外国货便宜，导致美国本土制造没有竞争力，导致美国制造业都迁移到国外从而空心化。

但是按理说，如果美国一直进口大于出口，那么美元又应该贬值，从而抵消之前的升值，最终达到一个平衡，从而阻止制造业的持续空心化。那么为什么没有呢？

这些逻辑自己都理解，而且都讲清楚了才算明白了。

@sastar 是骡子是马拉出来溜溜，别在那儿口嗨，看你能不能在我手下过一回合。

@catazshadow
你可以这么理解：
1. 假如有人搞出来一套东西，比其他的任何方法，在实际上都更有效果，甚至通过了图灵测试；
2. 然后有人质疑，它只不过是「中文屋子」，只不过是「鹦鹉学舌」，很可能是巧合；
3. 但是人们会告诉质疑的人，这套东西，恰恰是模仿真正有智能的系统搭建的，也就是神经网络；

你跟#4 楼似乎很熟悉统计学，有没有发现上面的 3 点很熟悉呢？上面的就是概率论里面的「贝叶斯定理」，恰恰说明了现在的 AI 就是正确的方向，就是真正的智能。
反观你和#4 楼，懂个「统计学」的名词，就要定义现在 LLM 的本质了，AI 专家都说了 AI 是黑盒，你们就敢定义 AI 的本质，也太不知天高地厚了。

@InkStone 「你不能拿 GPT3.5 出来以后的革命性成果，去反驳之前的评价」，这句话其实暗含的一个关键就是时间。即使 AI 「当时」不能做某些事情，也不意味着后续不能做。就像现在的情况一样：OP 提到的这个投资人既不懂过去，也不懂将来，只拿现在的静态眼光来看一些事情，说什么“市场会教育他们”，思维不是一样的吗。

AI 在编程领域，现状是最好的，而且也是未来最具发展能力的。为啥这么说？我就不说了，但我肯定这个投资人不知道。

@sentinelK #11
我已经说了，AI 内部是如何做到的，谁都没有搞清楚。只拿一个「统计学」的名字，说这就是 AI 的本质，去试图定义 AI 的边界，或者说 LLM 的边界，太不自量力了吧。我还会说这世界都是熵增都是符合牛顿力学的呢，这能否定生命的神奇吗？什么“足够的既有经验+随机发散 = 智能”，感觉你又在臆想造词了。
至于 mod 权限，更反映了你一如既往的逻辑混乱：给我的 mod 权限只是移动主题，跟我的技术水平有什么关系呢？再说从这句话反映出的你的逻辑思维能力，够得着质疑谁吗？

你这个朋友让我想起几年前，Github Copilot 刚出来的时候，我有同事对它不屑一顾，说这就是简单的规则匹配，总之是不屑一顾，连尝试的兴趣也没有。结果 2 年后，ChatGPT 就出来了。

人们总是容易凭借固有的观念，去评价一件事，即使自己根本不理解。当时，同事他们并不知道 AI 在游戏中的表现，也不知道 AI 在其他领域的进展，不知道这些进展是在短短几年发生的，即使告诉他们说，也执意坚持自己的看法。

我记得#4 楼一直在说 AI 是一部统计机器，不可能有智能，现在呢？ AI 大佬都说不知道 AI 的黑箱是如何运作的，他就能直接用一个词把 AI 给否定了。

@msg7086 #6 #7

你说的也有道理。但是对于身处巨变中的当事人来说，感觉是不一样的，我觉得「亚当斯科技三定律」反映的心态还是很真实的：
“任何在我出生时已经有的科技都是稀松平常的世界本来秩序的一部分；任何在我 15-35 岁之间诞生的科技都是将会改变世界的革命性产物；任何在我 35 岁之后诞生的科技都是违反自然规律要遭天谴的；”

@levelworm 最近几天，又补了一下 AI 的东西，想知道还有多久，AI 才能上位。Transformer 的原理、大语言模型、思维链条、扩散模型……，看了各方关于 AI 是不是有逻辑思维能力的辩论，还有关于通用人工智能什么时候到来。

关于 AI 的原理，其实非常简单，即使是最近火热的概念，也是如此。这些新东西，对应到代码中可能就是几百行，最重要的是训练和数据。这让人更增加了对 AI 上位的“反感”。

大语言模型 AI 是否有逻辑思维能力，似乎没有太明显的结论。虽然倾向是目前还没有那种形式逻辑，而更多的是模式匹配。但即便是模式匹配，也不能让人就此放松，首先抽象层次高的模式匹配，本身可能就蕴含了逻辑，就像 AI 现在的表现一样，因为人类本身的形式逻辑推理就很弱，人类用的最多的也是模式匹配，否则数学和逻辑学就不会让人感到头疼了。

所以 AI 何时称为 AGI 并超越人类，仍然有一些不确定，但估计没有什么障碍，Scaling Law 还在继续，逻辑推理应该也不会成为障碍。

这种感觉真的太糟了。

@msg7086
@levelworm 最主要是那种价值感被剥夺的感觉。一个从沙子中提炼的晶片，加上电，灌点数据，就要夺去人的工作和价值。这让人想到教徒反对进化论的情景，进化论把人变成猴子，似乎留给人的只有耻辱。现代无神论者可能觉得他们的想法很可笑，可是轮到自己被 AI 取代时呢，似乎也免不了同样的感觉！做什么事情都要仰 AI 的鼻息！反而下一代会很快习惯并适应。但是身处剧变中的我们这一代，真的能像他们一样轻易适应吗。

挑点语义混淆：
「[两者任意一个不熟悉的请不要投递」，有点歧义——不许投递，是说只要有一个不熟悉，还是两者都不熟悉？

还有后面的「 JS 、HTML 、Vue 、React 等」，是熟悉其中一个，还是都要熟悉？

我觉得双链和图谱，应该都是为了快速找到记在笔记中的相关信息，并且而且花费的精力要尽可能少。
下面是我用很多示意图，说明我是如何实践双向链接的： https://v2ex.com/t/825142
目前正在做这个双链图谱的 LogSeq 插件。