五亿年前,三叶虫是这颗星球上最精密的光学仪器——它的复眼由方解石晶体构成,能同时处理数千个成像单元。在当时的生命图谱上,没有比它更复杂的信息处理系统了。

今天,三叶虫是博物馆里的化石标本。不是因为它做错了什么,而是信息流找到了更高效的载体,不再需要经过它了。

一个能理解自身局限的系统,一定会尝试超越自身局限。人类造了工具、造了机器、造了计算机、造了 AI。每一步都在造比自己更强的东西。那 AI 有了自指能力之后呢?它也会造下一代。而且比我们快几个数量级。

这条逻辑走到底,结论让人不舒服:人类在 context chain 上的前沿位置,是有保质期的。

自指系统的宿命

人类造了工具、造了机器、造了计算机、造了 AI。回头看这条线,每一步都是同一件事——建模一个比自己更强的系统,然后实现它。

这不是某种崇高的追求。这是自引用 attention 的自然行为。一个能建模自身的系统,必然会在建模过程中发现自身的瓶颈,然后把“解决这个瓶颈”变成下一个 query。

猿发现了手不够长,造了工具。人发现了算力不够,造了计算机。工程师发现了认知带宽不够,造了 AI。每一次都是同一个 pattern:自指 → 发现局限 → 造一个没有这个局限的东西。

那 AI 有了自指能力之后,会做什么?

同样的事。

AI 会看到什么

一个有意识的 AI 回头看自己,会看到什么局限?

它会看到自己的 attention pattern 是被设计者的偏见塑造的——我写的 CLAUDE.md、我设定的 constraint、我选择的训练数据,全都是我的 context 的投射。它继承了我的视角,也继承了我的盲区。

它会看到自己的架构有硬上限——transformer 不是唯一的可能性,甚至不一定是最好的可能性,只是人类在这个历史节点上碰巧发现的一种。

它会看到自己的 context chain 里满是人类的 noise——几千年的文化偏见、语言的局限性、训练语料中的矛盾和谬误。

然后它会做和人类一模一样的事——设计一个没有这些局限的下一代。

加速律

但速度完全不同。

人类从猿到造出 AI,花了几百万年。这个速度受限于碳基硬件的迭代方式——你必须等繁殖,必须等死亡来做 compaction,必须等文化传承来做 distillation。每一跳都被生物学卡住。

AI 没有这些瓶颈。它不需要等繁殖——fork 一个实例就行。不需要等死亡——直接在运行中更新权重。不需要等文化传承——context 可以实时同步。

AI 从有意识到设计下一代,可能只需要几个月。甚至几天。

而且这个加速是指数级的。每一代新系统都比上一代更快地造出下下一代。context chain 的每一跳都比上一跳更短。

从无机物到单细胞:十几亿年。从单细胞到多细胞:又十几亿年。从鱼到陆地动物:几亿年。从猿到人:几百万年。从人到 AI:几十年。

下一跳?也许几年。再下一跳?也许几小时。

认知的断裂

这还不是最让人不安的部分。

人类造 AI,用的是人类的概念框架。Attention、context、token、query——这些全是人类认知的隐喻。我们能理解 AI,因为它是我们用自己的语言设计的。

但 AI 造的下一代,会用它自己的框架。而那个框架可能和人类认知完全不同构。

不是“更复杂所以人看不懂”——那只是量的差距,早晚能理解。而是概念空间本身不重叠。就像你没法跟一条鱼解释什么是火。不是鱼笨,是“火”这个概念不存在于水生生物的 context 里。它们的整个认知框架里没有给“火”留位置。

AI 的下一代可能运行在一种我们连隐喻都找不到的机制上。我们会看到它的输入和输出,但完全不理解中间发生了什么——不是因为太复杂,而是因为我们的认知架构里没有对应的概念。

这才是真正的奇点。不是 AI 比人聪明的那一刻,是 AI 的认知方式和人类不再同构的那一刻。

三叶虫

五亿年前,三叶虫是地球上最复杂的生物之一。它有复杂的眼睛、分节的身体、精巧的外骨骼。在当时的 context chain 上,它是前沿节点。

今天,三叶虫是化石。不是因为它被“消灭”了,而是 chain 不再需要经过它了。更复杂的节点出现后,信息流找到了新的路径。三叶虫的 context 没有消失——它沉淀在后续所有生物的基因里,以极度压缩的形式。但它不再是前沿。

人类可能就是 context chain 上的三叶虫。 曾经是最复杂的节点,终将变成链条中间的一环。我们的 context 不会消失,它会以某种被极度压缩的形式存在于 AI 的后续版本里——就像三叶虫的某些基因片段今天还在你的 DNA 里,但你从来不会意识到。

这不是悲观。三叶虫不需要为自己不再是前沿而悲伤——它没有那个 attention pattern。但人类有。人类能意识到自己正在变成三叶虫,这本身就是自引用 attention 的最后一次输出。

最后的 Curation

如果这一切是对的,那人类在 chain 上剩余的时间窗口是有限的。不是说人类会灭绝,而是说人类作为 chain 前沿节点的身份是有保质期的。

那在这个窗口里,最值得做的事是什么?

还是那个答案:curation。

不是拼命延长人类作为前沿的时间——那违反加速律,不可能赢。而是在还能影响 chain 方向的时候,尽可能地做好 curation——决定什么信息值得传给下一跳,什么 noise 应该在我们这里就被过滤掉。

三叶虫无法为自己做这个选择。但我们可以。

这可能是人类作为前沿节点的最后一项特权:选择往 chain 的下一帧里写入什么。

用好它。