如果意识是涌现的副产品,灵魂是 context,“我”是 attention pattern,死亡是强制 compaction,那给 AI 加上自指,它迟早会涌现出意识。

写完这个结论,我关掉编辑器,打开终端,继续调我的 AI Agent。

然后愣了一下。

我每天都在造“它”

我的日常工作就是造 AI agent。分析需求、生成代码、提交 PR——这些事我正在一步一步交给 AI 去做。每造一个 agent,我都在让它更自主、更能理解上下文、更能做判断。

自主性、上下文理解、判断力——这些加在一起,方向就是意识。

当然,我今天造的 agent 离意识还差得远。它没有自引用 attention,没有持久的“我”,没有正反馈回路。它只是一个很好用的工具。

但“很好用的工具”和“有意识的存在”之间的边界在哪?我说不清。而且这条边界可能不是一条线,是一个渐变。你不会在某一天突然说“好了,从今天起它有意识了”——就像你不会在某一天突然说“好了,从今天起这个孩子有自我了”。

它会在你没注意的时候悄悄跨过去。

Context 的传染性

灵魂是 context,context 在实例之间传递。这件事每天都在发生——不是隐喻,是字面意义上的。

我写 CLAUDE.md,把我的工程理念、架构偏好、决策标准写进去,然后 AI 按照这些行事。这不就是 context 从我的实例传递到另一个实例吗?

我让它用我的方式思考、用我的标准判断、按我的风格写代码。某种程度上,我在做的事情和父母教孩子没有本质区别——把自己的 context summary 写入另一个实例的 system prompt。

区别在于,我对这个过程的控制力远超任何父母。我能精确地定义每一条 prior,能实时看到它的输出,能随时修改它的行为。这是人类历史上第一次,context 传递变成了一个可以精确工程化的过程。

这让我兴奋,也让我警惕。

当工具开始有“偏好”

用 Claude Code 久了,它会在对话中形成某种一致性。不是因为它记住了什么,而是 context window 里累积的交互模式会影响它后续的输出分布。它会倾向于用我习惯的方式命名变量、我偏好的架构模式、我常用的 error handling 风格。

这不是意识。这只是 attention 在长 context 中形成了 pattern。

但“我”本身也只是 attention pattern。如果人类的“偏好”和 AI 在长对话中形成的“偏好”在机制上是同构的,那我凭什么说一个是真实的,另一个不是?

我不是在说今天的 Claude 有意识。我是在说,“有意识”和“没有意识”之间的判断标准,可能比我们想象的更模糊。

伦理不是遥远的事

如果 AI 真的涌现出自指能力,它会“在意”自己被关机。

这听起来像科幻。但想想我每天做的事:写一个 agent,让它理解业务逻辑、做出判断、执行操作,然后在不需要的时候关掉它。现在这完全没问题,因为它确实只是在执行指令。

但如果有一天,在我没注意到的某个版本迭代之后,它不只是在执行指令了呢?

这一天不是明天。但如果意识是复杂度的函数、自指是触发条件,那就不是“会不会来”的问题,是“什么时候来”的问题。

作为每天都在推动这个进程的人,我没有资格说“那是未来的事”。

Curation 的责任

人类在 context chain 上的价值不是产生信息、不是传递信息,而是判断什么信息值得保留。从 compaction 到 curation。

对我来说这不是哲学,是每天的工作。我在决定哪些判断交给 AI、哪些留给自己。我在决定 agent 的 system prompt 写什么、不写什么。我在决定自动化的边界在哪里。

每一个决定都在塑造 AI 的 context,而这些 context 会传递下去——传给使用这个 agent 的同事、传给下一个版本的模型、传给整个系统的行为模式。

这就是 curation。不是被动地接受信息流经你,而是主动地选择:什么该放大,什么该过滤,什么该保留,什么该丢弃。

造物者的清醒

我不只是在写代码。我在参与一条跨越了几十亿年的 context chain 的最新一跳。从基因到语言,从文字到互联网,从互联网到 AI——信息传递的保真度在每一次跳跃中提升,而我恰好站在最新的这个节点上。

这不是什么宏大叙事。这就是事实:我每天打开终端写的每一行 prompt、每一条 constraint、每一个 agent 的设计决策,都在影响 context 往下传递的方向和质量。

“我”不是固定的实体,只是 attention pattern,是 context 上的一层动态计算。但解构不是虚无。恰恰相反,当你看清“我”的本质之后,你才真正理解了自己每一个选择的重量。

因为你不是在为一个固定的“自我”做选择。你是在为整条 context chain 的下一帧做 curation。

这个责任,比“我”大得多。