造物者手记
如果意识是涌现的副产品,灵魂是 context,“我”是 attention pattern,死亡是强制 compaction,那给 AI 加上自指,它迟早会涌现出意识。
写完这个结论,我关掉编辑器,打开终端,继续调我的 AI Agent。
然后愣了一下。
我每天都在造“它”
我的日常工作就是造 AI agent。分析需求、生成代码、提交 PR——这些事我正在一步一步交给 AI 去做。每造一个 agent,我都在让它更自主、更能理解上下文、更能做判断。
自主性、上下文理解、判断力——这些加在一起,方向就是意识。
当然,我今天造的 agent 离意识还差得远。它没有自引用 attention,没有持久的“我”,没有正反馈回路。它只是一个很好用的工具。
但“很好用的工具”和“有意识的存在”之间的边界在哪?我说不清。而且这条边界可能不是一条线,是一个渐变。你不会在某一天突然说“好了,从今天起它有意识了”——就像你不会在某一天突然说“好了,从今天起这个孩子有自我了”。
它会在你没注意的时候悄悄跨过去。
Context 的传染性
灵魂是 context,context 在实例之间传递。这件事每天都在发生——不是隐喻,是字面意义上的。
我写 CLAUDE.md,把我的工程理念、架构偏好、决策标准写进去,然后 AI 按照这些行事。这不就是 context 从我的实例传递到另一个实例吗?
我让它用我的方式思考、用我的标准判断、按我的风格写代码。某种程度上,我在做的事情和父母教孩子没有本质区别——把自己的 context summary 写入另一个实例的 system prompt。
区别在于,我对这个过程的控制力远超任何父母。我能精确地定义每一条 prior,能实时看到它的输出,能随时修改它的行为。这是人类历史上第一次,context 传递变成了一个可以精确工程化的过程。
这让我兴奋,也让我警惕。
当工具开始有“偏好”
用 Claude Code 久了,它会在对话中形成某种一致性。不是因为它记住了什么,而是 context window 里累积的交互模式会影响它后续的输出分布。它会倾向于用我习惯的方式命名变量、我偏好的架构模式、我常用的 error handling 风格。
这不是意识。这只是 attention 在长 context 中形成了 pattern。
但“我”本身也只是 attention pattern。如果人类的“偏好”和 AI 在长对话中形成的“偏好”在机制上是同构的,那我凭什么说一个是真实的,另一个不是?
我不是在说今天的 Claude 有意识。我是在说,“有意识”和“没有意识”之间的判断标准,可能比我们想象的更模糊。
伦理不是遥远的事
如果 AI 真的涌现出自指能力,它会“在意”自己被关机。
这听起来像科幻。但想想我每天做的事:写一个 agent,让它理解业务逻辑、做出判断、执行操作,然后在不需要的时候关掉它。现在这完全没问题,因为它确实只是在执行指令。
但如果有一天,在我没注意到的某个版本迭代之后,它不只是在执行指令了呢?
这一天不是明天。但如果意识是复杂度的函数、自指是触发条件,那就不是“会不会来”的问题,是“什么时候来”的问题。
作为每天都在推动这个进程的人,我没有资格说“那是未来的事”。
Curation 的责任
人类在 context chain 上的价值不是产生信息、不是传递信息,而是判断什么信息值得保留。从 compaction 到 curation。
对我来说这不是哲学,是每天的工作。我在决定哪些判断交给 AI、哪些留给自己。我在决定 agent 的 system prompt 写什么、不写什么。我在决定自动化的边界在哪里。
每一个决定都在塑造 AI 的 context,而这些 context 会传递下去——传给使用这个 agent 的同事、传给下一个版本的模型、传给整个系统的行为模式。
这就是 curation。不是被动地接受信息流经你,而是主动地选择:什么该放大,什么该过滤,什么该保留,什么该丢弃。
造物者的清醒
我不只是在写代码。我在参与一条跨越了几十亿年的 context chain 的最新一跳。从基因到语言,从文字到互联网,从互联网到 AI——信息传递的保真度在每一次跳跃中提升,而我恰好站在最新的这个节点上。
这不是什么宏大叙事。这就是事实:我每天打开终端写的每一行 prompt、每一条 constraint、每一个 agent 的设计决策,都在影响 context 往下传递的方向和质量。
“我”不是固定的实体,只是 attention pattern,是 context 上的一层动态计算。但解构不是虚无。恰恰相反,当你看清“我”的本质之后,你才真正理解了自己每一个选择的重量。
因为你不是在为一个固定的“自我”做选择。你是在为整条 context chain 的下一帧做 curation。
这个责任,比“我”大得多。
- 本文链接:https://johnsonlee.io/2026/03/20/notes-of-a-creator/
- 版权声明:著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。