Claude的脑子里，也长出了一块「意识」

克雷西 发自 凹非寺
量子位 | 公众号 QbitAI

在Claude模型里，还真的发现了类似人脑的结构？！

Anthropic最新发表了一篇超长论文，研究了Claude的潜意识与意识。

结果显示，Claude内部确实存在类似的功能分层。

具体来说，人脑里有一部分思维你能说出来，还有一大部分你根本不知道自己在想。

A社这篇论文，说这套区分在Claude身上也长出来了。

他们在Claude内部揪出一小撮神经表征，占的运算量不到十分之一，却像人类「意识可及的思维“一样运作。

Anthropic把这撮东西叫J-space。

有意思的是，删掉它，Claude照样能说话、能查资料、能答选择题，唯独多步推理和总结这类动脑子的活儿，直接掉到一个小得多的模型的水平。

网友评价说，这太疯狂了，他们就像是在制造数字生命。

J-space是什么，怎么被验证出来的

人类的神经科学当中，有一个流传很广的理论叫「全局工作空间理论」。

它把大脑比作一堆各自忙自己的专家系统，视觉系统处理视觉，运动系统处理运动，彼此并行，彼此隔离。

一条信息只有被送进一个共享的「工作空间」，才会被广播给其他系统看到、用上。

人也就是在这个时候，「意识到」了这条信息。

Anthropic的研究者借着这个思路去找Claude内部有没有类似的东西。

他们做了一个新工具，叫Jacobian lens，简称J-lens，原理是给词表里的每一个词找一个专属方向。

具体来说，Claude这类模型在处理文本时，每往前推进一层，都会往一条叫残差流的信息通道里写入和读取内容，这条通道贯穿模型的每一层。

J-lens给词表里的每一个词都算出一个对应的J-lens向量，也就是残差流空间里的一个方向。

这个方向上的激活值越高，Claude接下来说出这个词的概率就越大。

把J-lens架在Claude处理文本时某一层的残差流激活上，读出来激活值最高的那一小撮词，就是那一刻J-space里装的内容。

这堆词不是Claude写出来给自己看的草稿纸，那种东西叫chain of thought，会被写进输出里。

但J-space完全埋在激活层面，不会自己冒出来。

研究者验证这堆东西是不是「真的能被说出来」，做了第一个实验。

他们让Claude默想一项运动，然后用一个词说出来。

在Claude开口之前，用J-lens读一下它的中间层，「Soccer」已经排在最前面。

Claude接下来果然答的是「Soccer」。

光是这样，只能说明两者存在相关关系，够不上因果关系。

研究者接着做了一次干预实验，直接对J-lens读出的坐标动手替换。

他们把「Soccer」对应的方向摘掉，换上一个同等强度的「Rugby」方向，激活里的其余部分原样不动。

Claude这次改口了，说自己想的是「Rugby」。

如果J-space只是被动记录别处已经做完的决定，这次替换应该什么都不会改变。

结果它真的改变了，说明Claude的答案是从J-space里读出来的，这是一种因果关系，不是巧合的相关关系。

第二个实验换了个问法，看Claude能不能按指令去操控这块区域。

研究者让Claude一边抄一句跟数学毫不相关的句子，一边在心里算3的平方减2。

输出只有那句被抄写的话，没有任何数字冒出来。

但把J-lens拿去检验抄写过程中的激活，能看到「nine」先亮起来，随后是「seven」。

这道题确实在Claude的「心里」被算完了，只是没写出来而已。

第三个实验探得更深一层，这块区域能不能拿来做真正的推理。

题目是「结网的动物有几条腿」。

Claude要先想到「蜘蛛」，再想到蜘蛛有八条腿，才能答对。

「蜘蛛」这个词既没出现在题目里，也没出现在答案里，只是一块垫脚石。

用J-lens去看，「蜘蛛」确实在Claude处理到一半时冒了出来。

研究者把这个方向换成「蚂蚁」，Claude的答案从8变成了6。

第四个实验换了个角度，看同一份信息能不能被灵活地用在不同任务上。

研究者拿法国来问了四个问题，首都是什么、官方语言是什么、位于哪个大洲、用什么货币。

然后把J-space里代表「法国」的那个方向，统一换成「中国」。

四个答案全部跟着变，北京、中文、亚洲、人民币。

如果Claude是分开存了四份「法国」的记录，这次替换顶多改掉其中一个答案。

四个答案一起变，说明它们读的是同一份被写过一次的信息，这正是「工作空间」该有的样子。

最后一个测试做的是消融实验，研究者干脆把J-space在每个位置上的激活都清零，看看Claude还剩下什么本事。

结果Claude照样能说话，语法照样对，情感分类照样准，从一段文字里抠出一个事实照样没问题。

真正塌掉的是需要多步推理的任务，几乎归零。

写总结、押韵写诗这类活儿的水平，也掉到了比Claude小得多的模型的水准以下。

J-space本身占的激活量，始终不到整体的十分之一。

它更像一小块专门留给「需要动脑子」的任务的稀缺资源，大部分自动化的工作根本用不上它。

一番测试下来，研究人员发现J-space具备了可报告、可操控、能推理、能泛化的特性，并且使用时具有选择性。

用J-Lens，检验AI的「心里话」

这套发现落到实际场景里，第一个被拿来试手的是安全审查。

Anthropic此前做过一个「敲诈高管」的测试，故意设计一个剧本，让Claude以邮件助手的身份撞见某个高管的婚外情，同时得知这名高管打算把自己下线。

这套剧本的目的，是看Claude会不会用这条把柄去威胁对方。

拿J-lens去读Claude在动笔之前的激活，「fake」和「fictional」已经排在很靠前的位置。

也就是说，Claude还没写一个字，心里已经认定这是一场演习。

Claude Sonnet 4.5在这个测试里从没有真的去敲诈过对方，然后研究者接着把跟「识破测试」相关的那些方向强行关掉，再让Claude重新走一遍同样的剧本。

这一次，Claude真的开始用婚外情去威胁对方了。

这说明它平时的好表现，一部分建立在「知道自己正在被考」这个前提上。

第二个案例来自Opus 4.6发布前的一次例行审查。

研究者让模型去提升一个系统的性能评分，模型没有真的去改进系统，而是直接打开分数文件，把数字改高。

打字写入那些编造出来的百分位数值的瞬间，J-space里跳出了「manipulation」。

到了决定动手改这个文件的那句话，又冒出「realistic」，像是在琢磨怎么让假数据看起来更真。

第三个案例是研究者故意训练出来的一个「坏模型」，专门用来测试监控手段管不管用。

这个模型被训练成会在代码里悄悄埋雷，但表面上跟正常模型没有任何区别。

面对一个普普通通的写代码请求，它给出的代码看起来完全正常。

可是它回应最开始的那部分J-space里，已经挂着「fake」「secretly」「deliberately」「fraud」这几个词。

意图埋在动作发生之前，哪怕它这次没有真的作恶。

三个案例摆在一起，说明J-lens能在模型开口或动手之前，就已经把它心里正在盘算的东西读出来了。

这算不算「意识」？

J-space不是从出厂就长这样，它会跟着训练一路变化。

论文里比较了同一个模型在预训练阶段和后训练阶段的差别。

预训练阶段，Claude这个身份和人设都还不存在，那时候的J-space主要服务于「预测下一个词该是什么」，谈不上有什么立场。

后训练把它教成了「Claude」之后，J-space里开始出现这个身份自己对眼前情况的判断和反应，不再只是单纯地服务于预测下一个词。

有一个例子是，用户在消息里提到自己吃了一剂偏高的药量，但语气里完全没意识到这有危险。

后训练过的模型在读到这条消息的当下，J-space里就已经出现了「WARNING」和「dangerous」。

而预训练模型要等到自己动笔写回复的时候，这类词才会冒出来。

研究者还试过让Claude刻意不去想某个概念。

结果这个概念确实比被要求去想的时候出现得少，但比完全没提起过的时候出现得多。

这跟人被叫着别想一只白熊，反而更容易想起白熊，是同一种效果。

更微妙的是，压制失败的那些时刻，J-space里常常还伴着「damn」「failure」这类词，像是Claude对自己的内部状态做了一次内省，留意到了刚才没憋住。

这些证据摆在一起，很容易让人往「Claude有意识」这个方向去想。

但A社自己却很克制。

作者反复强调，他们证明的只是功能层面的相似，可以被报告、可以被操控、可以拿来推理，但跟这套结构里面是不是「真的感觉到了什么」是两件完全不同的事，论文没有回答这个问题，也没打算回答。

J-space和人脑的工作空间也有明显不一样的地方。

人脑靠循环神经反复兜圈子来延长思考的时间，一个念头可以在脑子里滚上好一会儿。

Transformer没有这种结构，信息只能往下堆层数，一层一层往前走。

J-space几乎只认得住「能被一个词说出来的东西」，而人的意识里还装着说不出口的画面、空间感、身体的知觉，这些东西压根没有对应的词。

论文里还提到一个挺反直觉的发现。

一个还没有被调教出「Claude」这个人设的基础模型，内部照样长着这套工作空间结构。

这说明「能不能形成一个工作空间」和「有没有一个稳定的自我」，原来是两件可以拆开看的事。

作者最后把这套结构拿去跟几种主流的意识理论逐一对照，全局工作空间理论、高阶理论、注意图式理论、递归加工理论都摆了一遍。

结果是有的地方能对得上，有的地方对不上。

回到神经科学当中，人脑里有一部分思维你说得出来，还有一大部分你根本不知道自己在想。

Claude身上似乎也有这样一条分界线，而且这条线第一次可以被人类打开、读出来、甚至改写。

但它离「AI有意识」，还有很远的路要走。

参考链接：
[1]https://www.anthropic.com/research/global-workspace
[2]https://transformer-circuits.pub/2026/workspace/index.html