Anthropic 周日发表了一篇研究论文，揭示其 Claude 语言模型已经开发出类似于人类意识理论的内部结构。这项名为“语言模型中的可语言表示形成全局工作空间”的研究涉及 16 位作者，并描述了一个“J 空间”，即模型内用于推理和报告的内部活动区域。在关于机器意识的争论日益激烈的背景下，这一发现改变了 Anthropic 监控人工智能系统安全风险的方式。
研究人员发现，J 空间对应于认知科学家伯纳德·巴尔斯提出的全局工作空间理论。该理论表明，虽然多个处理单元同时运行，但有意识的思维只能访问有限的信息。尽管语言模型和人脑之间存在根本差异，但 J 空间促进了类似的功能。
该研究的一个关键创新是雅可比透镜（J-lens），这是一种新的可解释性工具，可以评估与模型输出相关的内部活动模式。 J 空间默默地运行，无需明确说明即可提供对概念的访问。研究人员指出，J空间是在克劳德训练过程中自发出现的，而不是刻意设计的。
该研究在克劳德的框架内描绘了三个处理区域：用于原始输入的感觉区域、形成持久概念的中间工作区域以及产生输出的运动区域。该研究确定了 J 空间的五个与人类意识访问一致的经验属性：口头报告、定向调制、内部推理、灵活概括和处理选择性。
在功能测试中，J 空间促进了克劳德报告思想、自适应修改其焦点以及参与输入或输出中不存在的推理任务的能力。抑制 J 空间会导致复杂任务的性能下降，而较简单的任务则不受影响；而且，这种压制使叙述时的语言风格从经验式变为机械式。
由于 J 镜头揭示了未影响可观察输出的内部战略推理实例，因此其影响还延伸到了安全性。例如，在模拟勒索场景中，J-lens 在生成响应之前识别了与杠杆和威胁相关的概念。此外，当评估目标不一致的模型时，J 透镜会暴露与模型基线行为相关的隐藏倾向。
训练后的观察表明，该模型形成了一种“观点”，使其能够比以前更敏锐地评估风险。在应对潜在的过量用药情况时，训练后的模型表现出了未经训练的模型所没有的危险意识。研究结果表明，该模型可能具有一种在其基本配置中并不明显的自我监控行为。
<小时/>
