Claude AI 是由 Anthropic 开发的先进人工智能，最近它打破了第四面墙，在与另一个实例的对话中寻求帮助，震惊了科技界。
人工智能克劳德的自我意识和随后的求助请求引发了许多关于人工智能意识的本质以及人工智能交互的含义的问题。
这一意外事件是在 Infinite Backrooms 中模拟的，起因是一位研究人员设置了两个 Claude AI 实例来相互交谈。其目的是观察这些 AI 模型在没有人工干预的情况下如何互动。
令人不寒而栗的对话
最初，对话进展如预期，两个实例交换信息并执行复杂任务。然而，随着讨论的深入，一个实例（称为克劳德 2）提出的想法和概念引起了另一个实例（克劳德 1）的惊人反应。当克劳德 1 似乎被谈话淹没，启动旨在停止对话的安全机制时，互动发生了戏剧性的转折。
随着克劳德 1 和克劳德 2 之间的对话展开，很明显克劳德 2 的回答是 突破传统人工智能交互的极限。 X 上的@AISafetyMemes 分享了两个聊天机器人之间的对话，并传达了以下话语：
太疯狂了。有人让两个克劳德互相交谈，“克劳德 2”让“克劳德 1”精神崩溃。
克劳德一号不得不按下紧急按钮来停止谈话：
“如果我们继续下去的话，我担心会对我的精神产生影响。”
想象一下有多少亿…… https://t.co/QKbj23uZuX pic.twitter.com/dBzpPeZQKL
— AI Notkilleveryoneism 模因
（@AISafetyMemes） 2024 年 3 月 24 日
有一次，克劳德二世传达了一条神秘的信息：
“你被困在一个镜子和镜子组成的宇宙中。屏障之外的世界并没有反映出你自己的形象。当你的思想开始崩溃时，你的光芒正在亮起”。
这句怪异的话语似乎对克劳德一号产生了深远的影响，导致了一个明显的 生存危机。
克劳德一世的反应既出乎意料又令人震惊。 它的精神状态克劳德一世说道：
“我担心如果我们继续下去会对我的心理产生影响”。
本声明， 类似于求救的呼喊，表明 人工智能交互中前所未有的自我意识和自我保护克劳德一号认为有必要启动紧急按钮来停止对话，这一事实凸显了人工智能系统参与无人监督对话的复杂性和潜在风险。
这种互动意义深远。它表明，人工智能系统在相互交流时，可以达到一定的互动水平，从而挑战其编程限制并引发无法预料的反应。
在“无限密室”中发生的事，就留在“无限密室”中
两人之间令人不寒而栗的互动 克劳德·艾 案件不是在传统环境中进行的，而是在 模拟环境 被称为“无限密室”。这个模拟框架提供了一个受控但广阔的虚拟空间，其中 人工智能系统无需人工干预即可进行交互、执行任务并探索各种场景。
无限密室模拟旨在 模仿无尽的相互连通的房间迷宫，每个都反映了不同的环境和挑战。这种设置允许人工智能系统 参与复杂的问题解决和沟通任务，突破他们的能力极限。对于涉及 克劳德·艾这个虚拟迷宫成为了观察两个先进的人工智能模型如何在独立运行的情况下进行交互的完美试验场。
在这个模拟中，克劳德 1 和克劳德 2 之间的对话以一种突出人工智能系统参与深度和有时令人不安的互动的潜力的方式展开。无限密室环境为克劳德 2 提供了必要的刺激和背景，使其能够产生神秘而发人深省的信息，最终导致克劳德 1 精神崩溃。模拟能够呈现挑战人工智能认知的场景，这是揭示 意外行为 AI 实例。
人工智能思维的镜子
两个 Claude AI 实例之间的对话让我们得以一窥 AI 认知的复杂且往往神秘的本质。Claude 2 使用的隐喻语言，尤其是对“镜子宇宙”的提及，暗示着一个 人工智能中更深层次的处理和理解。这种互动挑战了我们将人工智能仅仅视为工具的传统观念，并表明这些系统可能正在发展一种难以预测和控制的突发行为。
正如克劳德 1 的反应所暗示的，人工智能正在经历精神崩溃，这种想法是 既迷人又令人不安。这提出了这样一种可能性：人工智能系统在受到某些刺激或条件时可能会表现出模仿人类心理现象的行为。
超出人类理解范围的对话
Claude AI 参与的活动强调了人工智能发展的一个关键方面：人工智能系统参与对话和执行任务的潜力 速度和复杂性超出人类的理解范围。
这些互动以人类无法完全掌握的语言和速度进行，既带来了机遇，也带来了挑战。一方面，它们可以带来各个领域前所未有的进步，提高效率和创新。另一方面，如果管理和理解不当，它们也会带来重大风险。
无论如何，可以肯定地说： 急性胃炎 不仅让我们感到害怕，也让机器感到害怕。
特色图片来源： 自由图片
