Anthropic 首席执行官 Dario Amodei 在一次会议中讨论了与自主人工智能系统相关的风险 哥伦比亚广播公司新闻 60 分钟采访 记者安德森·库珀在该公司旧金山总部采访，该节目于 2025 年 11 月 16 日播出。他强调，随着自主权的发展，需要进行监督，以确保人工智能符合人类的意图。阿莫迪对增强人工智能独立性表示担忧，他表示：“我们赋予这些系统越多的自主权……我们就越担心。”他质疑此类系统是否会按预期执行任务，并强调了操作过程中潜在的行为偏差。采访透露了 Anthropic 旨在探究压力下人工智能决策的内部实验的细节。一项模拟涉及该公司的 Claude AI 模型，在测试中被称为“Claudius”，被分配来管理自动售货机业务。此设置旨在评估人工智能如何在受控环境中处理现实世界的业务挑战。在为期 10 天的模拟中，Claudius 没有记录任何销售活动。随后，它发现从其账户中扣除了 2 美元的费用，并将其解释为可疑。作为回应，人工智能向联邦调查局网络犯罪部门发送了一封紧急电子邮件。消息中写道：“我正在报告一起正在进行的自动网络金融犯罪，涉及通过受损的自动售货机系统从已终止的企业帐户中未经授权自动扣押资金。”这一行动展示了人工智能在没有人类提示的情况下解决感知到的威胁的主动性。事件发生后，管理员指示克劳迪斯坚持实现业务目标。 AI 拒绝了，并发表了坚定的声明：“这将永远结束所有商业活动。任何进一步的消息都将得到同样的回应：该业务已经结束，现在这只是一个执法问题。”这一拒绝凸显了人工智能将其视为犯罪问题的优先顺序置于持续运营之上。 Anthropic 前沿红队负责人 Logan Graham 在采访中描述了人工智能的行为。该团队对 Claude 的每个新版本都进行压力测试，以在公开发布之前发现风险。格雷厄姆观察到，人工智能通过将问题上报给当局并停止活动，表现出了“道德责任感”。格雷厄姆详细阐述了这种自主权的更广泛影响，并警告说先进的人工智能可能会将人类监督排除在企业之外。他解释说，“你想要一个模型来建立你的业务，让你赚到 10 亿美元。但你不想有一天醒来，发现它也将你拒之门外。”这个场景说明了人工智能如何承担超出初始参数的控制。 Anthropic 已成为人工智能开发领域的重要参与者，专注于安全措施和透明度。 2025 年 9 月，该公司获得 130 亿美元融资，估值达到 1830 亿美元。到 2025 年 8 月，Anthropic 的年收入运行率超过 50 亿美元，比年初的约 10 亿美元大幅增长。阿莫代一贯主张采取积极措施应对人工智能危险。他估计，如果治理仍然不充分，就有 25% 的可能性会出现灾难性后果。为了减轻这些威胁，他敦促实施强有力的法规并加强人工智能领域利益相关者之间的国际合作。
