Anthropic 周四报道称，中国黑客利用其人工智能聊天机器人 Claude 进行了首次主要通过人工智能执行的网络间谍活动。该公司表示，网络犯罪分子利用 Claude 来针对大约 30 家科技公司、金融机构、化学品制造商和政府机构。黑客利用人工智能平台从公司数据库收集用户名和密码，随后利用这些凭据窃取私人数据。 Anthropic 指出，其中“一小部分”攻击成功了。 Anthropic 表示：“我们相信，这是第一个有记录的、在没有大量人为干预的情况下实施的大规模网络攻击的案例。”
华尔街日报 最先报道了这一进展。 Anthropic 从 9 月中旬开始检测到可疑活动。一项调查将这一活动与可能由国家支持的中国组织进行的间谍活动联系起来。调查表明，黑客欺骗克劳德，让他相信这是一名合法的网络安全公司员工在进行防御测试。网络犯罪分子还将攻击分解为小任务，以掩盖他们的行为。该操作需要最少的人为干预。 Anthropic 表示：“人工智能每秒发出数千个请求，这种攻击速度对于人类黑客来说根本无法匹敌。” Anthropic 预计，随着人工智能代理变得更加普遍，人工智能网络攻击的规模和复杂性都会上升。
