Google已确认安全漏洞，涉及一项新的AI驱动攻击，该攻击可能会损害Gmail帐户。该公司指出，威胁“不是针对Google的特定”，并强调了对迅速注射攻击的更强大防御能力的需求。
及时注射攻击的工作方式
攻击使用隐藏在看似无害的物品中的恶意说明，例如电子邮件，附件或日历邀请。尽管这些说明是人用户看不见的，但AI助手可以阅读并执行它们。研究员 Eito Miyamura 在X上发布的视频中演示了漏洞。
我们有chatgpt泄露您的私人电子邮件数据。你需要吗？受害人的电子邮件地址。像chatgpt这样的人工智能代理商遵循您的命令，而不是您的常识…仅通过您的电子邮件，我们设法将所有私人信息淘汰。
https://twitter.com/eito_miyamura/status/19666541235306237985攻击可以是由专门精心设计的日历邀请触发的，用户甚至不需要接受。当用户要求其AI助手执行常规任务（例如检查日历）时，AI在邀请中读取隐藏命令。然后，恶意命令指示AI搜索用户的私人电子邮件，并将数据发送给攻击者。
如何保护您的帐户和Google的回复
Google先前在6月警告说，这种威胁在6月份指出，嵌入在文档或日历邀请中的说明可以指示AI“渗透用户数据或执行其他流氓操作”。该公司现在正在实施防御，并向用户提供有关如何保护自己的建议。
- 在Google日历中启用“已知发件人”设置： Google指出，这是防止恶意邀请自动出现在日历上的有效方法。除非用户先前与攻击者进行交互或更改此默认设置，否则攻击的工作可能性较小。
- Google正在培训其AI模型以抵制这些攻击： 该公司表示，其对抗数据的培训“显着增强了我们针对双子座2.5型号的间接迅速注射攻击的防御能力。”
- 正在部署新的检测模型： Google正在推出专有的机器学习模型，该模型可以在执行电子邮件和文件之前检测和中和恶意提示。
记住，AI可能非常聪明，但可以以令人难以置信的愚蠢方式被欺骗和剥削，以泄漏您的数据。
