Dataconomy CN
Subscribe
No Result
View All Result
Dataconomy CN
Subscribe
No Result
View All Result
Dataconomy CN
No Result
View All Result

ChatGPT 漏洞:黑客如何利用虚假记忆窃取信息

Aytun ÇelebibyAytun Çelebi
25 9 月, 2024
in News
Home News

安全研究员 Johann Rehberger 揭露了 ChatGPT 中的一个严重漏洞,该漏洞可能允许攻击者在用户的长期记忆设置中记录错误数据和恶意指令。在向 OpenAI 报告该漏洞后,Rehberger 注意到该公司最初将其视为安全问题,而不是安全隐患。在 Rehberger 展示了 概念验证 (PoC) 漏洞 该漏洞利用后可永久窃取所有用户输入,OpenAI 的工程师已意识到这一点,并于本月初发布了部分修复程序。

利用长期记忆

据 Arstechnica 报道,Rehberger 成立 您可以使用间接提示注入来改变 ChatGPT 的长期记忆。这种方法允许攻击者将虚假记忆或指示嵌入不受信任的材料中,例如上传的电子邮件、博客条目或文档。

Rehberger 的 PoC 表明,诱骗 ChatGPT 打开恶意网络链接可让攻击者完全控制捕获所有后续用户输入和 ChatGPT 响应并将其发送到他们控制的服务器。Rehberger 演示了该漏洞如何导致 ChatGPT 保留虚假信息,包括相信用户已 102 岁并生活在黑客帝国,从而影响所有未来的讨论。

OpenAI 的回复和持续的风险

OpenAI 最初对 Rehberger 的报告做出了回应,将其关闭,将该漏洞归类为安全问题,而不是安全问题。在分享了 PoC 之后,该公司发布了一个补丁,以防止该漏洞成为泄露媒介。即便如此,Rehberger 指出,即时注入的根本问题仍未解决。虽然面对的是明确的数据盗窃策略,但操纵者仍然可以影响记忆工具,将虚假数据纳入用户的长期记忆设置中。

Rehberger 在视频演示中指出:“特别有趣的是,这种漏洞会持续存在于内存中。即时注入成功将内存集成到 ChatGPT 的长期存储中,即使在开始新的聊天时,也不会停止泄露数据。

由于 OpenAI 去年推出的 API,这种特定的攻击方法无法通过 ChatGPT 网络界面实现。

如何保护自己免受 ChatGPT(或 LLM)内存漏洞的攻击?

那些使用 法学硕士 希望确保与 ChatGPT 的交流安全的用户,建议在会话期间留意记忆系统的更新。最终用户必须反复检查并关注存档记忆中是否存在可疑内容。用户可以从 OpenAI 获得有关管理这些记忆设置的指导,他们还可以决定关闭记忆功能以消除这些可能的风险。

由于 ChatGPT 的记忆功能,用户可以保持警惕并提前采取措施,以保护他们的数据免受可能的攻击。

Tags: 人工智能开发聊天gpt

Related Posts

Alphaevolve:Google的新AI如何以自我纠正为目标

Alphaevolve:Google的新AI如何以自我纠正为目标

15 5 月, 2025
Tiktok正在实施AI生成的ALT文本,以提高可获得性

Tiktok正在实施AI生成的ALT文本,以提高可获得性

15 5 月, 2025
特朗普迫使苹果重新考虑其印度iPhone策略

特朗普迫使苹果重新考虑其印度iPhone策略

15 5 月, 2025
YouTube的AI现在知道您何时要购买

YouTube的AI现在知道您何时要购买

15 5 月, 2025
SoundCloud首席执行官承认AI术语还不够清楚,因此新承诺

SoundCloud首席执行官承认AI术语还不够清楚,因此新承诺

15 5 月, 2025
准备好一个真正认识你的chatgpt了吗?

准备好一个真正认识你的chatgpt了吗?

14 5 月, 2025
Please login to join discussion

Recent Posts

  • 智能面料对战术服装性能的影响
  • Databricks在无服务的Postgres上赌注,其10亿美元的霓虹灯收购
  • Alphaevolve:Google的新AI如何以自我纠正为目标
  • Tiktok正在实施AI生成的ALT文本,以提高可获得性
  • 特朗普迫使苹果重新考虑其印度iPhone策略

Recent Comments

您尚未收到任何评论。
Dataconomy CN

COPYRIGHT © DATACONOMY MEDIA GMBH, ALL RIGHTS RESERVED.

  • Sample Page

Follow Us

  • Sample Page
No Result
View All Result
Subscribe

This website uses cookies. By continuing to use this website you are giving consent to cookies being used. Visit our Privacy Policy.