对网络安全领导者的一项调查显示，过去一年中，有62％的人报告了对员工的AI驱动攻击。这些事件涉及及时的注射和深层音频或视频，造成了严重的业务中断，包括财务和知识产权损失。最常见的攻击向量是针对员工的DeepFake音频电话，其中44％的企业报告了至少一个事件。这些事件中有6％导致业务中断，财务损失或知识产权损失。数据表明，音频筛选服务的实施与将这些损失率降低到2％相关。 36％的被调查组织报告了涉及视频深击的事件。在这些情况下，有5％的人被归类为对业务造成了严重问题。与音频模仿尝试相比，这代表了一种持续的威胁，尽管持续不太频繁。安全公司Sophos的全球CISO CHESTER WISNIEWSKI解释说，DeepFake Audio变得高度令人信服和廉价。他说：“借助音频，您可以在这一点上实时生成这些呼叫。” Wisniewski认为，音频Deepfake数字可能会低估该问题，他发现视频数字高于预期，因为一个特定个人的实时视频可能会花费数百万美元来生产。 Sophos观察了策略，即骗子在WhatsApp呼叫上短暂使用首席执行官或CFO视频Deepfake，然后才声称连接性问题，删除提要并切换到文本以继续进行社交工程攻击。通用视频假货也用于隐藏身份，而不是窃取身份。据报道，朝鲜通过让员工使用说服AI Fakery在西方公司就业，从而赚了数百万美元。另一个上升的威胁是提示攻击，其中恶意说明嵌入了AI系统处理的内容中。这可能会欺骗AI揭示敏感信息或滥用工具，如果集成允许，则可能导致代码执行。根据Gartner的一项调查，有32％的受访者报告了对其申请的攻击。最近的例子说明了这些漏洞。研究人员显示，Google的Gemini Chatbot用于针对用户的电子邮件和智能家庭系统。 Anthropic的Claude语言模型还遇到了迅速注入的问题。在其他研究中，Chatgpt成功地欺骗了解决验证验证，这些验证码旨在区分人类和机器用户，并生成可用于拒绝服务式攻击网站的流量。
