网络安全公司Wiz的首席技术专家Ami Luttwak最近详细介绍了快速企业对人工智能的采用如何从根本上改变网络攻击。通过整合AI，公司无意中为恶意演员创造了新的机会，并扩大了公司攻击地面。卢特瓦克（Luttwak）将网络安全描述为一种“思维游戏”，这是一个动态的相互作用，任何新技术浪潮都为攻击者提供了新的机会。 AI的当前扩散引入了安全专业人员必须竞争才能理解的新型漏洞。
AI集成创造了新的漏洞
企业正在通过“ Vibe编码”（使用自然语言提示生成代码），部署自主AI代理并采用新的AI驱动工具等技术将AI嵌入其工作流程中。尽管这些提高了生产率，但每个新模型或工具都代表了攻击者的潜在入口点。 AI驱动开发的速度是风险的主要驱动力。更快运送代码的能力会导致快捷方式，从而导致开发人员忽略关键的安全步骤，例如严格的代码审查和安全配置。 WIZ对使用Vibe编码构建的应用进行的测试发现了一个反复出现的问题：身份验证系统的不安全实施。 Luttwak解释说：“ Vibe编码代理会做您说的事情，如果您不告诉他们以最安全的方式构建它，那将不会。”由于AI模型缺乏固有的安全意识，因此它们会根据提示产生功能代码，除非开发人员明确指定详细的安全要求，否则通常在结构上是不安全的。
攻击者也在使用AI
攻击者以同等的热情采用相同的技术。他们使用Vibe编码来生成恶意软件，采用及时的基于基于的技术来进行网络钓鱼攻击，并部署自己的AI代理来自动化利用。 AI的进攻使用变得越来越直接，攻击者现在使用提示来攻击组织自己的AI系统。通过操纵馈入公司内部聊天机器人或AI代理的提示，攻击者可以诱使系统执行破坏性命令或去渗透敏感数据。
供应链攻击和现实世界的例子
这种动态创造了一种危险的供应链攻击形式。第三方AI工具通常需要广泛访问公司数据才能运行。如果攻击者妥协了其中一项服务，他们可以继承其广泛的权限，以深入客户的基础架构。
- 漂移破裂： 攻击者违反了Drift，一家销售AI聊天机器人的初创公司揭露了企业客户的Salesforce数据。他们使用被盗的数字钥匙模仿公司的AI聊天机器人，该机器人可以合法地访问客户环境。 Luttwak确认攻击代码本身是使用Vibe编码创建的。
- S1ingularity攻击： 此攻击针对JavaScript开发人员使用的NX构建系统。攻击者注入了旨在检测和劫持AI驱动的开发人员工具（例如Claude和Gemini）的恶意软件，使用它们自主扫描损害系统以获取有价值的数据和凭据。
尽管AI在企业的早期阶段采用（估计约为1％），但Wiz已经观察到“每周都会影响成千上万的企业客户”的AI刺激攻击。
有关初创企业和企业的建议
卢特瓦克（Luttwak）警告企业不向可能没有成熟安全惯例的新的小型SaaS公司委托关键数据。他认为，初创公司必须从成立中作为安全组织运作。他建议：“从第一天起，您需要考虑安全和合规性。”他建议初创公司雇用CISO，即使他们只有五名员工。建立安全的流程并像SOC2一样实现合规性对于小团队而言，比以后进行改造要容易得多。他还强调了体系结构的重要性，建议AI初创公司设计允许客户数据保留在客户环境中的系统，从而大大减轻数据剥落的风险。
