Sentinelone的网络安全研究人员已经确定了一种新的恶意软件Malternal，该软件使用OpenAI的GPT-4实时生成恶意代码。该功能建立了一个新的威胁类别，将大型语言模型直接集成到恶意软件操作中。该发现引入了启用LLM的恶意软件，该恶意软件将其描述为“对手Tradecraft的定性转变”。恶意软件发电机的功能。执行后，它提示攻击者选择有效载荷，并提供诸如勒索软件加密器或反向外壳之类的选择。然后将此选择作为提示发送到GPT-4 AI，该提示通过生成针对要求的恶意格式的Python代码做出响应。恶魔的主要特征是其逃避能力。恶意代码不会静态存储在恶意软件文件中，而是在运行时动态创建的。这一代世代复杂化的传统安全工具的检测复杂化，这些工具依赖于扫描静态文件的已知恶意签名。 Sentinelone的研究人员通过发现Python脚本和窗口可执行文件确认了GPT-4集成，该脚本包含硬编码的API键和与AI通信的特定提示结构。恶意软件的开发的历史可以追溯到2023年底之前。研究人员得出了这一结论，因为当时将API端点硬编码用于恶意软件，这使恶意恶意成为AI驱动恶意软件的最早示例。目前，没有证据表明曾经在现场攻击中部署了Maltrentinal。这表明它可能是作为概念验证或用作红色小组练习的工具而创建的。 Sentinelone的报告强调了这种新的恶意软件类型所带来的挑战。
“凭借在运行时产生恶意逻辑和命令的能力，支持LLM的恶意软件为防守者带来了新的挑战。”
该报告还将当前情况构成了网络安全社区的机会。 “尽管使用LLM支持的恶意软件仍然有限，并且在很大程度上是实验性的，但这种发展的早期阶段使后卫有机会从攻击者的错误中学习并相应地调整他们的方法。”研究人员补充说：“我们希望对手能够适应他们的策略，我们希望进一步的研究能够以我们在这里介绍的工作为基础。”
