一个令人震惊的报告 凯拉 研究与战略有限公司今天记录到2024年网络犯罪论坛的恶意人工智能工具的200％激增，这说明了网络犯罪分子如何采用AI工具和策略。这些发现在Kela的2025年AI威胁报告中概述了：网络犯罪分子如何将AI技术武器化。
该报告依靠Kela自己的情报收集平台的数据，该平台分析了跨暗网络论坛，电报频道以及通过跟踪威胁行为者的行为来分析网络犯罪活动。
除了对恶意AI工具的提及增加之外，该报告还指出，在过去一年中，关于AI越狱的讨论增加了52％。据报道，网络犯罪参与者会不断完善AI越狱技术，以绕过公共AI系统中的安全限制。
威胁行为者正在主动分发和货币化Kela所定义为“黑暗AI工具”，其中包括越狱模型和专门的恶意应用程序，例如蠕虫和fraudgpt。这些工具旨在执行网络犯罪行动，例如网络钓鱼，制造恶意软件和财务欺诈，通常大规模执行工具。
AI系统旨在删除安全限制并添加自定义功能，从而使经验不足的攻击者的障碍以大规模执行复杂的攻击。
专家指出，在网络钓鱼领域中，威胁参与者正在利用生成的人工智能制作强大的社会工程内容，并通过Deepfake Audio和视频来增强此类计划。这提高了网络犯罪分子模仿高管和误导员工批准欺诈性交易的能力。
凯拉还观察到，AI加快了恶意软件开发，可以创建高度回避的勒索软件和弱案店。这种发展对传统的检测和响应方法构成了困难。
Kela的AI产品和研究负责人Yael Kishon说：“我们目睹了网络威胁格局的地震转变。” “网络犯罪分子不仅在使用AI，而且还在专门针对AI驱动的网络犯罪的地下生态系统中建造整个部分。”她强调说：“组织必须采取AI驱动的防御措施来应对这一日益严重的威胁。”为了保持在升级AI驱动的网络威胁的领先地位，Kela建议投资员工培训。
黑客现在有一个用于群众帐户漏洞的工具包：称为Atlantis AIO
Kela建议监视新出现的AI威胁和策略，并实施AI驱动的安全措施，例如基于情报的红色团队和为生成AI模型的对抗性仿真。
该报告清楚地表明，网络犯罪创新者与安全专家之间的军备竞赛要求细微差别和积极主动参与。如果组织必须采用生成性AI来抵消网络钓鱼中的生成AI，那就这样吧，但是如果不好的参与者保持不受控制，这会让您遇到的常规方法会如何。
以AI为中心的在线聊天中令人震惊的跳跃表明，网络犯罪分子不仅采用AI，而且还要完善他们的AI黑客入侵方法。这比对外部代码进行武器更糟，因为现在敌人有效地逆转了工程安全措施。这是一场漫长的比赛，但是网络犯罪分子目前正在利用一个开放的目标，现在要求采取行动。
引用的越狱方法数量的增加大大超过了反干扰。
在有针对性的工具的帮助下，这些工具在深层技术和恶意软件开发等领域展示了复杂的应用程序，这些网络犯罪分子为执法和安全公司增加了另一层复杂性。
Kela的警告不能在更长的时间内被忽略，而开发人员（无论好坏，都专注于创建工具套件来利用AI软件并解决重大网络安全问题。目前，地下生态系统的重点是AI驱动的网络犯罪。
尽管这些策略中有更多的策略依赖于社会工程，但人们（已知是最弱的网络安全链接）仍然没有尽可能频繁地投资于AI工具。当公司高管需要访问此类机制时，此问题将加剧。
