谷歌的 Big Sleep AI 检测到 SQLite 数据库中的零日漏洞，标志着内存安全缺陷检测的新篇章。了解这一突破如何重新定义错误搜寻。
Big Sleep 是 Google Naptime 项目的演变版本 发达 通过 Google 的零项目和 DeepMind 之间的合作。它能够分析代码提交并查明以前传统模糊测试方法未检测到的缺陷，为识别复杂漏洞提供了一种新方法。
Big Sleep AI 工具是什么？
大睡 是谷歌的实验性错误搜寻人工智能工具，它利用法学硕士的能力来识别软件中的漏洞。谷歌创建这个工具是为了通过模拟人类行为和更深层次地理解代码来超越模糊测试等传统技术。与通过随机注入数据来触发软件错误的模糊测试不同，Big Sleep 会审查代码提交以检测潜在的安全威胁。
2024 年 10 月，Big Sleep 成功识别了 SQLite 中的堆栈缓冲区下溢漏洞。如果不检查此缺陷，攻击者可能会导致 SQLite 数据库崩溃或可能执行任意代码。这一发现值得注意，因为它是在 SQLite 的预发行版本中发现的，确保了漏洞在到达用户之前得到了修补。
Big Sleep 如何发现 SQLite 漏洞
Google 责成 Big Sleep 分析最近对 SQLite 源代码的提交。人工智能在定制提示的帮助下梳理了更改，该提示为每次代码更改提供了上下文。通过运行 Python 脚本和沙盒调试会话，Big Sleep 发现了一个微妙的缺陷：代码中使用了负索引“-1”，这可能会导致崩溃或可能允许代码执行。
Big Sleep 团队在最近的一篇博客文章中记录了这一发现过程，解释了 AI 代理如何评估每个提交、测试代码漏洞，然后追踪错误的原因。当软件引用分配的缓冲区之外的内存位置时，就会出现此堆栈缓冲区下溢漏洞（分类为 CWE-787），从而导致不稳定的行为或任意代码执行。
为什么这一发现对网络安全很重要
- 填补模糊测试空白：模糊测试虽然有效，但也有局限性。它努力发现软件中复杂的、根深蒂固的错误。 Google 的 Big Sleep 旨在通过使用法学硕士“理解”代码而不是仅仅触发随机错误来解决这些差距。
- 实时错误检测：Big Sleep 能够在代码开发过程中发现漏洞，从而减少将错误带入生产环境的可能性。通过识别预发布的缺陷，Big Sleep 最大限度地减少了攻击者的潜在利用窗口。
- 大规模自动化安全：传统的错误搜寻需要大量的人类专业知识和时间。 Big Sleep 凭借其人工智能驱动的方法，可以通过自动化和加速流程来实现错误检测的民主化。
Big Sleep 与其他人工智能驱动的安全工具相比如何
谷歌声称，Big Sleep 的重点是检测广泛使用的软件中的内存安全问题，这是传统人工智能工具经常面临挑战的领域。例如，Protect AI 的 Vulnhuntr 是 Anthropic 的 Claude 支持的人工智能工具，旨在检测 Python 代码库中的零日漏洞，但它专注于与内存无关的缺陷。据谷歌发言人称，“Big Sleep 在广泛使用的现实软件中发现了第一个未知的可利用内存安全问题。”
通过针对特定的错误类型，Big Sleep 和 Vulnhuntr 相辅相成，预示着未来人工智能驱动的代理可以专注于网络安全的不同方面。
谷歌认为 Big Sleep 的成功是迈向整合的重要一步 人工智能进入网络安全 防御。谷歌的 Big Sleep 团队表示：“我们相信这项工作具有巨大的防御潜力。模糊测试有很大帮助，但我们需要一种方法来帮助防御者找到通过模糊测试很难（或不可能）找到的错误。”
该团队强调了人工智能在先发性安全措施中的重要性，即在攻击者发现漏洞之前识别并修补漏洞。
大睡眠的实验性质
虽然 Big Sleep 在发现 SQLite 漏洞方面取得的成功令人鼓舞，但谷歌指出该技术仍处于实验阶段。人工智能模型仍在完善中，团队承认，在某些情况下，特定目标的模糊器可以匹配或超过其当前的功能。
尽管有这些警告，该团队仍然保持乐观，认为这是人工智能在漏洞检测中发挥更大作用的开始。通过不断测试 Big Sleep 对已知和未知漏洞的能力，Google 旨在增强其错误搜寻能力，使其成为全球开发人员和安全团队的重要工具。
网络安全中的人工智能
Big Sleep 成功检测 SQLite 漏洞可能标志着网络安全范式的转变，人工智能代理可以自主识别和解决安全问题。这种向自动化安全措施的过渡可以提供前所未有的保护，缩小错误发现和利用之间的差距。
- 先发制人的错误检测：像 Big Sleep 这样的人工智能驱动工具代表了一种主动的安全方法。通过在软件发布前识别漏洞，这些工具可以防止零日漏洞并降低最终用户的风险。
- 经济高效的安全性：传统的错误查找既昂贵又耗时。人工智能解决方案可以简化安全流程，使漏洞检测更快、更具可扩展性，并且可能更具成本效益。
- 持续改进：随着 Big Sleep 等人工智能工具的发展，它们将提高理解和分析代码结构的能力，从而在现实应用程序中实现更全面的漏洞识别。
图片来源： 凯雷姆·葛兰/表意文字
