人工智能 (AI) 正在迅速改变从医疗保健和金融到交通和娱乐等众多行业。 然而，除了其不可否认的潜力之外，人们对人工智能模型的安全漏洞的担忧也与日俱增。 作为回应，一项新法案正在参议院审议，旨在加强人工智能安全并防止违规行为。
这项新的人工智能安全法案名为 安全人工智能法，由参议员马克·华纳 (D-VA) 和汤姆·蒂利斯 (Thom Tillis) (R-NC) 提出。
该法案提出了一种双管齐下的人工智能安全方法：
- 建立一个中央数据库来跟踪人工智能违规行为。
- 创建一个专门的研究中心来开发反人工智能技术。
构建人工智能违规检测网络
《安全人工智能法案》的核心特征之一是创建国家人工智能安全数据库 违规行为。 该数据库受到监督 由美国国家标准与技术研究院 (NIST) 和网络安全与基础设施安全局 (CISA) 制定， 将充当记录涉及受损人工智能系统的事件的中央存储库。 该法案还要求将“未遂事件”纳入数据库，旨在不仅捕获成功的攻击，还捕获可为预防提供宝贵见解的千钧一发的事件。
包含未遂事件是该法案值得注意的一个方面。 传统的安全漏洞数据库通常只关注已确认的事件。 然而，未遂事件对于了解潜在的安全弱点同样有价值。 通过捕获这些千钧一发的事件，数据库可以提供更全面的人工智能威胁态势图，使研究人员和开发人员能够在漏洞被利用之前识别和解决漏洞。
“随着我们继续拥抱人工智能带来的所有机遇，我们必须继续防范这项新技术带来的威胁，联邦政府和私营部门之间的信息共享发挥着至关重要的作用， ”
——参议员马克·华纳
专门应对人工智能威胁的中心
《安全人工智能法案》提议在国家安全局（NSA）内设立人工智能安全中心。 该中心的任务是领导“反人工智能”技术，本质上是操纵或破坏人工智能系统的方法。 了解这些技术对于开发针对可能试图利用人工智能漏洞的恶意行为者的有效防御至关重要。
该法案规定重点关注四种主要的反人工智能技术：
- 数据中毒
- 躲避攻击
- 基于隐私的攻击
- 滥用攻击
数据中毒 涉及将损坏的数据引入人工智能模型的训练数据集中，目的是扭曲模型的输出。 躲避攻击 涉及以允许攻击者绕过其安全措施的方式操纵人工智能系统的输入。 基于隐私的攻击 利用人工智能系统处理个人数据的漏洞。 最后， 滥用攻击 涉及出于恶意目的滥用人工智能系统的合法功能。
通过研究这些反人工智能技术，人工智能安全中心可以帮助制定减轻其影响的策略。 这项研究可以为人工智能开发、部署和维护的最佳实践的创建提供信息，最终形成更强大、更安全的人工智能系统。
建立国家违规数据库和专门的研究中心可以为构建更安全的人工智能系统提供宝贵的见解和工具。
然而，这是一个复杂的问题，没有简单的解决方案。
有效的反人工智能技术的开发也可能带来挑战，因为这些方法可能用于防御和进攻目的。
《安全人工智能法案》的成功将取决于其实施以及政府机构、私营部门和研究界之间的持续合作。 随着人工智能的不断发展，我们保护人工智能的方法也必须如此。
新的人工智能安全法案提供了前进的框架，但需要持续保持警惕和适应，以确保人工智能仍然是一股正义的力量。
