加州州长 Gavin Newsom 签署新的人工智能深度造假法不到两周后，一名联邦法官宣布该法案无效。 AB 2839 旨在阻止具有政治倾向的深度造假的传播，其中包括埃隆·马斯克重新分发的人工智能生成的副总统卡玛拉·哈里斯视频。法院裁定该法律可能违反第一修正案的保护，这对加州利用人工智能打击选举错误信息的努力是一个打击。
上个月，AB 2839 签署成为法律，旨在追究那些传播可能误导选民的政治误导性深度假货的人的责任。它不监管社交媒体平台，但允许法官命令人们删除他们自己编写的、由人工智能生成的内容。此前，人们越来越担心人工智能产生的政治错误信息的增加，这是即将到来的选举的一个主要问题。
对这项法律提出质疑的诉讼是由 YouTube 用户克里斯托弗·科尔斯 (Christopher Kohls) 提起的，他在网上被称为“里根先生”，他发布了卡玛拉·哈里斯 (Kamala Harris) 的人工智能操纵视频。他的法律团队为深度造假进行了辩护，他们认为第一修正案是政治讽刺。美国地区法官约翰·门德斯同意并发布初步禁令，阻止该法律的执行。门德斯表示，该法律范围太广，很容易被滥用来压制讽刺和模仿等受宪法保护的言论。
“几乎任何经过数字修改的内容，如果留给互联网上的任意个人，都可能被认为是有害的，”
门德斯说道。他说，该法律采用了广泛的、主观的语言，危及言论自由。门德斯说，虽然国家对选举的完整性感兴趣，但这项法律，按照书面规定，不公平地侵犯了第一修正案所保护的政治表达。
12 月 12 日法院做出裁决后不久， 埃隆·马斯克在发布哈里斯深度伪造推文后嘲笑新法律的人在 X（以前的 Twitter）上发推文称，“法院关闭了加州侵犯言论自由的违宪法律。”耶！”此后，他的帖子迅速走红，网上关于言论自由和人工智能生成内容监管之间的斗争进一步升温。
就像那一次，史翠珊起诉某人泄露了她在马里布的极其明显的地址。这确实掩盖了事情的真相，lmao。 https://t.co/Av5CDlRtJ4
— 埃隆·马斯克 (@elonmusk) 2024 年 9 月 18 日
初步禁令是暂时的，这种封锁是否会持续尚不清楚。州长纽瑟姆办公室表示，该州有信心未来能够规范人工智能深度造假行为。一位发言人为该法律辩护说：“我们相信法院将维护国家监管这些类型的危险和误导性深度假货的能力，同时确保这些言论自由权能够继续存在。”
该裁决本身强调了新的人工智能技术与历史悠久的宪法保障之间的动态关系，因为假货变得越来越聪明，也越来越难以区分。这场法律战的结果可能会影响各州在选举前如何监管人工智能生成的内容。
