周一，新罕布什尔州总检察长办公室开始调查涉及深度伪造拜登通话的事件，据报道，这些通话使用了先进的人工智能来复制总统乔·拜登的声音。
这些呼吁旨在劝阻新罕布什尔州选民参加周二的初选。 司法部长约翰·福尔梅拉 (John Formella) 认为，周日发送给几名选民的这条信息可能是阻碍和压制选民投票的非法行为。 他建议选民“应该完全忽视这条信息的内容”。
深度伪造的拜登电话说了什么？
根据一个 美联社 文章中，其中一段录音与拜登的声音相呼应，包括他的标志性短语“真是一群胡言乱语”。 该消息建议选民“为 11 月的选举保留投票”。
它错误地声称，“周二的投票只会让共和党人再次选举唐纳德·特朗普。 你的投票会在 11 月而不是这个周二产生影响。”
重要的是，参加周二的初选并不限制选民在 11 月大选中投票。 虽然拜登没有在新罕布什尔州积极竞选，而且他的名字也没有出现在初选选票上（在优先考虑南卡罗来纳州进行民主党初选之后），但他的支持者正在该州为他精心策划一场竞选活动。
这些电话的来源似乎是凯西·沙利文 (Kathy Sullivan) 的私人手机，凯西·沙利文是该州民主党前任主席，也是“Granite for America”（支持拜登竞选活动的超级政治行动委员会）的组织者，目前仍不得而知。 周日晚上收到这些电话的报告后，沙利文立即通知当局并向司法部长提出申诉。
“这个电话未经我的许可就链接回我的个人手机号码。 这是公然的选举干预，显然是试图骚扰我和其他计划在周二为乔·拜登写信的新罕布什尔州选民，”她说。
深度造假拜登通话事件的范围仍不确定，但沙利文的发言人表示，至少有十几名接到电话的人表示听到了声音。 作为回应，新罕布什尔州总检察长办公室敦促接到此电话的人通过电子邮件联系州司法部的选举法部门。
来自新罕布什尔州汉考克的 73 岁民主党人盖尔·亨特利 (Gail Huntley) 打算在即将到来的周二选举中以拜登的名义写作。 她回忆说，周日下午 6 点 25 分左右接到了电话。 虽然亨特利最初认为这个声音是拜登的，但她很快就看出了这个电话的欺骗性，因为内容似乎不协调。 最初，她认为他的言论是断章取义的。
“当时我没有想到这不是他的真实声音。 这就是多么令人信服，”亨特利说道。 她对此类人工智能生成的假货在她所在州的传播表示震惊，但并不感到惊讶。
白宫新闻秘书卡琳·让-皮埃尔周一证实，这通电话“确实是假的，总统没有录音”。 此外，拜登的竞选经理朱莉·查韦斯·罗德里格斯在一份声明中宣称，竞选团队正在“积极讨论立即采取的其他行动”。
拜登竞选经理朱莉·查韦斯·罗德里格斯(Julie Chavez Rodriguez)强烈强调了竞选团队反对干预选举的立场：“散布虚假信息来压制投票并故意破坏自由公正的选举是站不住脚的，反击任何破坏我们民主的企图将继续成为首要任务。”这次活动的优先事项，”她肯定道。
最近发生的涉及新罕布什尔州利用先进的生成人工智能技术压制选民的事件标志着一个令人担忧的趋势。 专家们发出警告称，在此类技术的推动下，2024 年全球范围内与选举相关的虚假信息可能会出现前所未有的激增。
深度造假问题
生成式人工智能深度造假已经出现在 2024 年总统竞选的竞选广告中。 去年，这项技术还被用来在世界各地的多次选举中传播错误信息，影响到斯洛伐克、印度尼西亚和台湾等国家。 Deepfake 拜登通话并不是滥用这项技术的第一例。
加州大学伯克利分校著名数字取证专家 Hany Farid 对通话录音进行了分析，证实了其人工性质，并将其描述为低质量的深度伪造。 法里德对即将到来的选举中生成人工智能的潜在武器化表示担忧，并将这一事件视为未来挑战的前兆。
AI语音发生器如何工作？
人工智能语音发生器，或文本转语音（TTS）系统，是创建真实合成声音的基础技术，例如深度伪造的拜登通话中使用的声音。 这些系统利用人工智能算法将书面文本转换为口语。 利用先进的深度学习模型和自然语言处理技术，它们能够生成具有不同语调、口音和情绪变化的类人声音。 人工智能语音生成器的复杂性已经达到了可以产生高度逼真和富有表现力的语音的程度，这使得与真实的人类声音区分开来具有挑战性。
在深度造假的背景下，人工智能语音生成器发挥了关键作用。 这在深度伪造拜登通话等场景中很明显，其中人工智能算法被用来模仿乔·拜登总统等公众人物的声音。 的出现 AI明星语音生成工具， 例如 平淡涡轮增压，体现了该领域取得的重大进展。 这些工具不仅促进人工智能电话通话，还有助于推动基于语音的媒体不断发展。 对于那些热衷于探索这项创新技术的人来说，一项关于 顶级语音转视频人工智能工具 可用可以提供对其潜在应用的进一步了解。
特色图片来源： 白宫
