最近，Megan Thee Stallion 的 AI 视频丑闻让这位说唱歌手在演唱会期间情绪失控，这再次提醒人们深度伪造技术的危险性正在不断升级。随着人工智能继续以前所未有的速度发展，滥用的可能性也在增加，深度伪造变得越来越复杂，很难与真实内容区分开来。
在 Megan Thee Stallion 的案例中，一段以她本人肖像为特色的人工智能生成的露骨视频在网上流传，引起了极大的困扰，并引发了一波网络骚扰。
这位说唱歌手在她的 火辣女孩夏季巡回演唱会并在谴责肇事者和他们的恶意时泪流满面。
Megan Thee Stallion AI 视频只是众多视频之一
这起事件绝非孤例。许多名人都成为深度伪造技术的受害者，人工智能生成的图像和视频经常被用来传播错误信息、诋毁名誉，甚至煽动骚扰活动。 波比·阿尔托夫例如，当一张明显的深度伪造图片出现在社交媒体上时，该公司也面临着类似的考验，促使该平台迅速采取行动删除该内容。
Megan Thee Stallion AI 视频得到了这位成功说唱歌手的回应，她在 X 账户上写道： @theestallion：
看到我赢了，你们还不遗余力地伤害我，这真是太恶心了。你们太过分了，假货。要知道今天是你和我一起玩的最后一天，我是认真的。
— 蒂娜·斯诺（TINA SNOW）（@theestallion） 2024 年 6 月 8 日
在 Megan Thee Stallion 的 AI 视频丑闻爆发后，人们呼吁制定更严格的法律框架来应对深度伪造的制作和传播。一些专家主张将未经同意的深度伪造定为刑事犯罪，而另一些人则建议开发技术解决方案来检测和标记此类内容，就像 TikTok 所做的那样。
深度伪造是否违法？
深度伪造的合法性是一个复杂且不断发展的问题，因司法管辖区和使用该技术的环境而异。深度伪造涉及使用人工智能创建逼真但虚假的图像、视频或录音，可用于多种目的，既有善意的，也有恶意的。
1. 理解深度伪造
Deepfakes 使用先进的人工智能技术，尤其是深度学习，来操纵或生成音频、视觉和视频内容，Megan Thee Stallion 的人工智能视频就是如此生成的。虽然这项技术可以用于创意和教育目的，但它也与更邪恶的活动有关，例如虚假信息、诽谤和非自愿色情内容。
2. 一般法律框架
深度伪造的合法性在很大程度上取决于其使用方式和目的。深度伪造与法律有几个关键交叉领域：
- 诽谤和虚假信息：如果使用深度伪造技术制作内容，将虚假信息当作真实信息，从而损害他人声誉，则可能受到诽谤法的约束。
- 侵犯隐私：未经主体同意创建和分发深度伪造内容，特别是涉及敏感或私人信息时，可能会导致隐私侵犯。
- 非自愿色情内容：众所周知，Deepfakes 被用于在未经被描绘者同意的情况下制作露骨内容。这通常是非法的，并可根据针对报复性色情和其他形式性剥削的法律受到起诉。
3. 不同司法管辖区的立法
- 美国：一些州已颁布专门针对深度伪造的法律。例如，加利福尼亚州和德克萨斯州的法律规定，制作或传播可能干扰选举的深度伪造视频或制作未经同意的色情深度伪造视频均属违法。
- 欧洲联盟：欧盟根据《通用数据保护条例》（GDPR）制定了严格的隐私法，这些法律也适用于深度伪造。未经授权使用某人的肖像可能会招致巨额罚款。
- 中国：2019 年，中国出台法规，要求对深度伪造内容进行明确标记，旨在遏制虚假信息并保护公众。
4. 监管挑战
监管深度伪造面临多项挑战：
- 检测：识别深度伪造在技术上具有挑战性，并且要保持领先于日益复杂的技术就需要不断创新。
- 言论自由：针对深度伪造的法律必须在防止伤害与保护言论自由之间取得平衡。过于宽泛的规定可能会扼杀合法的表达。
- 管辖权：互联网的全球性意味着，一个国家创建的深度伪造内容可以很容易地传播到另一个国家，从而使当地法律的执行变得复杂。
5. 法律案例
已经有多起涉及深度伪造的技术的备受瞩目的案件：
- 色情报复：根据现有的报复性色情和骚扰法，非自愿深度伪造色情内容的受害者已成功起诉创作者和分销商，而 Megan Thee Stallion AI 视频可能就是这种情况。
- 政治操纵：曾出现过使用深度伪造技术操纵政治结果的案例，导致各国呼吁加强监管。
一个不容否认的问题
无论具体方法如何，显然必须采取行动来减轻与深度伪造技术相关的风险。这包括教育公众了解深度伪造的危险，提高人们对滥用可能性的认识，以及促进负责任的人工智能开发实践。
Megan Thee Stallion 的 AI 视频为娱乐业、社交媒体平台和政策制定者敲响了警钟。现在是采取行动的时候了，否则深度伪造造成的损害将无法弥补。通过共同努力解决这个问题，我们可以确保 AI 技术被用于善举，而不是被当做剥削和伤害的工具。
特色图片来源： Megan Thee Stallion/Instagram
