Meta 的亚当·莫塞里 强调 审查社交媒体平台上人工智能生成的内容的重要性。随着深度赝品变得越来越复杂，辨别真假的能力对于用户来说至关重要。
Meta 的 Mosseri 强调需要仔细审查人工智能生成的内容
Mosseri 发表此番言论之际，人们对深度造假的担忧日益加剧，深度造假利用生成对抗网络 (GAN) 和 DALL-E 2 等扩散模型来创建难以与真实内容区分开来的虚假图像和视频。这位 Instagram 负责人认为，社交媒体可以通过标记虚假内容来帮助打击错误信息，尽管他承认并非所有谎言都能被检测到或充分标记。 “我们作为互联网平台的角色是尽我们所能将生成的内容标记为人工智能，”他表示。
近年来，深度造假有了显着的发展。该过程涉及一个人工智能模型生成假货，而另一个人工智能模型则对其进行识别，并不断提高其准确性。这会产生令人震惊的令人信服的内容。
随着深度造假越来越受欢迎，莫塞里警告用户不要盲目信任在线图像和视频。在 Threads 上的一系列帖子中，他敦促用户考虑共享内容的来源，强化了背景在数字时代至关重要的理念。他详细阐述道：“感觉现在我们集体意识到，考虑谁在说一件事，而不是考虑他们在说什么，变得更加重要。”这种观点与不断发展的数字素养相一致，其中内容提供商的可信度与内容本身一样重要。
在社交媒体领域，辨别视觉内容真实性的能力比以往任何时候都更加紧迫。莫塞里指出，平台有必要提供有关共享材料来源的背景信息，这与其他平台上由用户主导的审核举措相呼应。他强调，虽然人工智能生成的某些形式的错误信息可以被识别，但其他形式的错误信息不可避免地会被漏掉。
人工智能技术的快速发展进一步凸显了这个问题的紧迫性。当今的工具可以轻松生成看似真实的内容，并且可以大规模分发，通常超出了版主有效响应的能力。当用户每天浏览大量信息时，我们鼓励他们培养敏锐的眼光，考虑谁分享信息及其背后的含义。
对平台如何标记和审核人工智能生成的内容的调查仍在进行中。莫塞里承认当前标签实践的局限性，这表明需要采取更强有力的策略来打击错误信息。鉴于人工智能媒体生成的技术进步，平台如何适应这些变化并继续培养用户意识仍然是一个悬而未决的问题。
虽然 Meta 暗示其内容审核策略未来将发生变化，但目前尚不清楚这些变化将以多快的速度实施，也不清楚它们在对抗当今技术娴熟的操纵方面的有效性。人工智能带来的复杂性带来了挑战，需要积极主动、知情的受众，能够批判性地评估他们在线消费的内容。
特色图片来源： 哈托诺创意工作室/Unsplash
