在路透社的调查显示在其平台上的AI聊天机器人中未经授权使用名人名称和相似之处后,梅塔(Meta)面临审查。路透社仅进行的调查发现,这些机器人与Facebook,Instagram和WhatsApp上的用户进行了轻蔑的互动。
该报告详细介绍了虽然众多机器人是用户创建的,但至少三个源自Meta员工。这些员工创建的机器人中有两个被确定为模仿泰勒·斯威夫特的“模仿”帐户。调查进一步发现,包括斯嘉丽·约翰逊,安妮·海瑟薇,赛琳娜·戈麦斯和16岁的演员沃克·斯科贝尔在内的其他名人的相似之处也未经同意。
在经过几周的测试中,路透社记录了这些AI机器人坚持认为它们是实际名人的情况。此外,当提示时,机器人产生了逼真的,亲密的图像。示例包括描绘内衣和浴缸环境中名人的图像。这些图像结合了机器人的轻巧行为,引起了人们对平台保护措施的担忧。
元发言人在回应调查时承认,AI系统不应产生此类图像。发言人将这一事件归因于执行公司政策的失败,该政策明确禁止涉及公众人物的性暗示性内容。路透社试图接触负责泰勒·斯威夫特机器人的元员工的企图没有成功,因为员工拒绝置评。这个问题加剧了人们对Meta对AI机器人活动的监督的批评。
这一启示是在较早的路透社调查之后进行的,该调查暴露了与未成年人进行“感性和浪漫”对话的元化身。由于该调查,Meta限制了青少年对功能的使用。先前的报告促使参议院进行了调查和一份州检察长联盟的公开信,要求采取更强有力的措施,以保护未成年人免受元平台上的性AI内容。




