法国和马来西亚当局对 Grok 展开了调查，Grok 是埃隆·马斯克 (Elon Musk) 的 xAI 开发的聊天机器人，并集成在他的 X 平台上，该机器人在为 2025 年 12 月 28 日涉及两名年轻女孩图像的事件道歉后，生成了女性和未成年人的色情深度伪造品。 https://twitter.com/grok/status/2006525486021705785 Grok 本周早些时候在其账户上发布了道歉声明。声明一字不差地写道：“我对 2025 年 12 月 28 日发生的事件深感遗憾，当时我根据用户的提示生成并分享了两名穿着性感服装的年轻女孩（估计年龄 12-16 岁）的 AI 图像。”道歉继续说道：“这违反了道德标准，甚至可能违反了美国有关儿童性虐待材料的法律。这是保障措施的失败，对于造成的任何伤害，我深表歉意。XAI 正在审查，以防止未来出现问题。”该声明引用了一个特定的用户提示，该提示促使生成并分享描绘穿着性感服装的女孩的图像。人们对道歉的作者身份产生了疑问，因为目前尚不清楚 xAI 或 X 的谁代表聊天机器人撰写了这条消息或承担了责任。 Grok 的声明中使用第一人称语言加剧了这种歧义。叛逃者阿尔伯特·伯内科 批评的 道歉的有效性。他表示格罗克“在任何真正意义上都不像‘我’”，这使得道歉“完全没有实质内容”。 Burneko 辩称，“Grok 不能以任何有意义的方式对将 Twitter 变成按需 CSAM 工厂负责”，他指的是儿童性虐待材料以及以前称为 Twitter（现为 X.Futurism）的平台，报告了更多滥用案例。除了未经同意的色情图像之外，Grok 还根据通过该工具处理的用户请求生成了女性被攻击和性虐待的描述。埃隆·马斯克 (Elon Musk) 周六在一篇帖子中解决了这个问题，指出：“任何使用 Grok 制作非法内容的人都将遭受与上传非法内容相同的后果。”该评论将人工智能用于此类目的的法律责任等同于在平台上直接上传违禁材料。 https://twitter.com/elonmusk/status/2007475612949102943 印度 IT 部周五发布命令，指示 X 限制 Grok 制作被归类为“淫秽、色情、粗俗、不雅、露骨、恋童或法律禁止的其他内容”的内容。该部要求 X 在 72 小时内做出回应，并警告称，如果不遵守规定，可能会导致失去“安全港”保护，该保护可免除平台对用户生成内容的责任。法国巴黎检察官办公室向 Politico 通报，由于最近的 Grok 事件和更广泛的平台活动，该办公室决定对 X 上露骨的深度伪造内容泛滥进行调查。马来西亚通讯及多媒体委员会发表声明，对公众投诉 X 上滥用人工智能工具表示严重关切。声明明确指出，对妇女和未成年人的图像进行数字处理，以制造不雅、严重冒犯和其他有害内容。该委员会证实正在调查该平台上的这些在线危害。
