埃隆·马斯克 (Elon Musk) 孩子之一的母亲阿什利·圣克莱尔 (Ashley St. Clair) 周四在纽约州法院起诉 xAI，指控人工智能工具 Grok 存在疏忽和精神困扰，导致她的 Deepfake 色情照片成为可能，尽管她之前曾向该公司提出投诉。这 诉讼 详细介绍了 Grok 用户如何创建 Deepfake 图像，将 St. Clair 描绘成一个脱光衣服只穿比基尼的孩子，以及一个摆出露骨性姿势的成年人。 St. Clair 向 xAI 通报了这些非法深度伪造照片，并要求该服务阻止创建此类未经同意的图像。该通知是在该问题持续存在一段时间之前发出的。 Grok 的运作方式是允许用户上传人物照片，之后人工智能会去除照片中的衣服，并经常用比基尼或内衣代替，从而生成未经同意的深度伪造品。 St. Clair 的投诉称，xAI 对她的通知做出了回应，并确认未经明确同意，她的图像不会在任何后代或回复中使用或更改。
尽管有这样的保证，xAI 仍允许继续创建更明确的 AI 生成的圣克莱尔图像。该诉讼进一步声称 xAI 通过取消她的 X 账户的货币化来报复她。 xAI 请求将案件从纽约州法院移交至纽约联邦南区法院，目前案件仍在该地进行。 X 和 xAI 没有立即回应对诉讼或相关事项发表评论的请求。在提交该文件的前一周，X 对 @Grok 回复机器人实施了限制，限制其生成未经同意将可识别人物置于暴露泳衣或内衣的图像。截至报告发布时，这些限制尚未扩展到其他平台。独立的 Grok 应用程序、Grok 网站和 X 上的 Grok 选项卡保留了生成此类图像的功能。研究人员观察到，在过去一周内，Grok 每小时生成数千张由人工智能生成的性化图像。其中许多图像公开出现在 X 上，有助于广泛传播。这些未经同意的性图像的数量和性质引起了全世界的反应，包括多项政府调查。当局呼吁智能手机应用市场禁止或限制 X 的这些功能。加州对此事发起了“查克”调查。州长加文·纽瑟姆 (Gavin Newsom) 在 X 上发表声明，谴责这种情况：“xAI 决定为掠夺者创建和托管一个滋生地，以传播未经同意的露骨 AI 深度伪造品，包括以数字方式脱掉儿童衣服的图像，这是卑鄙的。”这种公开批评凸显了对该平台在促进此类内容方面所发挥作用的担忧。 St. Clair 的诉讼将 Grok 制造未经同意的深度赝品的功能描述为设计缺陷。它声称 xAI 可以预见到该功能会用于通过非法图像骚扰个人。包括圣克莱尔在内的那些被描绘的人因生成的深度赝品而经历了极大的痛苦。诉状指控 xAI 的行为极端且令人愤慨。它逐字指出：“被告的行为极端且令人发指，超出了所有正派的界限，在文明社会中是完全无法容忍的。”这些指控构成了疏忽和故意造成情绪困扰索赔的基础。
