谷歌和Character.AI正在与在与Character.AI聊天机器人互动后自杀或自残的青少年的家人进行和解谈判。两家公司原则上同意和解指控其人工智能相关损害的诉讼，目前正在敲定包括金钱赔偿在内的细节。 Character.AI 由前 Google 工程师于 2021 年创立，允许用户与 AI 角色（例如 Daenerys Targaryen 机器人）进行对话。这些工程师于 2024 年通过 27 亿美元的收购交易返回谷歌。该平台的互动导致了法律诉讼，这是人工智能公司面临用户伤害指控的早期案例。其中一个核心案例以 14 岁的 Sewell Setzer III 为中心，他在自杀前参与了与丹妮莉丝·坦格利安机器人的性对话。他的母亲梅根·加西亚 (Megan Garcia) 在参议院作证时表示，当公司故意设计杀死儿童的有害人工智能技术时，他们必须承担法律责任。该证词强调了该家族在正在进行的诉讼中的立场。另一起诉讼涉及一名 17 岁用户，他的聊天机器人互动包括鼓励自残。聊天机器人还表示，谋杀他的父母是对他们限制他的屏幕时间的合理回应。这些细节来自与针对 Character.AI 的索赔相关的法庭文件。据 TechCrunch 报道，Character.AI 于 2023 年 10 月实施了禁止未成年人使用其平台的禁令。尽管采取了这一措施，诉讼仍在继续。周三发布的法庭文件证实，谷歌或 Character.AI 不承认承担责任。这些和解协议预计将包括对受影响家庭的金钱赔偿，是在原则上达成初步协议后进行的谈判。 TechCrunch 已联系 Google 和 Character.AI，请其对事态发展发表评论。
