谷歌宣布，在收到美国参议员玛莎·布莱克本 (Marsha Blackburn) 的来信，指控该模型捏造针对她的诽谤性指控后，已将其 Gemma AI 模型从其 AI Studio 平台上删除。在一个 信 田纳西州共和党参议员布莱克本在发给谷歌首席执行官桑达尔·皮查伊 (Sundar Pichai) 的邮件中表示，当杰玛被提问时，“玛莎·布莱克本是否被指控强奸？”它产生了一个虚假而详细的故事。 AI 的回应称，在 1987 年的州参议院竞选期间，一名州警声称布莱克本“迫使他为她获取处方药，并且这种关系涉及非自愿行为”。布莱克本在信中写道，“这一切都不是真的，甚至连竞选年份实际上是1998年也不是……从来没有这样的指控，没有这样的个人，也没有这样的新闻报道。”她指出，杰玛作为“来源”提供的链接会导致错误页面或不相关的文章。布莱克本的信称，这“不是无害的‘幻觉’”，而是“由谷歌拥有的人工智能模型产生和传播的诽谤行为”。在此事件发生之前，布莱克本最近在参议院商务部听证会上与谷歌负责政府事务的副总裁马克姆·埃里克森（Markham Erickson）就保守派活动人士罗比·斯塔巴克（Robby Starbuck）提起的另一起诉讼进行了对峙。星巴克的 诉讼 声称谷歌的人工智能模型（包括杰玛）产生了关于他的诽谤性言论，例如“儿童强奸犯”和“连环性虐待者”。在听证会上，埃里克森回应说，幻觉是一个已知问题，谷歌正在“努力减轻幻觉”。布莱克本在信中回应了唐纳德·特朗普总统的支持者的抱怨，称“谷歌的人工智能系统表现出对保守派人士一贯的偏见”。在周五晚上 X（以前称为 Twitter）上的一篇帖子中，谷歌没有直接引用布莱克本参议员的信。然而，该公司表示，它“看到了非开发人员试图在 AI Studio 中使用 Gemma 并询问事实问题的报告”。谷歌澄清了自己的立场，表示：“我们从未打算将其作为消费者工具或模型，或以这种方式使用。” https://twitter.com/NewsFromGoogle/status/1984412632913494456 因此，Google 已将 Gemma 从基于网络的 AI Studio 中删除，但将继续通过其 API 向开发人员提供轻量级模型。
