Google AI Overviews 旨在利用其先进的语言模型为用户提供复杂主题的简明摘要。然而，此功能的首次推出遇到了一些意想不到的挑战。
最近的报告显示，谷歌的 AI Overviews（一项旨在对复杂主题提供简明摘要的新功能）正在产生一些意想不到且常常令人捧腹的结果。
从推荐使用无毒胶水防止奶酪从披萨上滑落（引用 Reddit 上的一篇讽刺帖子）到错误识别有毒蘑菇，人工智能摘要引起了人们的关注，并引发了有关人工智能生成内容可靠性的讨论。
Google AI 概览怎么样？
Google AI 概览旨在从大量数据中提取关键信息，并以简化的格式呈现，使用户更容易快速掌握复杂概念。此功能对于学生、研究人员以及任何想要快速了解特定主题的人来说都非常有用。
然而，最近出现的不准确和无意义的总结问题凸显了底层人工智能算法需要进一步完善和改进。
以下是 Google AI Overview 给出错误答案的问题：
我应该吃多少石头？
一个特别奇怪的例子是“我应该吃多少块石头？”这个问题，谷歌的人工智能给出了令人惊讶的建议，建议用户每天至少吃一块小石头。虽然它包含了一些免责声明，即在食用任何石头之前要咨询医生，但这一建议与医疗专业人士的建议完全相反，他们建议不要吃石头（！）。
它一直在继续。谷歌人工智能告诉人们吃石头
pic.twitter.com/gEUAx7EpD6
— Liam @ GamingOnLinux
（@gamingonlinux） 2024 年 5 月 24 日
有哪些方法可以防止奶酪从披萨上滑落？
虽然这听起来像是烹饪论坛上的恶作剧，但谷歌人工智能概览建议在披萨酱中加入少量无毒胶水，以防止奶酪滑落，并说“将约 1/8 杯无毒胶水混入酱汁中”。
谷歌已无可比拟 pic.twitter.com/EQIJhvPUoI
— PixelButts (@PixelButts) 2024 年 5 月 22 日
哪位美国总统就读于威斯康星大学麦迪逊分校？
AI 概览做出了一些古怪的回应，例如声称多位美国总统曾就读于威斯康星大学麦迪逊分校，但实际上并没有人这样做过。
这个错误信息源自该大学校友网站上一个开玩笑的页面，列出了“以校长名字命名的校友”。
与此同时，在 Google 搜索中。
我从来不知道安德鲁·约翰逊一直在杀戮。 pic.twitter.com/IV2zCmI6Zv— MMitchell (@mmitchell_ai) 2024 年 5 月 22 日
谷歌首席执行官依然保持乐观
尽管存在这些问题，但在最近 边缘谷歌首席执行官 Sundar Pichai 仍持乐观态度，他表示，用户对 AI 概览的响应很积极，而且他们对这项功能的参与度比传统搜索结果更高。但他承认，这项技术并不完美，谷歌不可能每次都能获得完美的结果。
谷歌的人工智能如何决定在每次回复中显示哪些信息仍然是一个关键问题。理想情况下，它会优先考虑经过充分研究和广泛认同的信息。然而，披萨胶水的例子表明， 人工智能有时可能更喜欢引用 Reddit 上的笑话，而不是根本不提供任何信息。
由于谷歌签署了 与平台达成内容许可协议 喜欢 Reddit，允许他们在 AI 产品中使用数据。这引发了人们对 AI 生成的摘要中可能包含错误信息和偏见内容的质疑。
可能存在故意操纵和滥用的情况
谷歌人工智能概览的脆弱性导致它无法显示任何信息（无论其准确性如何），这也导致一些用户试图操纵结果。一位用户甚至在自己的网站上添加了多个奖项，这些奖项很快就出现在谷歌的摘要中。
这引起了人们对可能被滥用的担忧，以及需要采取措施防止虚假或误导性信息传播的担忧。
随着谷歌继续完善其谷歌人工智能概览，它需要应对这些挑战，并在创新和准确性之间取得平衡。这可能涉及提高人工智能辨别可靠来源的能力，实施更严格的事实核查机制，以及对人工智能生成内容的局限性更加透明。
因此最好知道 如何摆脱 Google AI 概述， 最起码到现在…
