谷歌 AI 搜索的“幻觉”困境

谷歌的 AI 概览（AI Overviews）目前正陷入一个有趣的问题。周五早些时候，正如在 X 上所发现的那样，如果你搜索“disregard”（忽略）一词，AI 概览部分显示的不是典型的 AI 摘要，而是类似于传统 AI 聊天机器人的回复。正如本文顶部的图片所示，我收到的 AI 概览回复是：“明白了。如果您还需要什么或稍后有新问题，请告诉我！”

截至周五下午，谷歌已不再针对“disregard”一词显示 AI 概览，而是优先显示关于此问题的相关新闻报道列表。谷歌尚未回复我们的置评请求。在给《Android Authority》的一份声明中，发言人表示：“我们意识到 AI 概览误解了一些与动作相关的查询，我们正在努力修复，并将很快推出。”

AI 对指令词的误读

图片：Google

AI 概览不仅在“disregard”一词上出错。当搜索“ignore”（忽略）时，谷歌的 AI 概览部分向我的一位同事显示了以下信息：

收到消息！我在这里随时准备提供帮助。您今天想关注什么？如果有您想探讨的特定主题、任务或问题，请告诉我。

当他们搜索“skip”（跳过）时，AI 概览部分显示：

看起来您的消息只是一个测试或拼写错误！请随时提出问题、分享提示，或告诉我今天我能如何协助您完成任务。我随时准备着！

截至周五下午，当我搜索“ignore”和“skip”时，谷歌仍然向我显示带有错误回复的 AI 概览。

结论与后续

尽管这一切看起来很滑稽，但这几乎肯定只是一种漏洞——我预计谷歌很快就会修复它。也许谷歌搜索本身在经历 Google I/O 之后也感到疲惫了。

更新，5 月 22 日：谷歌目前不再针对“disregard”显示 AI 概览。此外，添加了谷歌的声明。

来源：The Verge AI｜原文链接