AI摘要错误地认为是空客而非波音涉及致命的印度航空事故
谷歌的免责声明称AI”可能包含错误”，这只是一个轻描淡写的说法。
此次印度航空事故涉及的是波音787，而非AI摘要所臆测的空客飞机。 信用：波音
此次印度航空事故涉及的是波音787，而非AI摘要所臆测的空客飞机。 信用：波音
当重大事件发生时，大多数人会立即前往谷歌查找信息。越来越多的人首先看到的是AI摘要，这一功能已经因犯下明显错误而臭名昭著。在印度的一起悲剧性飞机失事之后，谷歌的AI搜索结果正在传播错误信息，声称该事件涉及空客飞机——实际上是一架波音787。
近年来，由于几年前波音737系列的多次坠机事故，旅客对客机型号更加关注。随着报道显示印度航空171号航班坠毁导致超过200名乘客和机组人员丧生，搜索航空灾难的次数肯定会激增。生成式AI的运作方式意味着一些搜索细节的人可能会从谷歌结果页得到错误印象。
并非所有搜索都会得到AI答案，但自去年推出以来，谷歌一直在不断扩大这一功能。Reddit上的一个搜索者发现了一个令人担忧的错误信息，当搜索涉及空客飞机的坠机事件时。显然，AI摘要在处理大量报道印度航空事故的结果时，自信但错误地表示一架空客A330在起飞后不久就坠毁了。我们进行了几次类似搜索——一些AI结果说波音，一些说空客，还有一些将空客和波音混合在一起。这简直是一团糟。
在此搜索中，谷歌AI称此次事故涉及空客A330而非波音787。 信用：/u/stuckintrraffic
但为什么谷歌会在空客的语境下提及印度航空事故呢？不幸的是，你无法预测是否会得到一个将波音或空客归咎于事故的AI摘要——生成式AI是非确定性的，这意味着即使输入完全相同，输出也会不同。我们猜测根本原因可能是关于印度航空事故的大量报道中提到了空客作为波音的主要竞争对手。AI摘要本质上是在总结这些结果，而AI由于缺乏辨别真实性的能力而走上了错误的道路。
谷歌并未隐瞒其生成式AI工具可能犯错的事实——每个AI摘要的底部都有免责声明，注明”AI答案可能包含错误”。几乎每个AI产品都有类似的声明，但并不显眼，用户在面对一个似乎非常自信的错误回答时可能会忽略这一点。也许当幻觉如此普遍时，这些警告并不足够。
在这种情况下，AI摘要的错误可能会激怒空客，而空客可能根本不想在这个语境下被提及。同时，这可能会给波音提供一些掩护，因为波音最近其飞机的问题已经造成了相当大的声誉损害。
谷歌告诉Ars，他们已手动从AI摘要中移除了这个回答。以下是公司的完整声明。
“与所有搜索功能一样，我们不断进行改进，并使用此类例子来更新我们的系统。此回答已不再显示。我们对所有搜索功能都保持着高标准，AI摘要的准确率与其他功能（如精选摘要）相当。”
更新于6月12日，加入谷歌的声明。
