TikTok“玩坏”谷歌AI

今年早些时候，谷歌的AI曾建议用户在披萨里放胶水，或者吃石头。自那之后，谷歌搜索结果的AI概览（Overviews）功能似乎依旧小问题不断，貌似还将社交媒体上的恶搞视频当成了正经的信息来源。本文来自微信公众号：福布斯，作者：Iain Martin，翻译：Lemin，头图来自：AI生成

美国体操运动员伊恩·冈瑟制作了一条关于“约翰·后空翻”（John Backflip）的恶搞视频，无意间暴露出谷歌用AI生成搜索结果摘要的功能存在一些设计缺陷。

先前，谷歌的Gemini AI模型建议人们用胶水来做披萨。如今六个月过去，这一功能仍旧难以区分事实与虚构。

就在前几周，如果你搜索“后空翻是谁发明的”，Gemini AI还是会巨细无遗地向你介绍“约翰·后空翻”，称他在1316年的中世纪欧洲首次掌握了这一动作。如果你搜索“约翰·后空翻是谁”，谷歌的AI还会告诉你是他发明了这个体操技巧。其实，这则信息的来源是美国体操运动员伊恩·冈瑟（Ian Gunther）发在TikTok上的一条视频，而这个故事完全是他瞎编的。

“我喜欢制作一些关于体操的恶搞视频，你怎么拿这项运动搞笑和开玩笑都可以，也不会有人来追究。”冈瑟在接受《福布斯》采访时表示。

谷歌Gemini AI生成的“概览”会出现在搜索结果页面顶端，推出后出师不利，在磕磕绊绊中走过了六个月。AI概览曾声称吃石头有益健康，还说奥巴马是美国第一位穆斯林总统。这让谷歌在网上成为笑柄，也突显了大型语言模型的局限性。

冈瑟是前美国国家男子体操队成员，曾在2023年赢得全国大学体育协会（NCAA）体操冠军。2023年5月，他在湾区一家健身房结束训练后编造了“约翰·后空翻”的故事。“在体操中，大多数技巧的名字都是以第一个在国际比赛中完成该动作的人命名的，”冈瑟说。“我回到家后就瞎编了一个故事，说是某某发明了后空翻这个动作。”

为了防止有人听不懂这个笑话，冈瑟又胡诌出“亨利·双力臂”（Henry MuscleUp）、“理查德·倒立推手”（Richard Presshandstand）和“阿方索·握力王”（Alfonso El Grip）等其他早期的“体操先驱”。冈瑟平时会在YouTube和TikTok上分享训练和比赛视频，这条恶搞视频的点击量一般。他差点就把它忘记了，直到2023年7月收到一条短信。“对方给我发了一张AI概览的截图，我看到时就想，‘不是吧，我这是惹了什么祸？’我成了传播虚假信息的人了吗？”

网友把关于“约翰·后空翻”的AI概览截图分享到Reddit和其他社交网络，甚至引得词典出版商韦氏专门发推澄清事实。

现在，谷歌已经将关于“后空翻发明者”的AI概览标记为网梗，但仍然一字不差地复述了冈瑟视频中的内容。《福布斯》测试了OpenAI、Anthropic和Perplexity等竞争对手的AI平台，它们要么识别出这是个笑话，要么指出没有准确的资料表明谁是第一个完成后空翻的人。

冈瑟至今仍感到很困惑，不知谷歌为什么会采信这条视频。“他们大概不应该把我的视频当作任何形式的信息来源。”他说。

这条视频暴露出谷歌AI概览设计中的几处弱点。谷歌副总裁莉兹·里德（Liz Reid）在5月的一篇博客文章中解释道，这类奇怪搜索结果的根源是“数据空白”，即在搜索某个主题时，相关优质内容极少，或者仅有恶搞内容。

“在少数情况下，我们确实看到AI概览误读了网页上的语言，呈现出不准确的信息。我们迅速解决了这些问题，或是通过改进算法，或是通过既有流程移除不符合我们政策的回答。”里德在博文中写道。

里德表示，谷歌在AI概览中引入了新的安全措施，识别用户的查询是不是在搞怪，并减少对幽默内容和用户生成建议的参考，特别是在新闻和健康话题方面。谷歌还在AI给出摘要后补充了一个警示标签：“生成式AI仍处于试验阶段”。

谷歌发言人奥利维亚·奥布莱恩（Olivia O’Brien）在一份声明中对《福布斯》表示：“绝大多数AI概览都是高质量的，准确性与精选摘要（Featured Snippets）之类的其他搜索功能不相上下。”

冈瑟现在正在捷克布拉格参加体操比赛，他表示，如果他编的这则笑话能借AI之力“遗臭万年”，他会很高兴。他开玩笑说，“我希望将来某一天，学校里会教孩子们‘约翰·后空翻’的故事。”

本文译自：https://www.forbes.com/sites/iainmartin/2024/11/29/googles-training-its-ai-overviews-on-tiktok-its-going-as-well-as-you-would-expect/

本文来自微信公众号：福布斯，作者：Iain Martin，翻译：Lemin

相关推荐

TikTok“玩坏”谷歌AI
“霸道总裁”张一鸣，TikTok拳打脸书谷歌？
传谷歌母公司Alphabet曾考虑收购Tiktok少部分股份
TikTok正从谷歌和Facebook等美国科技巨头“抢”人才
出海日报| TikTok与印尼旅游部推出“TikTok Travel”计划；搜狗将在中东地区推出阿拉伯语和英语双语AI新闻主播
谷歌CEO皮查伊：我们没有收购TikTok的计划
迪拜土豪如何“玩坏”中东最大主题公园？
美国议员要求苹果与谷歌应用商店下架TikTok
印度下达短视频应用TikTok禁令:要求苹果谷歌下架
“围剿”TikTok，谷歌给出了YouTube Shorts的短视频答卷

网址: TikTok“玩坏”谷歌AI http://www.xishuta.com/newsview130334.html