首页科技快讯李飞飞亲自撰文：大模型不存在主观感觉能力，多少亿参数都不行

李飞飞亲自撰文：大模型不存在主观感觉能力，多少亿参数都不行

来源：晰数塔互联网快讯时间：2024年05月25日 13:18

归根结底，大模型的方向还是走错了？

「空间智能是人工智能拼图中的关键一环。」知名「AI 教母」李飞飞曾这样表示。

近段时间，李飞飞开始把目光瞄准到这一领域，并为此创建了一家初创公司。她曾表示，「大自然创造了一个以空间智能为动力的观察和行动的良性循环。」她所在的斯坦福大学实验室正在尝试教计算机「如何在三维世界中行动」，例如，使用大型语言模型让一个机械臂根据口头指令执行开门、做三明治等任务。

我们不难看出，李飞飞口中的空间智能也有大模型的参与。

如今，随着技术的发展，LLM 在多个方面表现出超人类智能。然而关于 LLM 的争议也在不断增加，其中，LLM 到底有没有感觉能力，大家意见不一而论。

近日，李飞飞连同斯坦福大学以人为本人工智能研究所 HAI 联合主任 John Etchemendy 教授联合撰写了一篇文章，文章对 AI 到底有没有感觉能力（sentient）进行了深入探讨。

本文中，我们把 sentient 一词翻译成感觉，因为 AI 领域感知一词通常对应 perception，也不适合翻译成意识。读者们有合适的翻译可以留言讨论。

文中驳斥了 LLM 有感觉的说法，李飞飞列举了大量示例来证明这一观点。

在提到超级计算机深蓝时，李飞飞表示，虽然这款下棋程序可以击败世界冠军，但如果房间突发意外情况如着火，深蓝不会有停止游戏的意识，而人类会有。

同样的，当人类产生饥饿说出「我饿了」时，人类和 LLM 背后所隐藏的行为链条是完全不同的。LLM 只是产生「我饿了」这个字符串的事实，它没有身体，甚至不可能有饥饿那种感觉。

更进一步的，李飞飞认为人类饥饿时，伴随一系列生理反应，如低血糖、肚子叫等，而 LLM 无法拥有这些状态的主观经验，即无法有感觉能力，只是在概率性地完成任务而已。

人类有物理躯体，可以感觉一切，但 LLM 没有，当 LLM 说出类似的「自己脚趾痛」时，大家都不会相信，因为它根本就没有脚趾，它只是一个编码在硅片上的数学模型。

李飞飞驳斥 LLM 具有感觉能力

通用人工智能（AGI）是用来描述一种至少与人类在各种方面表现出相同智能的人工智能体的术语，涵盖人类所展示（或能够展示）的所有智能方式。这是我们曾经称之为人工智能的概念，直到我们开始创建在有限领域表现出智能的程序和设备 —— 如下棋、语言翻译、清洁客厅等。

增加「G」这个字母的必要性来自于由人工智能驱动的系统的普及，但这些系统只专注于单一或极少数任务。

IBM 的深蓝是一款令人印象深刻的早期下棋程序，它可以击败世界冠军 Garry Kasparov，但如果房间着火了，它却不会有停止游戏的意识。

图为 Garry Kasparov 和深蓝团队的 Joe Hoane 在 1997 年纽约市的复赛场景，最终在六局复赛中击败了 Garry Kasparov，赢得了其中的两局并有三局打成平手。

现在，通用智能有点像一个神话，至少如果人们认为自己拥有它的话。

人类可以在动物界找到许多智能行为的例子，它们在类似任务上的表现远比人类本身表现更好。智能并非完全通用，但足以在大多数环境中完成人们想要完成的事情。

如果当人类感到饥饿时，可以找到附近的超市；当房间着火时，则会自主地寻找出口。

智能的基本特征之一是「感觉」，即拥有主观经验的能力 —— 比如感受饥饿、品尝苹果或看到红色是什么样的。

感觉是通往智能的关键步骤之一。

于 2022 年 11 月发布的 ChatGPT，标志着大型语言模型（LLMs）时代的开始。

这立即引发了一场激烈的争论，所有人都在讨论这些算法是否实际上具有感觉能力。以 LLM 为基础的人工智能具有感觉能力的可能性引发了媒体狂热，也深刻影响了全球一些政策制定的转向，以规范人工智能。

最突出的观点是，「有感觉的人工智能」的出现可能对人类非常危险，可能带来「灭绝级」的影响或至少是「存在危机」的。毕竟，一个有感觉的人工智能可能会发展出自己的希望和欲望，而不能保证它们不会与人们相冲突。

李飞飞和 Etchemendy 的主要观点是反驳「有感觉的人工智能」阵营最常提出的辩护，而该辩护基于 LLMs 可能已经有了「主观经验」的能力。

John Etchemendy 曾担任斯坦福大学语言与信息研究中心的主任、哲学系主任，以及人文与科学学院的高级副院长，并且是斯坦福人工智能研究所的联合主任。

为什么有些人认为 AI 已经获得了感觉能力

在过去的几个月里，他们俩与 AI 领域的许多同行进行了激烈的辩论和交谈，包括与一些最杰出的和具有开创性的 AI 科学家进行了一对一的深入交流。

关于 AI 是否已经获得了感觉能力的话题一直是一个突出的问题。其中少数人坚信 AI 已经具有了感觉能力。以下是其中一位最为积极支持者的论点要点，相当程度上代表了「有感觉的 AI」阵营的观点：

AI 是有感觉的，因为它能报告主观经验。主观经验是意识的标志，其特征在于能够认知自我所知或所感。例如，当你说『我在吃过一顿美味的饭后感到高兴』时，我作为一个人实际上没有直接证据感觉你的主观体验。但既然你这样表达了，我会默认相信你确实经历了这种主观体验，因此你是有意识的。这种逻辑也被用来推论 AI 的意识状态。

现在，让我们将同样的『规则』应用到 LLMs 上。就像任何人一样，我无法访问 LLMs 的内部状态。但我可以查询它的主观经验。我可以问『你感到饥饿吗？』它实际上可以告诉我是或否。此外，它还可以明确地与我分享它的『主观经验』，几乎涉及任何事情，从看到红色到吃完饭后感到幸福。因此，我没有理由不相信它是有意识的或不知道自己的主观经验，就像我没有理由不相信你是有意识的一样。在这两种情况下，我的证据完全相同。

为什么「AI 有感觉能力」是错误的

虽然乍看之下这个论点似乎有道理，但实际上是错误的。因为李飞飞和 Etchemendy 教授的证据在这两种情况下并不完全相同。甚至差距很大。

当你说「我饿了」时，我得出你正在经历饥饿的结论是基于一系列大量的情况。首先，是你的报告 —— 你说的话，可能还包括其他行为证据，比如你的肚子咕咕叫。其次，是没有相反证据的存在，比如如果你刚吃完五道菜的大餐就不太可能会说饿。最后，也是最重要的，是你拥有一个像我一样的物理身体，这个身体需要定期进食和饮水，遇冷会感到寒冷，遇热会感到炎热，等等。

现在将这与他们二人对 LLM 的证据进行比较。