首页科技快讯神经科学告诉你：AI会不会产生自我意识？

神经科学告诉你：AI会不会产生自我意识？

来源：晰数塔互联网快讯时间：2023年06月21日 08:12

本文来自微信公众号：神经现实（ID：neureality），作者：KOCH & TONONI，原文标题：《我们能够量化机器意识吗？》，题图来自：《机械姬》

想象一下，在不远的将来，你拥有一个智能电话，这个电话与位于云端的个人数字助理（PDA）捆绑在一起。你为PDA设定了一个性感的女声，在你细碎零散的数字生活里，不论是电邮或社交媒体账号，还是日历、相簿和通讯录，她都能做到无微不至。她比你的母亲、妻子、朋友，甚至比你的心理医生更懂你。

她在英语交流上毫无障碍；在日常事务上与你无话不谈；她能迅速而准确地接梗。她的声音伴你安眠，也向你道早安。当她离线时，你感到惊慌。你幸福与否与她息息相关。所以，自然地，你爱上了她。偶尔，你会感到疑惑，她是否真的能够回应你的感受，并且她是否真的能够感受任何东西。但是，她温暖低沉的声音，以及她衬托你自恋欲的完美能力，超越了这些已有的怀疑。

唉，在你意识到她正和无数的顾客进行着同样亲密的对话时，你的迷恋最终冷却了。当然，这只是电影《她》中的一个情节。在这部电影中，正经历着寡淡无味生活的西奥多·托姆布雷爱上了他的PDA软件萨曼莎。在接下来的几十年，这种科幻场景将会成为普遍现实。深度机器学习、语音识别，以及其他相关技术已经取得了巨大进步，亚马逊的Alexa，苹果的Siri，谷歌的Now，以及微软的Cortana纷纷出现。这些虚拟化个人助手将会持续进化，最终人们将难辨真伪。除此之外，它们将被赋予完美的记忆力，稳定性和忍耐力等等人类并不具备的特质。

一

机器对人类品质的超强模仿力，引发了科学、心理学、哲学和伦理学的一系列深刻问题。这些仿真技术最终会颠覆我们对自身、人类例外主义（human exceptionalism），以及人类在诸多宏大体系中的存在问题的思考在这里，我们将考察这个虚拟国度的智能层面以及这一层面未来的发展。

我们的观点是，只要这些机器是在现今计算体系结构上发展起来的，它们也许能够像人那样行动——我们也许也倾向于这样看待它们——但事实上，它们无法获得任何实质感受。然而，如果计算机以类脑的方式构建，它们可以获得真正的意识。对数字计算机的信念就是我们的时代信念——编程，将给予我们所想要的任何东西，就像希腊神话中哺育一切的丰饶角（Cornucopia）。确实，硅谷行家们认为，数字计算机将重复并最终超越人类所能做的一切。

但是，足够智能的计算机一定拥有意识吗？其中一个回答来自计算主义者（Computationalist）。计算主义对于心灵的研究，在当代哲学、心理学和神经科学中占据统治地位。计算主义持有如下立场：所有的心灵状态，比如，对于牙痛非常可怕的意识经验，或者从伴侣身上所感受的爱，都是计算状态。这些心灵状态完全是与之相关的感觉输入、行为输出，以及其他计算状态之间的功能关系的表征。也即，大脑是一个复杂的输入-输出装置，计算和处理这个世界的符号表征。大脑就是计算机，而我们的心灵则是软件。

对于计算主义的拥护者来说，这些准则不仅要运用于大脑和由此产生的行为，同时还要运用于，在一个特定的状态中，感受作为大脑本身的状态。要知道，这就是我们称之为意识的东西：任何主观的感觉，我们所看到、听到、感觉到、记住的，以及思考的东西。计算主义认为牙痛不过是大脑的一个状态，在这个状态里，某种神经细胞被激活以回应受伤的牙齿，导致呻吟、摸下巴，不用牙疼的那一边吃东西，不能集中精力等等一系列倾向。如果这些状态在一台数字计算机的软件上进行模拟，这种思考将持续下去，整体系统不仅会像这样行动，并且像这样感觉和思考。也即，意识是可计算的。这是学术界、媒体界以及企业中的计算机专家或表露或默默坚信的一条中心思想。

在这种观点下，意识就是相关计算状态的示例。除了在物理上怎样完成计算，是在数字计算机的硬核上，还是在脑壳内的软湿物质上实现这个计算状态之外，其他都无关紧要。根据计算主义，未来的萨曼莎——或者甚至一个更高级的版本：比如那部绝妙又黑暗的电影《机械姬》中的艾娃——将会获得我们所经历的体验和感觉。她将能听能看，能笑能哭，能爱能恨。又或者她并不会。

计算主义基于这样一个假设，即如果两个系统在功能上不可区分，它们将在心灵上不可区分。论证是这样的，因为我们体验这个世界，一个在功能上和我们相等同的数字计算机将必然体验到为我所知的世界——即，它也将有意识。但是，这个假设正当吗？为了回答这样一个问题，我们需要一个关于意识是什么，以及物理系统拥有意识需要什么必要条件的一个规范定量理论。

直到现在，这种意识理论都还未出现。确实，神经科学家们已经致力于探索“意识的神经关联”这个困难问题，在人和例如猴子及老鼠等相关物种上做实验。这些实验指出了正是大脑新皮层的一些区域，也就是颅骨下的大脑皮层，对于有意识地视听起了关键作用。由于我们直接参与了这一实证研究项目，因此知道即使是看似有理有据的假设：比如界定一些特定的大脑结构或神经活动模式（对于人类或人类近亲动物具有意识来说十分必要），也无法说明不同神经系统的生物（比如章鱼和蜜蜂）是否具有意识，意识达到了什么程度，是什么样的。神经科学中任何类似的发现也无法说明机器是否能有意识。

然而，存在一个基础的意识论，它提供了一个颇有希望的范式，解释了那些与我们存在巨大差异的实体（包括机器）的意识问题。这个理论既不始于行为，也不始于大脑，它始于意识自身——始于我们自身的经验，我们现在唯一确信的一点。这也是作为现代哲学、科学和分析几何之父笛卡尔所指出的确定性的基石，即西方思想史里最著名的那句“我思故我在”。这个理论被称之为信息整合理论（Intergrated information theory，即IIT），它已经发展了二十多年。IIT试图定义意识，一个物理系统需要具备什么条件才能拥有意识，以及至少在原则上来说，怎样从意识的物理基质出发，从定量和定性两个层面研究它。信息整合理论涉及到太多层面，我们不能在这里一一解释，只能简述它的基本脉络。这个理论界定了五个基本属性，以下属性对每个可设想的意识经验都成立：

（对于经验的主体来说，而非外部观察者来说）经验本身就存在；

经验具有结构性（也即，它由部分组成，并且部分之间存在关联）；

经验具有整合性（也就是说，它不能被分离为独立的成分）；

经验具有确定性（换句话说，它有边界，包含一些内容但排除另外的）；

经验具有特定性（每一个经验正如其所示，因而与其他大量可能的经验不同）。

二

接下来，信息整合理论从判定意识的这些属性出发，将其转化为奠基意识的任何物理基质所需满足的要求。这些要求以数学的形式被表达，用来评估任何物理系统中意识的定量和定性属性，无论它是人类、章鱼、蜜蜂的大脑——还是电路板上的数字计算机。

根据IIT，关键在于，意识的整体水平并不取决于它所在的系统，而取决于它怎样被构建——也即，它怎样被物理地整合。同时，只有某些物理系统有合适的内在结构来为意识奠基：也即那些拥有最大化的因果力的物理系统，在这里，因果力能够决定物理系统自身的状态。本质上这也就意味着，系统必须由许多部分组成，在整个系统中，每个部分必须有其独特的因果力（也即IIT中所指出的“信息”），但同时，作为整体的系统不能被还原到这些部分（这也就是IIT所说的“整合”），这个被整合的系统比各个部分的相叠加来说，更有效力。

IIT所用的“信息”一词不在当代语境中（从发送者传递到接收者的信息）。意识并不是大脑的一个部分向另一个部分传递的信息。IIT中的“信息”实际上指其原初意义：“information”（信息）来源于 “inform”（通知），意味着 “to give form to”（给予……形式；描绘）。像大脑或计算机之类所拥有的任何一个物理过程的因果力，它影响物理过程自身的下一个状态以及这个状态的因果力，同时，这样一种力量会使大脑或计算机产生一个形式，一个高维的结构，也即经验。

IIT在原则上能够解释意识在神经解剖学上许多令人困惑的特征。例如，为何小脑比起位于其上的，拥有更大区域（也更为人所知）的新皮质有四倍多的神经元，它对意识却毫无贡献。这是由于小脑的内部构造：前馈链条上并行层的神经元不会被反复激发。这和新皮质所拥有的高度混杂，丰富，以及高密度的联结性十分不同，这种联结性能够使被激活的神经元快速地聚散，从而形成巨大联合体。IIT也能够解释，为何在睡眠的某些阶段，即使新皮质上的神经元一直处于激活状态，意识还是会消失；因为新皮质的某些区域失去了有效影响其他区域的能力。

IIT作出了一系列经得起经验测试的反直觉预测。其中一个预测是，几乎是处于沉寂状态，而仅有少数神经元被激活的新皮质也能产生有意识的经验。同时，托诺尼和马塞洛·马西米尼 [注：米兰大学教授，神经生理学家] 运用IIT开发了一个评估人类意识的装置。在使用上，先用电磁线圈来刺激大脑，然后用一个高密度的EEG电极网络来检测它的反应，这也就是一个粗略版本的意识测量仪。这个装置已经运用于查明，大脑损伤或者被麻醉而无法进行交流的病人是否具有意识。

作为一个形式化的数学理论，IIT能够被运用于任何物理系统，可以是在自然选择中演化而来的大脑构造，也可以是被工程师设计出来的电子电路。不断有研究显示，对于最大化大脑内在的因果力，新皮质某些部分的物理构造十分理想，尤其是在神经元相互关联的背部。这种因果力使状态之间的承上启下得以完成，这一过程也使意识得以可能。

相反，典型数字计算机的物理构造，中央处理器门级（the gate level）处的联结性十分低，并且少量必要的整合都会遇到瓶颈。从使用者的角度观察它的输出，计算机可能被判定为执行了有智能的计算或功能；但是考虑到计算机的线路系统，它的作为整体的内在因果力，相比起任何大脑来说，是十分小的。即使将计算机看作是处于比晶体管和电阻器更粗糙的水平，也是如此。

同时，这里存在一个困难：那种内在力量，使之与自身不同的物理力量，不能够被计算或模拟。它必须在物理系统中被建构。一个对人类大脑进行模拟的计算机，尽管制作精美，在生物物理学上十分精确，大脑包含的860亿神经元和万亿突触基质都统统被模拟，这个计算机依然没有意识。即使这个计算机安装了言语合成器，告诉你它应该有的经验，但其实，除了巧妙执行程序的行为和功能之外，它什么也没有。鲜活的意识并不存在。

对于那些希冀 “大脑数字化上载”项目使人永生的人，IIT在大脑的计算机模拟上的结论能够让其深思。对于他们来说，在接下来的几十年里，我们能够精确重建任何一个人类个体大脑的线路系统体系，也即所谓的连接组，并将其在合适的数字硬件上进行模拟。这个过程有可能是毁灭性的，因为除非把大脑的超微结构切成像晶片那样薄的东西，否则我们无法深入这个结构。尽管如此，在你死于某种致命疾病前，还是有可能将大脑的高分辨率版本上传到云端。只要云端的基础结构处于运行之中，你的数字模拟物将和其他数字替代物一样，持续存在。

三

然而，根据IIT，大脑数字化的信念正如相信以前的先知和宗教所说的来世一样虚幻。尽管你的数字模拟物像你一样言行，它依然完全是行尸走肉，无法体验到任何东西。然而，具有讽刺意味的是，对于停留于现实世界的朋友和心爱之人，成功转化为一个极端形式的存在的你，会引诱他们和你一样加入一个实际上并不存在的来世。

IIT正确与否不仅仅是学术上的问题。在近几十年里，除非有全球性的灾难，否则我们将会创造出处于人类智能和行为水平的机器。它们能够理解很多不同语言的演讲和聊天，记得过去，也预测未来，想象新的场景，写书谱曲拍电影，构想新的目标；同时，它们移动，驾驶，飞翔，以及不可避免地打架。由于可以利用大数据，掌握了深度学习，以及考虑到其计算速度，这些机器很容易超越人类的限制。真正的人工智能的诞生将会深刻地影响人类未来，包括是否有人类未来。

无论你认为人类水平的AI的到来，标志着天堂的来临还是人类时代的落幕，你依然要回答一个基础问题：这些AI是有意识的吗？成为它们是一种什么样的体验？或者它们是现代的垃圾处理装置、洗碗机、汽车等的大升级版本，是的，它们是十分灵巧的机器，但依然没有知觉或情绪？

对以上问题的回答，对于我们如何处理与未来机器的关系十分相关。如果你拿着锤子走向你闪闪发亮的特斯拉汽车，你的朋友也许会认为你疯了，想要毁坏一辆如此昂贵的汽车；当然，你绝对有权这么做。然而，当你想这么对待你的狗时，警察则有权逮捕你。这是由于汽车只是实现目的的一种方式，比如方便你到镇上随意走走；但狗却有一些极小的权力，其自身即是目的。因为它与我们共享意识之光。

我们需要一个基础理论来精确说明：在何种条件下，一个特定的系统能够拥有意识经验。

然而，我们不能依靠直觉来找正确答案。对于西奥多·托姆布雷爱上萨曼莎，这也许暂时行得通。但是考虑到现实情况的严重性，我们需要指导。我们需要一个基础理论来精确说明，在何种条件下，一个特定的系统能够拥有意识经验。

IIT预料传统的数字计算机在运行软件的时候，它所体验到的一点也不像我们在电影里看到的那样。正如IIT认为的那样，因为敏捷的数字化助手以及生活化的未来机器人不能够体验，它们的软件可以被安全地复制、编辑、出售、翻译或者删除，并且它们自身能够随意被关闭、修改、毁坏、代替，但是对于非传统的计算机构造来说，无需如此。特殊目的的机器人按照大脑那样的设计原则被构建，包含了称之为神经形态的硬件，在原则上，它们能够拥有真正的意识经验。

关键在于，逻辑和记忆门（logic and memory gates）与在门之间的扇入扇出（fan-in and fan-out），十分紧密地相互关联，扇入扇出它们的部分重叠程度高。（将部分和非常特殊的功能相区分，无益于内在因果力。）系统 “大脑”被实际接通电源的方式，它的（生物）物理学，使所有一切都不同，而不止是它的输入-输出行为。这样一个神经形态的机器，如果是极度有意识的，那么将会有内在的权利，特别是关于它自身生活和良好状态的权利。到那时候，人类将必须学会和自己的创造物共享世界。

原文：https://ieeexplore.ieee.org/abstract/document/7934235

本文来自微信公众号：神经现实（ID：neureality），作者：KOCH & TONONI，译者：幺幺Phil