首页科技快讯抵抗还原宣言：人工智能不是终极答案

抵抗还原宣言：人工智能不是终极答案

来源：晰数塔互联网快讯时间：2019年07月08日 10:54

本文选自《设科志》（Journal of Design and Science），作者：伊藤穰一，中文版首发于微信公众号：神经现实（ID：neureality），翻译：嘉嘉，编辑：夏明明，封面：《攻壳机动队》

我们需要的是一种人机交融的系统，用音乐而不是算法来干预它。

大自然的生态系统为我们了解复杂适应系统（ complex adaptive system）提供了完美案例。这个系统中恒河沙数的“货币”交互作用，并对反馈系统“在这样的反馈系统中，繁盛（flourishing）和调控成为可能”作出响应。

复杂适应性系统不像我们目前的经济系统那样指数式地增长，也不符合“技术奇点”（the Singularity）理论的应许——技术进步可以解决目前人类社会的所有问题。我们应当让这样的合作模型，而非指数式增长模型，为我们发展人工智能提供范式。

六十多年以前，麻省理工学院的数学家、哲学家诺伯特·维纳（Norbert Wiener）警告我们：“如果我们像使用齿轮、杠杆和承轴那样，将人类死板地安排进那些使用他们的机构里，如果我们不把他们当成有负有责任的人类并尊重他们的权利，我们很容易就会忽略他们是有血有肉的人的事实。” 我们应该听从维纳的警告。

“货币”导致的癌症

太阳照射在地球上的时候，光合作用会将水、二氧化碳和太阳能转化成为氧气和葡萄糖。在许多将物质和能量由一种形式转化到另一种形式的生物、化学过程中，光合作用是其中之一。光合作用之后，这些分子会参与别的新陈代谢的生物化学过程，变成其他分子。

科学家们时常称这样的分子为“货币”，因为这样的“货币”使细胞间或多种生化过程间的互利“交易”得以实现。这类自然“货币”与金融意义上的货币之间的最大区别在于，对前者而言不存在“主货币”（master currency）或是“货币兑换”。与金融货币相对，每一种自然“货币”只能由特定的过程使用，这类货币通行的“市场”驱动着名为“生命”的动态。

当某些生物或生化过程产出的自然“货币”过于充裕时，其他的有机体便会演化出一种独特的机制，将这一“货币”转化为另一种“货币”。在数十亿年间，地球的生态系统以这样的方式演化，衍生出条条代谢通路错综交织的庞大系统，并形成了复杂的自调控系统（比如稳定我们身体系统抑或地球系统的温度）。

尽管从微观到宏观的个体元素一直在波动和变化，系统本身却能保持相对稳定。一个过程的输出变成了另一个过程的输入。最终，万事万物都相互关联，相互依存。

—人类最主要的基本代谢途径

在我们的文明里，主要的“货币”是金钱和权力。在绝大多数情况下，我们的目标是同时积累这两种“货币”，不惜以牺牲社会整体利益为代价。和地球的生态系统比起来，我们的系统过分简单和脆弱。地球的生态系统有无数的“货币”，在不同的过程之间相互转换，从而构建出种种极为复杂的系统：其输入与输出经一系列反馈系统适应并调控着系统内的存量（stocks）、流量（flows）和关联（connections）。

不幸的是，我们现有的人类社会并不具有我们所处生态环境那样的韧性。

我们现有的范式给我们设定了目标并推动着社会的演变，然而它正将我们引向一个危险的方向——一个数学家诺伯特·维纳早在几十年前就警告过我们的方向。由于许多公司和机构只重视一种“核心货币”（金钱），它们失去了原初的目标和价值。营利性公司获得了自主性、正当性、权力和几乎不受控制的社会影响力，而我们的价值观和对复杂性的解读愈加集中在创造爆炸式的经济效益增长上。

这些公司增长的方式如同癌症：健康的细胞会调节其生长并响应周遭环境，而当它们误入自己所不属于的器官，它们甚至会自我清除。癌细胞则反其道而行，它们将无限制的生长和扩散置于首位，丝毫不顾自身的功能和所处环境。

驱策我们的皮鞭

这一想法像皮鞭般驱策着我们：我们存在的目的是进步，而进步需要不受控制的指数增长。在这样的思考范式下，现代公司在自由市场的资本主义体系中自然地产生了。诺伯特·维纳将这样的公司称为“血肉机器”，并将机械自动化称为“金属机器”。

近来硅谷建立了并运营着新一类超级公司（mega companies）：比特机器（machines of bits），其背后站着一群笃信“科技奇点”教的人。这一新兴宗教的产生并不意味着我们的范式发生了根本变革，恰恰相反，这不过是指数增长崇拜与现代计算和科学结合后的自然演进。计算力指数式增长最终收敛于人工智能。

图：RICHA BHATIA 'Do we have a shot at singularity in 2018?

提出“奇点”思维的是这样一群研究者：他们成功通过计算解决了那些一度被认为过于复杂而无法用机器解决的问题。于是他们坚信指数式增长的人工智能迟早会超越人类智力；人类一切既往的成就和目前的努力，与这样的智力相比都微不足道。

他们找到了帮助人类进行数字计算的完美拍档：一个看似可知、可控的思考与创造系统，它控制与处理复杂性的能力快速增长，给那些掌控它的人带来大量的财富和权力。在硅谷，这一技术狂热团体的从众思维（groupthink）及金融成功缔造了一个极端的正反馈系统，几乎不给负反馈调节留有余地（越是相信这样的奇点思维，越能积累物质财富并且创造出这样的文化氛围）。

这些人矢口否认他们对奇点思维的狂热信仰近乎宗教，并辩称他们的想法其实基于科学和证据。然而这些相信科技奇点的人其实空口无凭，他们在缺乏坚实证据情况下盲目推测事物的发展轨迹，臆想出了一幅未来图景。

奇点主义者相信世界是“可知的”，是可以通过计算模拟的，而且计算机有朝一日会有能力处理现实世界的杂乱无章——毕竟有那么多过去人们公认计算机无能为力的问题，最终都被解决了。他们相信，因为计算机在过去所向披靡，所以这个奇妙的工具必然在未来继续不负期望，直到我们超越已知的界限，甚至最终加速到冲破现实的“逃逸速度”。

人工智能正逐渐在驾驶汽车、诊断癌症、研究法庭文件等方面取代人类。于是他们相信人工智能会继续进步，最终和人脑结合成为一种全知全能的超级智能。对于那些虔诚的信徒来说，计算机可以增强人类的思维并将它延展到一种“超限生命”（amortality）的状态。（奇点理论的一部分是为“超限生命”斗争：虽然将来我们还是会死亡，还是无法永生，但我们不会再死于无情的衰老。）

但是，奇点这个想法——特别是那种像救世主或审判日一般，允许我们超越混乱痛苦的日常生活羽化登仙的“奇点”——本质上就有缺陷。

但是，如果超级公司的出现是我们超限的先驱，那么只有无可救药的傻瓜才会相信，更多的计算和生物黑客可以帮助我们解决世界上的所有问题，或者相信奇点最终可以破解人类。我们正梦想着有一天可以提升大脑性能，超越死亡，看得更高更远，但我们现在需要明白的是，巨型公司已经拥有了某种“超限生命”：只要收支平衡，它们就可以持续存在；并且它们作为整体远远超过了其部分之和——它们甚至可以被称为拥有超限生命的超级智能。

倘若真的寄希望于奇点带来美好结果，必须要存有这样的信念：系统在力量足够的情况下总能以某种方式掌握如何自我调控。即使其最终结果可能极为复杂，远非当前的人类所能理解，但“它”应当能够理解并“解答”自我。有些人认为，这样的智能会采取类似于前苏联计划经济式的总体规划/调配，但不同之处在于它将拥有全部信息和无限力量。

还有些人的构想稍成熟些，认为这样的智能会是一个分布式系统（distributed system）。但所有的奇点主义者都或多或少相信，当我们有了足够的力量和控制的时候，世界是可以被驯服的。并非所有相信奇点的人都将其当作积极超越（positive transcendence）来膜拜，认为它能够带来永生和富足，但是他们都相信当所有曲线引向竖直之际，我们就迎来了审判日。

然而，不论你是在一条S形曲线还是钟形曲线上，一开始的斜率都看上去和指数曲线非常相似。在系统动力学研究者眼中，指数曲线意味着自我强化的过程，也就是说这是一条代表着无限加速增长的正反馈曲线。或许这就是让奇点主义者兴奋不已，也让系统论者恐惧不堪的原因。

绝大多数对奇点没有狂热崇拜的人都相信S形曲线，他们更喜欢自然适应和自我调控，比如当瘟疫扫过，增长会放缓，秩序会调整。当然，事物也许会和过去有所不同，相变可能会发生，但是，奇点这个想法——特别是那种像救世主或审判日一般，允许我们超越混乱痛苦的日常生活羽化登仙的“奇点”——本质上就有缺陷。

这样的还原主义的思维并不新鲜。在行为心理学家斯金纳（B.F. Skinner）发现并描述了强化反射原则后，人们依照他的理论设计了教育系统。如今研究学习的科学家们都知道，这种行为主义的方法在教学领域中的适用范围非常狭窄，可是仍然有大量的学校依靠死记硬背和题海战术教学。

还有个例子是优生学运动，它把遗传学在社会中起到的作用过度简化并扭曲了。优生学运动提供了一种还原主义的科学观，让人们以为可以人为推动自然选择来“修复人类”（fix humanity），甚至助燃了纳粹的种族屠戮计划。优生学的恐怖影响至今阴魂不散，以至于几乎任何关联遗传与智力之类的事物的研究都成了禁忌。

在斯金纳箱中的实验小鼠图：SciencePhotoLibrary

我们应该从历史中吸取教训，不要再把过度还原主义的科学运用于社会，而应如维纳所言，“停止亲吻抽打我们的皮鞭”。优雅地解释复杂事物，并将困惑还原为理解——这的确大大驱动了科学的发展，但我们同时也不能忘记爱因斯坦的名言，“万事万物都应该被尽可能地简化，但是不能再简化了”。

我们需要拥抱现实世界的不可知性，或言不可还原性，学着像艺术家、生物学家和那些深谙世界之纷乱的人文工作者一样思考。

我们都是参与者

维纳在冷战时期写下了《人有人的用处》。冷战期间资本主义和消费主义快速膨胀，太空军备竞赛方兴未艾，计算科技尚未成熟。那个时代的人们更容易相信一个复杂系统可以被外部环境所控制，而世界上的问题可以通过纯粹科学和工程的方法来解决。

那时维纳重点描述的控制论中的系统，是那些可以从客观视角控制并调控的反馈系统。该理论又被称为“一阶控制论”（first-order cybernetics），它假设作为观察者的科学家能够理解系统中正发生什么，因此工程师也能基于科学家的观察和洞见来设计系统。

如今我们可以更明显地看到，我们绝大多数问题——气候变化、贫困、肥胖、慢性疾病、现代恐怖主义等等——并不能简单地通过积累资源和强化控制来解决。其肇因在于上述问题其实是一系列复杂适应系统的结果，而这些系统恰恰是我们过去解决问题的工具所造成的，比如我们一直以来无止境地增加生产力并企图控制种种事物，反倒促发了我们现在所面对的问题。

在这个关头，我们引入了二阶控制论，也就是关于自适应（self-adaptive）复杂系统的控制论：这类系统中，观察者也是系统本身的一部分。正如凯文·斯莱文（Kevin Slavin）在《设计即参与》（Design as Participation）中所言：“你不是被困在交通堵塞里了——你就是交通堵塞。”

一阶和二阶控制论图：Interactive Architecture Lab

为了有效应对我们这个时代的重大科学挑战，我认为我们必须将这个世界视为诸多相互交联的、复杂的自适应系统。这些不可知系统跨越不同的尺度和层级，但又与观察者和设计者密不可分。换句话说，我们是多重演化系统中的参与者，从微生物到我们的同一个体，再到社会和我们的物种，在不同尺度有着不同的适应度地形（fitness landscapes）。个体本身都是由层层嵌套的系统组成的，比如组成我们的细胞——其运作方式比我们更像系统层级的设计者。

虽然维纳在他的作品里讨论了生物演化和语言演化，他并没有详谈借助演化动力（evolutionary dynamics）推动科学发展。各个物种的生物演化（基因演化）由繁殖和生存驱动着，它们将生育和生长的目标及渴望灌输在我们体内。这样一个系统会不断演化以调控生长，增加多样性和复杂性，并提升其自身的适应性、稳定性和可持续性。

作为逐渐意识到更为广义的系统存在的设计者，我们所具有的目标和方法论是在我们的生物及社会背景下由演化和环境输入界定好的。然而，具有涌现智能（emergent intelligence）的机器有着与我们明显不同的目标和方法论。当我们把这些机器引入我们的系统，它们不仅会增强个体人类，更重要的是它们会整体地增强复杂系统。

这样的系统里，我们追求的是提高系统的繁盛程度：保证系统充满健康和活力，而不是一味地扩张系统的规模或是权力。

现在我们已经可以明显地看到，人工智能的构想是有问题的：它所提议的那些形式、目标与方法均置于与其他复杂适应系统的交互作用之外。当我们谈到机器智能的时候，与其将它视为与人类相对立的智能，我们应该将其构想为一种人机交融的系统。我们需要的不是人工智能（artificial intelligence），而是延展智能（extended intelligence）。

与其企图控制、设计或是透彻了解系统，我们更应该着手设计能够参与的系统（systems that participate），这样的系统能在更为复杂的系统中成为有担当、能觉察、稳健的系统构成要件。如此，我们既是系统的设计者也是其组成部分，所以我们必须反思自己的目标和敏锐性（sensibilities），磨平自己高傲的棱角：我们需要的是谦逊，而不是掌权。

我们或可称之为“参与者式设计”（participant design）：将系统设计为参与者，并且以参与者的身份设计系统。这样的系统里，我们追求的是提高系统的繁盛程度：保证系统充满健康和活力，而不是一味地扩张系统的规模或是权力。我们可以考察系统是否能创造性地适应变化，是否能保持坚韧，是否能以有趣的方式利用资源。

比起单纯地解决问题或力求效率最大化，更好的干预方式是发展我们的敏锐性，使其能够适应特定环境与时期。可以说，这样的干预更像是音乐而不是算法。音乐之美关乎敏锐性或言“品味”，源于大量元素结合而涌现出的新秩序。器乐的谱写能够促使或导致系统以不可预测，或完全自发的方式调整或运动，然而最终的产物仍是完整和谐的。甚至早有人想过用音乐本身干预系统。苏格兰作家、政治家安德鲁·弗莱彻（Andrew Fletcher）曾在1707年说：“让我谱写国家之歌吧，我不在乎谁制定法律。”

图：Eric Nyffeler

如果你觉得用歌曲代替法律的想法太轻浮，别忘了音乐往往比法律更长寿。音乐在历史上许多暴力革命或和平变革中都起到了关键作用，音乐和它们所承载的价值被人们口口相传。关键不是音乐或符码本身，关键在于歌曲所运作的那个层次上的变革往往更为深刻。

许多思想家都曾谈到这一点，比如多内拉·米铎丝（Donella Meadows）认为，在干预复杂自适应系统时，改变系统参数甚至规则，都远不及改变系统的目标和范式来得有效。

这个世界依然坚信“大就是好”，依然不明白“过犹不及”。

当谈及我们对进步的崇拜，维纳说道：

对于那些将进步视作道德准则的人来说，目前不受控制的、准自发的进程是或许算件好事（Good Thing）。而且他们认为这一基础保证了我们的后代会生活在宛若天堂的世界。我们可以承认进步是历史事实，但我们不需要把进步奉为道德准则。但是按照许多美国人的逻辑，两者是一枚硬币的两面。

这个世界依然坚信“大就是好”，依然不明白“过犹不及”；在这种情况下我们与其说“可持续性”是个尚待“解答”的问题，不如反思一下我们适应度函数中的价值观念与“货币”体系，追问它们是否真的适用于我们作为参与者所置身的系统。

结论：一个繁盛的未来

在伊丽莎白·安斯科姆（Elizabeth Anscombe）1958年的一篇文章中，繁盛（flourishing）是一个极为重要的概念。

如果我们想要发展人类敏锐性和繁盛的文化，并认可“成功”的衡量方式不止一种，我们就不能局限于权力和资源的积累，而应该注重多样化和经验的丰富性。这才是我们最需要的范式转换（paradigm shift）。这样才可能产生一个丰富的资源库，让我们可以利用其中的技术和文化模式，来创造一个高度适应性的社会。多样性能让系统里的各个元素相互回馈和支持，而不是像只有单一“货币”的单元文化（monoculture）那样充满剥削和掠夺的风气。这样的新文化会像音乐、时尚、灵性等艺术形式那样散播开来。

我是土生土长的日本人，最近我曾与一群初中生交流，我问他们该如何对待我们的环境，怎样才算是快乐，以及人类在自然中扮演什么角色，他们的想法让我备受鼓舞。我同样对电气电子工程师协会这样的组织满怀希望，它们创始之初的设计哲学是通过发展人工智能来提升人类的康乐，而不是扩大经济影响力。

彼得·塞利格曼（Peter Seligmann）、克里斯托弗·弗里拉蒂（Christopher Filardi）和玛格丽特·莫拉（Margarita Mora）在国际自然保育组织的工作也充满创造力而且令人兴奋，因为他们支持原住民的繁荣发展来保护环境，而不是阻碍他们的发展。

上世纪六七十年代，嬉皮士运动试图一道带动 “全球”运动（“whole earth” movement），然而如今我们又回退到了消费主义的社会。我希望并相信一场新的觉醒运动已在襁褓之中，而新的敏锐性会通过文化变革给我们的行为带来非线性的革新。虽然我们可以且应该继续致力于系统的每一个层面，进而构建一个更为坚韧的世界，但我相信文化层面的努力最有可能在根本上矫正我们的方向，让我们远离目前这条自我摧毁的道路。

我认为仍会由年轻人的音乐和艺术反映、放大一种新的敏锐性：向贪婪的世界说再见，让我们迎接“过犹不及”的新时代；向控制自然说再见，让我们在与自然的和谐共处中繁盛。