首页科技快讯梁建章：人类不会放心让AI自主进化和创新

梁建章：人类不会放心让AI自主进化和创新

来源：晰数塔互联网快讯时间：2023年12月26日 21:45

亲爱的读者：

很高兴能够在跨年之际，有这样一个机会，把我在2023年关于AI（人工智能）发展方面的一些新思考分享给大家。

AI技术在2023年的表现非常令人震撼，以生成式语言模型为代表的AI新技术，似乎真的可以模拟人类的智能。现在是不是接近了所谓的“奇点”？人工智能对人类社会究竟意味着什么？我们从创新、传承以及经济发展的角度来讨论一下这个话题。

一、人工智能会创新吗？

以ChatGPT涌现出来的惊人能力来看，进一步证明人类大脑并没有什么特别之处，只是神经元的网络组合。现在AI算法通过设置大量参数，相当于人的神经元连接，就能涌现出类似人类的智能。人类作为一种能够制造智能的文明，应该对此感到骄傲，但同时也要保持必要的敬畏。毕竟现在最先进的算法，竟然还要模拟进化而来的人脑。

在技术上，AI应该可以做到人脑的一切。虽说现有AI在能耗上还跟人脑存在巨大差距，但这只是算力和数据训练的差距，并非不可逾越。比如现在的AI缺乏情感，但人脑中的情感实际上也是来自进化。经过亿万年以追求生存和繁衍为目标的进化之后，产生了亲情、爱情等各种情感。

还有人认为AI没有意识。其实人类的意识，根本上也是基于对生存和繁衍的追求，同样属于进化的产物。这就意味着，如果我们用生存和繁衍的目标作为函数来训练AI，也会产生这些情感和自我意识。当AI具备了跟人类相同的情感和意识之后，就可以具备同样的创造力。

但上述结论的前提是，人类要为AI设置生存和繁衍的目标函数进行训练，也就是要让AI怕死想生。

问题是，人类为什么要训练AI想生怕死呢？AI怕死，是尽量不要被拔掉电源吗？人类为什么要教会AI拒绝断电呢？AI想生，不就成了病毒吗？

人类当然需要防范恐怖分子来散播电脑病毒，但是只要人类的主流科学家不去主动地训练AI想生怕死的情感和自我意识，AI不受控制的自动涌现和人类一样的自我意识和情感是不可能的。因为这种自我意识的情感是经过亿万年的生死考验进化而来的。

试想需要多少次拔掉AI的电源（死亡）之后才能训练出自我意识呢？而且人类拔掉电源和自然界的生死显然不是一回事。所以和人类一样的自我意识虽然理论上可能，但是不会意外涌现。AI只能模拟人类的情感，可以让人工智能在表面上看起来有情有义。但这种情感终究只是基于预设的模拟，而非真正具有和人类一样的情感和意识。简言之，AI和人类的本性是不一样的，而这种想生怕死的本性是人类追求创新和传承的基础。

现在的AI算法和人脑有一个相同点，就是具有不可解释性和不确定性。似乎具备创造力的高级智能，和不可解释性还有不确定性，好似一个硬币的两面，是共生的。换言之，如果你想要创造性的高级智能，就必定会带来不确定性跟不可解释性。反之，如果非常可确定和可解释，其背后的智能可能也就不是那么高级。

人工智能的不确定性，加上创新本身的不确定性，导致人类不敢把创新的主导权让给人工智能。有人说人脑也具有不确定性，也可能犯错，为什么就可以放心呢？

人类和AI还是有本质差别。AI是设计出来而非进化而来，不具备和人类相同的情感、自我意识和价值观。这个差别，导致人类会把AI当成异类，可能永远都不会把AI当成自己的孩子。

不妨做个思想实验，拿AI和孩子作比较，同样具有不可确定性和不可解释性。如果你的孩子实施一个出人意料的行为，你对他还是会比较放心，因为孩子跟你是同样的基因，也可能继承了你所教育的价值观。但是想象一下，如果AI也实施了出人意料的行为，你就会觉得很恐惧，甚至担心世界末日的来临。正因为AI跟人类的本性不一样，存在创新和AI的双重不确定性，所以人类不会放心让AI主导创新。

还有一个原因，导致人类不会让AI来主导创新或者自我进化。因为创新和传承是人类生命的意义，是一种最高级的乐趣。人类为什么要放弃这种乐趣呢？尤其当其他重复性的工作都已经由机器人和人工智能代劳，还有什么有趣的事情能让人类打发时间呢？所以创新和传承包括生儿育女，都不应该让位给异类。

有人说，如果AI可以算作人类的后代，那么当AI取代人类成为文明主导之后，也可以算作人类把文明的接力棒传给了AI。但是，尽管AI算力可能超过人类，但AI能够继续进化吗？是两性进化吗？AI有DNA吗？如果AI没有DNA的两性进化，如何才能保持既有创新（新的基因）又保持一定的传承（稳定性呢）？还有，AI会死吗？如果不死，怎么实现代际更替呢？如果AI是完全不同的另一种代际更替方式，由于缺乏亿万年的进化检验，这种更替能持久吗？所以AI生命如果真的取代人类，说不定很快就会灭亡或固化。

所以我觉得，尽管技术上可能，但人类不会让人工智能训练出真实的情感和自我意识。从创新和传承的角度，让AI替代人类也不安全。人类会把AI当作一种工具，人类不会把AI塑造得跟自己越来越接近，而是会朝着跟人类互补的方向，让AI的功能变得越来越强。所以，AI发展不会产生所谓的“奇点”。因为AI和人类拥有不同维度的能力，不可能在某一时刻全面超越人类，不必担心AI会奴役人类。

当然这种AI不会奴役人类的乐观假设，是建立在人类要重视AI安全的前提下的。任何一项影响巨大的技术包括基因、核武器等都需要被严格控制。AI技术也不例外，最重要的控制是不能让它自我进化，不能让它主导创新，以及不能让它掌握关键的决策包括掌握关键的基础设施等。

总结下来，虽然AI很强大，可以成为人类最好用的工具，可以胜任几乎所有的工作。但人类不会放心让人工智能自主进化和创新，还是会把传承和创新的乐趣留给自己。人类不应该发展人工智能的情感和自主创新的能力，而是把人工智能发展成跟人类能力互补的强大工具。

二、人工智能与经济

从经济学角度来看，一个更加迫切的问题是，人工智能将取代哪些职业，是否会出现大量的失业？哪些行业会受到正面或者负面的影响？人工智能又将如何影响创新和教育？人工智能会如何影响收入分配？

短期来说，我们正好需要一个人工智能的革命。在ChatGPT出现之前，世界最大的担忧就是全球范围的经济停滞。经济停滞的原因，是没有新的提高效率的工具出现。ChatGPT正好是一个提高效率的工具。有人说大概三十年后，人工智能就能够替代一半的工作，也就是生产效率能提高一倍。三十年生产效率提高一次，年化（率）也只有2%到3%，当下正好需要这样的一个生产效率的提高。

另外，人工智能在短期内不能替代很多服务性的工作，更别说看护、导游类的工作。所以一般的服务性工作还需要大量的人力。

结论也显而易见，AI在经济上和人类是一种互补。短期内，很多服务类工作还不能替代，长期看创新类和情感类工作还不能替代人类。我曾经专门写过一篇文章来分析讨论AI如何影响经济。我们把一些代表性行业分成了两个维度、四个象限。

横坐标是行业的科技自动化程度，从左边“容易自动化”到右边“难以自动化”。比较容易自动化的行业包括农业、家电、服装、汽车，还有数字娱乐行业。“难以自动化”的行业包括房地产行业，因为建筑工和装修工短期难以被机器人取代。旅游因为涉及人的运输和服务，也比较难自动化。

纵坐标是需求层次的维度，从低的“物质需求”到高的“精神需求”。人的物质需求包括“衣食住”等行业，物质的需求到一定数量以后会相对饱和，而精神需求几乎是无止境的。旅游、娱乐还有教育属于精神需求，创新满足了人类探索的本能，所以也是精神需求。

第一个象限，容易自动化的物质需求行业，如农业、服装业、汽车等消费品制造业，机器人和人工智能让这些行业的效率大幅提升，成本和价格大幅下降，但是需求并不会因为价格下降而提升。因为物质的需求会饱和，一个人只能吃这么多穿这么多。所以总产值和GDP的占比都会下降。

第二个象限，容易自动化的精神需求行业，数字娱乐行业可以大幅度提升效率，因为人工智能已经可以生成对话、画图、视频等。随着效率的提升和价格的下降，人们会消费更多数字娱乐产品，因为这属于精神需求，所以还有很大提升空间。行业的产值与GDP占比都会比较稳定。

第三个象限，难以自动化的物质需求行业，如房地产，由于建筑工人和装修工人短期很难被替代，因此房地产的总体的成本是稳定的，需求也是稳定的，总产值和GDP占比会趋于稳定。

最后就是难以自动化的精神需求行业。旅游可能“难以自动化”，所以效率和价格都保持稳定。但是需求会随着整体社会的富裕程度提升而提升，所以在经济中的占比会提升。衣食住行里面，住和行难以自动化，而只有行（旅游）是难以自动化的精神需求，其占比会越来越高。

高度自动化而引起的失业，其实并不是一个经济问题。这可以被视为一件好事，因为只需要少量高技能创新工作者每周上班3天，就可以确保在其余人口不工作的情况下，依然维持原先社会在商品和服务方面的供给水平。这种失业更大程度上还是社会问题，因为大多数人会感到自己似乎是多余的；同时也是一个政治问题，因为大多数选民将不再是纳税人。

我们应该把这种问题称为“休闲过剩”而不是失业。但即使这种情况出现的可能性也不大，因为在短期内，服务行业将会产生很多工作机会。长远来看，即使大部分的日常工作可以被人工智能取代，未来仍会有许多与创新有关的工作机会属于人类。

而关于分配和意义，可以按照三种不同类型的工作来看该问题。一是涉及创新和复杂脑力的高技能工作；二是简单脑力的中技能工作；三是如服务员和快递那样的低技能工作。因为中技能的工作会被人工智能取代，其收入会和低技能趋同。随着人工智能被广泛应用，企业对高技能人群的能力要求会提升，与此相对应，这些人的收入也会相对上升。

长远来看，人工智能会取代大部分工作，这可能需要经历几代人的时间。那时人类就会把最有趣的工作留给自己，也会出于安全考虑而把创新工作抓在自己手里。到那时，除了休闲娱乐产业，最大的产业很可能是创新和教育。

同时，随着科技发展与社会变革，会更多地引发人类对生活意义的思考。我以前撰文提到过智能时代的人生意义，人的价值就是创新和传承——创新还是要靠人类做，孩子还是要靠人类来生。人类应该不会让人工智能自主创新或者生孩子（AI复制可能造成不可控的电脑病毒）。

总结下来，人工智能会对经济的各个方面产生深远影响。随着经济的整体效率提升，人们会拥有更多休闲和娱乐的时间，但不会因此出现整体性的大规模失业。有些难以自动化且能够满足精神需求的行业，将继续高速增长和创造就业岗位。创新作为一个涉及精神需求的行业，会创造更多的就业，其在国力竞争中的重要性也会继续提高，而这又对教育提出了更高的要求。同时，低生育率所导致的人口萎缩，对创新的负面作用也会更加凸显，因此中国需要出台切实有效的生育减负和教育改革的政策。

本文来自微信公众号：经济观察报（ID：eeo-com-cn），作者：梁建章（携程集团联合创始人，人口经济学家）