首页科技快讯 AI时代的三大问题

AI时代的三大问题

来源：晰数塔互联网快讯时间：2024年09月18日 19:09

本文来自微信公众号：经济观察报观察家（ID：eeoobserver），作者：吴晨

观·察

如何从信息的流动和联结的视角去思考未来？为什么秩序与真相经常鱼和熊掌不可兼得？为什么更多的信息并不会自动指向真相/真理？AI作为会思考和能行动的信息创造者和载体，可能给人类历史带来哪些重大变革？赫拉利在《智人之上》中对AI时代提出了三大问题。

——吴晨

AI时代的三大问题文/吴晨

《智人之上：从石器时代到AI时代的信息网络简史》是尤瓦尔·赫拉利自《未来简史：从智人到智神》出版八年以来的第一本新书，正好跨越了从2016年AlphaGo击败李世石到2024年生成式人工智能大爆炸这两个AI大爆炸的时间点。如果说《未来简史》还是在AI大爆炸原点所做的畅想，那么《智人之上》可以说是经过长时间参与AI讨论与思考之后对未来的分析。

《智人之上：从石器时代到AI时代的信息网络简史》

（以色列）尤瓦尔·赫拉利/著

林俊宏/译

中信出版集团

2024年9月

第一个大问题：为什么可以透过信息来分析历史、权力和未来？

赫拉利提出信息的流动和联结是我们理解人类历史的抓手。要理解这一点，首先我们需要知道什么是信息？什么是信息技术？为什么信息和信息技术对我们人类的组织至关重要？

信息一开始是口口相传的知识，是我们对这个世界的认知和我们自己的感受（也就是客观存在和主观认知），也可以说是我们对外部世界和外部世界的运行规则不断构建的认知模型，一个外部世界的虚拟分身（衍生到当下就是数字分身的概念）。在此技术之上我们又开始构建一系列新的认知，从传说到故事、从宗教到信仰、从法律到制度，都是我们人类塑造的一系列人群间构建的认知，其主要作用是通过达成共识来维持人类的秩序，让人类可以更大规模地被组织起来。从认知和秩序这两个视角——而认知在科学思想出现之后又逐渐演化成了我们对真理和真相的追求——分析信息对人类而言具有重大意义。

那什么是信息技术呢？可以说是信息的载体和传播方式。语言和文字是最早的信息载体，也是人类之所以成为地球主宰的最重要的发明。文字所形成的文档和书则是信息技术的又一进步。文档第一次创造了独立于口口相传的现实世界的模拟，甚至在人类历史的演进过程中扮演了越来越重要的角色：从最基本的交易记录，到维护商业的契约，再到法律的条文和判例……字据和凭证是真实的验证，在很多情况下更是超越真实的唯一证据。

书与文档最大的区别不只是书的篇幅更长，更重要在于书是复制成许多份的文档，书最早的立意就是为了更好地传播，而且因为每一份都是副本，确保传播的讯息一致而不被篡改（当然，在印刷术被发明并广为流传之前，书依赖手抄，纰漏与错误在所难免）。从这一视角出发，从犹太教、基督教经典形成历史来理解书的价值，早期西方的书籍可以等同于经典。

作为经典的书代表了不容置疑的真相。在信息匮乏的时代，在大多数人都愚昧无知，大多数人都不识字的时代，经典就代表了一种权威。经典有利于塑造一种大多数人都服从的秩序，也因为经典的一致性，它可以取代特定个体成为维持秩序的权威。但经典的问题是无法与时俱进，不可能穿越时代去解决未来发生的问题，无法自我修正，所以才会出现经典的解释者。以犹太教为例，后续出现了解释经书的密释纳和塔木德，也形成了犹太人质疑与辩论的传统。

活字印刷术在西方的出现带来了革命性的成果，普及了知识传播，也让知识变得更加便宜。赫拉利并不认为活字印刷术本身推动了文艺复兴和科学的发展，技术能帮助传播科学和真理，但更容易助长谣言和煽动性文字的传播。这一特点从报纸杂志时代到计算机、互联网和AI时代依然如此，因为“坏事传千里”。

从信息和信息技术的发展不难引出第二个大问题：信息技术与权力秩序之间的关系？

赫拉利在《智人之上》开篇就特别批驳了科技万能主义者“天真的信息观”，这一观点认为只要有更多信息人们就能更好地发现真相，接近真理。他推崇复杂的信息观，认为信息不仅会带领我们走近真理，也可能帮助人类塑造秩序，而秩序和真理在很多时候是鱼和熊掌不可兼得，历史上牺牲真相来维持秩序的例子比比皆是。

在探讨真相和秩序在人类历史上的取舍关系之前，我们还需要理解信息与信息技术的演进。从历史发展来看，人类社会的信息越来越多，尤其是计算机和互联网发明之后，呈现出爆炸式的增长。信息技术也是如此，从印刷术到电报、收音机、电话、电视、计算机和互联网，人类信息交流也呈现出一种爆炸态势。

同样，站在历史分析的视角，赫拉利似乎推导出一个结论，即信息的匮乏与信息技术落后所带来的信息传播效率低下导致大多数人类组织都是独裁而不是民主的，无论是王国还是帝国。在电报和火车在中国出现之前，最快的信息传递技术是八百里加急的驿传系统。

他提出，在信息技术高度发达之前，分布式的民主信息网络似乎就是无法与大规模的社会兼容的。论据不少，比如在现代之前只有希腊城邦才真正践行过民主。因为民主的实践需要参与和对话，让更多人对利益相关的事项参与讨论，而且要保证这种讨论是高质量的而不是鸡同鸭讲的。这需要至少满足两点：一是每个参与者都要处于彼此的听力范围之内，可以相互听见；二是每个人都必须对自己谈论的内容有基本的了解，需要教育和媒体，让大家都能对自己从未亲身经历的议题有一定理解。换句话说，在一个大多数人还是文盲，没有现代媒体，信息传递不便的时代，只有小国寡民的城邦才可能真正践行民主。

而在信息匮乏和信息技术落后的时代更容易塑造专制的秩序。专制会基于某种故事或者传说，比如君权神授，比如天子的天命等等，也会形成一套话语体系、意识形态来维持秩序，而秩序说白了就是稳定，各安其位、按部就班，在一个巨大规模上不出现混乱。

当然，这种对秩序的追求很可能出现扼杀真相以维持秩序的情况，古今中外这样的例子数不胜数。总体而言会出现三大问题：一是从狐假虎威到指鹿为马。赵高与秦二世之间指鹿为马的故事众人皆知。从信息的视角来分析，当赵高垄断了秦二世的信息渠道，当整个秦帝国的信息都汇总到赵高手中时，他就成了拥有真正权力的幕后独裁者。罗马皇帝提比略成了禁卫军队长塞扬努斯的傀儡也是类似的例子。二是必须应对僵化、难以变通的风险。切尔诺贝利核事故是最近的例子。赫拉利2019年参观核电站时，乌克兰的解说员总结说：“美国人从小相信的是问题会带来答案，苏联人从小相信的是问题会带来麻烦。”三是这种秩序还可能培养出奴性、虚伪、对他人的不信任和悲观。

这种真相与秩序的冲突，我们也可以从短期与长期的角度来分析。

从短期而言，在信息匮乏和信息技术落后的时代，独裁是一个更加高效的治理体系。因为掌握权力的人会是那些知道如何创造意识形态来维持秩序的人。他们通过虚构故事来化繁就简，避实就虚。虚构的故事要多简单就可以多简单，而现实要复杂得多。真相常常令人痛苦不堪，虚构的故事可塑性更强。早期的意识形态，无论是宗教还是神话，都有类似的特征。

但从长期来看，这样的治理体系就会出问题，无论是权力容易被篡夺——中国历史上一而再再而三出现的外戚与宦官的问题——还是上面提到的奴性和犬儒。

短期有效而长期失衡的主要原因是系统缺乏自我修正或者纠错的能力。一个牺牲真相而维持秩序的系统最大的挑战恰恰是缺乏自我修正能力。

真相与秩序的冲突也体现在科学的发展上。赫拉利认为，科学革命的真正引擎是自我修正机制。科学鼓励的是怀疑自己，而阴谋论者常常对众人既有的共识表示怀疑。自我修正机制的好处是追求真理、与时俱进，坏处是打破秩序。而科学机构之所以能够如此，是因为把维护社会秩序的艰巨任务留给了其他机构和制度。换句话说，如果没有其他现代制度，比如说法治，科学也很难独善其身。

对科学的讨论进一步延伸就变成了如何创新与突破的问题。真正的创新与突破可能一开始是异端邪说，并不为多少人所认同，也可能是一连串的失败。我们也不难发现，秩序和创新也是一对悖论：秩序强调的是稳定、是服从，很难构成创新和突破的土壤；而创新会带来混乱，也需要一定程度的混乱与打破常规，通常会挑战秩序，威胁稳定。

回到赫拉利论证的出发点，如果说专制是因为信息匮乏和信息技术落后，那么随着信息的爆炸和信息技术的进步，我们是不是就可以自动走向民主？

赫拉利的答案是不一定，因为他给民主下了一个重要的定义，那就是全民有效参与的对话。换句话说，问题就变成了信息爆炸和信息技术的进步是否能够推动全民有效参与对话？分拆下来就是信息爆炸是否自动能带来一系列改变，比如教育的提升，全民认知的提升，媒体的繁荣，媒体是否能成为普通人没有亲身经历但却利益攸关问题的严肃开放的讨论场域？抑或，信息爆炸带来的是更多的噪音和虚假甚至有害信息的泛滥？信息技术的进步强化的是小群体、小圈子的认同，是信息茧房，是认知的极化？

以美国为例，他悲观地认为，无论现在真正影响美国的对话在哪里进行，都绝对不是在国会，而美国民主最大的挑战则是“人民已经失去了倾听彼此的意愿或能力”。

这就引发了第三个连接历史和未来的大问题：AI将带来哪些重大变革？

要回答这个问题，就需要把AI置身于信息与信息技术发展的历史语境中去思考。

首次，以赫拉利对历史的认知，他认为新信息技术的发明总能促成重大的历史变革，因为信息最重要的作用是编织新的网络，而不是呈现既有现实。此外，历史上的信息网络往往重视秩序而轻真理。所以，他的潜台词是AI同样会带来重大的变革，但作为最新的信息技术它可能也面临重秩序而轻真理的挑战。

其次，基于赫拉利对信息多维度的思考，之前我们会问：信息多大程度反映了现实？是真的还是假的？现在我们更需要问：信息多大程度上联结了人群？创造出什么新的网络？更具体地说，AI联结了谁，创造出了什么新的网络？

第三，AI与此前的信息与信息技术有着本质的区别。此前的信息技术只是成员之间的连接，而在未来的信息网络中，AI将是一个完整的成员。换句话说，这一轮生成式人工智能已经可以产出逼真的内容，未来AI的大跃进会让它进一步成为人类社会对话的参与者。而这种参与是祸，还是福？

结合以上三点思考，赫拉利眼中AI的未来是灰色的，这种灰色体现在层层递进的三个方面：

首先，如果就文字、声音和视频而言，我们已经很难区分AI与人。AI可能写出极具说服力的政治宣言，深度伪造图像与影片，赢得我们的信任与友谊，那怎么办？如果我们再和一个假装成为人的智能体对话，我们会双输（输两次），与机器辩论无法说服它，却让它更了解我们。现在并没有特别好的机制去约束AI制造谎言和谣言，而眼球经济驱动的平台算法一再展示出它的各种问题——比如为了增加社交平台的粘性和使用时间，算法会更倾向于撕裂和极端的内容，而不是理性的思考。未来如果商业利益主导AI的进步，这种问题会愈演愈烈。

第二，算法面临一致性问题。只要人类给出一个特定目标，计算机就可能竭尽全力，所使用的方法可能出乎意料。当AI的智能爆炸式增长，一致性问题带来的潜在危害也会呈现几何级的增长。如果我们假设AI在可预见的未来还无法形成意识，超乎人类的智能可以让AI更高效地实现人类的目标，却无法真正理解人类的意图。前文所谈及的短期与长期、秩序与真相的矛盾，如果无法为高智能的AI所理解，就可能进一步被极化，即极度关注短期而忽略长期，或者为了维持秩序完全罔顾真相。

第三，人工智能不仅快，而且永不停歇。这看起来是优势，其实也隐含着巨大的风险。因为人需要有张有弛，会跟不上机器的节奏，因为机器也会犯错误。怎么能让永不停歇的网络走慢点，也让它有机会修正自己不断累积的错误？

基于这三个方面，我们再回到AI到底会带来哪些历史变革的大命题——它会帮助创建一个什么样的新秩序？

赫拉利的担忧是“硅幕”（类比冷战期间的铁幕）。赫拉利认为AI很可能创造的是更为集中的秩序，让信息和权力更容易集中于单一枢纽，推动人类进入新的帝国时代。更值得担忧的是，它可能让世界变成平行的数字世界，使之分属于敌对的数字帝国。“硅幕”划分的世界新秩序有三个特点：第一，代码决定你生活在硅幕的哪一侧、被哪些算法控制生活、被谁控制注意力以及你的数据流向何方。第二，硅幕两侧，不仅技术上越来越不同，在文化价值观、社会规范与政治结构方面差异也越来越大。第三，硅幕两侧大多数国家并不会另外自行研发本地用AI的技术，而是直接采用硅幕两侧主导大国的技术。

最后，让我们一起回到第一个大问题“如何从历史看未来？”

赫拉利本人是历史学家加哲学家，主要修读中世纪的历史，成名之后他有各种机会去了解AI的变化，也不断思考AI到底会给人类社会带来什么样的改变。在《智人之上》中，他提出用信息产生什么样的人群，联结这一视角来理解人类的历史，以此推演出人类历史是一段真相和秩序平衡的历史，很有创见。

但他以信息为抓手去分析历史发展和前瞻未来，至少在两方面需要更为深入的探讨。

第一，信息作为构建现实世界的模型，在AI时代会出现哪些突破？历史上叙事、故事、神话的确重要，但当我们可以拥有海量的数据，涵盖实时发生和历史上积累的数据，这样的数据到底能怎么构建一个逼真世界的模拟，乃至于模型？在数字孪生不断进化的世界中，AI是最为重要的推动力量。显然需要跳脱民主与专制的单一维度去思考AI会带来哪些全新的可能性。

第二，虽然他提出了信息建构了人群之间的构建的认知，却没有花笔墨去深入分析这些构建，比如说法治，比如说建立信任，比如说商业网络。信息之于市场所需要的一系列规则和制度的发展同样作用非凡。

成为一名历史未来学家并不容易。铁幕和“硅幕”的类比是《智人之上》最贴近以史为鉴的地方了，它推动我们去思考如何避免“硅幕”的出现，因为不会有多少人愿意重复铁幕的历史。

但我们不能忽略市场的发展，尤其不可忽略晚近出现的富可敌国企业的发展。1990年铁幕落下之后，全球最重要的发展，除了信息技术的突飞猛进之外，恰恰是富可敌国的平台型企业的快速壮大，以及挑战这些企业的颠覆力量的层出不穷。AI时代，这些企业在技术应用和塑造未来商业领域会发挥大得多的作用，他们的选择至少会影响到“硅幕”的宽窄与高矮。相应的，AI的进步也会不断孕育摧毁硅幕的力量。