首页科技快讯 “判断”是人的基本权利，但我们正在把它交给算法

“判断”是人的基本权利，但我们正在把它交给算法

来源：晰数塔互联网快讯时间：2020年11月17日 21:30

本文来自微信公众号：腾讯研究院（ID：cyberlawrc），作者：刘海龙，题图来自：视觉中国

引言：

1882 年初，尼采收到了一部德国制造的球形打字机。彼时的他一度因为视力下降而彻底放弃写作，但这台最初为聋哑人发明的古怪机器，从机能退化中挽救了这位大哲学家。借助球形打字机，每分钟最高可以打出 800 个字符，即便闭眼盲打也不成问题。第二年，尼采就写出了《查拉图斯特拉如是说》，其中第一部分的完工只花了 10 天功夫。

但这台打字机在带来写作便利的同时，也影响到尼采的思维和文风。与用笔写下的《悲剧的诞生》不同，《查拉图斯特拉如是说》中长篇大论的深度思辨锐减，短小精悍的箴言和论断比比皆是。一位熟悉尼采写作风格的朋友觉察出了此中变化，并去信询问：这一变化是否与打字机有关？尼采的回答毫无讳言：“你是对的，我们所用的写作工具参与了我们思想的形成过程。”

这个例子常常用以说明，媒介技术从来就都不是中性化的工具，我们使用它，它也反过来浸染了我们，小到个体思维，大到整个社会运作的逻辑。今天，当智能手机、短视频、推荐算法这些技术，充斥在我们的生活之中并几近成为知识与思想的唯一来源，那会带来哪些改变？

带着这些疑惑，在中国人民大学明德新闻楼，我们见到了刘海龙教授。作为以媒介技术为研究路径的传播学者，他密切关注技术的演进逻辑及社会影响。尤其是近年来，新的媒介形态层出不穷，从疫情状态中人脸识别、健康码的大规模应用，到短视频，再到推荐算法，他乐见于技术创造的积极变化，也担忧个体自主性的丧失。他认为，技术很重要，但最后还是要由人来作出判断，但一种趋势是，我们正在把这种判断的权利让渡出去。

过去关注符号和精神，现在关注物质的影响

腾讯研究院：提到2020年，无法绕开的一个标签就是“新冠疫情”。疫情期间您也有过一系列观察，比如最开始在微博上连载的《病毒传播学》[1]。当初为什么想要做这样的一些观察？

刘海龙：从前两年开始，大家就在讨论传播学科该如何回应技术带来的变革。传统的传播学，尤其是以美国施拉姆为代表所建构的传播学关注信息的影响，研究命题以及研究对象太过狭窄，因而把自己限制住了。在今天，信息和物质之间的这种传统的二分法其实已经在慢慢消失。所以面对新的技术挑战，我们可能更需要关注的是像大数据、人工智能，包括虚拟现实、物联网，甚至于我们的现实环境会越来越虚拟化，3D打印导致的物和信息界限消失等等这些新的技术现象。

去年我提出一个概念叫“新传播研究”——就是重新回到马歇尔·麦克卢汉[2]的传统，打通物质和信息之间的差异。过去我们在解读麦克卢汉的时候，往往是把他放在传统的信息传播背景下解读，但是在他的概念框架里，媒介并不区分传播信息的媒介和运输人、运输物质的媒介——他在《理解媒介》里谈到了几十种媒介，比如道路、货币、数字。放到今天，这个范围还可以进一步的扩展，比如电力系统、自来水、物流、快递……在某种意义上实际都是“传播”。从这个角度出发，病毒的传播其实也是一种“传播”，所以今年新冠疫情爆发之后，其实跟原来我的关注点正好契合，就借这个机会系统性地思考这些问题。

我最近看了一本新书叫《传染》，是一个研究传染病的学者写的，他从病毒的传播，反过来观察所有的社会传播，比如说新闻的传播、神话的传播、暴力的扩散，甚至是人的生理反应，比如打哈欠、笑的传染。他是从这个角度来看社会现象，而我正好跟他相反，是把信息传播的一些观察视角和原理向社会现象层面扩展，所以看到的就又是另外一幅景象。

在这个过程中会发现，我们过去所总结的关于（信息）传播的看法，应用到对病毒的分析时就完全不一样了。比如，信息的传播是一个双向的、互惠的过程，是建立在理解的基础上。而病毒的传播是建立在误解的基础上，是免疫系统错误的判断，是建立在单向的、剥削、暴力的技术上。这样的一个差异，反过来能对传统的传播研究提出一种启发，帮助我们突破原来对传播比较狭隘的理解。比如说，标题党可以实现“病毒式的传播”，这种扩散的速度和广度其实也是建立在误读的基础上的，这才导致它的传播更快也更广，这和我们以往认识中的“先理解再传播”的模式有所区别。

所以传播学者尽量去回应现实，要打破原有的对于传播的限定和狭隘理解，这就是为什么我要写那篇病毒传播的文章。现在我们讲传播的物质性，过去都是关注符号，关注精神，现在强调物质的影响。身体也是一种物质，身体是连接符号世界和物的一个中介，所以它既有物质性，又有特殊的精神。病毒其实也涉及到身体，也是一个身体的问题。

疫情是一种“例外状态”，但某些改变将成为常态

腾讯研究院：疫情期间诞生了很多新的媒介形式，它们同样值得关注，比如健康码，人脸识别的大规模应用，您怎么看待这些技术带来的一些可能性影响？

刘海龙：在正常的社会条件下，个人隐私是个人的一种权利，它涉及到人的主体性。个人隐私信息的丧失意味着人失去了对自己的控制——个人的喜好、行为甚至人格都能被他人预测。失去控制的人很难成为“人”了，就变成了被人操纵的一个事物，就像海德格尔讲的整个系统的一个“存料”，人就像一个待使用的生产资料一样。这涉及到人的主动性与能动性，所以隐私信息的保护非常重要。

但疫情是一种“例外状态”，所谓的例外状态就是在这种情况下，国家是可以介入的，就像战争一样。人的价值体系太强了，人道主义会觉得生命居于首位，等于把生命的权力提到了一个比自由权更高的一个绝对的权力，这就是福柯讲的“生物权力”。

国家的介入在疫情过程中已经看的非常明显，因为例外状态就是主权，就是只要享有主权的地方，所有的一切权利都需要让位。现在等于是将安全提到了一个绝对的高度，只要为了安全，任何事情是可以不惜代价的，但这个过程中容易带来对个人隐私的忽略。我比较担心的是，这种技术应用在疫情过去之后会成为常态。

今天的技术提供了一个很好的信息搜集方式，就是通过人脸的识别，视觉的识别系统，AI的技术，再加上大数据的处理技术，所以很快的会成为一个利器，这是一个值得深思的事情。这个技术本身是带有一定的危险性的，但是它又是以社会安全、生命安全、公共安全的名义来推广。所以一个核心就是怎么样重新去衡量安全和自由之间的关系，这同样也涉及到技术向善的问题。

视频化社会：抽象能力消解，逻辑思维让位

腾讯研究院：视频是现在内容消费市场的主力，这在某些程度上表征着社会的主导媒介在由文字向视频过渡，您认为文字社会到现在的视频社会或者说短视频社会，体现了哪些技术逻辑？

刘海龙： 一个逻辑就是从“表达”到“呈现”，也就是从再现（representation）到呈现（presentation）。因为文字实际上是一个间接的描述方式，甚至于电视也是，但今天的视频可能会更直接，它是presentation，会让你看到现场。过去爆发灾害或者是其他新闻事件，可能都是描写或者拍摄的。

现在通过无数人的手机，无数的角度让现场呈现在你眼前。一旦数量足够多的话，其实是可以实现全景式地再现。未来可能甚至还能进行到“体验”的阶段，事情就发生在你眼前，你就在现场，那会更加直接。所以我觉得技术会以这样的一个逻辑演进，从间接到特别直接，再到甚至主体能够完全可以参与其中。

第二个逻辑是从少数人可以使用媒介，到每个普通人都可以使用媒介，这体现了技术的民主化趋势。普通人的可见性在媒体的发展过程中会越来越明显。当然，到了今天，也不是每个人都可见，因为还是会出现（传播资源）垄断，少数特别善于传播的人会更容易被接受，普通人可能发个短视频也没什么人看，但是最起码能留下一个记录。

第三点就是记录的功能会更强。斯蒂格勒说“第三记忆”会把我们整个社会的东西都保留下来。过去可能通过文字、器物，被保留下来的东西是很少、很有限的，少数人即使能写下来，物质媒介的保存可能也很困难。现在每个人的生活点滴可能都会被记录下来，有没有人看是一回事，但如果有一天有人想要看是可以看到的。

当然斯蒂格勒提到的“第三记忆”其实也有问题，它是很脆弱的。问题在于，过去是分散式的保存，这种方式其实是比较持久的，至少会有人留下来，但是现在的记忆是一个集中式的保存，比如都存在一个服务器上，但这个服务器一旦删除，遭遇什么不测，或者是有人有意的要把它删掉，那真的就没了。好多的论坛倒闭了，服务器就撤了，记录就全没了，很多人连备份都没做，他的记忆就永远消失了。

第四个是人的思考从抽象到具象，从依赖语言到越来越不依赖语言。早期大家要记录下来，通过语言表达，再到广播电视。广播电视其实从某种意义上来讲还是依赖语言的，包括现在的短视频其实也还有语言，短视频上有大量的文字，如果把文字去掉，传播效果要差很多。

但未来真的到VR时代，要体会事物，就再不需要语言了。比如，过去理解一首诗会涉及到一个特别复杂的编码和解码的过程，但是一个VR作品，能直接让人感受到秋风怎么吹是什么样的。关键在于，随着文字载体的消失，抽象思维就会变得越来越不重要。因为文字是一个抽象性质的东西，涉及到编码的过程，编码的过程不存在，抽象思维能力就会下降。

与此相关的一个趋势就是“联想”式思维方式及其所带来的知识碎片化的倾向。比如像短视频它提供的是一种视觉上的超链接式、浅层的思考。这些知识碎片并不能提高人的分析能力，与之相比，哲学作品的论述是一步一步深入的。所以我们去读那些很严密的哲学著作，会发现它就像在砌砖，每一块砖都是有用的，最后搭成一个很漂亮的结构，读者收获的知识也是成体系的。反观从短视频或者一些知识付费产品上所“得到”的知识可能很快就会被忘记。

腾讯研究院：如果人的抽象思维能力大幅下降，我们整个社会会怎么样？

刘海龙：我们所处的是一个建立在抽象思维基础上的时代，因为我们的科学技术都是建立在这个基础上，但是那种直觉或者是感官的这种思维，它是另外一种状态。这种刺激会是一种什么样的形式，还不清楚，也许会更好，也许会更糟糕。但总的来讲，人的自主性会越来越丧失，然后这种统一的控制能力会越来越强。

所以这就体现了技术的偏向。温纳说技术作为一个系统的技术，其实已经不是个体可以摆脱了，海德格尔讲的“集置”也是这个道理，集置就是一个大的系统，人是很难逃脱的。你说你不用这个技术是不是就不受技术控制了？不可能。

腾讯研究院：视频化趋势会对传播关系和知识生产产生什么影响呢？

刘海龙：如果把“传播关系”理解成任何人的关系，那肯定是越来越好了，它会是直观的，但直观也就意味着缺少反思，因为有些情感是需要回忆和表达的，现在会变得很直接，是比较情绪化的，很多人可能不愿意表达。换句话说，为什么社会越来越“宅”，大家不愿意跟人交流，其实也是跟这个有关系的，表达变得越来越简单了，大家反而其实不会表达了。

在知识生产方面，其实人的记忆跟电脑一样，有类似硬盘和内存的东西，随时在存储，随时在清空。认知心理学研究提到，人就只能记住7个议题，如果有一个新的议题火了，一定是有一个原来议题就被挤出去了。人的认知能力是很有限的，我们的大脑只能关注这么多东西，所以你去听知识付费产品，无论是听100本书还是1000本书，听完之后还是会忘掉的。

但是有一些书，比如哲学书籍，你花很多力气读一遍，也许你会忘掉观点本身，但是你经历这一遍以后，这种体验、这种分析能力，一定会留在你的记忆里。而传统的媒介，包括课堂上所讲的知识都是推理性质的，它建立在从古希腊开始的哲学与分析性思维，构成一种逻辑联系的知识体系。

不同的媒介背后的知识体系是不一样的。短视频里面也有大量的知识，但是你会看到这些知识大部分是实用的身体技能，生活的小窍门，比如唱歌，翻跟头，做手工，那些东西无法传授，它就是一种“身体感”，你只能够通过身体习得，很难学习，很难传达，很难被复制，所以它传递的知识也是碎片式的，永远是在较表层累积。

“判断”是人的基本权利，但我们正在把它交给算法

腾讯研究院：就当下来看，短视频平台的魔力似乎是和推荐算法合谋的，算法可以根据我们的喜好来推荐内容，您怎么看待整个算法逻辑的影响呢？

刘海龙：从大的逻辑而言，我觉得算法是一个价值体系，它涉及到什么东西优先，什么东西次要，什么东西对你更重要，什么东西对你更不重要，所以它是一种价值判断。

我从来不认为算法是中立的东西，它一定是个主观的东西。对于计算机的能力，人类其实总是有一种乐观情绪，觉得它在我们的操纵和控制之下。不过，虽然说人类可以去操控，或者说可以去分析它的结果，但是计算机会慢慢地把人类做判断的权利给剥夺掉。

《流浪地球》里有一个情节是AI判断不能去撞木星，成功率是0.0001%，这就是一个判断。像人工智能应用的比较多的围棋，人类可以去逆推机器的下棋背后的棋理，但是有一个东西是所有的棋手都没有办法去模仿的就是对胜率的判断。采取什么样的策略，是要拼命还是保守，取决于你对形势的判断，但现在没有一个棋手敢挑战AI的判断，而我觉得这会成为未来在各个领域都会出现的一种趋势：AI给你的判断是没法反对的。你有其他的替代方案吗？你有更好的结论吗？没有。

作为结果，人的自主控制能力就会慢慢被让渡出去。做判断本身就是人的能力，技术可以告诉你如果这么做会怎么样，但最后还是要交给人来做判断的，而判断的过程就显示出人的个性，否则就没有“人”可言了。存在先于本质，而存在的本质就是选择和判断。人生选择的决断，这是人成其为人，成其为一个特殊此在最基本的要素。如果这种判断都被剥夺的话，人就不是“人”了。人可以在分析上去跟机器抗衡，但是在判断上越来越难挑战机器。这个判断就变成了计算机给你设立的这一套算法。虽然计算机还没有到那一步，但是其实它的一些思维方式其实已经都渗透到社会的方方面面。

上个世纪四五十年代，像海德格尔包括法兰克福学派都在批评“工具理性”，互联网其实把工具理性又提到了一个新的高度。比如前一段时间《外卖骑手，困在系统里》[3]这篇报道里提到的问题，大家过去可能没有意识到，因为我们总是觉得算法在给我们创造便利，而且这种便利每个人都在享受。这在某种程度上压制了这些不同的声音，让我们产生一种很虚幻的感觉。但是到了某一个程度，大家会突然意识到我们可能已经走上了一条不归路了。实际上任何的技术都是人和人之间的关系，那时候你还怎样去重建人和人之间的关系？

延伸下去，现在其实涉及到两个问题，一个是劳资关系，一个是人和技术的关系，这两个问题现在是纠缠在一起的，所以看上去很多劳资关系都是以技术的形式出现。技术有本身的逻辑：控制、集中化、无情。它只看算法，有自己的一种理性，一种逻辑，它的逻辑就是效率。

而技术的追求效率和资本的追求效率刚好达成了一种共识，技术所谓的追求最优化，恰好是资本的逻辑。按照一般的说法，你是注重过程还是注重结果，对资本来讲是更注重结果，所以就会导致要追求结果，追求创造资本的效率，投入产出要达到一个最佳的比例。以这样的方式来安排，可能就会把人性的东西排在后面。

注释：

[1]《病毒的传播学》最初是刘海龙老师在微博上的连载，后来被《信睿周报》整理成文，原文请见https://mp.weixin.qq.com/s/UAg36hP8OG7s66Exze-mdg

[2]马歇尔·麦克卢汉（MarshallMcLuhan），加拿大媒介学家，著有《理解媒介》、《机器新娘》。

[3]《外卖骑手，困在系统里》是《人物》于2020年9月8日发布的一篇报道，原文请见：https://mp.weixin.qq.com/s/Mes1RqIOdp48CMw4pXTwXw

本文来自微信公众号：腾讯研究院（ID：cyberlawrc），作者：刘海龙