AI不是万灵神药：看看普林斯顿大学的这份“假AI防骗报告”

编者按：本文来自微信公众号“新智元”（ID：AI_era），来源 cs.princeton.ed，编辑 小芹、大明，36氪经授权发布。

普林斯顿大学教授最新报告《如何区分AI“万灵假药”》近日火了，很多宣称采用AI算法预测社会后果的技术，实际不比线性回归模型好多少。你怎么看AI“万灵假药”？来新智元 AI 朋友圈和AI大咖们一起讨论吧。

AI不是万灵药，但越来越多的人把它说成是万灵药，在这些人的鼓吹下，更多的人可能真的会把AI当成万灵药。

那么，如何在周围人都在吹的氛围下冷静下来，分辨真假？近日，普林斯顿大学计算机系Arvind Narayanan副教授撰写了一份报告，题目就是《如何区分AI“万灵假药”》。

1、有很多与AI无关的东西都被打上AI标签，目前已经诞生的真正的、有社会影响力的AI技术无意间充当了这些冒牌货的保护伞。

2、很多宣称采用AI算法的技术涉及对社会后果的预测。事实是，我们并不能预测未来，但当涉及AI时，这个常识似乎就我们无视了。

3、在风险行为预测上，手动评分要比AI评分靠谱得多。比如违规驾驶，人工计分，到一定程度吊销驾照，这个计分还是要交给人来做。

作者首先举了个例子。下边这个网站宣称，只用一段30秒的短视频，就能评估出你的职业前途和工作的稳定程度。听起来是不是很神奇？只要拍一段视频传上去，网站就会自动评估出多个指标，可视化呈现后给出一个综合评分。

它声称，评估分数结果和视频中的你说的内容甚至都没关系，完全是AI算法根据肢体语言、讲话的方式和风格这些东西得出的。

而实际上，这只是个加了外壳的“随机数生成器”。你的职业是否稳定，全看运气。

第一、现在的“AI”是个时髦的保护伞，和AI沾边可以提升身价。

第二、一些AI技术确实实现了真正的、获得大众认可的巨大进步。

第三、大部分群众不懂AI，企业可以把任何东西贴上AI标签，再卖出去。

这个例子只是说明在HR领域的问题，实际上在其他领域内，这种对AI技术的故意夸大的现象可能更严重。在这份报告中，作者将现在的AI应用模式大体分为3类。

第一类：认知类AI技术。主要包括内容识别（包括反图片搜索）、人脸识别、基于医疗影像的辅助诊断、文本-语音转换，以及DeepFake等。作者认为，这类技术基本上属于货真价实的快速技术进步，甚至DeepFake的过于逼真表现还引发了人们在道德上的担忧。

作者认为，这类AI技术造假或吹牛空间不大的主要原因是结果和判断标准的确定性。无论是人脸识别还是文本-语音转换，其对错标准是非常明确的。

第二类：自动化判断类AI技术。包括垃圾邮件检测、盗版内容检测、论文自动评分、内容推荐等。这类应用尽管还远远称不上完善，但是正在进步，应用前景在逐步拓宽。

对于这类AI来说，判断标准开始变得有些模糊，一篇文章写得好不好，一封电邮是不是垃圾邮件，对于这些问题，不同的人可能会有不同的看法，AI会逐步学习人类的判断和推理方式，但往往免不了犯错。

第三类：社会后果预测类AI。包括职业表现预测、惯犯行为预测、政策预测、恐怖袭击预测等。作者认为，这类AI基本上其真实性都是值得怀疑的。

作者认为，在我们自己尚且不能预测未来的情况下，却要把这个任务交给AI，并根据结果来制定政策，这种选择有违常识，而且很可能造成不良后果。

AI预测社会后果？效果比线性回归好不了多少

第三类AI应用有关预测社会后果，它们大多数时候从根本上就是可疑的：

预测犯罪惯犯

预测工作表现

预测警务

预测恐怖主义风险

预测问题儿童

本文也主要集中在第三类AI应用，因为这部分骗子最多。

前面展示了一些工具，声称可以用来预测工作适合性。同样，保释决定是基于对累犯的算法预测做出的。此外，依据一种分析社交媒体帖子并预测恐怖主义风险的算法，有人在边境被拒之门外。

这些问题很难，因为我们无法预测未来。这应该是常识。但当人工智能涉足其中时，人们似乎决定要搁置常识。

Shazam(一款音乐识别应用)

反向图片搜索

人脸识别

基于医学成像的医疗诊断

语音转文本

Deepfakes

垃圾邮件检测

版权侵犯

自动论文评分

仇恨语音检测

内容推荐

预测累犯

预测工作成功

预测警务

预测恐怖主义风险

预测问题儿童

当然，这与AI的用途(所有的机器人技术、游戏……不在此列)相去甚远。然而，重点是说明对于不同类型的任务，精度的限制在数量和质量上是如何不同的。

接下来将展示，第三类应用中不管投入多少数据，都并没有真正的改进。

普林斯顿大学社会学家Matthew Salganik等人此前发布《脆弱家庭与儿童福利研究》，涉及457名研究人员，并形成了一个数据集，开展机器学习挑战赛。

“脆弱家庭（未婚家长与孩子组成的家庭）与孩子福利”项目跟踪研究了1998-2000年出生在美国大城市的近5000名儿童（大约四分之三是未婚父母所生），这些儿童所在的“家庭”比普通家庭面临更大的分裂和贫困的危险。、

研究围绕四个方面展开：（1）未婚父母，尤其是父亲的条件和能力是什么？（2）未婚父母关系的本质是什么？（3）这些家庭出生的孩子是怎样生活的？（4）政策和环境条件如何影响这样的家庭和儿童？ 该项目的人口研究数据档案办公室公开提供六组相关数据。

据我所知，这是衡量社会结果可预见性的最严格的努力。

他们收集了关于每个孩子和家庭的大量数据，这些数据是基于多年来的深入访谈和多次重复的家庭观察得出的。

脆弱家庭挑战赛（FFC）的设置与许多其他机器学习竞赛类似。任务是基于训练实例学习背景数据与结果数据之间的关系。比赛期间以准确性排行榜进行评估，并在比赛结束后基于留存数据进行评估。

从出生到9岁的所有背景数据，以及15岁的一些训练数据，他们的任务是准确预测以下关键类别的结果：

孩子的平均成绩（学业成绩）

孩子们的勇气（激情和毅力）

家庭的物质困难（衡量极端贫困的程度）

驱逐家庭（不支付租金或抵押）

照顾者的裁员

工作培训（如果主要照顾者将参加工作技能计划）

完美预测对应于决定系数R^2趋近于1。预测每个实例的平均值对应于R^2趋近于0(即模型根本没有学会区分实例)。

大多数人的直觉认为R^2的值在0.5到0.8之间。许多组织这次挑战的专家都抱有很高的期望。

然而，实际结果却令人大失所望：R^2的值介于0.03到0.23之间。

要知道：数百名专业的的AI/ML研究人员和学生参与了挑战，他们被激励去最大化预测的准确性，而且，每个家庭都被赋予了1.3万个特征。这些是表现最好的模型。

相比之下，只有4个变量的线性回归模型，所得到的结果并不比AI模型差多少(上图绿色线)。

这是症结所在。回归分析已经有一百年的历史了。

同样的发现在其他许多领域都有。

上图是一个“预测再次犯罪”的AI。注意这是正确率，而不是R^2，所以65%只比随机稍好一点。实际的准确性可能更低，因为虽然这个工具声称可以预测累犯，但实际上它预测的是再次被逮捕，因为这是有数据记录的。因此，至少算法的一些预测性能来自于能够预测的警务偏差。

观点：在预测社会后果方面，人工智能并不比仅使用几个特征的人工评分好多少。

这是一个可以证伪的观点。当然，如果出现相反的证据，我愿意改变我的想法，或者给这个说法加上适当的说明。但鉴于目前的证据，这似乎是最谨慎的观点。

驾照上的扣分可以被看作是预测事故风险的一种方法。一些研究发现，这样的系统校准得相当好。我们早就知道，在很多领域，如果我们真正想做的只是预测(通常不是)，那么简单的公式比人类的预测更准确，即使是经过多年训练的专家。

Daniel Kahneman 解释说，这是因为人类的预测往往是“嘈杂的”：给定相同的输入，不同的人(甚至是同一个人在不同的时间)会做出截然不同的预测。使用统计公式则消除了噪音。

人工智能在预测社会后果方面的危害：

对个人数据的需求

权力从领域专家大规模转移到不负责任的科技公司手中

缺乏可解释性

影响干预

准确性流于表面

……

与人工评分规则相比，人工智能预测有很多缺点。

最重要的是缺乏可解释性。想象一下这样一个系统，当你每次被交警拦下时，交警将你的数据输入电脑，而不是从驾照上扣分。大多数时候你可以自由驾驶，但突然某天，黑盒系统告诉你，你不能再开车了。不幸的是，我们今天在很多领域都有这样的系统。

总结

人工智能擅长某些任务，但无法预测社会后果。

我们必须抵制意图混淆这一事实的巨大商业利益。

在大多数情况下，手动评分规则同样准确，更加透明，值得考虑。

相关推荐

AI不是万灵神药：看看普林斯顿大学的这份“假AI防骗报告”
普林斯顿计算机教授炮轰“伪AI”：精心炮制的随机数生成器罢了
36氪首发 | 用AI工具辅助精神心理疾病诊疗，「万灵盘古」获千万元级A轮融资
格灵深瞳，天才AI公司跌入谷底之后 | 小败局
AI公司“借假修真”：有意为之？无奈而为？
盘点巨头医药投资布局：BAT 重 AI，药明康德等重技术
当代骗子分两种：懂AI的和不懂的
披着AI外衣的“58同城”：王欣的灵鸽究竟灵不灵？
摸底安防系AI测温产业：日供百套设备，单台报价过万
AI生成中国山水画，你能认得出真假吗？

网址: AI不是万灵神药：看看普林斯顿大学的这份“假AI防骗报告” http://www.xishuta.com/newsview13230.html