隐秘？混乱？商业化？探寻OpenAI“拯救世界”背后的真相

编者按：本文来自微信公众号“大数据文摘”（ID:BigDataDigest），作者：赵吉克、lin、楚阳、Olivia、钱天培，36氪经授权发布。原标题《隐秘？混乱？商业化？记者深入总部，探寻OpenAI“拯救世界”背后的真相》

用“出道即巅峰”来形容OpenAI一点也不为过。

2015年10月，硅谷“钢铁侠”Elon Mush和传奇投资人Sam Altman揽入10亿巨资，挥手成立了这个AI梦工厂。

除了众星云集的投资人团队，OpenAI还吸引来了一批技术界的大牛。硅谷知名fintech创业公司Strip的前首席技术官Greg Brockman，师从人工智能教父Geoffrey Hinton的Ilya Sutskever，来自多个顶尖大学的研究员等等，都成为了OpenAI的第一批造梦师。

“成为第一个实现‘通用人工智能’，并确保这一科技能造福全世界。”OpenAI来势汹汹。

独立、超前、透明、忠于全人类——这是这家非盈利机构的最初定位。

2017年8月，OpenAI开发的Dota人工智能首次在1v1对战中打败顶级人类玩家。

2019年4月，OpenAI以2:0击败了Dota2世界冠军OG。

这还只是OpenAI成就的一小部分。从成立到现在，OpenAI成果颇丰，似乎正在稳健地向实现“通用人工智能”这一目标前行。

而在另一边，2019年2月，Elon Musk宣布，由于在公司发展方向上存在分歧，他将与公司分道扬镳。

2019年3月，Sam Altman辞去了创业加速器YC总裁一职，成为OpenAI的首席执行官。同月，OpenAI通过设立“封顶利润”部门，摆脱了非营利组织的地位。

2019年7月，OpenAI宣布将接受微软的10亿注资，正适成立合作关系。

OpenAI似乎正在一步步向商业化边缘。

我们不经要问，在这短短4年多时间，OpenAI究竟经历了什么？

而更重要的是，在一个个另外界惊叹的研究成果背后，OpenAI又到底离“通用人工智能”还有多远呢？

深挖OpenAI的发展历史和现状，问题的答案神秘而有趣。

尽他们所能，做最好的事情

OpenAI位于旧金山第18街和福尔松街的交叉口，平平武无奇的建筑很难让人联想到背后的庞大野心。

很少有人进入过OpenAI的办公楼。MIT科技评论记者Karen Hao是得以一度庐山真面的幸运儿之一。

Karen Hao在今年年初来到OpenAI，对这些科技狂人men进行了一次专访。

“在室内，空间光线充足，通风良好。一楼有几个公共空间和两个会议室，其中一个用于大型会议，叫做‘太空漫游’；另一个，更像是一个装修好的电话亭，叫做‘无尽的玩笑’。这是我访问期间被限制的地方。“Karen如此描述这一次特殊的采访。

在首席技术官Greg Brockman和Karen的访谈中，这位科技狂人如此回忆他当时决定加入OpenAI的原因。

“马斯克当时和我说，‘我想清楚了。通用人工智能可能很遥远，但如果事实不是这样呢？如果通用人工智能可能在未来五到十年内实现呢？即使这种几率只有1%或0.1%，我们不应该仔细考虑一下吗？’他的这席话引起了我的共鸣。”

起初，OpenAI研究院们的探索可谓天马行空，公司的扁平化结构更是进一步促成了这样的局面。

然而，这样的随性探究也导致了大方向的模糊。

2016年5月，在一位Google研究员访问完OpenAI后表示，没人知道他们在做什么。其实OpenAI团队自己也不太清楚。他们的目标是，“尽他们所能，做最好的事情”。实在有些模糊。

”到2017年3月，也就是15个月后，领导层意识到是时候更加集中目标了。因此，Brockman和其他一些核心成员开始起草内部文件，为通向通用通用人工智能铺平道路。

“但是，该过程很快暴露出致命的缺陷。当团队研究该领域的趋势时，他们意识到维持非营利性在财务上是站不住脚的。

”该领域其他团队用于获得突破性结果的计算资源每3.4个月翻一番。Brockman认为，为了保持竞争力，他们将需要足够的资金来达到或超过这一指数级增长。这就需要一种可以迅速积累资金的新组织模型，同时又要使其能够忠于使命。

”考虑到这一点，OpenAI于2018年4月发布了章程，这个章程是不对公众和大多数员工公布的。该文件重新阐明了实验室的核心价值，但巧妙地改变了措辞以反映新的现状。除了承诺‘避免使用损害人类利益或过度集权的AI’，它还强调了对资源的需求。

“它说：‘我们预计需要调拨大量资源来完成我们的使命，但将始终努力以最大程度地缓解广泛的员工和股东之间的利益冲突。’”

Karen讲述了OpenAI使命的微妙变化。

时间快进到2019年3月。正如文章开头所提到的那样，OpenAI设立“封顶利润”部门，实际摆脱了非营利组织的地位。投资人可以通过注资OpenAI获利，只不过收益上限为100倍。

这样的举动引来了一波职责——毕竟Google的早起投资者也只获得了大约20倍的资本回报率。

”这样的变化也使许多员工感到不安，他们也表达了类似的担忧。为了缓解内部动荡，领导层撰写了答疑指南，作为一系列受高度保护的过渡文档的一部分。比如，问：‘我可以信任OpenAI吗？’ 回答是‘是’，然后是一段解释。“

去年夏天，OpenAI正式接受微软的10亿注资。领导层向员工保证，这些更新不会在功能上改变OpenAI的研究方法。微软完全符合实验室的价值观，商业化会很遥远。

”一段时间以来，这些保证似乎都是成立的，项目依旧保持原样。许多员工也不知道他们究竟对微软承诺了什么。“

不过，在和员工的访谈中，Karen感觉到，“近几个月，商品化的压力加大了，做赚钱研究的需求也不再只发生在遥远的将来了。”

“不为赚钱而研究，但要为研究而赚钱。”

GPT-2的争议

让我们再回到OpenAI的研究进程。伴随组织结构的一次次剧变，OpenAI的科研是否有从众受益呢？

提到这个问题，我们不得不讲述OpenAI的智能写作模型GPT-2——这是Dota AI之外，OpenAI的另一个重磅研究成果。2019年4月，OpenAI宣布了GPT-2的存在。

GPT-2是OpenAI在自然语言处理领域的一大成果：只要按下一个按钮，模型就能根据输入的一段台词写出风格类似的下一段。

然而，OpenAI并没有遵从创立之初“透明、忠于全人类”的原则，选择不发布这个“神奇”的模型。理由是，“如此强大的AI模型如果被不法分子利用，就会成为制造各种虚假言论的武器。”

这立刻引起了科学家的反对，认为OpenAI是自导自演了一场公关大戏。

受到争议影响，5月，OpenAI一改口径，决定了“阶段性发布”的计划，并宣称这一切其实都是他们的一场实验——为了应对研究出更大风险的AI模型的一次小演戏。

事实上，GPT-2并不是OpenAI第一次选择对其项目保密。另一个更加秘密的项目正在悄然实施。

在一系列访谈和研究后，Karen发现了OpenAI实现通用人工智能的”隐秘“计划。

“乐观派”OpenAI

对于通用人工智能，目前有两种流行的技术理论。“乐观派”认为，我们已经完成了对通用人工智能的基础研究，只需一些工程类进步，如算力提升，并假以时日，就可以达成。“悲观派”认为，仅靠深度学习等现有技术，我们还无法实现通用人工智能 。

OpenAI在这场争论中选择了“乐观派”的立场。

”在OpenAI内部，一支名为‘先知’的团队做了一些实验，他们按照数据量和计算能力递增的顺序训练已有的算法，以测试他们能把AI的能力向前推进多少。这些实验的结果证实了他们的直觉，即计算驱动策略是最好的实现通用人工智能的方法。

“这些结果在未来的大约六个月都没有被公开，因为OpenAI视其为主要竞争优势。员工和实习生被明确指示不要透露它们，而那些离开的人则都签署了保密协议。直到1月，OpenAI才无比低调地在一个用于AI研究的主要开源数据库中发布了一篇论文。”

“OpenAI的秘密之一就是他们的下一步行动：使用大量计算资源对大量的文本、图像数据进行训练的AI系统。”

在这期间，OpenAI的各个团队会尽全力探索不同的AI方向：计算机视觉、自然语言处理、机器人，等等。每一个方向都是一个“赌注”。

最终，一些赌注会脱颖而出，吸收其他方向的研究成果，指出唯一的走向通用人工智能的方向。

“它仍然拥有最重要的元素，也仍有时间去做出改变”

深思这一战略，我们似乎不难明白OpenAI的结构剧变了。

面对“第一个实现通用人工智能”的目标，OpenAI在前期迷茫的探索后终于找到了一条可行的路线。

这样的战略选择无疑需要大量的资金支撑，组织的结构变化也就随之而来。

“这种压力迫使它做出一些似乎离初衷越来越远的决定。它急于进行炒作以吸引资金和人才，捍卫其研究以期保持优势，并追逐计算繁琐的策略——不是因为这是通向通用智能的唯一途径，而是因为这似乎是最快的。”Karen这样评论道。

那么，OpenAI的未来是否又足够明朗了呢？

可以相信，在未来的很长一段时间，我们会持续看到他们更为炫目的研究成果。

更重要的是，OpenAI无疑有着宝贵的财富。Karen认为，这里“充满了为人类的利益而真诚地努力工作的人们。换句话说，它仍然拥有最重要的元素，也仍有时间去做出改变”。

让我们用Karen和一位OpenAI前研究员的访谈记录作为结尾。对于前东家的前景，这位研究员说道，

“我认为，问题是有的。一些问题来自于他们所面临的环境，而另一些问题来自于他们所吸引的目标人群。但是我觉得他们在做一些正确的事情，因为我能感受到他们正带着真诚而坚定的信念尝试着什么。”

相关报道：

https://www.technologyreview.com/s/615181/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/

相关推荐

隐秘？混乱？商业化？探寻OpenAI“拯救世界”背后的真相
OpenAI还是CloseAI？记者半年揭秘这个以拯救世界为使命的机构幕后真相
离开马斯克的OpenAI终踏上商业化之路
探寻5G高速下载真相：限速、绑定与谎言
微软10亿美元投资OpenAI，但AI仍然和“天网”无关
《沉默的真相》，为什么这次网友不再抗拒付费点播?
2.5亿天价“转会费”揭开中国保险业背后的隐秘
《与“混乱”共舞》
MIT万字报道：竞争压力裹挟下的OpenAI，理想如何安置？
再创融资纪录，微软给了OpenAI十亿美元，研发超能AI

网址: 隐秘？混乱？商业化？探寻OpenAI“拯救世界”背后的真相 http://www.xishuta.com/zhidaoview8068.html