首页 科技快讯 没有杀死,安全加速,会更强大 | OpenAI“政变”续四

没有杀死,安全加速,会更强大 | OpenAI“政变”续四

来源:晰数塔互联网快讯 时间:2023年11月24日 20:59

奥特曼团队终于与赶走他的OpenAI董事会达成原则协议,恢复其CEO职位,组成了临时董事会,主席由前Salesforce联席CEO 泰勒(Bret Taylor)担任,美国前财长萨默斯(Larry Summers) 进入董事会,现任董事、Quora CEO 丹杰罗继续留任。

奥特曼回归的消息,发表于OpenAI在社交媒体X的官方账号,还没有同步出现在官网上。这与当初董事会开除奥特曼时不一样。

谈判一度卡于奥特曼和丹杰罗。员工哗变要求董事会全部辞职,丹杰罗代表原董事会坚持留下了,然后阻止奥特曼回到董事会,奥特曼最终做出让步。

原董事会主席、总裁布洛克曼也回归,但具体职位待定,也无法回到董事会。

联合创始人、首席科学家苏茨克沃、麦考利、托纳三人离开董事会。托纳只说了一句话:“可以睡个好觉了。”她的有效利他主义倾向,早已经让奥特曼和公司管理层不耐烦。

至此,4天之内从董事会“政变”到全体员工“哗变”,硅谷历史上前所未有的一场企业乱局,暂告一段落。

这个“原则上”的方案,还是留下了几处伏笔:

首先,奥特曼仍然需要证明自己是清白的。妥协方案包括将对这次董事会突然罢免奥特曼“政变“事件,聘请外部律所进行独立调查。但目前的原则协议,只是暂时说明了对奥特曼的指控是不成立的。据媒体采访知情人士,董事会的确也没有抓住奥特曼的把柄,就是感觉对其信任感越来越弱。他们被律师反复要求不准对外讲具体原因。

第二,未来的董事会,可能将会恢复到2021年之前的9人,目前的3位董事需要再找到6个人,不那么容易。微软可能要求至少一个董事席位,这样其他投资机构可能也会要求有席位。

第三,盈利公司股东进入董事会,非盈利机构将不存在绝对控制权。这可能也是对原有架构的一个微调。

新任董事长Bred Taylor,对于OpenAI的未来治理架构,将有很大的影响力。

据说谢尔要求提供证据,否则就辞职,起到了决定性的作用,迫使董事会妥协。这可能是谢尔一生中最有意思的72小时。

事件历时96小时,跌宕回转,几乎全部是在电话中进行的。而整个科技界和全球的群众基本上都是在社交媒体上吃这个大瓜的。

在周五中午奥特曼遭到罢免,布洛克曼宣布辞职后,震惊了整个科技界。在董事会不提供任何详细信息和指控证据的情况下,OpenAI盈利公司最重要的投资者,如微软、Thrive Capital、老虎基金、红杉基金,以及OpenAI的管理层和员工,要求恢复奥特曼的职位。

据当地媒体报道,奥特曼遭免职后的第一件事,就是给纳德拉打电话,他们策划了一个反击董事会、让奥特曼重回公司的方案,然后准备了plan B,即奥特曼和布洛克曼加入微软,再吸引OpenAI的员工大批加入。

OpenAI的管理层,包括临时CEO Mira,都跑到奥特曼的家中,建立起了策反董事会的作战室。

整个周末,奥特曼、纳德拉、Mira等发出的每一条信息,每一张照片,直到OpenAI员工的转发,都是精心策划的。直到周一演变成为几乎全体员工的集体“哗变”。

而纳德拉坐镇后台,宣布奥特曼和布洛克曼加入微软,并且提出将为加入的OpenAI员工提供相当于在OpenAI的待遇和激励。稳住了这支全球顶尖的AI人才团队,基本上没有被竞争对手趁机挖走。

最终达成临时协议,微软CEO纳德拉在表示欢迎之余,指出要建立一个“稳定的、沟通良好的、有效的治理结构”。

OpenAI的非盈利/盈利架构,这并非第一次受到考验。2019年为了接受微软的投资,奥特曼设计出这个架构之前,已经逼走了马斯克;架构设立之后,发生过大量员工离职,包括目前主要竞争对手Anthropic公司的创始人Daniela 和 Dario Amodei兄妹,与有效利他主义纠葛很深。

但是对OpenAI真正的考验,是在ChatGPT发布,引发了一场智能计算的范式改变之后。

再过一周,就是ChatGPT发布一周年。

过去的一年,OpenAI改变了世界 ,改变了AI,也改变了自己。

尤其是从上周五到本周二,全世界看到了这家企业近乎决定生死的使命感,看到了一家正在走向伟大的公司濒临崩溃的边缘,整个硅谷和全世界的AI界,像注视深渊一般,注视了它整整四天。

这次罢免奥特曼事件的具体原因和过程仍然不透明。但是基本可以肯定的是,随着AI系统的自主性越来越强,人们对其安全越来越担心。

正是出于对安全的担心,OpenAI设计出了一个非盈利与盈利的架构,它要同时承载安全与创新,控制与加速,人类利益与商业利益,是一个矛盾的统一体。

如果AI公司继续加速研发下一代大模型,那它只有一个选择,同时加大对安全的投入,加速对齐技术。同时,监管机构也将加快建立安全标准,尤其是对先进大模型推出前的测试。

2022年,OpenAI收入为2.8亿美元,2023年至今,它的年化收入已达到13亿美元。2023年初时,它以290亿美元的估值,从微软那里融资100亿美元。2023年底时,它准备以800亿-900亿美元估值,为它的GPT-5融资。

预计这一轮融资将超过百亿美元。不仅GPT-5是一个更大的模型,而且对其安全的研发和工程投资将会大幅度增加。

辛顿等国际AI学界要求大模型公司研发投入的三分之一投入到安全。目前OpenAI已经将其GPU的20%用于苏茨克沃负责的对齐研发。

所有的前沿AI公司,也都将是AI安全公司。

OpenAI从“政变”到“哗变”,请看我们过去几天的连续报道:

OpenAI“政变”始末

剧情开始反转 | OpenAI“政变”续一

微软的无限游戏 | OpenAI“政变”续二

“董事会都对不齐,怎么让AI对齐人类” | OpenAI“政变”续三

发布于:上海

相关推荐

OpenAI正在杀死创业公司?
起诉OpenAI
更强的GPT-4,更封闭的OpenAI
讲个笑话:不透明的AI更安全
OpenAI首席科学家最新访谈:对模型创业两点建议、安全与对齐、Transformer够好吗?
谷歌和OpenAI,没有护城河
微软会收购OpenAI吗?
蚕食OpenAI
“看完OpenAI大会,很庆幸没拿到融资”
OpenAI做芯片不意外,OpenAI不做芯片才意外

网址: 没有杀死,安全加速,会更强大 | OpenAI“政变”续四 http://www.xishuta.com/newsview99120.html

所属分类:行业热点

推荐科技快讯