前OpenAI安全主管跳槽，加盟竞争对手Anthropic，继续做超级对齐

编译 | Alyssa

编辑 | 李水青

智东西5月29日消息，据美国知名科技媒体Business Insider报道，前OpenAI高管Jan Leike于当地时间5月29日宣布加入竞争对手Anthropic。

Leike在X上称：“我很兴奋能加入Anthropic团队，继续推进超级对齐任务！我的新团队将致力于可扩展的监督机制、弱到强泛化以及自动化对齐研究。如果你也对加入我们感兴趣，欢迎通过私信联系我。”

Leike在不到两周前离开OpenAI，通过X平台宣布离职，指责ChatGPT制造商将“吸引眼球的产品”置于“安全文化和流程”之前。

Leike曾与OpenAI联合创始人Ilya Sutskever共同领导OpenAI的超级对齐团队，该团队负责防止超级智能失控，现已解散，剩余成员并入核心研究团队。Sutskever也已辞职。

Anthropic由前OpenAI员工Dario Amodei和Daniela Amodei兄妹于2021年创立，亚马逊已对其投资40亿美元，并持有少数股权，该公司一直试图将自己定位为比竞争对手更有安全意识的公司。Anthropic透露将利用亚马逊云服务的服务器和芯片来训练和运行大语言模型。

除Leike和Sutskever外，OpenAI近期还有其他员工离职，如政策研究员Gretchen Krueger于上周在X平台上表示已于5月14日辞职，她认同其他人表达的一些关于安全问题的担忧。

OpenAI当地时间5月28日宣布，已由董事Bret Taylor、 Sam Altman、 Nicole Seligman和Adam D’Angelo监督成立了安全与保障委员会，并开始测试其“下一代前沿模型”。

来源：Business Insider

发布于：北京

相关推荐

前OpenAI安全主管跳槽，加盟竞争对手Anthropic，继续做超级对齐
OpenAI或被卖给竞争对手，宫斗的根源是ChatGPT
超级对齐vs有效加速：OpenAI高层大混战
OpenAI又上演“权力的游戏”
OpenAI终究还是违背了“祖训”
有效加速还是超级对齐？
OpenAI宫斗中被忽略的一部分：AI对齐
离职吐真言！刚辞职的超级对齐负责人狠批OpenAI: 追求华而不实的产品，误入歧途，忽视AGI安全
回不去的Altman，难以调和的OpenAI路线之争
Anthropic正在教OpenAI如何开一家AI公司

网址: 前OpenAI安全主管跳槽，加盟竞争对手Anthropic，继续做超级对齐 http://www.xishuta.com/newsview119948.html