首页科技快讯 OpenAI六人董事会将就“何时实现AGI”展开讨论

OpenAI六人董事会将就“何时实现AGI”展开讨论

来源：晰数塔互联网快讯时间：2023年11月19日 12:09

据OpenAI介绍，其非营利性董事会的六名成员将就公司何时“实现AGI”展开研判。所谓AGI，即通用人工智能，被定义为“一种高度自治的系统，能够在最具经济价值的工作中表现出超越人类的能力。”由于该营利性机构“在法律层面，有义务追求非营利性组织的使命”，因此一旦董事会就此事达成共识，则OpenAI的AGI系统将“被排除在与微软签订的IP许可及其他商业条款之外”，即“此类条款仅适用于AGI之前的技术成果”。

但由于各界对于通用人工智能的定义还远未达成一致，因此对于OpenAI这支当前最受瞩目的AI力量来说，六人董事会的商议结果究竟会对AGI乃至整个世界产生怎样的影响？而作出决策的具体时机和背景，又将给OpenAI的最大投资方微软造成何等冲击？

尽管已成营利性组织，OpenAI仍须遵守非营利性使命

OpenAI开发者社群倡导才Logan Kilpatrick上周末发布X帖子，正式公开了这一消息。尽管《华尔街日报》近期宣称OpenAI计划出售的股份估值已经高达900亿美元，但Kilpatrick在回应微软总裁Brad Smith的评论时强调，他本人此前曾参加由Meta首席科学家Yann LeCun主办的小组研讨，并坚称OpenAI仍是一家值得信赖、且立足“非营利”使命不动摇的公司。

Smith提问：“Meta公司由股东共同白城有，OpenAI则归一家非营利机构所有。如果非要从中选择一家技术供应商，你更信任哪一方？”

在帖子中，Kilpatrick引用了OpenAI网站上的“Our structure”组织结构页面，其中列出了关于OpenAI复杂非营利/上限利润结构的详细信息。从页面内容来看，OpenAI的营利性子公司由在特拉华州注册的OpenAI非营利组织“完全控股”。不过营利性子公司OpenAI Global似乎是从有限合伙企业OpenAI LP转型而来，后者在OpenAI非营利母公司成立约三年之后的2019年宣布将“获准赚取并分配利润”，但仍须服从非营利母公司所倡导的使命。

乍看起来，一旦OpenAI实现了其提出的AGI使命，微软恐怕就要被剔除出局。不过在上周的OpenAI开发日活动中，公司CEO山姆·奥特曼向微软CEO萨蒂亚·纳德拉保证：“我高度赞赏双方在技术层面的合作关系……也期待能够共图AGI大业。”

在英国《金融时报》对奥特曼的最新采访中，这位OpenAI掌门人表示公司与微软的合作关系“运作良好”，并预计“随着时间推移，我们将筹集到更多资金。”在被问及微软是否会进一步注资时，奥特曼表示“希望如此……从目前的进展到AGI还有很长的路要走，期间少不了借助大量计算设施……AI训练仍须投入巨额成本。”

从组织结构来看，OpenAI一直强调微软“接受了我们的上限股权收购要约，以及我们将AGI技术和治理权保留在非营利组织乃至全人类手中的请求。”

OpenAI公司一位发言人也解释称：“OpenAI的使命是构建起对每个人都安全且有益的AGI。我们的董事会负责管理公司，同时咨询外部专家和利益相关方的不同观点，据此筹划并做出决策。我们会根据各位候选人的技能、经验以及对AI技术、政策和安全问题的看法来提名和任命董事会成员。”

非营利董事会成员多持利他主义倾向

目前，OpenAI非营利组织的董事会由公司董事长兼总裁Greg Brockman、首席科学家Ilya Sutskever及CEO山姆·奥特曼，以及外部人士Adam D’Angelo、Tasha McCauley以及Helen Toner共同组成。

Quora公司CEO D’Angelo、科技企业家McCauley与乔治敦大学安全与新兴技术中心战略主任Honer都参与过有效利他主义运动，但该运动年初曾因与Sam Bankman-Fried及其交易所FTX暴雷有所牵连、外加宣称AI存在安全“危险”的态度而受到批评。此外，OpenAI与利他运动之间的经济关联也被人挖出：2017年3月，OpenAI获得Open Philanthropy项目3000万美元的资助，而该项目的资金就来自利他主义运动。另据报道，OpenAI超级对齐（Super Alignment）团队负责人Jan Leike也认同有效利他主义运动。

但OpenAI发言人澄清称：“我们的董事会成员都不是有效利他主义运动的成员”，同时提到：“董事会中的外部成员同样不属于该运动成员。他们与利他运动社区的互动，主要集中在AI安全相关议题之上，或负责在运动社区之外提供专业观点。”

由董事会制定AGI决策的做法“比较少见”

专为科技领域初创公司提供外包法律服务的专业顾问Suzy Fulton在采访中表示，在大多数情况下，由董事会制定AGI决策的做法“比较少见”，但OpenAI的非营利董事会确实有责任要求其受托人践行“广泛有益且安全的通用人工智能”这一使命。

她解释道：“他们认为非营利性董事会关注的受益对象是全人类，而营利性董事会则服务于投资者。他们还努力建立起另一重保障，也就是让董事会保持多数独立，即大多数成员不掌握OpenAI的股权。”

但这能保证非营利性董事会就能在此问题上做出正确的判断吗？Fulton坦言：“在董事会公布讨论结果之前，我们恐怕还无法断言。”

芝加哥大学法学院教授Anthony Casey也认为，由董事会来决定像AGI这样的具体项目“不同寻常”，但他也承认并没有哪项法条禁止这么做。

“在董事会层面设定具体决策应该没有问题。实际上，如果某个问题足够重要，企业法通常认为董事会也有责任对该问题进行监督”，特别是那些“关键性问题”。

强调OpenAI的AGI使命，能否为董事会的讨论提供法理依据？

然而，也有一部分专家不相信通用人工智能可以在短时间内落地，有些人甚至仍在怀疑AGI到底有没有可行性。

根据AI与数字政策中心主席Merve Hickok的说法，该中心曾于今年3月向美国联邦贸易委员会（FTC）提起诉讼，要求后者对OpenAI开展调查并命令该公司“除非建立起必要的保障措施，否则应立即停止发布GPT模型。”而诉讼的理由，则是作为单一组织，OpenAI在“观点多样性方面严重不足。”她解释称，OpenAI对于AGI的关注“忽视了AI模型及工具当前已经引发的现实影响。”

然而，她认为讨论的重点不该集中在OpenAI董事会人数太少、或者多样性不足之类的问题上，因为OpenAI本身压根就无权判断AGI是否“已经实现”。过度追逐细枝末节，反而分散了人们对其基本使命和主张是否合法的应有关注。

在她看来，“这其实是转移了重点，在客观上使得‘AGI有可能实现’成为共识。”

但OpenAI迟迟不对AGI做出明确定义，或者不讨论AGI能否真正实现的态度，是否是在刻意回避这个问题？例如，OpenAI曾经在2023年2月的一篇博文中称：“最初的AGI将只是智能连续体中的一个点。”而在2023年1月接受采访时，公司CEO奥特曼表示：“我希望未来的AI应用能够全面普及化，届时全球各地可以有多个AGI来表达更趋多元的观点，而不是强迫全人类接受单一智能体。”

OpenAI的AGI大计对微软意味着什么？

其实就目前的情况看，很难判断OpenAI对于AGI的模糊定义会对微软造成怎样的影响，毕竟我们都不清楚两家公司之间到底签订了怎样的运营协议。Casey举例称，如果OpenAI坚持以坦诚的态度履行其非营利使命，那么OpenAI的组织结构以及与微软之间的合作方式可能会爆发“巨大冲突”。

在他看来，“不少非营利组织都在以营利为目的”，其中最著名的就是好时信托基金。“他们其实早就已经是纯营利性组织了，而且操作起来并没有什么难度，毕竟根本没有小股东站出来反对。但在OpenAI这边，微软的营利诉求可能会与控股该实体的非营利性组织之间发生直接冲突。”

他同时强调，利润上限策略并不难实现，可“困难的是，如果利润上限目标跟非营利组织的使命相冲突，又该如何解决？默认规则认为实现盈利才是首要任务，管理者必须将赚钱放在第一位（这主要是基于一般商业逻辑，其中存在广泛的自由裁量空间）。”

他最后总结道，如果往好处想，“微软也可能放低姿态，‘别担心，我们之间没有冲突，OpenAI在道义上并不亏欠微软什么’。但从过往的案例来看，微软在利益问题上不太可能这么大度。”

发布于：北京