OpenAI 离成熟商业公司更近一步

发布 GPT-4 的同时，OpenAI 离成熟公司越近，离名字里的 “Open” 越远。

GPT-4 无疑是一个更好的产品。写散文、诗歌、代码，这些 GPT-3 已经会的技能，它可以完成得更好、更具创造力；而读图、雇人、数学等 GPT-3 表现很差或全然不知的领域，GPT-4 的表现称得上惊艳。（关于 GPT-4 新功能的细节以及它们是如何实现的，请参阅《晚点 LatePost》今天的长文《更强的 GPT-4，更封闭的 OpenAI》）

如我们之前所讨论的，在这场 “火鸡”（OpenAI）追逐 “雄鹰”（Google，其实也可以泛指掌握充沛技术资源的巨头）的故事伊始，OpenAI 靠着 “开发通用人工智能技术、专利和研究成果全部开放” 的宏大愿景，招揽到一批顶尖 AI 专家。创始人们都对人工智能的未来充满恐惧，假想敌是大公司（比如 Google）开发的邪恶 AI。

如今 OpenAI 也更像一家商业公司了：发布会之前提前向媒体和合作伙伴开放试用，等到正式发布时一同造势；为了保持自身竞争优势，同步张贴的 “论文” 长达 90 页，却没有介绍任何训练的技术细节；发布会上高管风趣的演示方式，跟市值万亿美元以上的硅谷巨头们没太大区别。

就像每次人工智能取得重大进展时一样，很多人都在 GPT-4 发布后担忧自己会丢工作。GPT-4 看上去可以轻松替代助教、初级编辑、客服助理，而一些看上去掌握更难技能的人也开始焦虑。

一位得克萨斯大学奥斯汀分校研究 NLP（自然语言处理）的博士在 Twitter 上分享了他对 GPT-4 的复杂情感：激动不已，但也因此质疑自己的研究价值。另一位软件工程师则说：“别再说 GPT-4 不会解 LeetCode hard 难度的题所以程序员很安全了，我特么也不会。” 评论区里不少同行表示赞同。

不过，OpenAI 的创始人和一些学者仍在提醒不要过分神化 GPT-4。山姆·阿尔特曼（Sam Altman）在社交媒体上说，它仍有缺陷、存在限制，并在熟悉之后可能不会像初见时那样惊艳。

艾伦人工智能研究院院长、华盛顿大学教授奥伦·埃齐奥尼（Oren Etzioni）称，虽然 GPT-4 取得了很大进展，但显然还不能被信任，“离放心让任何 GPT 运营一座核电厂，还有很长的路要走”。

OpenAI 的研究人员已经做了很多努力，帮助 GPT-4 拥有更高的准确率和更严苛的道德准则。OpenAI 称，与 GPT-3.5 相比，GPT-4 在回答事实性测试题时，评估得分提升了 40%；响应本该拒绝的用户请求几率降低了 82%。

但基于其生成答案的底层逻辑未变（更多依赖统计和概率而不是对事物的理解）、训练数据仍来自公开世界，GPT-4 仍不可避免地会出错、会产生幻觉（hallucinating，指 AI 编造事实）、会被恶意利用、也会输出偏见，和创造它的人类一样。（邱豪）

发布于：北京

相关推荐

OpenAI 离成熟商业公司更近一步
孟晚舟离接班更近一步？
SpaceX完成降落伞测试，载人飞船距离运送宇航员更近一步
小米上线快递业务，想离消费者更近一点
OpenAI变CloseAI？非营利研究组织转型“上限利润”企业吸引资金
不谈量产的概念机并没有让我们离未来更近
隐秘？混乱？商业化？探寻OpenAI“拯救世界”背后的真相
揭秘获微软十亿美元投资的OpenAI：曾发起Dota人机大战
离开马斯克的OpenAI终踏上商业化之路
更强的GPT-4，更封闭的OpenAI

网址: OpenAI 离成熟商业公司更近一步 http://www.xishuta.com/zhidaoview29309.html