OpenAI 的领导改变可能会踩下刹车,以支持 AI 安全

OpenAI 的领导改变可能会踩下刹车,以支持 AI 安全

虽然关于OpenAI董事会周五解雇首席执行官Sam Altman的确切原因的许多细节仍然未知,但新的事实已经出现,表明联合创始人Ilya Sutskever在董事会的支持下领导了解雇过程。

虽然董事会关于解雇的声明称,这是阿尔特曼“并非一贯坦率”的沟通的结果,但董事会决定的确切原因或时机仍然笼罩在神秘之中。

但有一点是明确的:阿尔特曼和联合创始人格雷格·布罗克曼(Greg Brockman)在得知阿尔特曼被解雇后于周五辞职,他们是公司业务方面的领导者,他们尽最大努力积极筹集资金,扩大OpenAI的业务范围,并尽快推动其技术能力向前发展。

与此同时,Sutskever领导了该公司的工程部门,并一直痴迷于OpenAI的生成式AI技术即将到来的后果,经常直言不讳地谈论当通用人工智能(AGI)达到时会发生什么。他警告说,技术将如此强大,将使大多数人失业。

当旁观者在周五晚上寻找有关OpenAI究竟发生了什么的更多线索时,最常见的观察结果是,Sutskever在多大程度上领导了OpenAI内部的一个派系,该派系对Altman推动的财务和扩张越来越恐慌,并且有迹象表明Altman已经越界,不再符合OpenAI的非营利性使命。

在去年OpenAI的开发者日之后,扩张的动力导致了用户激增,这意味着该公司没有足够的服务器容量供研究团队使用,这可能使Sutskever和其他人感到沮丧,因为Altman没有与董事会保持一致。

如果这是真的,并且Sutskever领导的收购导致一家公司踩下增长的刹车,并重新关注安全,这可能会对公司的员工群体产生重大影响,这些员工群是以高薪和对增长的期望招募的。事实上,据The Information报道,OpenAI的三名高级研究人员在周五晚上的消息传出后辞职。

一些消息来源报道了解雇后即兴全体员工会议的评论,Sutskever在会上说了一些话,表明他和其他一些注重安全的董事会成员已经按下了恐慌按钮,以减缓事情的进展。根据信息:

你可以这样称呼它,”Sutskever谈到政变指控时说。“我能理解你为什么选择这个词,但我不同意这一点。这是董事会对非营利组织的使命尽职尽责,即确保 OpenAI 构建造福全人类的 AGI。当Sutskever被问及“这些幕后撤职是否是治理世界上最重要的公司的好方法”时,他回答说:“我的意思是,公平,我同意它有一个不理想的元素。100%的。

除了Altman、Brockman和Sutskever之外,OpenAI董事会还包括Quora创始人Adam D'Angelo、科技企业家Tasha McCauley和乔治城大学安全与新兴技术中心战略总监Helen Toner。记者Kara Swisher报道说,Sutskever和Toner在反对Altman和Brockman的分裂中结盟。我们报道说,董事会及其任务是非常非正统的,因为它负责追求“安全的AGI......这在大体上是有益的“,并确定何时达到AGI。这项任务最近越来越受到关注,并引起了争议和不确定性。

周五晚上,许多旁观者拼凑了一系列事件的时间表,包括阿尔特曼和布罗克曼以 900 亿美元的高估值筹集更多资金的努力,所有这些都表明董事会层面爆发争论的可能性非常高,Sutskever 和其他人担心 OpenAI 最近的一些突破可能带来的危险,这些突破将 AI 自动化推向了更高的水平。

事实上,Altman 已经证实该公司正在开发 GPT-5,这是 ChatGPT 模型性能的下一阶段。上周在旧金山举行的APEC会议上,阿尔特曼提到最近看到了更多证据表明该公司的技术又向前迈进了一步:“在OpenAI的历史上,有四次——最近一次是在过去几周——当我们推开无知的面纱和发现的前沿时,我必须在房间里。能够做到这一点是一生的职业荣誉。

数据科学家杰里米·霍华德(Jeremy Howard)在X上发表了一篇长文,讲述了OpenAI的DevDay如何让关注安全性的研究人员感到尴尬,而后果是压垮Sutskever的最后一根稻草:

椰有料原创,作者:小椰子啊,转载请注明出处:http://www.studioyz.com/4767.html

0

扫一扫,分享到微信

猜你喜欢

文章评论

电子邮件地址不会被公开。 必填项已用*标注

后发表评论

上一篇

OpenAI 董事会解雇 Sam Altman 首席执行官,开始寻找继任者

下一篇

定义 2024 年营销格局的挑战和解决方案

微信公众号

微信公众号