今天小编分享的科技经验:OpenAI 解雇泄密「内鬼」,包括首席科学家Ilya一位盟友,欢迎阅读。
人类的悲欢并不相同,新版 GPT-4 Turbo 在抢占 AI 圈的头条时,一条关于解雇的消息也悄然传开。
据 The Information 援引知情人士消息,近期两名 OpenAI 的研究员因涉嫌泄露机密信息而遭到解雇。
其中一位是 OpenAI 超级对齐团队的核心成员 Leopold Aschenbrenner。在去年 OpenAI 的宫斗大戏中,他曾是时任首席科学家 Ilya Sutskever 的坚定盟友。
而另一位则是专注于推理研究的专家 Pavel Izmailov,他也曾在安全团队工作过一段时间。
天才少年 Leopold 十九岁便从哥伦比亚大学毕业,曾在由著名加密货币交易所创始人 Sam Bankman-Fried 所创立的慈善基金——未来基金(Fuure Fund)中工作,直到一年前才正式加入 OpenAI 的超级对齐团队。
去年七月,时任 OpenAI 首席科学家 Ilya Sutskever 和 Jan Leike 组建了一支超级对齐团队,其目标是要在四年内投入 20% 的计算资源。以尽可能避免超级智能体失控的风险。
报道称,Leopold 此前一直都是 OpenAI 超级对齐团队的负责人之一。在去年在 OpenAI 宫斗大戏期间,Leopold 曾积极参与推动时任 OpenAI CEO Sam Altman 的下台。
此次解雇事件是 Sam Altman 自 3 月重返董事会以来,首次公开的人员变动,至于这两名研究员究竟泄露了哪些信息,目前尚不清楚。
此前 OpenAI 的非营利性董事会曾就 OpenAI 「宫斗大戏」进行深入调查,但结果也并未明确指出 Leopold 有任何不当的行为。
不过,仍有观点认为,Leopold 的解雇更可能是遭到了「秋后算账」。
值得一提的是,随着去年 OpenAI 内部种种瓜料和内幕在全网刷屏。事件主角 Sam Altman 和 OpenAI 董事会之间的对峙,也让我们捕捉到 OpenAI 内部加速主义和有效利他主义两股思潮的拉扯较量。
有效利他主义主张,在 AI 发展问题上,人类应该更注重安全而非速度,一窝蜂地加速发展 AI 只会给人类带来灾难。
上文提到的 Sam Bankman-Fried、Leopold 都深受这股思潮的影响。
今年 3 月份,正值 GPT-4 发布一周年之际,Leopold 在社交平台 X 上发了一条意味深长的推文,疑似暗示 OpenAI 将推缓发布节奏:
自 GPT-4 发布至今已满一年。希望大家在这段时间里都能好好休息一下;
在未来一段时间内,AI 的进步速度可能很难再像这一年那样迅速。
此外,推动 OpenAI「政变」的积极分子们也都与有效利他主义有着密切的联系。
例如,Tasha McCauley 是有效利他主义中心的母组织有效风险投资公司的董事会成员。Helen Toner 曾在以有效利他主义为重点的开放慈善项目工作过。
然而,在 Sam Altman 重返 OpenAI 董事会后,这两人都被「踢出」董事局,而作为推动「政变」的主力,Ilya Sutskever 后续不仅推出了董事会,并在公共场合开始鲜少露面。
他上一次出现在公众视野中,也仅仅是出现在 OpenAI 反击马斯克的署名信上。
对于此次解雇事件及相关的置评请求,Leopold Aschenbrenner、 Pavel Izmailov 以及 Ilya Sutskever 的代理律师 Alex Weingarten 均未作出回应。
附上 The Information 原文报道地址:
https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking