今天小编分享的科学经验:突发!OpenAI开除Ilya盟友,理由:涉嫌信息泄漏,欢迎阅读。
突发!OpenAI 开人了,理由:涉嫌信息泄露。
一位是失踪的首席科学家 Ilya 盟友,超级对齐(Superalignment)团队核心成员Leopold Aschenbrenner。
另一位也不简单,是 LLM 推理团队研究员Pavel Izmailov,曾经也在超级对齐团队干过。
目前尚不清楚这俩人到底泄露了啥信息。
消息被曝出后,不少网友表示 " 挺震惊 ":
不久前我还看过 Aschenbrenner 的帖子,感觉他正处于事业上升期,没想到会有这样的转变。
还有网友认为:
OpenAI 失去 Aschenbrenner,Ilya Sutskever 也被边缘化,该公司对于构建安全 AI 的承诺看起来更加不可信了。
OpenAI 人才流动,与谷歌 Meta 互挖墙脚已经见怪不怪,但开除形式的人事调动,还是去年 11 月董事会叛变之后的第一回。
俩人曾经都是 Ilya 的部下
据了解,Leopold Aschenbrenner 于一年前加入 OpenAI。此前他曾在 Future Fund 工作过,再往前追溯,19 岁从哥伦比亚大学毕业,还在牛津大学做过经济增长方面的研究。
Pavel Izmailov 这边,他还是纽约大学 CILVR 小组成员,本人透露 2025 年秋将加入纽约大学 Tandon CSE、Courant CS 担任助理教授。
目前,俩人的 X 主页还都备注着与 OpenAI 的关系。
最近这个月俩人都没有发新推文,不过置顶帖子倒是很亮眼。
没错,都是超级对齐团队的第一篇论文,俩人都是这篇论文的作者。
这就不得不说到这个团队,组团于去年 7 月份,是 OpenAI 为应对不同时间尺度上大模型可能会产生的安全问题,成立的三大安全团队之一。
由 Ilya Sutskever 和 Jan Leike 领导。
虽然 OpenAI 看起来似乎在安全方面很重视,但其内部对 AI 的安全开发存在很大分歧已不是什么秘密。
这种分歧甚至被认为是去年 11 月 OpenAI 董事会内讧的最大原因:
网传 Ilya Sutskever 成为 " 政变 " 带头人,就是因为看到了一些东西让他内心不安。
而 Ilya 带领的这个超级对齐团队,很多成员也是站在 Ilya 这边,在后来支持奥特曼的比心接龙活动中,这个超级对齐团队成员也基本保持了沉默。
随着 OpenAI 内讧事件的平息,奥特曼成为赢家,Ilya Sutskever 离开董事会几乎没再公开露头,超级对齐团队现在是个什么情况咱也不知道。
再说回到这次两位研究员被解雇。
两人曾经都是 Ilya 部下,the information 还表示 Aschenbrenner 是 Ilya 盟友、与优先考虑解决 AI 危险性的运动有关联。
所以,也有网友猜测这次裁员是奥特曼的 " 秋后算账 "。
和 Q* 泄密有关?
除此之外,网友比较关心还有泄密的内容究竟是什么。
目前猜测的焦点还是放在 Q*,也就是董事会叛变大戏的导火索之一。
根据网友评论,Jimmy apples 似乎发过相关推文,但没过多久我们看到链接打开时已是推文被删的大状态……
从遗留的蛛丝马迹来看,好像大概也许还是和 Q* 有关。
目前 Q* 从传闻,已经变成被正式确认的存在,但关于它的一切,奥特曼本人目前都守口如瓶。
总之自从 Q* 之后,OpenAI 内部开始出现理念分歧。
经历一系列风波后,93% 的员工签署联名信与奥特曼共存亡,调查结果公布后奥特曼无罪重返董事会。
看似风平浪静,上下一心致力于实现 AGI 背后,裂痕仍旧存在。
参考链接:
[ 1 ] https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking
[ 2 ] https://x.com/BenjaminDEKR/status/1778536771837694353
[ 3 ] https://twitter.com/leopoldasch
[ 4 ] https://twitter.com/Pavel_Izmailov
[ 5 ] https://www.reddit.com/r/singularity/comments/1c1qo04/openai_superalignment_researcher_fired_for/