今天小編分享的科學經驗:突發!OpenAI開除Ilya盟友,理由:涉嫌信息洩漏,歡迎閱讀。
突發!OpenAI 開人了,理由:涉嫌信息洩露。
一位是失蹤的首席科學家 Ilya 盟友,超級對齊(Superalignment)團隊核心成員Leopold Aschenbrenner。
另一位也不簡單,是 LLM 推理團隊研究員Pavel Izmailov,曾經也在超級對齊團隊幹過。
目前尚不清楚這倆人到底洩露了啥信息。
消息被曝出後,不少網友表示 " 挺震驚 ":
不久前我還看過 Aschenbrenner 的帖子,感覺他正處于事業上升期,沒想到會有這樣的轉變。
還有網友認為:
OpenAI 失去 Aschenbrenner,Ilya Sutskever 也被邊緣化,該公司對于構建安全 AI 的承諾看起來更加不可信了。
OpenAI 人才流動,與谷歌 Meta 互挖牆腳已經見怪不怪,但開除形式的人事調動,還是去年 11 月董事會叛變之後的第一回。
倆人曾經都是 Ilya 的部下
據了解,Leopold Aschenbrenner 于一年前加入 OpenAI。此前他曾在 Future Fund 工作過,再往前追溯,19 歲從哥倫比亞大學畢業,還在牛津大學做過經濟增長方面的研究。
Pavel Izmailov 這邊,他還是紐約大學 CILVR 小組成員,本人透露 2025 年秋将加入紐約大學 Tandon CSE、Courant CS 擔任助理教授。
目前,倆人的 X 主頁還都備注着與 OpenAI 的關系。
最近這個月倆人都沒有發新推文,不過置頂帖子倒是很亮眼。
沒錯,都是超級對齊團隊的第一篇論文,倆人都是這篇論文的作者。
這就不得不說到這個團隊,組團于去年 7 月份,是 OpenAI 為應對不同時間尺度上大模型可能會產生的安全問題,成立的三大安全團隊之一。
由 Ilya Sutskever 和 Jan Leike 領導。
雖然 OpenAI 看起來似乎在安全方面很重視,但其内部對 AI 的安全開發存在很大分歧已不是什麼秘密。
這種分歧甚至被認為是去年 11 月 OpenAI 董事會内讧的最大原因:
網傳 Ilya Sutskever 成為 " 政變 " 帶頭人,就是因為看到了一些東西讓他内心不安。
而 Ilya 帶領的這個超級對齊團隊,很多成員也是站在 Ilya 這邊,在後來支持奧特曼的比心接龍活動中,這個超級對齊團隊成員也基本保持了沉默。
随着 OpenAI 内讧事件的平息,奧特曼成為赢家,Ilya Sutskever 離開董事會幾乎沒再公開露頭,超級對齊團隊現在是個什麼情況咱也不知道。
再說回到這次兩位研究員被解雇。
兩人曾經都是 Ilya 部下,the information 還表示 Aschenbrenner 是 Ilya 盟友、與優先考慮解決 AI 危險性的運動有關聯。
所以,也有網友猜測這次裁員是奧特曼的 " 秋後算賬 "。
和 Q* 洩密有關?
除此之外,網友比較關心還有洩密的内容究竟是什麼。
目前猜測的焦點還是放在 Q*,也就是董事會叛變大戲的導火索之一。
根據網友評論,Jimmy apples 似乎發過相關推文,但沒過多久我們看到鏈接打開時已是推文被删的大狀态……
從遺留的蛛絲馬迹來看,好像大概也許還是和 Q* 有關。
目前 Q* 從傳聞,已經變成被正式确認的存在,但關于它的一切,奧特曼本人目前都守口如瓶。
總之自從 Q* 之後,OpenAI 内部開始出現理念分歧。
經歷一系列風波後,93% 的員工籤署聯名信與奧特曼共存亡,調查結果公布後奧特曼無罪重返董事會。
看似風平浪靜,上下一心致力于實現 AGI 背後,裂痕仍舊存在。
參考鏈接:
[ 1 ] https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking
[ 2 ] https://x.com/BenjaminDEKR/status/1778536771837694353
[ 3 ] https://twitter.com/leopoldasch
[ 4 ] https://twitter.com/Pavel_Izmailov
[ 5 ] https://www.reddit.com/r/singularity/comments/1c1qo04/openai_superalignment_researcher_fired_for/