今天小編分享的科技經驗:OpenAI 解雇泄密「内鬼」,包括首席科學家Ilya一位盟友,歡迎閲讀。
人類的悲歡并不相同,新版 GPT-4 Turbo 在搶占 AI 圈的頭條時,一條關于解雇的消息也悄然傳開。
據 The Information 援引知情人士消息,近期兩名 OpenAI 的研究員因涉嫌泄露機密信息而遭到解雇。
其中一位是 OpenAI 超級對齊團隊的核心成員 Leopold Aschenbrenner。在去年 OpenAI 的宮鬥大戲中,他曾是時任首席科學家 Ilya Sutskever 的堅定盟友。
而另一位則是專注于推理研究的專家 Pavel Izmailov,他也曾在安全團隊工作過一段時間。
天才少年 Leopold 十九歲便從哥倫比亞大學畢業,曾在由著名加密貨币交易所創始人 Sam Bankman-Fried 所創立的慈善基金——未來基金(Fuure Fund)中工作,直到一年前才正式加入 OpenAI 的超級對齊團隊。
去年七月,時任 OpenAI 首席科學家 Ilya Sutskever 和 Jan Leike 組建了一支超級對齊團隊,其目标是要在四年内投入 20% 的計算資源。以盡可能避免超級智能體失控的風險。
報道稱,Leopold 此前一直都是 OpenAI 超級對齊團隊的負責人之一。在去年在 OpenAI 宮鬥大戲期間,Leopold 曾積極參與推動時任 OpenAI CEO Sam Altman 的下台。
此次解雇事件是 Sam Altman 自 3 月重返董事會以來,首次公開的人員變動,至于這兩名研究員究竟泄露了哪些信息,目前尚不清楚。
此前 OpenAI 的非營利性董事會曾就 OpenAI 「宮鬥大戲」進行深入調查,但結果也并未明确指出 Leopold 有任何不當的行為。
不過,仍有觀點認為,Leopold 的解雇更可能是遭到了「秋後算賬」。
值得一提的是,随着去年 OpenAI 内部種種瓜料和内幕在全網刷屏。事件主角 Sam Altman 和 OpenAI 董事會之間的對峙,也讓我們捕捉到 OpenAI 内部加速主義和有效利他主義兩股思潮的拉扯較量。
有效利他主義主張,在 AI 發展問題上,人類應該更注重安全而非速度,一窩蜂地加速發展 AI 只會給人類帶來災難。
上文提到的 Sam Bankman-Fried、Leopold 都深受這股思潮的影響。
今年 3 月份,正值 GPT-4 發布一周年之際,Leopold 在社交平台 X 上發了一條意味深長的推文,疑似暗示 OpenAI 将推緩發布節奏:
自 GPT-4 發布至今已滿一年。希望大家在這段時間裏都能好好休息一下;
在未來一段時間内,AI 的進步速度可能很難再像這一年那樣迅速。
此外,推動 OpenAI「政變」的積極分子們也都與有效利他主義有着密切的聯系。
例如,Tasha McCauley 是有效利他主義中心的母組織有效風險投資公司的董事會成員。Helen Toner 曾在以有效利他主義為重點的開放慈善項目工作過。
然而,在 Sam Altman 重返 OpenAI 董事會後,這兩人都被「踢出」董事局,而作為推動「政變」的主力,Ilya Sutskever 後續不僅推出了董事會,并在公共場合開始鮮少露面。
他上一次出現在公眾視野中,也僅僅是出現在 OpenAI 反擊馬斯克的署名信上。
對于此次解雇事件及相關的置評請求,Leopold Aschenbrenner、 Pavel Izmailov 以及 Ilya Sutskever 的代理律師 Alex Weingarten 均未作出回應。
附上 The Information 原文報道地址:
https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking