今天小編分享的互聯網經驗:OpenAI首席科學家Ilya官宣離職,繼任者為GPT-4負責人,歡迎閲讀。
文 | 陳斯達
編輯 | 李然
北京時間 5 月 15 日 7 點,OpenAI 聯合創始人、首席科學家 Ilya Sutskever,用一張合照正式宣布離職。這也終結了數月以來眾人的猜疑。
來源:X
他在推文中向現身合照的 Sam Altman(聯合創始人兼 CEO)、Greg Brockman(聯合創始人兼總裁)、Mira Murati(首席技術官)、Jakub Pachocki(原研發總監、繼任首席科學家)致敬,相信 OpenAI 在四人領導下,安全又有益的 AGI 一定會被成功打造。
值得注意的是,在推文末尾,38 歲的 Ilya 提到一項" 對其個人意義重大的項目 ",但尚未透露任何細節。
CEO Altman 發長推向 Ilya 告别。
Ilya 和 OpenAI 即将分道揚镳。我非常難過。Ilya 無疑是我們這一代最偉大的人才之一,是我們這個領網域的指路明燈,也是我們親愛的朋友。他的才華和遠見眾所周知,他的温暖和同情心鮮為人知,但同樣重要。
沒有他就沒有 OpenAI 的現在。他馬上要去做對自己更重要的事,但我永遠感謝他在這裏所做的一切,并曾經致力于完成我們一起開始的使命。我很高興長時間以來,我能夠接近如此優秀的天才,一個如此專注于為人類實現最美好未來的人。
Jakub 将成為我們新的首席科學家。Jakub 也很容易成為我們這代最偉大的人才之一。我很高興,他能接過接力棒。他參與運作了我們許多最重要的項目,我非常相信,他将帶領我們,完成确保 AGI 惠及人類的使命,并做出快速和安全的進展。
據官網最新公告,被提及的繼任首席科學家 Jakub Pachocki,有卡内基梅隆大學理論計算機科學博士學位,曾擔任 OpenAI 研究總監,不僅領導研發 GPT-4 和 OpenAI Five,還參與大規模 RL 和深度學習優化的基礎研究。公告強調,Jakub 在将公司的願景重新聚焦于擴展深度學習系統方面,發揮了重要作用。
據華盛頓郵報,與 Ilya 一同離職的還有 Jan Leike,二者此前共同領導 OpenAI 的超級對齊(Superalignment)項目。項目旨在确保 AI 模型的行為方式符合開發者價值觀。同時,OpenAI 聯合創始人、科學家 John Schulman 将接替負責相應工作。
2023 年 11 月,Ilya 與其他三名董事會成員一起迫使 CEO 奧特曼下台,後又對此舉表示歉意。據報道,分歧或因對 AI 發展速度和安全議題方面意見不合。
被趕下台僅五天後,Altman 就重回 OpenAI,确立了自己的控制權,繼續推動重大技術發展。同時,Ilya 雖然還是 OpenAI 的員工,卻沒有看到他回到崗位。所以幾個月來,Ilya 的 " 失蹤 " 也成了每次 OpenAI 發布會前,網友必用的 " 陳年老梗 " —— " 快告訴我 Ilya 去哪了!""Ilya 是不是看到了什麼公司秘密?"
鑑于此前二人的 " 宮鬥 " 風波,此次 Altman 發文讓網友戲稱,對待 " 舊敵 ",用 GPT 寫一個告别推文也算仁至義盡。
"Altman 寫東西開始注意大小寫規範時,你就知道這個事情不簡單。" 此前,奧特曼的推文基本不注意任何大寫規範,十分随意。
但也有人不甘:沒有 Ilya 的 OpenAI,算個什麼東西呢?
關注 AGI 安全的計算機天才
Ilya 的天賦早早顯現。
Ilya 五歲時随家人移民以色列,14 歲就開始在以色列開放大學學習。移居加拿大後又就讀于多倫多大學。也是在這裏,他作為 " 人工智能教父 "Geoffrey Hinton 的得力博士生,一同掀起深度學習的革命。
2013 年 Ilya 後來成為 Google Brain 團隊的研究科學家。2015 年,OpenAI 将 Ilya 從谷歌 " 挖來 ",共同創立公司。可以説,這也是 OpenAI 最早的 " 政變 "。
Ilya 的名字被列在 ChatGPT、影像生成模型 DALL-E 及其他數十篇研究論文中。例如,他參與了 GPT-3 的架構設計。
人工智能的進步讓 Ilya 在各種場合表露擔憂。他在 TED 演講中説過," 總有一天,生活在我們計算機中的數字大腦,将變得和我們的大腦一樣好,甚至更好。"Ilya 所指的,其實就是通用人工智能(AGI)——" 如果創造出的 AGI 價值觀與人類不相符合,也并不貼合人類的利益。"
他開始參與領導 OpenAI 的 " 超級對齊 " 項目,即确保 AI 系統與人類的價值觀和目标保持一致,并且能夠可靠、穩健地得到控制。項目希望用四年時間解決對齊問題。Ilya 本人曾強調,超級智能可能會在十年内出現。
這一看似合理的觀點,在 2023 年的 11 月末引起 OpenAI 的董事會 " 政變 ",導致 CEO Sam Altman 被解雇。
" 政變 " 的分歧在于,對 AI 發展速度和方向意見不合。據報道,Ilya 認為 Altman 推進人工智能的辦法過于冒險,理應更加謹慎。AI 要安全發展,還需要更多安全配套措施。據悉,Ilya 在説服董事會成員過程中,發揮關鍵作用。
但當風波平息 Altman 重回公司後,Ilya 公開道歉,表示尊重并支持 Altman 對 OpenAI 的願景。
3 月,Altman 做客 Lex Fridman 博客節目,也是 " 政變 " 風波後鮮見地提到 Ilya。他沒有透露 Ilya 的近況,但表露了與其持續合作的願望——因為 Ilya 對人工智能安全隐患的持續關注,令他印象深刻。
Altman 還在訪談中強調,Ilya 和 OpenAI 的任何人,都沒有見過 AGI。
(見搬運 奧特曼最新重磅采訪:回應 GPT-5、Sora、Ilya、Q*、AGI、外星人等一切)
100 小時 " 政變 " 反轉始末
2023 年 11 月 17 日,OpenAI 創始人兼 CEO Sam Altman 被公開宣布解雇。公司董事會在一份聲明中表示其" 在與董事會的溝通中沒有始終如一地坦誠相待 "。Greg Brockman 也同時辭去董事會主席一職。微軟股價應聲大跌。
8 年的 " 老員工 " 被自己一手創建的 AI 帝國 " 流放 "。而 OpenAI 聯合創始人兼首席科學家 Ilya Sutskever,是整場 " 流放 " 的執行者。
事件讓 OpenAI 内部裂痕劇顯。
在 Altman 離開當天,OpenAI 研究總監 Jakub Pachocki、AI 風險評估負責人 Aleksander Madry,以及在 OpenAI 已經七年的研究員 Szymon Sidor 提出離職,只因 " 對 Altman 的下台感到非常失望 "。無獨有偶,許多員工也用辭職 " 逼宮 " ——讓董事會走人,讓 Altman 和 Brockman 回歸。
包括微軟在内的投資者同樣憤怒,向 OpenAI 董事會施壓,要求恢復 Altman 職位。
11 月 19 日,微軟 CEO Satya Nadell 宣布向 Altman、Brockman 及其他 OpenAI 相關員工敞開大門,表示願意提供所需資源。但其實,微軟的首要目标依然是讓 Altman 重回 OpenAI 掌權。
至 11 月 21 日,這場大戲落下帷幕,Sam Altman 成功回到 OpenAI 擔任 CEO,組成新董事會。
有消息爆料,Altman 被解雇前四天,内部研究人員向董事會發出警告信,稱發現可能威脅人類的強大人工智能。
OpenAI 事件延伸閲讀
1、突發!OpenAI 創始人 Sam Altman 被董事會罷免,微軟股價應聲大跌
2、24 小時巨變,OpenAI 流放 CEO 始末 | 知料
3、Altman 加入微軟,OpenAI 聘請新 CEO | 最前線
4、743 名 OpenAI 員工連夜遞交籤名信,要求 Altman 回歸,否則集體辭職|最前線
5、OpenAI 尋求與競争對手合并,Altman 仍願意回歸,但董事會必須下台|最前線