今天小编分享的互联网经验:OpenAI首席科学家Ilya官宣离职,继任者为GPT-4负责人,欢迎阅读。
文 | 陈斯达
编辑 | 李然
北京时间 5 月 15 日 7 点,OpenAI 联合创始人、首席科学家 Ilya Sutskever,用一张合照正式宣布离职。这也终结了数月以来众人的猜疑。
来源:X
他在推文中向现身合照的 Sam Altman(联合创始人兼 CEO)、Greg Brockman(联合创始人兼总裁)、Mira Murati(首席技术官)、Jakub Pachocki(原研发总监、继任首席科学家)致敬,相信 OpenAI 在四人领导下,安全又有益的 AGI 一定会被成功打造。
值得注意的是,在推文末尾,38 岁的 Ilya 提到一项" 对其个人意义重大的项目 ",但尚未透露任何细节。
CEO Altman 发长推向 Ilya 告别。
Ilya 和 OpenAI 即将分道扬镳。我非常难过。Ilya 无疑是我们这一代最伟大的人才之一,是我们这个领網域的指路明灯,也是我们亲爱的朋友。他的才华和远见众所周知,他的温暖和同情心鲜为人知,但同样重要。
没有他就没有 OpenAI 的现在。他马上要去做对自己更重要的事,但我永远感谢他在这里所做的一切,并曾经致力于完成我们一起开始的使命。我很高兴长时间以来,我能够接近如此优秀的天才,一个如此专注于为人类实现最美好未来的人。
Jakub 将成为我们新的首席科学家。Jakub 也很容易成为我们这代最伟大的人才之一。我很高兴,他能接过接力棒。他参与运作了我们许多最重要的项目,我非常相信,他将带领我们,完成确保 AGI 惠及人类的使命,并做出快速和安全的进展。
据官网最新公告,被提及的继任首席科学家 Jakub Pachocki,有卡内基梅隆大学理论计算机科学博士学位,曾担任 OpenAI 研究总监,不仅领导研发 GPT-4 和 OpenAI Five,还参与大规模 RL 和深度学习优化的基础研究。公告强调,Jakub 在将公司的愿景重新聚焦于扩展深度学习系统方面,发挥了重要作用。
据华盛顿邮报,与 Ilya 一同离职的还有 Jan Leike,二者此前共同领导 OpenAI 的超级对齐(Superalignment)项目。项目旨在确保 AI 模型的行为方式符合开发者价值观。同时,OpenAI 联合创始人、科学家 John Schulman 将接替负责相应工作。
2023 年 11 月,Ilya 与其他三名董事会成员一起迫使 CEO 奥特曼下台,后又对此举表示歉意。据报道,分歧或因对 AI 发展速度和安全议题方面意见不合。
被赶下台仅五天后,Altman 就重回 OpenAI,确立了自己的控制权,继续推动重大技术发展。同时,Ilya 虽然还是 OpenAI 的员工,却没有看到他回到岗位。所以几个月来,Ilya 的 " 失踪 " 也成了每次 OpenAI 发布会前,网友必用的 " 陈年老梗 " —— " 快告诉我 Ilya 去哪了!""Ilya 是不是看到了什么公司秘密?"
鉴于此前二人的 " 宫斗 " 风波,此次 Altman 发文让网友戏称,对待 " 旧敌 ",用 GPT 写一个告别推文也算仁至义尽。
"Altman 写东西开始注意大小写规范时,你就知道这个事情不简单。" 此前,奥特曼的推文基本不注意任何大写规范,十分随意。
但也有人不甘:没有 Ilya 的 OpenAI,算个什么东西呢?
关注 AGI 安全的计算机天才
Ilya 的天赋早早显现。
Ilya 五岁时随家人移民以色列,14 岁就开始在以色列开放大学学习。移居加拿大后又就读于多伦多大学。也是在这里,他作为 " 人工智能教父 "Geoffrey Hinton 的得力博士生,一同掀起深度学习的革命。
2013 年 Ilya 后来成为 Google Brain 团队的研究科学家。2015 年,OpenAI 将 Ilya 从谷歌 " 挖来 ",共同创立公司。可以说,这也是 OpenAI 最早的 " 政变 "。
Ilya 的名字被列在 ChatGPT、影像生成模型 DALL-E 及其他数十篇研究论文中。例如,他参与了 GPT-3 的架构设计。
人工智能的进步让 Ilya 在各种场合表露担忧。他在 TED 演讲中说过," 总有一天,生活在我们计算机中的数字大腦,将变得和我们的大腦一样好,甚至更好。"Ilya 所指的,其实就是通用人工智能(AGI)——" 如果创造出的 AGI 价值观与人类不相符合,也并不贴合人类的利益。"
他开始参与领导 OpenAI 的 " 超级对齐 " 项目,即确保 AI 系统与人类的价值观和目标保持一致,并且能够可靠、稳健地得到控制。项目希望用四年时间解决对齐问题。Ilya 本人曾强调,超级智能可能会在十年内出现。
这一看似合理的观点,在 2023 年的 11 月末引起 OpenAI 的董事会 " 政变 ",导致 CEO Sam Altman 被解雇。
" 政变 " 的分歧在于,对 AI 发展速度和方向意见不合。据报道,Ilya 认为 Altman 推进人工智能的办法过于冒险,理应更加谨慎。AI 要安全发展,还需要更多安全配套措施。据悉,Ilya 在说服董事会成员过程中,发挥关键作用。
但当风波平息 Altman 重回公司后,Ilya 公开道歉,表示尊重并支持 Altman 对 OpenAI 的愿景。
3 月,Altman 做客 Lex Fridman 博客节目,也是 " 政变 " 风波后鲜见地提到 Ilya。他没有透露 Ilya 的近况,但表露了与其持续合作的愿望——因为 Ilya 对人工智能安全隐患的持续关注,令他印象深刻。
Altman 还在访谈中强调,Ilya 和 OpenAI 的任何人,都没有见过 AGI。
(见搬运 奥特曼最新重磅采访:回应 GPT-5、Sora、Ilya、Q*、AGI、外星人等一切)
100 小时 " 政变 " 反转始末
2023 年 11 月 17 日,OpenAI 创始人兼 CEO Sam Altman 被公开宣布解雇。公司董事会在一份声明中表示其" 在与董事会的沟通中没有始终如一地坦诚相待 "。Greg Brockman 也同时辞去董事会主席一职。微软股价应声大跌。
8 年的 " 老员工 " 被自己一手创建的 AI 帝国 " 流放 "。而 OpenAI 联合创始人兼首席科学家 Ilya Sutskever,是整场 " 流放 " 的执行者。
事件让 OpenAI 内部裂痕剧显。
在 Altman 离开当天,OpenAI 研究总监 Jakub Pachocki、AI 风险评估负责人 Aleksander Madry,以及在 OpenAI 已经七年的研究员 Szymon Sidor 提出离职,只因 " 对 Altman 的下台感到非常失望 "。无独有偶,许多员工也用辞职 " 逼宫 " ——让董事会走人,让 Altman 和 Brockman 回归。
包括微软在内的投资者同样愤怒,向 OpenAI 董事会施压,要求恢复 Altman 职位。
11 月 19 日,微软 CEO Satya Nadell 宣布向 Altman、Brockman 及其他 OpenAI 相关员工敞开大门,表示愿意提供所需资源。但其实,微软的首要目标依然是让 Altman 重回 OpenAI 掌权。
至 11 月 21 日,这场大戏落下帷幕,Sam Altman 成功回到 OpenAI 担任 CEO,组成新董事会。
有消息爆料,Altman 被解雇前四天,内部研究人员向董事会发出警告信,称发现可能威胁人类的强大人工智能。
OpenAI 事件延伸阅读
1、突发!OpenAI 创始人 Sam Altman 被董事会罢免,微软股价应声大跌
2、24 小时巨变,OpenAI 流放 CEO 始末 | 知料
3、Altman 加入微软,OpenAI 聘请新 CEO | 最前线
4、743 名 OpenAI 员工连夜递交签名信,要求 Altman 回归,否则集体辞职|最前线
5、OpenAI 寻求与竞争对手合并,Altman 仍愿意回归,但董事会必须下台|最前线