今天小编分享的科技经验：奥特曼为AI末日做准备：建地堡、囤武器和黄金｜OpenAI 崛起大揭秘，欢迎阅读。
腾讯科技讯 6 月 28 日消息，据国外媒体报道，自从 OpenAI 在 2022 年底发布人工智能聊天机器人 ChatGPT 以来，其首席执行官山姆 · 奥特曼（Sam Altman）迅速崭露头角，成为科技界的明星。OpenAI 现已跻身全球估值最高的初创公司之列，而奥特曼本人也在大部分时间里，作为人工智能未来的代言人，频繁地穿梭于全球各地，与世界各国政要会面。那么，他是如何积累起如此巨大影响力的？
外媒近期上线《智启：OpenAI 的崛起》（Foundering: The OpenAI Story）系列音频节目，详尽地探索了奥特曼的崛起之路，以及他如何在这场构建领先人工智能技术的激烈竞赛中脱颖而出。同时，节目也触及了人工智能技术可能给人类生存带来的威胁，以及一场几乎颠覆一切的 " 宫斗 "，这场 " 宫斗 " 曾让奥特曼陷入绝境，但他最终再次站了起来。
在这些节目中，记者采访了人工智能领網域的多位领军人物，试图解读炒作背后的真相，并深入探索人工智能究竟是改善人类生活的工具，还是潜在的毁灭者。但更重要的是，这也是奥特曼的故事，他是这一切的核心。外媒与奥特曼的朋友、家人和合作伙伴进行了交谈，试图揭开他的神秘面纱，探究他如何一步步走向权力的中心。
节目总共五集，腾讯科技将陆续推出。
本期为第三集，深入剖析了 OpenAI 的内部争议，以及奥特曼作为人工智能英雄的崛起。节目分为两部分，第一部分（第三集）聚焦于 OpenAI 的内部冲突和山姆的个人品牌建设；第二部分（第四集）则将更多地关注奥特曼的妹妹安妮 · 奥特曼（Annie Alman）的生活，以及围绕贫困和人工智能经济的辩论。
往期直达
OpenAI 崛起大揭秘第一弹：弄权高手，奥特曼靠人脉积累起巨大影响力
OpenAI 崛起大揭秘第二弹：马斯克退出内幕曝光，奥特曼趁机上位
以下为第三集节目文字内容：
01 AI 乌托邦：理想与现实的冲突
在夏威夷北岸的葱郁丛林中，我们的故事悄然展开。今天，我们将开始一段深入的驾车之旅，穿越茂密的森林，经过双子瀑布。在这片生机勃勃的土地上，安妮 · 奥特曼（Annie Altman），山姆 · 奥特曼的妹妹，坐在乘客座位上，与我们同行。
安妮的生活是一段不断迁徙的历程。过去两年，她一直在寻找一个稳定的安身之所，却屡屡受挫。从新搭建却家徒四壁的蜗居，到栖身朋友家的地板，再到陌生人的客厅，她的生活充满了不确定性。在短短一年内，她竟搬了 22 次家，有时甚至只能短暂停留一两天。她的故事，是对奥特曼故事的重要补充，展现了科技繁荣背后不为人知的一面。
与此同时，在数千英里之外的旧金山，她的哥哥奥特曼在 2023 年度过了辉煌的一年。ChatGPT 取得的巨大成功让 OpenAI 声名鹊起，奥特曼本人更是被《时代》杂志评为年度 CEO。他花了几个月的时间周游世界，与世界大人物们讨论人工智能的未来，自信地预言一个没有贫穷的乌托邦世界即将到来。奥特曼的言论，充满了对未来的无限憧憬。他相信，人工智能的发展将为人类带来前所未有的富足——食物充足，医保健全，居者有其屋。他的声音，成为了人工智能时代的号角，引领着人们向着一个更加美好的世界前进。
然而，安妮的生活现实却与奥特曼的愿景形成了鲜明对比。她在无家可归的边缘挣扎，而她的哥哥却在舞台上畅谈着技术的无限可能。这种巨大的反差，不禁让人深思：技术的进步是否真的能够普惠每一个人？奥特曼所倡导的人工智能乌托邦，是否能够照进现实？
这是一个关于梦想与现实、技术与人性交织的故事。奥特曼兄妹两人的生活轨迹，让我们看到了人工智能时代光与暗的两面。随着 ChatGPT 的诞生和普及，我们不禁要问：人工智能将如何定义我们的未来？在这个故事中，我们或许能找到一些答案。而安妮的生活，则是对未来最深刻的注脚。这次夏威夷之旅，不仅穿越了丛林，更穿越了现实与理想，技术与生活之间的复杂关系。奥特曼兄妹的故事，是对这个时代最深刻的反思，也是对未来最真挚的探询。
02 AI 革命的理想与现实之辩
随着 OpenAI 的成立和发展，它的员工们逐渐感受到他们所研究的人工智能技术的深刻含义。人工智能开始展现出一些连它的创造者也不完全理解的行为，这种不可预知性在团队中引起了分歧。一些包括奥特曼在内的人认为，全能的计算机智能将为世界带来积极的影响；而另一些人则担忧，这种力量可能走向反面，造成无法挽回的后果。这些愿景极端而两极分化，就像天堂和地狱一样截然不同。
伴随着 OpenAI 内部的分歧，ChatGPT 正式发布。这不仅是 OpenAI 的一个决定性时刻，也是整个人工智能领網域的里程碑。在这段时间里，人们热议的两个预测是：人工智能将让人类灭绝，或将彻底改变工作的定义。第一个预测引发了激烈的争议，而第二个预测则相对容易接受——工作将发生改变，经济必须适应新的局面。
2021 年，大约在 OpenAI 发布 ChatGPT 一年半前，OpenAI 的技术一直在迅速获得新的能力。当时，OpenAI 正在构建越来越强大的模型，例如 GPT-2 和 GPT-3，它们已经能够用文本内容进行训练并产生越来越类似人类的文本输出。不过，这种快速的进展虽然对奥特曼和 OpenAI 是有益的，但也让一些 OpenAI 的员工感到紧张，甚至是那些高层员工。
时任 OpenAI 研究副总裁的达里奥 · 阿莫迪（Dario Amodei），在 Logan Bartlett 的播客节目中表达了他的焦虑。他回忆起 2018 年或 2019 年第一次看到 GPT-2 时的感受：" 我被吓到了。这太疯狂了。这在世界上是前所未有的。" 他看着自己在 OpenAI 帮助构建的模型，感到的是一种恐惧：" 我为什么害怕？这个东西将会非常强大。它可以摧毁我们，如果我们不理解这样的模型，如果它想制造混乱并摧毁人类或其他什么，我认为我们基本上没有办法阻止它。"
这种不安在 2021 年达到了顶点，阿莫迪和 6 位 OpenAI 的同事一起离开了公司，创办了竞争对手大语言模型开发公司 Anthropic，专注于构建安全的人工智能。他们认为，需要在某个组织内确保这些模型的安全性，这个组织真正地把安全原则从头到尾地贯彻实施。他们的离开对 OpenAI 来说是一个重大打击，投下了一层不信任的阴影，暗示着他们对奥特曼是否能做出正确决策的疑虑。
到了 2022 年底，OpenAI 发布了 ChatGPT，但当时并没有立即引起巨大反响。逐渐地，人们开始尝试并接受了 ChatGPT。人们开始慢慢注意到并讨论起这项技术，ChatGPT 的关注度随之日益上升。ChatGPT 并非一项彻底的新技术，而是基于已存在的 GPT-3.5 模型。它之所以引人注目，是因为它以一种创新的方式呈现了人工智能技术 -- 作为一个免费且用户友好的聊天式人工智能工具。这种工具的互動体验流畅自然，给人一种与能够即时创造回答的真人交流的感觉。尽管这些人工智能生成的回答有时需要进一步的核实，但人们仍然对这种新颖的互动方式表现出了极大的兴趣和迷恋。
ChatGPT 在短短两个月内就达到了 1 亿用户，创下了当时最快的用户增长记录。相比之下，TikTok 用了 9 个月，Instagram 用了 2 年半才达到同样的用户规模。ChatGPT 即便在犯错时也显得智能，它促使许多人开始思考人工智能将如何改变他们的生活。这项技术立即找到了一些实际应用，人们开始用它来更快地编写代码，更流畅地翻译檔案，起草电子邮件。学生们用它来帮助完成家庭作业，尽管这有时也导致了作弊的问题。所有这些兴奋和关注对 OpenAI 来说是一个巨大的推动。
OpenAI 的品牌知名度和成功迅速飙升，人们立刻将其视为炙手可热的人工智能公司，一个人工智能领網域的领导者。同时，奥特曼的公众形象也随之水涨船高，人工智能成为了 2023 年的热门话题，而奥特曼则是其中的主角，他成为了家喻户晓的名人。整个科技行业和投资者都迫切希望向人工智能公司投入资金，广告牌上宣传的都是新的人工智能初创公司。ChatGPT 的热潮不仅让各类人士对尖端人工智能技术产生了兴趣和认识，还激发了一小部分长期关注人工智能的人的担忧，他们认为人工智能将变得越来越强大，最终可能会失控并威胁到我们，我们必须想办法从人工智能手中拯救人类。
03 人工智能安全渐成主流
在离开 OpenAI 并创立 Anthropic 之前，达里奥就表达过他对人工智能毁灭世界的恐惧，这听起来可能有些荒谬，但对许多人来说却是极其严肃的问题。在硅谷，认为人工智能可能很快会毁灭我们的亚文化，正在不断增长并变得越来越有影响力。这些想法现在是人工智能领網域的重要动力，许多从事人工智能工作的科技人员感到他们正在从事对人类来说可能最为重大的事情，关乎整个星球的生死存亡。这种信念影响了数十亿美元资金的流向，决定了哪些问题得到解决，哪些问题被忽视。
ChatGPT 让这些担忧进入了公众意识。一项英国的调查显示，在 ChatGPT 发布后的一年里，认为人工智能可能是人类灭绝的主要原因的人数翻了一番多。需要明确的是，这种观点存在很大的争议，即使在硅谷，许多人也认为人工智能毁灭论是一种宗教意识形态，但也有很多人对此深信不疑。
科技界人士 Chiau Yuen 已被一种日益增长的信念所说服：人工智能有朝一日或许会威胁到人类的生存。他之所以会有这样的想法，源于阅读了颇具影响力的 AI 末日预言者 Elezar Owski 所撰写的作品，这些文字让他深信，一个由超级智能人工智能主导的未来，可能很快就会到来。
" 我意识到，这一切正在发生，我们正逐步逼近那个时刻，它可能在我的有生之年，甚至在我退休之前就会降临，"Chiau Yuen 如此说道。基于这种信念，他做出了一个深思熟虑的决定：不再为自己设立退休账户。对于那些认为这愚蠢的人，Chiau 有着自己的见解：" 我真心认为，到了我退休之时，金钱将失去它的价值。到那时，世界可能已经变得面目全非，我们或许已经不复存在，或者生活在一个难以想象的后奇点时代。到那时，金钱和传统价值观都变得无关紧要。" 奇点是指机器人变得比人类更聪明的那个时刻。
对 Chiau 来说，这不仅仅是跳过退休账户那么简单。一旦他真正开始相信这一点，他生活中的其他事情似乎就不再重要了。他退出了数学博士项目，5 年的学习后，他开始疏远老朋友，他认为他们没有理解形势的严重性。Chiau 说：" 这仿佛我内心深处的一个黑洞，悄然改变着我对事物重要性的认知。越是深究，越觉得其他一切都微不足道。我开始意识到，除了这个问题，其他所有事情都无足轻重了。或许，这才是唯一值得关注的重大问题。"
这听起来可能令人感到恐惧、偏激，甚至荒诞。但是，如果同人工智能领網域的专家以及硅谷的人士深入交流，就会发现这种观点并不鲜见。有时它以低声细语的形式出现，有时则被公开大声讨论。他们可能会用到人工智能安全、人工智能一致性或人工智能存在风险等专业术语。但归根结底，他们关注的是同一个核心问题。
在人工智能界，许多有影响力的人物坚信，20 年后的世界将与今天截然不同。一些人预期它将带来前所未有的美好，而另一些人则担忧它可能带来的灾难。他们认为，我们应当投身于避免人工智能走向灾难性结局的事业中。这种信念，正驱动着他们致力于确保人工智能的未来发展是安全和可控的。
在过去的 5 到 10 年间，众多知名且富有的科技界人士纷纷将资金投入到这一新兴领網域。Facebook 的联合创始人达斯汀 · 莫斯科维茨（Dustin Moskovitz），以及加密货币领網域的争议人物山姆 · 班克曼 - 弗里德（Sam Bankman-Fried），都已承诺向人工智能安全项目投入数亿美元。科技界的领军人物们签署了公开声明，警示人工智能可能给人类文明带来的风险。Chiau 和他的同仁们认为，让更广泛的人群认识到这一威胁至关重要，他们像传教士一样，在各种活动中不遗余力地传播关于人工智能的启示。起初持怀疑态度的人们，在经过一番深入讨论后，要么被彻底说服，要么感到深深的恐惧。
Chiau 还表示：" 这实在是一个令人恐惧的念头。想象一下，如果十年内所有人都不复存在，那是多么可怕的前景。在心理上，如果有人真的让你认真考虑这种可能性，这似乎是一种自我保护。虽然一开始觉得这太荒谬，怎么可能发生？但如果有人花了四个小时，极其认真地向你阐述，' 假如这是真的呢？' 那种恐惧感便油然而生。这时，你会不禁自问，那我该怎么办呢？"
Chiau 在致力于人工智能安全的组织中工作，并且主动参与理性研讨会，试图激发更多年轻人对人工智能安全的兴趣和投入。在他们看来，当谈论到什么处于危险之中时，这关乎的是我们整个银河系的存亡。这是一个观点，即目前最重要的任务是确保人工智能的未来发展是安全和可控的。然而，也有一些极其聪明的人，包括学者和研究人员，他们认为这种对人工智能末日的狂热既令人沮丧又具有误导性，比如专注于计算语言学的艾米丽 · 本德尔（Emily Bender）和麦克（Mic）。他们认为，这种狂热是一种干扰，因为现实世界中正在发生着各种切实的伤害，包括劳动力剥削、数据盗窃、歧视和霸凌等。我们越是沉迷于那些令人兴奋的、动作电影般的幻想风险，我们就越少有时间和资源去真正解决和处理当前正在发生的实际伤害。
04 AI 时代个人英雄主义的双刃剑
艾米丽及其他专家警告，关于人工智能末日的讨论，其实是一种巨大的干扰，它就像一个不断闪烁的警报器，尖叫着世界末日的来临，攫取了所有的注意力。这种恐慌让我们轻易忽视了当前人工智能技术所带来的实际问题，例如刑事司法系统中人工智能的种族偏见、非法使用艺术家的版权作品来训练模型等。更不用说，这些技术的监控应用，如何被过度用于监管社区，以及面部识别技术在识别深色皮肤女性时的不准确性。在谷歌上搜索 " 黑人女孩 "，出现的往往是不雅内容。我们寻找和信任可靠信息的能力受到威胁，这些问题涉及公共卫生、民主等多个领網域，一个接着一个。
艾米丽提醒我们，这些都是迫在眉睫的问题，人工智能正在以这些方式伤害着人们。然而，我们却在浪费时间讨论那些幻想中的场景，仅仅因为一些富人开始关注它们。同时，人工智能末日的狂热也被视为另一种人工智能炒作。如果这些系统真的如此强大，以至于可能毁灭世界，那么它们必然非常强大。这种炒作是关键，因为它让超级强大的人工智能系统对投资者和员工都充满了吸引力。艾米丽认为，关于人工智能末日论的信念不仅有害，而且具有误导性。尽管如此，她也承认，许多关心人工智能安全的人是出于真诚的动机，这是一些人真正的信仰。那些深陷这些信念的人，相信自己是故事中的英雄，将要努力阻止超级智能人工智能接管世界的局面。这种信念是真诚的，尽管可能有些错位。
艾米丽在这里触及了一个真实的问题：成为英雄的冲动，已成为人工智能行业的驱动力之一。Chiau 再次提到了这种非常男性化的愿望，渴望成为英雄。大多数人在任何有意义的层面上都没有机会成为英雄。这种想法不仅仅是 " 如果我能成为英雄 "，而是 " 如果我能通过我的智慧成为英雄 "。对一些人而言，这可能很难自我承认，因为这听起来显得他们有些不成熟。
Chiau 直言不讳地指出了许多人在这个领網域的动机：他们希望感到自己很重要，他们的工作在宇宙中具有重大意义。人们希望感到自己的生活有所作为，这是巨大的吸引力之一，比如 " 如果这是人类历史上最重要的时代，我们现在的选择将影响未来 "。那些在社交媒体 X 上开始深入投入这些议题的人会使用非常夸张的语言，" 我们将要征服星辰！"" 我们将要创造银河文明！" 有些人可能认为这些夸张的说法是在开玩笑，但这的确是他们的信仰。他们真诚地相信，由于我们在用人工智能建造东西，这是人类历史上最重要的时代。
奥特曼在一次又一次的个人演讲中传递着一个信息：我们正在研究的人工智能将具有划时代的意义。在接受外媒的采访时，奥特曼强调了人类当前面临的机遇，认为这种机遇是几个世纪难得一遇的。他认为，人类有机会重新构建社会经济契约，确保每个人都能被纳入这个体系，成为赢家；同时避免在这个过程中自我毁灭。他谈到了创造超越人类能力的人工智能意味着什么，这对我们的人性、未来世界的模样，以及人类在那个世界中的地位将产生怎样的影响。他质疑这个强大的技术将如何公平地被分享，人类如何确保不是只有少数在旧金山的人做出决策并收获所有的好处。在奥特曼的愿景中，他正在建造的人工智能将重塑人类世界、人性、以及社会契约。他的话语中流露出英雄主义的色彩，这与艾米丽和 Chiau 所指出的不谋而合。
05 奥特曼私下为末日做足准备
在美国科技圈，像奥特曼这样自认为足够聪明、能够解决重大问题的人并不罕见。比如那些计划在旧金山附近建造一座新型城市的科技亿万富翁，或是认为自己发明了更优金融系统的数字加密货币产业。奥特曼可能也自视为一位英雄，他理解一个引人入胜的故事所能带来的激励力量。2019 年，他甚至聘请了一位小说家为 OpenAI 撰写科幻短篇小说。这位小说家名叫帕特里克 · 豪斯（Patrick House），一位神经科学家兼作家。尽管他不确定 OpenAI 是否仍在使用他的作品，但这表明了他们认识到故事的价值。
奥特曼显然受到了某些类型小说的影响，许多创业公司都是由故事驱动的，这些故事通常源自科幻小说。一个强有力的故事能够激励员工更加努力地工作。在旧金山这样一个世俗化的城市，如何激励人们投身于可能避免世界末日的事业？或许可以通过提供一个基础檔案和一个启示录式的神话，告诉他们正在努力避免灾难的来临。这种叙事方式是历史上众所周知的激励手段。所有这些都让我们怀疑，奥特曼是否真的相信人工智能可能会毁灭人类。
实际上，奥特曼对于人工智能的看法在多年中经历了显著的变化。2015 年，他曾明确地表达过自己的忧虑，认为高级人工智能可能成为人类持续存在的最大威胁。在早期的谈话中，他曾以一种轻佻的语气提到，人工智能有可能导致世界的终结。这种态度在《纽约客》的一篇人物介绍中得到了体现，奥特曼在其中被描绘为一个末日准备者。
他向《纽约客》记者透露，自己已经储备了枪支、黄金、弹药、抗生素，以及以色列国防军的防毒面具。他还提到在美国加州大瑟尔（Big Sir）拥有一片土地，确保自己在世界末日时可以避难。对于那些熟悉大瑟尔的人来说，这听起来颇为讽刺，因为那里的土地实际上正在经历严重的侵蚀，导致岩石滑落、道路封闭，以及食物和物资供应的困难。这似乎是一个不稳定的地点，与末日地堡的理想之地相去甚远。
当外媒对此提出质疑时，奥特曼试图轻描淡写，称这不过是出于一种娱乐，满足了他对小男孩生存幻想的渴望。在那些年之后，奥特曼明显地避免提及大瑟尔的财产或他的枪支储备。他的妹妹安妮表示，尽管她未曾见过那个地方，但这符合她对奥特曼的了解——一个极度注重安全、准备在最坏情况下囤积资源的人。可以推测，奥特曼确实拥有这些储备，只是选择不再公开讨论它们。
奥特曼的这些行为和言论，不仅揭示了他对人工智能潜在风险的深刻认识，也反映出一种深层的生存本能和对未来不确定性的个人准备。尽管他的观点随着时间的推移而发生了变化，但他对人工智能技术可能带来的深远影响的担忧始终如一。在公众面前，奥特曼可能更多地聚焦于人工智能的积极潜力和它对社会的积极变革。但他个人对潜在风险的警觉和准备，却从未放松。
奥特曼以其独到的洞察力和远见卓识，帮助建立了全球领先的人工智能公司，随着公司声望的日益提升，他个人的知名度也随之水涨船高。他逐渐放弃了那些关于人工智能可能毁灭人类的极端言论，转而以更加审慎的态度探讨社会将如何被人工智能深刻改变，并乐观地预测这种变化总体上将导向积极的未来发展。
自从奥特曼因推出创新的 ChatGPT 技术而声名鹊起后，他开始将自己和 OpenAI 塑造成一种更为中立、理性的形象。尽管他的观点似乎随着时间和环境的变化而发生了转变，但一些人在私下里表达了对奥特曼的不满，他们认为奥特曼有时会根据听众的期待来说出他们想听的话。如果表现得更为温和，能够帮助他获得更多的支持和认同，他就会相应地调整自己的言辞。
奥特曼深知一个引人入胜的启示录式故事所具有的强大影响力。我们往往更容易被那些戏剧性的恐惧所吸引，而忽视了那些缓慢而持续的风险。在 2015 年的 Airbnb 会议上，奥特曼以核能为例进行了深入的讨论，这个例子同样适用于人工智能的风险评估。我们可以从他的语气中感受到一种自信，甚至是一丝傲慢，他似乎在指出自己对那些其他人忽视的合理事物的认识。他强调，人们通常对于戏剧性的极端风险更为敏感，而对于渐进的风险往往估计不足。
奥特曼指出，核能实际上更安全，其安全性远超煤炭数千甚至数万倍。然而，大多数人仍然更愿意选择生活在煤炭发电厂附近，而非核电厂。他们宁愿在三十年后因肺癌而去世，也不愿意面对核灾难的戏剧性死亡。这种对风险的误判是人类的常态，人类往往低估了那些缓慢而持续的问题，如错误信息、种族偏见，而高估了那些可能带来巨大冲击但发生概率较低的戏剧性事件。
或许，正是因为这种对戏剧性灾难的偏好，人工智能行业一直在向我们讲述着各种灾难性的故事。奥特曼的双面人格，一方面展现出人工智能技术带来的无限辉煌，另一方面也透露出他对这一技术潜在风险的深刻认识和隐忧。（编译 / 无忌）
