奧特曼承認了神秘gpt2！哈佛MIT巡演繼續，斯坦福演講完整版公開

今天小編分享的科學經驗：奧特曼承認了神秘gpt2！哈佛MIT巡演繼續，斯坦福演講完整版公開，歡迎閲讀。

奧特曼斯坦福爆火演講，完整版錄像公開了！

這還只是第一站，在哈佛和MIT再次發現了他的身影。

特别是在哈佛，他還變相承認了神秘gpt2-chatbot确實與OpenAI有關，但不是GPT-4.5。

事實上，我們可以同時在所有模型的行為和功能上取得進展，我認為這是個奇迹。

他還提到"每個大學生都應該學會訓練GPT-2……這并不是最重要的事情，但我打賭兩年後這是每個哈佛新生都必須做的事情"。

難不成，就真的是GPT-2 1.5B Plus Pro Max Q*威力加強年度典藏豪華版？？？

斯坦福大學位于硅谷附近，而哈佛大學和麻省理工學院則位于美國另一端的東海岸波士頓。

奧特曼在哈佛的活動同樣座無虛席，學生們據稱提交了超過2000個問題，但只有少數人獲得了現場提問的機會。

奧特曼這是復刻去年GPT-4發布後的世界巡遊，又來了一把美國大學巡演的節奏。

更詳細的消息來自哈佛大學校報和MIT科技評論。

在哈佛，奧特曼與師生讨論了AI在學術中的使用。

論文到底是學生還是ChatGPT寫的，有關系嗎？

奧特曼舉例過去人們也曾擔心計算器和搜索引擎會毀了教育，但這并沒有發生，而ChatGPT就像"單詞計算器"。

"必須不斷發展的是規範"，奧特曼支持ChatGPT不僅可以用于理工科寫作，也可以用于人文學科。

再用老式的方法寫論文已經行不通了。用ChatGPT把發現和表達、交流想法做到最好，我認為這就是未來的發展方向。

在MIT，奧特曼則談到Agent将是AI的殺手級應用。

就像一個超級能幹的同事，他了解我一生的一切，我的每封電子郵件，每一次對話。‍

在奧特曼看來，Agent新範式的AI能夠在聊天界面之外幫助我們，擺脱現實世界的任務，但這并不一定需要單獨的硬體。

我對新技術的消費硬體非常感興趣，但我只是一個業餘愛好者，離我的專業還很遠。

被問到"是否已經知道GPT-5預計何時發布"時，奧特曼平靜地説"是的"，面帶微笑，沒有再説别的了。

上周他在斯坦福的演講完整版視頻公開後，也有幾個片段引發了熱烈讨論：

GPT-4将是你們中任何人必須再次使用的最愚蠢的模型。

我不在乎我們是否每年燒掉500億美元，我們正在構建 AGI，這将是值得的。

奧特曼斯坦福爆火演講整理‍

以下是雙語字幕版完整視頻以及内容整理。

奧特曼的大學生涯

主持人：如果用三個詞形容你作為斯坦福大學生時的感受，你會用哪三個詞？

奧特曼：興奮、樂觀、好奇。

主持人：形容現在，你會用哪三個詞？

奧特曼：我猜是一樣的。

主持人：這很棒。盡管過去19年世界發生了許多變化，但與未來19年即将發生的變化相比，這些變化可能顯得微不足道。因此，我想請教你一個問題：如果你明天醒來，突然發現自己回到了19歲，并且擁有現在的所有知識，你會怎麼做？會感到開心嗎？

奧特曼：我會覺得自己正處在一個極具歷史意義的時刻，世界正經歷着巨變，同時，我也看到了參與其中并產生深遠影響的機會，比如創業、從事AI研究等。

我認為現在是自互聯網時代以來，甚至可能是技術史上，創立公司的最佳時機。随着AI的進步，每年都會產生更多的奇迹，偉大的公司正是在這樣的時刻誕生，最具影響力的產品也是在此刻孕育。因此，我感到無比幸運，并決心充分利用這個機遇。我将明确自己的貢獻方向，并付諸實踐。

主持人：那你對自己将貢獻的領網域有偏好嗎？你是否想繼續保持學生的身份？如果是的話，你會主修什麼專業？

奧特曼：我不會繼續做學生，但只是因為我以前也沒有這樣做，而且我覺得可以合理地假設人們可能會再次做出他們曾經做過的決定。我認為做一名斯坦福的學生是一件很好的事情。只是，這可能不是我想要的。

主持人：你會怎麼做？

奧特曼：我想我還是會選擇我喜歡的方向，這并不奇怪，因為人們通常會按照自己的意願行事。我想我會投身于人工智能研究。

主持人：你可能會在哪裏做？學術界還是在私營企業？

奧特曼：我覺得，很明顯我偏向于開放的應用程式，但我認為無論在哪裏，只要能做有意義的AI研究，我都會感到非常興奮。但我要悲傷的説，現實情況是，我會選擇進入行業。我覺得确實需要在計算資源極其豐富的地方。

創業還是打工？

主持人：我們上周邀請了Qasar Younis，他極力主張不要成為創始人，而是加入一家現有的公司以學習相關技能。對于那些正在糾結是應該在19、20歲自己創業，還是加入其他創業公司的學生，你會給他們什麼建議？

奧特曼：既然他給出了加入其他公司的理由，那我就講另一個觀點。我認為自己創辦公司能學到很多東西。如果這是你想做的事，保羅·格雷厄姆有句話説得很好，我認為非常真實：創業不像醫學那樣有預科階段，你只能通過實際經營創業公司來學會如何管理公司。如果你确信這就是你想做的事，那麼你可能應該直接投入其中去做。

主持人：如果有人想要創辦一家公司并從事AI領網域，你認為當前AI領網域最适合創業的短期挑戰是什麼？為了明确這一點，我指的是哪些問題是你認為需要優先解決但OpenAI在未來三年内無法解決的？

奧特曼：從某種意義上説，這個問題是非常合理的，但我不會直接回答它。因為我認為你永遠不應該從任何人那裏接受這種關于如何開始創業的建議。

當某個領網域已經如此顯而易見，以至于我或者其他人站在這裏都可以指出它時，那它可能就不是一個好的創業方向了。我完全理解，我還記得我當初也會問别人，"我該創辦什麼樣的公司？"。

但我認為擁有一份有影響力的職業最重要的原則之一是必須要走自己的路。如果你正在思考的事情是其他人也會去做的，或者是很多人都會去做的，那麼你應該對其保持一點懷疑。

我認為我們需要培養的一個重要的能力是提出那些非顯而易見的想法。我不知道現在最重要的想法是什麼，但我确信這個房間裏的某個人知道答案。我認為學會信任自己，提出自己的想法并勇敢去做那些不被廣泛認同的事情非常重要。

比如我們剛開始創辦OpenAI那會兒，這件事并沒有得到很多人的認同，但現在它已經成為非常顯而易見的事情了。現在我只是因為自己身處其中，才會對這個方向有比較明确的想法，但我相信你們會有其他的看法。

主持人：那麼換個方式問，我不知道這樣問是否公平。你正在思考但其他人并沒有談論的問題是什麼呢？

奧特曼：如何建造真正大型的計算機。

我想，其他人也在讨論這個問題，但我們可能從别人無法想象的角度來看待它。我們正在努力解決的問題不僅是開發小學或中學水平的智能，還包括博士水平及更高層次的智能，并将其以最佳方式應用于產品，最大限度地對社會和人們的生活產生積極影響。我們目前還不知道答案，但我認為這是一個需要弄清楚的重要問題。

主持人：如果我們繼續探讨如何建造大型計算機的問題，你能分享一下你的願景嗎？我知道有很多猜測和傳聞，關于你正在開展的半導體代工廠項目。這個願景與目前的做法有什麼不同？

奧特曼：代工廠只是其中的一部分。我們越來越相信人工智能基礎設施将成為未來最重要的投入之一，是每個人都會需要的資源，其中包括能源、數據中心、芯片、芯片設計和新型網絡。我們需要從整體上看待整個生态系統，并設法在這些方面做得更多。僅關注某個部分是行不通的，我們必須全面考慮。

我認為這就是人類科技發展史的軌迹：不斷構建更大、更復雜的系統。

不在乎燒錢，為了AGI都值得

主持人：至于計算成本方面，我聽説訓練ChatGPT模型花費了1億美元，其參數量為1750億。GPT-4的成本是4億美元，參數量是前者的10倍。成本幾乎增加了4倍，但參數量卻增加了10倍。請糾正我，如果我有誤的話。

奧特曼：我知道，但我想……

主持人：好的。即使你不想糾正實際數字，但如果方向上是對的，你認為每次更新的成本是否會繼續增長？

奧特曼：是的。

主持人：這種增長會呈倍數增加嗎？

奧特曼：大概吧，我的意思是。

主持人：那麼問題就變成了，我們該如何為此籌集資金？

奧特曼：我認為給人們提供真正強大的工具，讓他們自己去探索如何用這些工具來構建未來，是非常有價值的。我非常願意相信你們和世界上其他人的創造力，可以找到應對這一問題的方法。所以，OpenAI中可能有比我更具商業頭腦的人擔心我們花了多少，但我并不在意。

主持人：OpenAI、ChatGPT以及其他所有模型都非常出色，去年燒掉了5.2億美元，這不會讓你擔心它的商業模式嗎？盈利來源在哪裏？

奧特曼：首先，謝謝你這麼説，但ChatGPT還遠稱不上出色，頂多算是勉強合格。GPT-4是大家未來可能用到的最笨的模型了。但是，重要的是早早開始并不斷發布，我們相信迭代式發布。

如果我們在地下室開發通用人工智能，然後世界渾然不覺地盲目前行，我不認為這會讓我們成為好的鄰居。因此，考慮到我們對未來的看法，我覺得重要的是表達我們的觀點。

不過，更重要的是，将產品交到用户手中，讓社會與技術共同進化。讓社會告訴我們，集體和個人從技術中想要什麼，如何将其產品化以便于使用。這個模型在哪些方面效果好，哪些方面效果差，讓我們的領導者和機構有時間做出反應。給人們時間将其融入生活，學會使用這項工具。

一些人可能會用它作弊，但有一些人也可能會用它做非常了不起的事。每一代人的發展都會有所擴展，這意味着我們發布了不完美的產品，但有一個非常緊密的反饋循環，我們可以學習并變得更好。

發布讓你感到尴尬的產品的确有點糟糕，但比起其他選擇，這是更好的方式。在這個特别的情況下，我們真的應該向社會迭代發布。

我們了解到AI和驚喜不相容。人們不想受到驚吓，他們想要逐步推進并有能力影響這些系統。這就是我們的做法。

将來或許會有一些情況讓我們認為迭代發布不是一個好的策略，但這似乎是目前最好的方法。我認為通過這樣做，我們已經學到了很多東西。希望更廣泛的世界也從中受益。

不論我們每年花費5億美元、50億美元還是500億美元，我都不在乎。只要我們能夠持續創造比這更多的社會價值，并能夠找到支付賬單的方式。我們正在開發AGI，這會很昂貴，但絕對值得。

主持人：那麼，你有一個2030年的願景嗎？如果現在是2030年，你做到了。在你眼中，世界會是什麼樣子？

奧特曼：在某些非常重要的方面，或許并沒有太大區别。

我們還會回到這裏，會有新的一批學生。我們會談論初創公司是多麼重要，科技是多麼酷。我們會擁有這個世界上新的偉大工具。

如果我們今天能夠傳送到六年前，并擁有這個在許多學科上比人類更聰明的東西，能夠為我們完成這些復雜的任務，那将感覺非常棒。你知道，我們可以編寫復雜的程式，完成這項研究或開始這項業務。

然而，太陽仍然東升西落，人們繼續上演他們的人類戲劇，生活繼續。所以，從某種意義上來説非常不同，因為我們現在有豐富的智能，但從另一個意義上來説，又沒什麼不同。

主持人：你提到了通用人工智能。在之前的采訪中，你将其定義為能夠模拟一個普通人類在各種任務中表現的軟體。你覺得什麼時候會實現這個目标？你能給出一個大致的時間或範圍嗎？

奧特曼：我認為我們需要對AGI有一個更精确的定義，以解決時間的問題。因為在這一點上，即使是你剛剛給出的定義，也是合理的，這就是你的定義。

主持人：我是在重復你之前在采訪中説過的話。

奧特曼：我要批評我自己。這個定義太過寬泛，容易被誤解。

所以我認為真正有用或能讓人們滿意的标準是：當人們問"AGI的時間表是什麼"時，他們其實想知道的是世界什麼時候會發生巨大變化，變化的速度什麼時候會大幅加快，經濟運作的方式什麼時候會發生巨大變化，我的生活什麼時候會改變。由于很多原因，這個時間點可能與我們想象的很不一樣。

我完全可以想象這樣的世界：我們在任何領網域都能開發出具備博士水平的智能，可以大幅提升研究人員的生產力，甚至可以實現一些自主研究。從某種意義上説，這聽起來似乎會對世界產生很大的影響，但也可能我們已經做到了這些後，卻發現全球GDP增長在随後的幾年裏并沒有發生變化。想想這種情況還是很奇怪的。這最初并不是我對整個過程的直覺。

所以，我無法給出一個具體的時間來説明我們何時能達到人們所關心的裏程碑，但是在未來的一年以及之後的每一年，我們都會擁有比現在強大得多的系統，我認為這是關鍵。所以，我已經放棄了預測AGI的時間表。

主持人：你能否談談你對AGI危險性的看法？具體來説，你認為AGI最大的危險會是來自一場轟動各大媒體的災難性事件，還是更為隐蔽和有害的東西，就像現在大家因為使用TikTok而注意力嚴重分散一樣。或者兩者都不是？

奧特曼：我更擔心隐蔽的危險，因為我們更容易忽視它們。

很多人都在談論災難性的危險，并對此保持警惕。我不想輕視這些危險，我認為它們的确很嚴重且真實存在。但至少我們知道要關注這一點，并會花費大量精力。就像你提到的大家因為使用TikTok而注意力嚴重分散的例子，我們不需要去關注最終結果。這是一個真正棘手的問題，那些未知的東西真的很難預測，因此我更擔心這些，盡管兩者我都擔心。

主持人：會是未知因素嗎？你能説出你特别擔心的因素嗎？

奧特曼：嗯，那它們就會被歸為未知因素。

盡管我認為短期内的變化會比我們想象的要少，就像其他重大技術一樣。但從長遠來看，我認為變化會超出我們的預期。我擔心社會适應這種全新事物的速度，以及我們花多長時間去找到新的社會契約與我們能夠用多長時間做到這一點，我對此感到擔憂。

奧特曼的優點和最危險的弱點

主持人：随着事物的快速變化，我們正嘗試将恢復力（resilience）作為課程的核心内容之一，而恢復力的基石是自我意識。所以，我想知道你在踏上這段旅程時，是否清楚自己的驅動力。

奧特曼：首先，我相信恢復力是可以被教的，恢復力一直是最重要的生活技能之一。在未來的幾十年裏，恢復力和适應能力會變得更重要，所以我覺得這個觀點很好。至于自我意識的問題，我覺得自己是有自我意識的，但就像每個人都認為自己有自我意識一樣，我是否真的有，很難從自身角度來評判。

主持人：我能問你我們在自我意識入門課程中經常問的問題嗎？

奧特曼：當然。

主持人：這就像彼得·德魯克的框架，Sam，你認為自己最大的優點是什麼？

奧特曼：我認為我在許多事情上都不是特别出色，但也在很多方面都還不錯。而且我認為在這個世界，廣泛的技能被低估了。每個人都在過度專精，所以如果你擅長很多事情，就可以在其中找到聯系。我認為這樣你就能提出不同于其他人的想法，而不是僅僅成為某個領網域的專家。

主持人：你最危險的弱點是什麼？

奧特曼：最危險的弱點，這是個有趣的思考。我傾向于偏向支持技術，可能因為我很好奇，想看看技術的發展方向，而且我相信總體而言，技術是件好事。

我認為這種世界觀總體上對我和其他人都很有利，因此得到了很多積極的反饋。然而，這并不總是對的，而且當它不對時，對許多人來説會產生非常不好的影響。

主持人：哈佛大學心理學家戴維·麥克利蘭提出了一個框架，即所有領導者都被三種原始需求之一驅動：歸屬需求，即被喜歡的需求；成就需求；以及權力需求。如果必須對它們進行排序，你會怎麼排？

奧特曼：在我的職業生涯中，不同時期都有這些需求。我認為人們會經歷不同的階段。而目前，我覺得驅使我前行的是想做一些有意義和有趣的事情。我之前肯定也經歷過追求金錢、權力和地位的階段。

主持人：你對即将推出的ChatGPT-5最感到興奮的是什麼？

我還不知道，這個答案聽起來有點敷衍。但我認為關于GPT-5或任何我們将其命名的版本，最重要的是它将會更聰明。

聽起來像在逃避，但我覺得這是人類歷史上最顯著的事實之一：我們能做點什麼，并且現在可以以高度科學的确定性説，GPT-5會比GPT-4更聰明得多，GPT-6會比GPT-5更聰明得多。我們還沒有到達這個曲線的頂端，我們大致知道該怎麼做。它不會只在某一個領網域變得更好，也不是總會在這次評估、這個學科或這種模式上表現更好，而是整體上會變得更聰明。我認為這一事實的重大意義仍被低估了。

觀眾提問環節

最後，我們也摘錄了一些觀眾提問環節的精彩内容。

提問1：随着你們越來越接近AGI，你們打算如何負責任地部署它，以防止抑制人類創新并繼續推動創新?

奧特曼：我并不擔心AGI會抑制人類創新。我真的深信人們會用更好的工具做出更棒的成就。歷史都顯示，如果給人們更多的杠杆，他們就能做出更神奇的事情。這對我們所有人來説都是一件好事。

但我确實越來越擔心如何負責任地做這一切。随着模型變得更加強大，我們面臨的标準也會越來越高。我們已經做了很多事情，比如紅隊測試和外部審計。這些都很好。但我認為随着模型變得更強大，我們需要更加漸進地部署，并保持更緊密的反饋循環，關注它們的使用情況和發揮效果的領網域。

我們過去可以每隔幾年就發布一次大的模型更新，但現在我們可能需要找到方法來增加部署的顆粒度，比較更頻繁地進行迭代部署。具體該如何做還不太清楚，但這将是負責任部署的關鍵。

此外，我們讓所有利益相關者協商人工智能規則的方式，随着時間的推移，這也會變得越來越復雜。

提問2： 你之前提到，每年我們都會有更強大的AI系統。世界上許多地方都不具備建設這些數據中心或大型計算機的基礎設施，全球創新會受到怎樣的影響？

奧特曼：關于這個問題，我想分為兩部分來談。

首先，無論計算機在哪裏建造，我認為全球公平地使用計算機進行訓練和推理的訪問權極為重要。我們使命的核心之一是讓盡可能多想要使用ChatGPT的人能夠使用它，我們可能無法或出于良好原因不想在那裏運營。我們如何考慮使訓練計算對世界更加可用，将變得越來越重要。我确實認為我們将進入一個世界，在這個世界裏，我們認為獲取一定量的計算能力是一種人權。我們得想辦法如何将這種能力分配給世界各地的人們。

然而，還有第二點，那就是我認為各國将越來越意識到擁有自己的AI基礎設施的重要性。我們想要找到一種方法，我們現在正花費大量時間周遊世界，幫助許多想要建立這些設施的國家。我希望我們能在其中發揮一些微小的作用。

提問3：您認為人工智能在未來的太空探索或殖民中将扮演什麼角色？

奧特曼： 我認為太空顯然對生物生活并不友好。因此，如果我們能發送機器人，那看起來更容易。

提問4：你如何知道一個觀點是非共識的？如何驗證你的想法有沒有得到科技界的共識？

奧特曼： 首先，你真正想要的是正确。持有相反觀點但錯誤仍然是錯誤的。

如果你預測了過去兩次衰退中的17次，你可能只是在你正确的那兩次上持有相反觀點。可能并非必然如此。但你其他15次都錯了。所以我認為，成為相反意見者過于興奮是很容易的。再次強調，最重要的是要正确。群體通常是正确的。但當你持有相反觀點同時又正确時，價值最大，而這并不總是以非此即彼的方式發生。就像在場的每個人都可能同意AI是創業的正确領網域。如果房間裏的一個人找出了正确的公司來創立，然後成功地執行了它，而其他人都認為那不是你能做的最好的事情，那才是最重要的。

至于如何做到這一點，我認為圍繞自己建立正确的同行群體非常重要，找到原創思考者也很重要。但你在某種程度上必須獨自做這件事，或者至少是獨自做一部分，或者與将成為你的聯合創始人或其他人的幾個人一起做。

我認為，一旦你在如何找到正确的同行群體這個問題上陷得太深，你已經處于錯誤的框架中了。學會信任自己和自己的直覺以及自己的思考過程，這随着時間的推移會變得容易得多。無論他們説什麼，我認為沒有人在剛開始時就真的非常擅長這一點。因為你還沒有建立起肌肉，所承受的社會壓力和進化壓力都與此背道而馳。因此，随着時間的推移，你會越來越好，不要過早地對自己要求太高。

提問5：我很想知道你對未來幾十年能源需求的變化，以及我們如何實現可再生能源每千瓦時1美分的未來。

奧特曼： 這一天也許會到來，但我不确定……我猜測最終核聚變将主導地球上的電力生產。我認為它将成為最便宜、最豐富、最可靠、能量密度最高的能源。我可能在這方面是錯誤的，也有可能是太陽能加上儲能。你知道，我最大的猜測是，最終可能是這兩種方式中的某一種，并且會有某些情況下其中一種比另一種更好，但這些看起來像是真正全球規模、每千瓦時一美分能源成本的兩種主要選擇。

提問6：從OpenAI去年的發生的事中學到了什麼，是什麼讓你能回來？

奧特曼： 我學到的最好的一課是，我們擁有一個非常出色的團隊，這個團隊完全有能力在沒有我的情況下運營公司，并且他們真的在沒有我的情況下運營了幾天。随着我們向人工通用智能（AGI）的進展，一些瘋狂的事情可能會發生，甚至可能會有更多的瘋狂事情在我們之間發生。因為世界的不同地區對我們的情感反應越來越強烈，風險也在不斷增加。我曾經認為，在很大的壓力下，團隊會做得很好，但你永遠不會真正知道，直到你有機會進行實驗。我們有機會進行了這個實驗，我了解到團隊非常具有韌性，并且準備好了在某種程度上運營公司。

至于為什麼我回來了，你知道，最初當董事會在第二天早上打電話給我，問我是否考慮回來時，我回答説不，我很生氣。然後，我思考了這個問題，我意識到我有多麼熱愛OpenAI，我有多麼熱愛這些人，我們建立的文化，以及我們的使命。我有點想要和大家一起完成這一切。

提問7：能談談OpenAI這種俄羅斯套娃的結構嗎？

奧特曼： 這種結構是逐漸形成的，如果我們可以重新來過，這不會是我會選擇的方案。但在我們開始的時候，并沒有想到會有一個產品。我們只是打算成為一個人工智能研究實驗室。我們甚至都不清楚，我們對語言模型、API或ChatGPT沒有任何概念。

所以，如果你要創辦一家公司，你必須有一些理論，認為你總有一天會銷售一個產品，而我們當時并沒有這樣想。我們沒有意識到我們會需要這麼多錢用于計算，我們也沒有意識到我們會擁有這樣一個不錯的業務。OpenAI創辦之初只是打算推進人工智能研究。

提問8：制造出比人類更聰明的東西是否會讓你感到恐懼？

奧特曼： 當然讓我感到恐懼。人類随着時間的推移變得越來越聰明、越來越有能力。你比你的祖父母能做的事要多，不是因為個人吃得更好或得到更多的醫療保健，而是社會的基礎設施進步，如互聯網、iPhone，讓大量知識觸手可及。

社會就是一個AGI系統，并不是某個人的大腦所能左右的，是所有人一磚一瓦搭建起來，為後來者創造更高的成就，你的孩子将擁有你沒有的工具。

這總是有點吓人。但我認為，好的方面要比壞的方面多得多。未來的人們将能夠使用這些新工具解決更多的問題，

One More Thing

不知道奧特曼接下來幾天還會到訪哪些高校，不過整個旅程可能會在5月9日之前結束。

從泄露的檔案可以看出，OpenAI設定了search.chatgpt.com子網域名。