今天小編分享的科技經驗：跟兩位親歷者聊聊 OpenAI 崛起的關鍵：興趣驅動的探索，而非目标導向的馬拉松，歡迎閲讀。
文｜黎詩韻
編輯｜鄭玄
我們被倡導要想明白自己的目标是什麼、并做出計劃。然而，兩位人工智能研究者卻認為，這只适用于普通的小願望。
一旦涉及過于高遠的、不确定能否實現的目标，比如打造AGI（通用人工智能）、登月計劃等等——那麼根據興趣進行自由的、開放性的探索，才更能實現想要的。他們把這一觀點寫成了《為什麼偉大不能被計劃》一書。
在這本書出版的2015年，OpenAI成立，它一開始就确定了實現AGI的目标。九年間，OpenAI取得的巨大成功，似乎證明了人工智能界是一場「目标導向者」的勝利。「OpenAI看似是目标導向的，但實際上在内部，它有很多有趣的、開放性的探索。」本書作者之一肯尼斯·斯坦利(Kenneth Stanley) 告訴極客公園。
2015年，他任美國中佛羅裏達大學計算機科學系助理教授，和前博士生喬爾·雷曼（Joel Lehman）一起合著了該書。第二年，他們進入產業界，加入Uber AI團隊。2020年，他們又一起加入了OpenAI，肯尼斯擔任OpenAI「開放性研究團隊」負責人。
OpenAI的CEO Sam Altman是他們這本書的推崇者。他曾在一個公開場合提到，OpenAI訓練模型時會設定指标，指标的上升讓人開心，「但對于找出一個新的研究範式，就不起作用了」。受書中觀點啓發，他願意嘗試更多新奇性探索，「我們願意耐心等待數月、數年，大多數時候它（探索）并不起作用，但當它起作用的時候、效果驚人地好。」
加入内部，肯尼斯和喬爾看到開放性探索如何塑造了OpenAI的成功。例如ChatGPT本是一個意料之外的項目，它曾是内部幾大方向中最邊緣的；碰巧撞上了谷歌的Transformer架構；而Dario Amodei（前OpenAI研發副總裁、現Anthropic CEO）提出Scaling Law（縮放定律）是為了測試模型安全性、而非湧現智能等等。
随着2022年底GPT-3.5發布，全球人工智能行業開啓了激烈競賽。在二人看來，AGI仍然是一個遙遠的、而非近在咫尺的目标，僅靠Scaling Law 這個「踏腳石」還不夠。在這種情況下，開放性探索非常重要——而目前行業極具收斂的目标和計劃、以及激烈的競争，反而可能讓研究走進「死胡同」。
即便OpenAI也面臨挑戰，喬爾感覺到，一種緊張的氛圍開始在内部出現，開放性探索的空間也在縮窄。2022年，他們離開了OpenAI。随着人工智能越來越強大，他們希望更多研究一些開放性命題，比如AI會如何影響人類和社會、如何從哲學角度看待AI等等。
目前，喬爾加入了一家研究虛拟生命的公司，而肯尼斯創辦了基于開放性系統的社交網絡Maven、并獲得了Sam Altman的投資。他們都在開放性探索的路上繼續前進着。
以下為極客公園與肯尼斯、喬爾的對話實錄，經整理後發布：
《為什麼偉大不能被計劃》一書的英文版 | 圖片來源：受訪者
OpenAI看似是「目标導向型」的成功，實則是「開放性探索」的成功
極客公園：先從這本書的起源聊起，我很好奇你們十年前是怎麼想到提出「為什麼偉大不能被計劃」這個觀點的？你們最早研究人工智能的「開放性系統」，做了圖片孵化器、機器人迷宮等實驗，好奇哪些事實讓你們覺得這個觀點是成立的、并且可以應用到除了人工智能以外的其他領網域？
Kenneth：最初的想法來自于人工智能領網域的研究，也就是我們所説的「開放性系統」（Open-Endedness）。這種系統早已存在，比如生物的演進，在幾十億年中，從單細胞進化為各種各樣的動物。又比如簡單的發明創造，我們可能花了數千年，才創造了一個輪胎、空間站和計算機等等。
作為歷史學家和計算機科學家，我們希望用算法打造一個「開放性系統」，想了解它的工作原理，怎麼不斷創新、產生非常有趣的東西。所以我們做了「圖片孵化器」網站。這個 AI 系統沒有任何目标，人們随機在上面将不同圖片進行「繁殖」，這些圖片會構成類似生物學「分支樹」的關系。
雖然每個用户都是從亂塗亂畫開始的，但漸漸我們看到了一些熟悉的、可辨認的圖片，比如蝴蝶、頭顱、行星、汽車等等。我們進而得出一些有意思的洞察，比如你孵化出了一張酷似車的圖片，但你最初并不是以此為目标的。而如果你以此為目标，你根本得不出這張照片。這是矛盾之處。遵循這樣的原則，我們提出了基于新奇性探索、而非目标驅動的搜索算法。
最後我們發現，這不僅适用于算法領網域，也适用于個人和機構。每一個個人和機構都會設定目标，但這種目标驅動并不總是對我們的創造和發明奏效。Joel和我覺得這個過程非常重要，值得公開説出來。我們試圖找到相關信息、并進行多次對話，這就是我們這本書想法的來源。
極客公園：可否理解為這本書的核心觀點是，無論在算法、個人還是組織層面，面對一個更遙遠的目标，制定計劃不如自由探索有效？
Joel：一般來説，普通的做法是我們樹立一個目标、制定計劃。但我們是不制定目标、只是去探索新奇的東西。比如迷宮裏的機器人，如果給它制定走出迷宮的目标，那它可能很難走出這個死胡同。但如果不告訴它去哪裏、而是讓它自由探索，它會更容易走出迷宮。
肯尼斯和喬爾做的「圖片孵化器」網站，從亂塗亂畫中出現了一些熟悉的、可辨認的圖片 | 圖片來源：受訪者
極客公園：我注意到，在你們剛出完這本書不久的2015 年，OpenAI 成立了。這家公司從創立起就确定了一個非常偉大的目标，那就是實現AGI，它的每個步驟都是圍繞這個目标進行。今天我們看到，OpenAI似乎取得了成功。所以我想問，在你們這本書出版後的十年裏，OpenAI的故事是否反而證明了「目的驅動模式」的成功？
Kenneth：非常好的問題。我認為非常重要的一點就是要注意到，OpenAI雖然取得了一定的進展，但還沒有取得AGI的成功。另外，我們也要意識到，公司往往會向公眾講述目标，但這其實是它們一種叙述的手段，這并不意味着企業内部就是這麼推動工作的。
如果你去看OpenAI的幕後，你會發現它們不僅僅是目标導向的，它們也有很多有趣的、開放性的探索。實際上，ChatGPT就是這樣一種開放性探索，它是在一個意料之外的項目。我并不認為OpenAI的工作人員最早就設立了要做ChatGPT這個項目（的目标），或者説預見到了它能取得如此巨大的成功。它們只是在探索過程中發現這個項目非常有意思，然後一步步更新迭代才有了今天的ChatGPT。
我們書中也提到過，創新究竟該如何推進呢？其實就是我們從有趣的一些想法開始，那究竟它是否會将我們引導向最終 AGI 的成功呢？其實這并不一定，但這是非常重要的一步，它們最終都有可能帶來革命性的變化。
另外，它也能實現其他一些重要的成就，比如吸引更多的投資。我們知道GPT-2并沒有帶來巨大的革命性變化，但我們仍然要盡可能地宣傳，才能吸引更多投資來發展GPT-3、GPT-4，并最終向AGI的目标前進。OpenAI就是這麼做的，這正體現了我們書中的觀點。
Joel：OpenAI看上去是一個目标導向型的成功，但其實OpenAI剛成立的時候，内部有嘗試很多不同的發展方向。比如當時他們非常看重強化學習，包括視頻、遊戲的強化學習，為此内部做了很多嘗試。
而且GPT背後的核心技術是Transformer架構，這是由谷歌推出的，所以OpenAI也是在谷歌這樣的巨人的肩膀上不斷發展的。如果回顧10年前、20年前、30年前、40年前，沒有這麼多「踏腳石」的情況下，OpenAI也不可能取得這樣的成功。
極客公園：你們定義了OpenAI看似是目标導向、但其實是自由探索式的成功。OpenAI内部人士曾跟我們説，鋪墊GPT 3.5 的幾個「踏腳石」都是随機碰撞出來的，比如聊天機器人曾是内部最邊緣的項目、碰巧撞上了谷歌的Transformer架構、而Dario提出Scaling Law也不是為了智能湧現而是想測試模型是否安全……這是否跟你們了解的情況接近？
Joel：是的，這些随機探索的确是非常重要的。尤其是OpenAI，它很早就開始推進 Scaling Law等嘗試，并且不斷在做選擇，這是非常正确的。
Kenneth：的确探索很多時候是随機的、根據興趣進行的。但Dario提出Scaling Law，這不僅是一個随機的探索、這其實也是一個目标導向性的做法。
這背後是團隊從自己的興趣出發、做了很多嘗試，想要找到解決方案，最終提出了Scaling Law這個解決方案。這某種意義上也是一種目标導向。
極客公園：所以開放探索和目标驅動并不是彼此對立的，而是可以統一和融合的？
Kenneth：的确兩者是可以并存的，能夠從一方轉向另一方。但是在我看來，這其實也是一個非常困難的問題。什麼時候該進行轉向？什麼時候是目标導向、什麼時候是興趣導向？這非常微妙，很難去找到最佳的轉變時機。
極客公園：你們能夠看到 OpenAI的内核其實是一個「開放性探索」的組織，這是當初吸引你們加入OpenAI的重要原因嗎？
Joel：哈哈，有許多原因。一個最主要的當然因為OpenAI是AI領網域的前沿公司。另外，它的确一開始就是一家「開放性探索」的公司，雖然它們肯定有一些目标導向的元素存在。這與我的個人興趣也是相關的。所以确實很難拒絕這樣一份工作。
極客公園：那麼Sam有看過你們這本書嗎、他是否認同你們提出的「開放性探索」觀點？這是他招募你們進入OpenAI的原因嗎？
Kenneth：Sam 非常喜歡我們書中的想法，我相信他是在觀看了我關于這本書的演講時接觸到這些想法的。他曾在公眾場合提到，他受到了這本書的一些想法的影響。Sam 對這些想法是非常包容和開放的，我覺得他暴露在這些想法當中、他認為這些想法非常有意思。
當然，我在OpenAI也不僅僅是因為Sam，内部很多人都有開放的想法。比如Jeff Clune（前OpenAI研究團隊負責人），他在我們之前加入OpenAI。他也覺得，開放性探索是一個有趣且值得投資的領網域。我們在那個時候達成了共識，所以我們被雇傭了。
在我看來，這本書并不是OpenAI的工具書。但我相信，這一文化确實對他們有影響，開放性探索是非常重要的。
極客公園：Ken當時是OpenAI「開放性探索」團隊的負責人，當時OpenAI對你們的期待是怎樣的？有給你們制定了怎樣的目标嗎？
Kenneth：我們面臨的挑戰在于，幾乎任何一家公司都會感興趣設定目标。但如果我們探索的一些想法，并不完全是目标導向的、甚至會背離目标的話，我們肯定會面臨一些溝通上的挑戰。這有一些復雜，因此在日常的工作中，我們需要取得一個平衡。
有時候很難理解我們來自哪裏、雇傭我們幹嘛。他們可能會非常奇怪，覺得我們做的是非客觀性的一些東西。不過最終他們意識到，對于推動AGI來説，這些工作是非常有用的。這已經超出了傳統團隊的認識。
Joel：這裏面分為兩部分：一個層面是關于組織的架構，很多人會困惑我們的工作，所以我們要跟他們解釋我們在做什麼，并找到我們工作跟AGI目标的關聯度；另一方面是我們實際工作的開放性，要創造新的東西。
就像Ken説的，我們需要在公司内部找到一種開放性的方法，既要讓大家了解我們在做什麼，也要新奇探索、取得進步，這兩者的平衡是一種微妙的舞蹈。
極客公園：你們是否感受到，在「開放性探索」上，OpenAI這樣的初創公司可能比科技巨頭做得更好？我曾聽説，Google雖發明了 Transformer 架構，但沒有率先做出GPT，是因為它的技術路線更目标導向——Google更強調 Encoder（輸入），因為它可以解決更多具體業務問題；而 OpenAI 更強調 Decoder（輸出），因為它沒有那麼強的業務導向，更願意像無頭蒼蠅一樣做「開放性探索」，你們怎麼看？
Joel：我的理解是谷歌也有這種對話模型，也是很領先的。談到好奇、興趣、技術能力、率先應用于大眾等，我認為其中包含了不同的變量。谷歌是一個更大的機構，可能有更多的「橡皮章」、繁文缛節這些東西，而OpenAI可能更開放。
Kenneth：我只是想説，涉及到任何一個大機構的成功，都包含了很多要素。不過我有一點我同意，OpenAI确實在探索方面做得更好、它有更大的意願去冒險，而谷歌可能在這方面更加謹慎和猶豫，比如在公眾面前展示技術，谷歌可能會慢一步。
這可以理解。因為谷歌作為一個大公司，在發布東西之前，需要做很多嘗試和實驗。他們更不願意失敗，它對于風險更有顧慮。但這并不一定是确定的，只是我們的看法。
我們看到，谷歌注重強化學習和各種方法，OpenAI也注重強化學習、并在不同領網域下注，最終它們都取得了成功。
極客公園：距離你們當時寫這本書已經過去快 10 年了，中間你們還加入了OpenAI、Uber等科技公司，經歷了這些再看這本書，你們覺得書中哪些觀點仍歷久彌新？哪些需要變化更新？
Kenneth：回頭望，這已經是我們這本書出版的第九年了。關于建立目标，我們有過非常多的、激進的争論，但許多事情随着時間的推移得到了驗證。
正如你剛才提到的一些例子，有些人可能會認為有些目标是有效的。但在過去十年的時間裏，我們越來越發現，目标導向有時會讓人感到困惑，會讓你有盲點、抓不到其他機會、看不到更多的可能。我們認為十年後、甚至一百年後，這個觀點可能都不會過時。
在每一章中，我們都引入了一些歷史案例和引語，比如「行者無疆」——一個好的旅行者是沒有固定計劃的，他對于要到達哪裏并不太清楚——我不确定中國的哲學家老子是否在幾千年前提出了這種描述。這是一種哲學的觀點、一種經驗之談，并不是有很多科學證據，有時候聽上去是反直覺的、是一個離經叛道的東西。
社會中确實有一些問題，例如，整個社會的組織都在圍繞目标推動，并且把「目标是非常重要的」這種文化意識強加給我們。以教育為例，老師根據考試内容教學、學生根據考試内容學習，這就是目标對教育的影響。在書中，我們強調了目标的影響是無處不在的，我們需要去掙扎往前走。
再次強調一下，我們認為「偉大無法被計劃」這個觀點，是不會發生變化的。如果我們的人生只是目标導向的話，将無法取得完整的幸福。這也是為什麼我們這本書如此成功和受歡迎的原因。
沿着Scaling Law、卷模型性能，可能會走到「死胡同」
極客公園：雖然你們反對「目标導向」，但似乎目前全球人工智能界的目标都非常收斂且明确，一是追上OpenAI等公司、二是盡快實現AGI，你們怎麼看這種現象？這種「目标至上」會是你們反對的嗎？
Kenneth：謝謝您的問題。我同意在目前的人工智能行業中，大家定了這兩個宏偉的目标，覺得「北極星」就在那兒、我們要朝着那兒走。不過回到我一開始説的，企業往往會對外有一套説辭，但它們内部可能并不是這樣做的。
我主要想談一談，我們到底離這樣的目标有多遠？如果説只差一個「踏腳石」、離得非常近，就像上世紀60年代制定登月計劃的時候、已經有很好的技術基礎，那麼我們可以通過制定目标去實現。
但問題在于，如果我們還需要很多個「墊腳石」、離目标還很遠，那設定目标可能會讓我們陷入困境、無法前進。歷史上有很多這樣的例子。比如在2017年，我們聽到有人説第二年就會有自動駕駛汽車上路，但其實不是這樣。
因此，單純采取目标導向的方法往往會無法實現目标，可能是因為目标設定的時間太早、或者太過雄心勃勃。很多人認為現在人工智能領網域只差一個「踏腳石」，只需要擴大規模就可以了，這其實是過于簡單化了這個問題。但在我看來，真正核心的「踏腳石」還沒有被發現、我們并不僅僅差一個「踏腳石」。我們很可能正在陷入目标的陷阱和迷思之中。
Joel：的确我們現在處于一個「荒誕」的歷史階段，全球的科技公司都在追求AGI，這種過于聚焦的目标是人類「革命性的時刻」。但我們要知道，AGI的發展還要很長的時間。
現在許多人認為，只需要擴大規模、參數，有更多的數據和算力，就可以可發展人工智能。這對我來説有些無聊，或者説有些無趣。這并不是最核心的「踏腳石」，我相信還有其他的路徑和方法需要我們去探索。
極客公園：為什麼我們離AGI不只是「一步之遙」、不只差一個「踏腳石」？你們做出這個判斷的依據是什麼？
Joel：我們到底距離AGI有多遠，其實大家是有認知偏差的。就像自動駕駛一樣，并不太清楚到底需要多少個「踏腳石」。我們唯一确信的是，如果有一步之遙的東西，你必須要在那裏、你必須去做、必須去放大。
Kenneth：最近有一個類比，GPT-3就像是一個孩子，GPT-4像是高中生。但實際上，ChatGPT更像是教科書中的知識，在某些方面，它可能超越了我們，而在其他方面，它可能不如我們。奇特之處在于，我們會感到某些東西非常接近了，但這不一定是AGI。
但我們也不清楚究竟還要等待多久。我們甚至可能需要一位「愛因斯坦」的出現，才能達到下一個台階。
極客公園：這讓我想到你們在書裏提到，其實從單細胞到人類的進化過程中，重要的「踏腳石」不只是智力，還包括對稱性等。那麼對于AGI 來説，Scaling Law 帶來的智能提升會是一個靠譜的踏腳石嗎？它能支撐多久？
Kenneth：智能這個詞很容易讓人困惑，因為它涉及許多方面。Scaling Law遵循一些普遍的原理，但它也會喪失一些東西。比如在技術上，你必須将大量人類數據進行更好的壓縮和訓練，它不再是傳統意義上的智能、而是不斷提升的智能。我們最終可能會遇到一個瓶頸或死胡同、會在訓練上遇到走不下去的時刻。
就像OpenAI在不斷擴大規模、增加參數，但它還是遇到了瓶頸（注：比如GPT-5處于難產狀态）。這也是為什麼我們需要新的踏腳石。
Joel：如果想要達到AGI那模糊的彼岸，有點像做一個賭注，很多明顯的路徑都必須要去嘗試。因為AGI可能不僅來自AI，還可能來自數學、哲學和其他領網域。
《神經語⾔模型的縮放定律》論文寫道，随着模型⼤⼩、數據集⼤⼩和⽤于訓練的計算量的增加，語⾔建模性能平穩提升 | 圖片來源：OpenAI
極客公園：現在各大人工智能公司都在這一維度激烈競逐，而你們在書裏提到，競争其實跟「開放性探索」相悖、因為它是極其收斂的目标。你們怎麼看待現在人工智能領網域的激烈競争？
Kenneth：這就是目标導向的悖論，它會使得我們更加盲目，對其他方法和路徑視而不見。像OpenAI、Anthropic和Google這樣的公司，它們存在激烈競争，因為哪家如果落後了，就可能無法獲得更多資金，公司會受到生存威脅。
在這種競争中，大家唯一的目标就是活下來。公司更傾向于繼續沿着既定路徑前進、擴大規模。如果這時候嘗試創新，會面臨失敗的風險、可能會被踢出局。所以創新往往會減少。我認為在這樣的競争環境下，很容易進入死胡同。
不過當這些企業遇到瓶頸時，他們可能會意識到需要轉向、進行更多開放性探索。
極客公園：這跟很多人的看法相反，一般我們認為激烈競争會推動模型智能水平的提升、加速AGI的實現，但在你們看來反而會适得其反？激烈競争會弊大于利嗎？
Kenneth：是的，這可能有些反直覺。雖然競争會引發「軍備競賽」，使得模型性能有所提升，但過度的競争會減少開放性的嘗試，使得創新更加聚焦和局限、無法取得真正的進展。
極客公園：説了這麼久的「開放性探索」，那麼對于現在目标和路徑已經相對明确的人工智能企業來説，它們應該怎樣才能做好這件事？你們對于「開放性探索」有沒有一些建議？
Kenneth：我們會發現，很多公司太早就建立了一套體系，并且非常目标導向。如果一些探索在測試中表現不佳，他們就會放棄研究。我認為這會減少開放性探索的機會，是非常不利的。
對于AGI也是如此。當前的Transformer架構可能還遠遠不夠，甚至我們對神經網絡的運作機制還了解得不夠，目前仍有許多失敗的案例。我們并不清楚究竟還差多少步才能實現AGI，因此我們需要多重的、開放性的探索。
在當前階段，對于OpenAI和其他公司來説，它們不僅需要改善現有的模型、更需要探索新的路徑，這兩件事需要同步推進。
離開OpenAI，人工智能界還需要更多「開放性探索」
極客公園：不久前Ken接受了一個采訪，提到你離開OpenAI是因為「有一些的沮喪、有一些頓悟」，我好奇你的「沮喪」、「頓悟」是什麼？方便跟我們分享一下嗎？
Kenneth：讓我想一想，我并不是説我對OpenAI不滿意，而是我越來越意識到，我對人工智能的影響存在一些擔憂。現在有很多關于人工智能消極影響、安全以及文明終結的讨論，這都是很明顯的一些問題。
我越來越感覺到，社會中存在一些對人工智能的不滿情緒、人們感到越來越多的失落，大家會追問生命的意義究竟是什麼？比如，未來機器人可能有數百萬個非常好的想法，一秒之間就可以超越我們一生的成就、或者比我們個人多年的經驗更具智慧，那麼我們如何再去做有創意性的工作、并從中獲得成就感呢？這是一個非常嚴重的問題。
我感覺我的工作，似乎在某種程度上加劇了人們的這種擔憂和焦慮。因此，我想思考人工智能未來的發展方向、解決它深層次的問題——我們究竟該如何改善人工智能，使其更好地為人類服務，促進人類之間的連接，而不是加劇競争？
這是我最近非常關注的問題，我認為需要進行開放性探索，我相信這對人類社會會更有助益。基于這樣的原則，我成立了一家自己的公司，希望建立一種開放性的社交網絡。
極客公園：你創立了Maven，它是一款基于開放性探索的社交產品，可不可以介紹下Maven是一個怎樣的產品？為什麼它能解決你提到的人工智能存在的問題？
Kenneth：你可能也注意到一些社交媒體存在的問題，比如信息繭房、對立觀點、不斷争論的意識形态導向、甚至陰謀論等。那麼這些問題從何而來呢？實際上，這是因為這些系統的質量有問題。
幾十年前人們就曾説過，人們會產生各種各樣的觀點和内容，但很多内容是負面的或不好的。而現在的社交媒體過于關注内容的受歡迎程度。我們認為這種信息分發模式需要改進。
所以我創立了Maven，這是一個基于内容質量來推薦的「開放性系統」。人們打分、評價，去找到好的内容。這種客觀的評價方式、而不是靠點贊排序，才能帶來更好的内容。
極客公園：我注意到Twitter 的聯合創始人投資了你、Sam 也投資了你，為什麼Sam會決定投資你？他對你這次創業有沒有提出建議？
Kenneth：Sam的确投資了我的公司。我寫完這本書之後，也想讓「開放性系統」被更多人使用，于是萌生了成立自己公司的想法。從職業發展的角度，Sam給了我許多建議和見解。
從孵化投資人到OpenAI的CEO，Sam自己的職業發展就是非常了不起的跨越。他給我的建議是，我們不一定要沿着一份工作、一條道路前進，我們的職業發展也可以非常多元化。這給我很大的啓發。 極客公園：Joel 離開 OpenAI 的原因是什麼呢？
Joel：主要是我的職業發展追求跟它不再完全契合。最初加入OpenAI時，這家公司還處于比較基礎的階段，内部有機器人、人工智能等多個研究方向。然而，後來這家公司變得更加聚焦，我也注意到公司内部存在一些緊張的氛圍，這對開放性探索有一定限制。
正如Ken提到的，我們需要考慮到AI對社會的影響、一些哲學問題、還有如何利用人工智能讓個人更好發展等等，這些都是很有趣的研究角度。我希望能繼續研究，而OpenAI可能并不是發展這些興趣的最佳場所。
離開OpenAI後，我加入了一家研究虛拟生命（artificial life）的初創公司，現在還在繼續從事開放性系統的研究。
肯尼斯加入OpenAI時發布的推文 | 圖片來源：X
極客公園：你們提到，即使是OpenAI這樣最頂尖的人工智能公司，随着公司規模的擴大，它在開放性探索上的投入也開始變得緊張。你們對此有什麼擔憂嗎？
Kenneth：的确如此，資金的壓力還是非常明顯的，如果沒有明确的回報，管理層可能會減少開放性探索的投入。不過對于一些創新型的初創企業來説，應該還好。
像llya（注：OpenAI前首席科學家）剛剛離開了OpenAI，成立了自己的公司。他説他唯一的目标就是實現AGI，而且投資不是大問題。這表明即使沒有明确的回報，也能得到資金支持，許多研究人員都在進行各式各樣有趣的探索。
關于OpenAI，有人説它現在變得更加商業化，我不太确定。不過内部肯定還有一些開放性探索的機會。因為商業化并不是OpenAI的最終目标，也不是很多OpenAI研究人員的唯一目标。
極客公園：Sam 有跟你們聊過這方面的困惑嗎？比如随着公司規模變大，他是否感到開放性探索更難做了？
Kenneth：這是一個非常有趣的問題。 我不太清楚Sam的腦袋裏在想什麼，因為他沒有跟我聊過這些。
極客公園：最終回到個人，你們是人工智能研究員和創業者、也是普通人。如果你們自己有一個看起來很遠大的、又很不确定的目标，你們會怎麼實現它？你們對普通人有什麼建議嗎？
Joel：作為一個研究者，有些東西可能是似是而非的。我們書中的一些想法并不一定直接帶來成功，有時需要我們慎重認真的看待和廣泛閲讀。
作為個人，我認為保持謙卑、開放探索的心态非常重要。因為偉大是不能被計劃的，但我們可以找到偉大中的亮色。
Kenneth：作為個人，你要保持均衡。比如當你過于專注于目标，生活可能就沒有那麼有趣。就像有人的目标是賺錢，但如果發現了其他有趣的機會，即使這個機會的收入并不高、也不在主流地帶，我也建議他嘗試。
作為研究者，事實上，我想都沒想過什麼東西會導致AGI。我相信直覺。也就是説，我會遵循我的興趣行動，而這會引導我發現更多的有意思的東西。看起來我離目标更遠了，但實際上，興趣才會通往最終目标的實現。
