今天小編分享的科技經驗：對話凱文·凱利：現在監管 AI 為時過早，應該允許「失控」，歡迎閱讀。
平均人類并不高尚，我們希望 AI 比人類更好。
對話 | 張鵬、李志飛策劃 | 衛詩婕、黎詩韻
30 年前，互聯網剛剛萌芽、就連個人電腦都很稀罕，一位科技作家開始了自己對當時社會各界的一次前沿漫遊。在與世界最有智識的人們交流之後，他窺探到了一些未來圖景，并最終寫成一本大部頭著作《失控》（1994 年）。直至十多年後，當移動互聯網、智能手機時代到來，人們驚訝地發現，那些時下最新的概念「全球信息互聯、分布式系統、數字貨币、雲計算等」早被這本書預言。
這名科技作家就是凱文·凱利，也被稱為 KK。他是《連線》雜志的創辦人，科技觀察家和「預言者」。2010 年，《失控》中文版推出，KK 也開啟了在中國的一系列探訪，并逐漸被國人熟知。
站在今天的節點，通用人工智能（AGI）正在萌芽、一場時代變革即将拉開，這又隐隐和《失控》一書中的預言相呼應。KK 當時就預測，人類最終會和機器走向統一，「機器正在生物化、而生物正在工程化」。用他自己的話說，《失控》只講了一個内容，那就是如何打造一個「復雜系統」——機器人、人工智能（AI）等都可被視作復雜系統，他認為這一思想至今依然适用。
不久前，我們和大模型創業公司出門問問創始人& CEO 李志飛一起，跟 KK 展開了一場對談。
前者站在技術、商業的實務角度，後者站在人類、歷史、甚至宇宙的抽象角度，共同探讨了人工智能的崛起、影響和威脅。這是一次頗有「科幻意味」和「想象力」的讨論，我們試圖再次「預言」人類和人工智能的未來。
二者都認為，今天的人工智能已經具備生命的形式，而這在人類歷史上還是頭一次。李志飛說，目前的 AI 已經相當于人類小孩的智商，已擁有知識、邏輯、推理、規劃等真正的通用智能能力。而 KK 認為，作為「矽基生命」，AI 将和人類一樣有适應性，能夠自我學習、成長。
非常相似地，他們都信奉技術樂觀主義。KK 認為，AI 不會讓人類失業，只會讓人類更高效、并從「可惡」的工作中解放出來。AI 看似會拉大貧富差距，但更可能像人類歷史上的每一次技術變革一樣，通過做大蛋糕、更好地實現公平正義。而在對商業的影響上，它會同時讓個體、中小公司、大公司都獲得權力。
正如《失控》一書的名字所言——凱文·凱利覺得，為了更好地獲得 AI 的力量，人類應當允許 AI 的部分「失控」。畢竟，ChatGPT 正是在人類失控的「湧現」狀态下誕生的。他和李志飛都認為，目前 AI 的智能依然稚嫩，人類應該繼續放手，而不是過早地、過度地控制（監管）。後者可能将創新扼殺在搖籃中。
将目光放到更長遠，如果有一天 AI 真的成為一個超級生命體，那人類到底該如何與之相處？
科幻小說和電影都描繪了一個灰暗的未來，其結局往往是 AI 自我覺醒之後殺死人類。但凱文·凱利認為，這是人類缺乏想象力的表現。失敗總比成功更容易想象、也具故事的誘惑性。關于未來，人工智能的益處與價值其實不難想象。
他的建議是，不妨将 AI 視作「人工外星人」，人類将能借助 AI 的智慧解決自身問題、且實現一定程度的「控制」。而李志飛則認為，作為 AI 的「祖先」，人類最終會跟 AI 相互融合、而非控制。
至于這次的預言是否會成立，就要看 5000 天之後的世界了。
以下是對話全文：
01
即便 OpenAI
沒有做出 ChatGPT，
很快也會有其他公司做出來
張鵬：無論中美，最近人們都在探讨大模型。你對這一波大模型的技術變革有什麼感受？會覺得十分震撼嗎？
凱文·凱利：人工智能（AI）已經存在了幾十年。當 AI 模型開始采用神經網絡和深度學習時，出現了一個重大的飛躍，它們變得越來越龐大。大約 4、5 年前，它開始產生非常龐大的 transformer 模型（采用自注意力機制的深度學習模型）。而最近兩年，它開始與大型語言模型進行接口互動。
其實最近，AI 的重大變化不在于它的能力，這方面它的表現并沒有好多少。最近 AI 真正的變化是，它讓我們有了一個對話用戶界面，可以用（自然）語言與 AI 進行真正的交流。而在此之前，人們需要學習大量的編程知識、非常精通才能使用 AI。但現在，突然之間每個人都會用 AI 了。這才是真正令人興奮的部分。
李志飛： 我同意 KK 說的，目前大語言模型最主要的變化是自然語言互動能力的提升。這确實是很多普通老百姓能感受到的，也正因如此，今天 ChatGPT 才會產生這麼大的社會影響力。
但我認為，今天的大模型在能力上也有很大的變化，而且正是這種變化才使得它的自然互動變得可能。因為實現自然互動背後，需要 AI 有很強的知識、理解能力、語言能力、推理規劃能力等等。AI 必須在這些基礎能力上有突破，才能實現自然語言的互動。
并且我認為未來大模型的能力，将不僅僅是自然語言互動。比如寫程式、企業自動化流程、機器人自動化等事情，都是不互動的，但它們未來也會成為可能。
張鵬：我非常認同 AI 跟人類更好的對話能力，将會帶來一波技術和商業的範式革命。如果說 ChatGPT 是 AI 發展的第二曲線，那它的出現到底是必然還是偶然？
凱文·凱利：ChatGPT 的能力超出了所有人的預期。我不認為有人預料到這一點，包括人工智能領網域的人士。實際上，大多數研究人員都不知道 ChatGPT 的工作原理，他們想努力改進它，但很困難，因為并不知道它是如何工作的。因此，ChatGPT 的出現是一個意外。
盡管 ChatGPT 非常令人驚訝，但我們也看到了它的局限性。它主要的限制在于，這個模型是根據人類創作内容的平均水平進行訓練的，因此它傾向于產生平均水平的結果。而我們常常想要的并不是平均水平、而是超過平均水平的東西。這很難做到。
其次，這些模型的優化目标是合理性，而不是準确性。因此，如何使它們更準确是當前所有人都在努力解決的重大挑戰。
李志飛：我覺得 ChatGPT 的出現，從短期看是偶然的，但長期看是必然的。可以說，去年底 OpenAI 做出 ChatGPT 是偶然的，但就算它沒做出來，很快也會有其他公司做出來。
這在技術的歷史上無數次重演。以深度學習為例，2012 年 AlexNet 第一個做出 image annotation（影像标注），但當時很多信念、工程能力都很強的團隊也在做，如果 AlexNet 沒做出來，其他人也會做出來。還有 2017 年 Google 做出 transformer，都是在解決之前 RNN、LSTM 這些序列模型低擴展性等問題，如果 Google 沒做出來，其他團隊也會做出來。
ChatGPT 誕生的背景是，transformer 已經很成熟了、而且我們有很強的算力去訓練互聯網的海量數據，所有 ChatGPT 必需的元素都已經具備，它的誕生是必然的。只不過，OpenAI 在那個時間點把它組合得最好。
張鵬：聊到必然性和偶然性的問題，讓我想到了最近非常熱的一個詞「湧現」。這個詞在 KK《失控》這本書出現過至少 88 次，今天我們應該如何理解湧現這個詞的意義？
凱文·凱利：從英語的角度來看，「emergence」是一個術語，指的是一個系統的行為、一整堆相互連接的事物，比如互聯網、機器人、身體、生态系統甚至整個世界，其行為不包含在任何單個部分的行為中。比如蜂巢可以記住超出單個蜜蜂壽命的事物，因此蜂巢本身具有一種行為、能力和力量，而單個部分沒有。我們稱之為「emergence」。
同樣，許多正在生成的人工智能也是「湧現」的。因為在模型中沒有一個地方能夠解釋它的來源，它需要所有部分共同協作才能產生這種新的能力。就像我們的大腦沒有一個地方有「思想」，「思想」是從整個神經元中「湧現」出來的。思維、進化、學習等事物都可以從系統中「湧現」出來。
李志飛：我對「湧現」的了解來自《復雜》這本書，它講到「more is different」，「多即不同」。就像中國的一句古話，「量變導致質變」。大模型第一次講到「湧現」，是去年底斯坦福跟 Google 發的一篇文章。他們通過實驗發現，通過增加大模型的規模、當到達某個臨界點時，它會突然「湧現」某種能力。
我現在感覺，「湧現」這個詞其實被濫用了。因為我們解釋不清楚大模型的能力是怎麼來的，就稱之為「湧現」，這個詞不可解釋、也不可操控，對我們訓練和應用大模型沒有任何幫助。現在，大家不再研究「湧現」了，而是更多研究大模型參數量跟最終能力表現之間的量化關系，這可能對我們了解、把控大模型更有幫助。
張鵬：我們可以理解為，「湧現」會導致「失去控制」嗎？
凱文·凱利：這樣理解并不完全正确。當然，它會有「失去控制的部分」，如果你希望能夠對「湧現」行為的力量加以利用，你可能需要容忍一些事物不受你的控制。目前在人工智能領網域，我們對它的理解和控制可能還不夠好，但這實際上是為了獲得最佳結果所必需的。
但與此同時，我們又不能讓一切都「失控」，我們必須進行一定程度的「控制」，也就是引導、管理人工智能。再次強調，我們不希望過度限制、但也必須實現一定程度上的控制。不過，我們很可能永遠無法完全控制它們，特别是對于更強大的人工智能，我們很可能永遠無法完全理解其工作方式。這就是其中的權衡。
張鵬：你寫下《失控》這本書已經過去很多年了，在今天這個節點、結合着這一波的 AI 革命，你覺得《失控》有什麼值得重新校準的部分嗎？
凱文·凱利：我認為我在《失控》這本書中并沒有過多談論人工智能和失控，它其實主要講了如何将簡單事物制造成復雜事物。有一種叫做羅德尼·布魯克斯的子系統架構，它提到你可以通過将智能的各個部分嵌入其中，制造一個復雜的機器人。這個通向復雜的過程是，你要在已經正常工作的事物基礎上疊加其他東西。（布魯克斯的架構理論提出，更高層級的行為需要包容較低層次的行為）。
就像昆蟲，即使你割掉它的頭，它也可以走路，因為行走的功能更多由局部完成。就像我們大腦有一個負責呼吸和其他自主功能的核心，我們是在這個基礎上添加了更多的復雜層次。今天，當人們制造機器人和人工智能、并試圖使它們更復雜時，這個思想仍然有效。這實際上是我在《失控》中談論的唯一内容，而我認為這個觀點仍然成立。
張鵬：我記得你之前有一個很有意思的視角，就是「假設科技是一種生命」，當它湧現出接近人類的智能，那它接下來會想要什麼？這會對商業領網域和人類社會帶來什麼影響？
凱文·凱利：技術是一種被我稱之為「第七生命王國」的東西。我們加速了生命的進化，使它進入一個「幹燥」的領網域，不再需要「溼潤」的環境，而是可以存在于矽中。我們可以利用我們的思維，制造出其他類似生命的技術。它們具有适應性，可以學習、成長。
我的觀點是，基本上技術和生命一樣，會追求同樣的東西。例如，它們會在進化中增加多樣性，也會變得更加專業化、更具體。我們身體有 52 種不同的細胞，包括心髒細胞、骨細胞和骨骼細胞等。我們也會制造出專門的AI，執行語言翻譯、影像生成和自動駕駛等特定的任務。另外，技術還會跟生命一樣變得更復雜，這是顯而易見的。
最後，技術還将像生命一樣「互利共生」。生命在演化過程中如此復雜，以至于它只與其他生命接觸，從不接觸非生物材料。比如你腸道内的細菌。它們只被其他活體細胞包圍。未來，也會有一些AI不是為人類設計的，而是專門為其他 AI 服務。例如，将會有專門用于維護其他 AI 的 AI、只與其他 AI 交流的 AI。
李志飛：我想從一個工程師的角度解釋一下 AI 跟生命的關系。幾年前，很多人老是問我，「Alphago（第一個打敗圍棋世界冠軍的計算機程式）到底是幾歲的智商？」當時我特别不喜歡這種問題，因為沒法回答。那時候，AI 雖然可以下圍棋、智商很高，但它并不能像 3 歲小孩一樣進行自然語言對話。當時它跟人的機理是本質上不一樣的。
但是最近這一陣子，我特别喜歡把 AI 比作一個小孩。我覺得核心是因為，今天的 AI 已經具備了小孩擁有的、真正的通用智能能力，比如知識、邏輯、推理、規劃等等。所以我想說，今天的 AI 更像一個生命體了。它在智商上像一個 5 歲小孩，在知識上可能既像一個大學教授、也像一個剛出生的嬰兒，這取決于它有沒有見過那些數據。
基于這個理解，我覺得關于 AI 到底想要什麼，需要重新思考。對于一個 5 歲小孩來說，他接下來首先會自我淨化，其次是自我復制、進行協作。關于這個問題，我自己也沒有很好的答案。
02
未來 5000 天，我們将度過
一個狹小而緊迫的過渡期
張鵬：當AI 的能力快速成長時，很多普通人感到焦慮，害怕自己失去競争力。KK 在這個問題上有什麼思考和建議嗎？
凱文·凱利：即使 AI 技術已經發展了 20 年，但人們卻覺得它是一夜成功，對它的成長速度和能力感到焦慮。我們總是容易想象最糟糕的情況，而不是最好的情況。我認為，應對變革焦慮的一個方法是回顧過去。實際上，過去人類也曾有過這種焦慮，但我們想象的糟糕情形從來沒有發生過。這次很可能是一樣的。
我發現自己應對焦慮的最好辦法是嘗試使用它們。我發現大多數焦慮來自于那些沒有使用過 AI 的人，他們對 AI 保持着一種距離感。其實他們一旦開始嘗試和使用，就會看到 AI 既有好處，也有局限性和危害。這将減少他們的焦慮。
李志飛：AGI 今天不發生，明天也會發生。既然它不可阻擋，你就應該擁抱、理解它。目前對我來說，AGI 是一個思維的夥伴。我很多問題都會跟他聊，它的知識特别全面，能從很廣、很全的角度給我建議。我覺得這可能是人類擁抱 AI 的一種很好的形式。
與此同時，我們可以看到，今天的大模型離真正的 AGI，還差一些特别關鍵的能力。比如邏輯推理和復雜任務規劃的能力，如果你想要 AI 基于某一個目标，拆解步驟、實現目标，現在它還沒有那麼擅長。
張鵬：KK 自己也是一名内容創作者，你覺得在 AI 時代，創作者不可被 AI 替代的最終價值會是什麼？
凱文·凱利：我在寫作時已經使用過人工智能和其他工具。我認為，沒有人會因為人工智能而失去工作。因為我無法找到一個例子，證明有一個藝術家因為人工智能而失去了工作。這是一種想象中的恐懼，一種不存在的問題。就業可能是與人工智能相關的最不嚴重的問題。
我想說的是，消失的可能是你的工作描述，也就是你實際從事的工作内容可能會變化。一些人觀察到，他們 50% 的工作都可以由人工智能來完成，而另外 50% 工作會被人工智能增強和放大。所以未來，可能有一半的工作不再需要人們去做，而人們又能把剩下的 50% 工作将做得更好。這通常是我們會看到的模式。
當然，确實有一些特定類型的工作會消失，比如作為收銀員去點餐和數錢。我們不希望人類去做這些工作，所以它們肯定會消失、它們也應該消失。
張鵬：你如何評價在 AI 時代，年輕人和老年人的競争力？
凱文·凱利：老年人有很多優勢，他們見多識廣，經驗豐富。年輕人也有很多優勢，因為他們不知道什麼是不可能的。我不認為誰的競争力強于誰。
我想說的是，今天的年輕人常常談論自己是數字原住民，對技術更有優勢。但由于人工智能和其他事物發展迅速，年輕人昨天可能是原住民，明天就像「老年人」了。不管是年輕人還是老年人，大家都是新時代的「新手」，都必須一輩子不斷地快速學習新事物。
張鵬：随着對AI技術的掌握不同，這是否會帶來貧富差距的變化？也就是說，未來會使用 AI 的人是不是會獲得更高的生產力、更好地赢得競争？
凱文·凱利：是的，财富差距會擴大。我認為随着時間的推移，你與人工智能合作的能力，可能比你是否上大學還要重要。也許大學的目的将是教會你如何與人工智能合作。對于那些非常有野心的人來說，如果他們學習了如何使用人工智能，他們的薪水将會有很大的差别。
但是，随着人工智能在世界各地普及，未來我們會實現全球對人工智能的平等獲取，就像對教育的平等獲取一樣。我認識一些在美國經營大公司的朋友，他們雇用遠程工作的員工，只要他們有能力，而背景并不重要。因此，很多在南美洲、非洲工作的人，會按照美國的薪酬标準得到報酬。他們會賺比原本更多的錢。
張鵬：技術的快速發展，可能會帶來社會領網域的不公平、不正義，我們該怎麼在發展和公平正義之間取得平衡？
凱文·凱利：我認為我們可以在進步與公平之間取得平衡。實際上，我認為進步的很大一部分就是傳播公平。
與幾百年前相比，那時的世界非常不公平。你根據出生被視為奴隸、農奴或者農民，沒有任何機會超越這個身份。但由于進步，我們現在擁有來一個更加平等、公平的世界。我認為，科技的發展可以增加公平性，雖然不一定會實現，但是它是可能的。
李志飛：從一個工程師的角度來說，如果說你從終點去看公平，希望大家财富一樣、能力水平一樣，那這肯定會導致越來越不公平。但如果你是從起點去看公平，比如說讓 AI 工具被所有人可用，這可能才會更好地實現公平。
張鵬：現在我們看到有些公司，比如文生圖公司 Midjourney，十幾個人就創造了上億美金的年收入。我們可否理解為，AI 從根本上變革了生產力？未來的公司會不會因此越來越小和精簡？
凱文·凱利：現在互聯網和人工智能擁有的令人驚訝的力量，可以同時賦予個人、中等公司以及大公司權力。它使個人更容易擁有一家公司，因此我們會看到很多新公司只有 AI 加上幾個人。但同時，我們也看到一些公司因為人工智能的存在而變得更大，甚至增加了百萬人的規模。
因此，我們不會突然進入一個只有一兩個人的公司的世界，那是不會發生的。同時，我們也不會只會讓大公司受益。這就是AI的美妙之處，它可以讓所有人都受益和獲得權力。
李志飛：我覺得長尾效應跟馬太效應都會越來越明顯。
一方面，尾巴會越來越長，越來越多很小的公司會出現，它們會自己成為一個完整的體系。另一方面，當大公司有了很強的 AI 能力，它的組織力會變得更強。以前它只能組織 1000 人，但現在可以組織 1 萬人、 10 萬人、 100 萬人。比如中國的外賣行業，正是依靠一整套的自動化系統，才把龐大的騎手群體組織起來。
張鵬：目前 AI 也是矽谷最熱的話題，很多創業者都以大模型為核心去思考商業創新。KK 對此有什麼觀察嗎？
凱文·凱利：這讓我想起了互聯網早期的情景。互聯網最開始出現時，突然之間每個企業都意識到必須将自己放在互聯網上。而現在，每個企業都在利用 AI 的對話界面，通過引入大語言模型和人工智能來開展業務。一個例子是 Wendy's（美國連鎖餐飲企業），這家時髦的快餐漢堡店現在正在使用對話界面，讓客人在車上點餐、和機器對話。
除此之外，還有一些全新的服務和想法尚未出現。我不知道具體數字，但我可以肯定的是，現在正有數千億美元的資金流入這個領網域。通常情況下，其中大部分可能不會成功，但有足夠多的項目會成功。我們将在接下來的三年内看到一些非常驚人的事情，以及一些可能會變得非常大的全新公司。
張鵬：在過去的 5000 天裡，KK 做了非常多正确的預言，對很多大方向有了前瞻性的把握。最近，你又預言接下來 5000 天是人類歷史上一個最關鍵的時間段。這個節點關鍵在哪？人類會通向十字路口的什麼方向？
凱文·凱利：除了人工智能之外，世界上還發生了許多其他事情。我們面臨氣候變化的挑戰，基因工程即将出現，很容易把人工智能想象成貶低人類的東西，很容易看到監控變得無處不在、而我們失去了掌控權。我們面對很多全球範圍内的挑戰和機遇。
這是一個狹小而緊迫的過渡期，我們必須度過這個難關。我認為，我們可以通過電氣化、電動汽車、替代能源、以及在新冠疫苗研發方面取得的成功等，獲得通過這個狹小門戶的機會。目前，地球上還存在許多政治緊張局勢和分歧，但我們需要集體行動，需要在技術、環境等領網域達成共識，共同合作解決問題。
這是地球上首次出現全球文化、全球經濟以及全球的環境影響。這也是在接下來的 5000 天裡，我們成為更加全球化文明的機會。
李志飛：KK 說，未來 5000 天，世界除了 AI 之外還有很多其他挑戰。我覺得，僅從 AI 角度來說，未來 365 天也非常重要。AI 經歷過很多輪，每次都是人們對它期待值很高、但它不行了，接着人們又期待值很高、它又不行了。我覺得今天這一波 AGI，到底會是圈内人認為很牛的東西、還是會成為社會上很重要的事情，這很大程度取決于未來 365 天。
包括大模型到底要怎麼發展，是越大越好、還是要加入多模态、還是要加入解決方案等等？包括看滲透率，目前全世界可能不到 5% 的人用過 ChatGPT，我們怎麼把滲透率從 5% 提到 20%？包括監管，人類應該怎麼應對 AI 給社會帶來的影響？還包括 AI 除了應用于互聯網等行業，它該如何在醫療、汽車、金融等傳統行業去落地？等等。
我覺得這可能需要至少一年的時間，通過人們做出各種各樣的嘗試，才能有一個更清晰的判斷。
03
平均人類并不高尚，
我們希望 AI 比平均人類更好
張鵬：很多時候人類傾向于信任技術，比如有人會在自動駕駛的車上睡覺而出事故。這種對先進科技的潛移默化的信任，是否是人類的習慣？這會帶來什麼後果？
凱文·凱利：自動駕駛汽車不是完美的，但它們在駕駛方面仍然比人類更好。我們能信任人工智能嗎？在和聊天機器人的對話中，我們發現它們的答案不是準确無誤的，所以我們無法完全信任。但我認為，我們将很快開始解決這個問題。
現在，大多數人都信任他們的計算器。你給它數字，它給你答案，你完全信任它。所以我們知道機器是可信的，這是可以努力改進的。而關于人工智能的偏見，因為它們根據平均人類來訓練的，而平均人類是種族主義者、性别歧視者、惡意人士，并不高尚。我們實際上希望我們的人工智能比人類更好。
就像計算器比平均人類更好一樣，你更應該依賴計算器給你的答案，而不是平均人類。信任是我們應該關注和努力解決的問題，雖然面臨許多挑戰，但最終我認為我們會高度依賴和信任人工智能和機器。
張鵬：美國最近有很多人認為，AI 的發展速度太快，應該慢一點、甚至停下來想一想。你贊同這樣的想法嗎？
凱文·凱利：不，我不支持。我認為這是誤導、誤解和不必要的。我不認為這是真正可能的，也不認為這是可取的。
張鵬：在人類的大部分科幻電影或者科幻小說裡，AI 都是一個比較灰暗的角色，這是因為人類缺乏想象力、還是我們有太多不正确的想象？
凱文·凱利：好萊塢總是把人工智能描繪成反烏托邦、恐怖和不受歡迎的形象，我認為這是缺乏想象力的表現。因為想象一個事物如何失敗，比想象它如何成功要容易得多，這是宇宙的法則。老實說，人們很難想象 100 年後人工智能無處不在、廉價且對人類有益的美好世界，盡管那是我們想要生活的世界。
此外，那些電影制片廠非常擅長講故事，而一個偉大的故事的要素是衝突、災難以及一些強烈的元素。無論是戰争、飓風還是試圖毀滅世界的人工智能。因此，在好萊塢電影中我們不太可能看到人工智能的美好願景，因為這并不為故事做貢獻，雖然這種可能性存在，但非常小。
因此，我們不能通過對好萊塢（電影）的印象來看待人工智能。不幸的是，許多人就是這麼做的。一提到人工智能，他們就會想到「終結者」、「2001 太空漫遊」、「HER」。
李志飛：我覺得所有的不信任都是因為不理解。當我們面對 AGI 這個新物種，我不理解它的能力是怎麼出現的、它到底想要什麼、它能幹什麼，這才是最核心的問題。
我覺得人類能做的，一方面是自己要多去理解 AGI，另一方面是學會讓 AGI 自己解釋清楚自己。比如當它給你一個答案的時候，你讓它把内部運作過程、内心的獨白講出來。這樣可能會產生更加強烈的信任。
張鵬：對 KK 來說，似乎老子的《道德經》對你啟發很大。你提到「最高級的控制是失控、最低級的控制是什麼都控制」。你怎麼看最近政府和科技界正在加大對AI的監管？
凱文·凱利：我認為目前的監管并不好。當然，監管是重要且必要的，它是确保事物順利進行、保持公平競争環境、确保安全的必要手段。但過早進行監管是可怕的。目前的問題是，我們試圖對我們不太了解的東西進行監管，這通常會導致災難。
李志飛：為什麼要監管？從根本上說，是人們擔心 AGI 帶來的負面影響會大于正面影響，擔心它能力太強了、社會無法接受。但在當下這個階段，這個判斷是錯誤的。因為今天，AGI 帶來的正面影響，肯定要應該要大于它的負面影響。
其次，今天 AGI 的真正問題其實是，它的能力還不夠強。包括規劃能力、跟物理世界結合的能力、自我能進化的能力等等。我們雖然看到了希望，但其實離真正實現仍然非常遙遠。我們或許永遠都不能到達。
所以我的觀點是，我們不能剛看到 AGI 趨勢，就大幅地加強監管。這可能使得我們根本還沒實現 AGI，就把它抹殺了。監管肯定需要有，但不應該過度監管。
張鵬：人工智能已經被談論很多年了，現在看來它正在進入一個全新的時代。如果 AI 未來真的有機會成為一個智慧高于人類的生命體，我們到底應該在人類的文明裡融入它們、還是把它們納入人類管控之中？哪種方式更能真正更新人類的文明？
凱文·凱利：我認為可以用一個非常有用的框架來理解未來的人工智能（AI）——不是指今天的 AI，因為它們與未來 30 年、50 年或 100 年的 AI 相比，還不夠復雜——那就是将其視為來自另一個星球的人工外星人。
大量的 AI 将是我們從未見過的一種物種，它們以不同于人類的方式思考。它們會像 Yoda（《星際大戰》中的虛拟角色）或 Spock（《星際迷航》中的虛拟角色）那樣聰明，甚至在某些方面超過人類。我們會制造許多不同類型的人工外星人，尊重它們，并利用它們不同的智能來幫助我們解決棘手的問題，比如弄清楚量子引力到底是什麼。
但我們不會将控制權交給它們。如果我們不喜歡它們的行為，我們會送回、關閉它們。如果我們認為它們獲得了太多的權力，就可以剝奪它們的權力。我們不希望讓 AI 決定我們的命運。
李志飛：現在的 AGI 就像蝴蝶，從幼蟲裡獲取了很多營養成分後，自己完成了升華。它相當于利用了人類過去所有的互聯網知識，來完成自己的蛻變。未來，AI 肯定在很多方面都是超越人類的。我覺得人類能作為 AI 的祖先，也挺值得開心的。
KK 說，我們要把 AI 當做一個外星人，這聽起來更多還是要控制。我覺得人類可能太高估了自己的能力或智商。你可以想象一下，比如再過 50 年，全世界最牛的、最有影響力的 100 個智能體裡面，也許只有 20 個會是人類，剩下 80 個都是 AI。所以我覺得，最後人類和AI 一定是融合，而不是控制。
