今天小編分享的科技經驗：梁建章：人類不會放心讓AI自主進化和創新，歡迎閱讀。
親愛的讀者：
很高興能夠在跨年之際，有這樣一個機會，把我在 2023 年關于 AI（人工智能）發展方面的一些新思考分享給大家。
AI 技術在 2023 年的表現非常令人震撼，以生成式語言模型為代表的 AI 新技術，似乎真的可以模拟人類的智能。現在是不是接近了所謂的 " 奇點 "？人工智能對人類社會究竟意味着什麼？我們從創新、傳承以及經濟發展的角度來讨論一下這個話題。
1、人工智能會創新嗎？
以 ChatGPT 湧現出來的驚人能力來看，進一步證明人類大腦并沒有什麼特别之處，只是神經元的網絡組合。現在 AI 算法通過設定大量參數，相當于人的神經元連接，就能湧現出類似人類的智能。人類作為一種能夠制造智能的文明 , 應該對此感到驕傲，但同時也要保持必要的敬畏。畢竟現在最先進的算法，竟然還要模拟進化而來的人腦。
在技術上，AI 應該可以做到人腦的一切。雖說現有 AI 在能耗上還跟人腦存在巨大差距，但這只是算力和數據訓練的差距，并非不可逾越。比如現在的 AI 缺乏情感，但人腦中的情感實際上也是來自進化。經過億萬年以追求生存和繁衍為目标的進化之後，產生了親情、愛情等各種情感。還有人認為 AI 沒有意識。其實人類的意識，根本上也是基于對生存和繁衍的追求，同樣屬于進化的產物。這就意味着，如果我們用生存和繁衍的目标作為函數來訓練 AI，也會產生這些情感和自我意識。當 AI 具備了跟人類相同的情感和意識之後，就可以具備同樣的創造力。
但上述結論的前提是，人類要為 AI 設定生存和繁衍的目标函數進行訓練，也就是要讓 AI 怕死想生。
問題是，人類為什麼要訓練 AI 想生怕死呢？AI 怕死，是盡量不要被拔掉電源嗎？人類為什麼要教會 AI 拒絕斷電呢？AI 想生，不就成了病毒嗎？
人類當然需要防範恐怖分子來散播電腦病毒，但是只要人類的主流科學家不去主動地訓練 AI 想生怕死的情感和自我意識，AI 不受控制的自動湧現和人類一樣的自我意識和情感是不可能的。因為這種自我意識的情感是經過億萬年的生死考驗進化而來的。試想需要多少次拔掉 AI 的電源（死亡）之後才能訓練出自我意識呢？而且人類拔掉電源和自然界的生死顯然不是一回事。所以和人類一樣的自我意識雖然理論上可能，但是不會意外湧現。AI 只能模拟人類的情感，可以讓人工智能在表面上看起來有情有義。但這種情感終究只是基于預設的模拟，而非真正具有和人類一樣的情感和意識。簡言之，AI 和人類的本性是不一樣的，而這種想生怕死的本性是人類追求創新和傳承的基礎。
現在的 AI 算法和人腦有一個相同點，就是具有不可解釋性和不确定性。似乎具備創造力的高級智能，和不可解釋性還有不确定性，好似一個硬币的兩面，是共生的。換言之，如果你想要創造性的高級智能，就必定會帶來不确定性跟不可解釋性。反之，如果非常可确定和可解釋，其背後的智能可能也就不是那麼高級。
人工智能的不确定性，加上創新本身的不确定性，導致人類不敢把創新的主導權讓給人工智能。有人說人腦也具有不确定性，也可能犯錯，為什麼就可以放心呢？
人類和 AI 還是有本質差别。AI 是設計出來而非進化而來，不具備和人類相同的情感、自我意識和價值觀。這個差别，導致人類會把 AI 當成異類，可能永遠都不會把 AI 當成自己的孩子。
不妨做個思想實驗，拿 AI 和孩子作比較，同樣具有不可确定性和不可解釋性。如果你的孩子實施一個出人意料的行為，你對他還是會比較放心，因為孩子跟你是同樣的基因，也可能繼承了你所教育的價值觀。但是想象一下，如果 AI 也實施了出人意料的行為，你就會覺得很恐懼，甚至擔心世界末日的來臨。正因為 AI 跟人類的本性不一樣，存在創新和 AI 的雙重不确定性，所以人類不會放心讓 AI 主導創新。
還有一個原因，導致人類不會讓 AI 來主導創新或者自我進化。因為創新和傳承是人類生命的意義，是一種最高級的樂趣。人類為什麼要放棄這種樂趣呢？尤其當其他重復性的工作都已經由機器人和人工智能代勞，還有什麼有趣的事情能讓人類打發時間呢？所以創新和傳承包括生兒育女，都不應該讓位給異類。
有人說，如果 AI 可以算作人類的後代，那麼當 AI 取代人類成為文明主導之後，也可以算作人類把文明的接力棒傳給了 AI。但是，盡管 AI 算力可能超過人類，但 AI 能夠繼續進化嗎？是兩性進化嗎？AI 有 DNA 嗎？如果 AI 沒有 DNA 的兩性進化，如何才能保持既有創新（新的基因）又保持一定的傳承（穩定性呢）？還有，AI 會死嗎？如果不死，怎麼實現代際更替呢？如果 AI 是完全不同的另一種代際更替方式，由于缺乏億萬年的進化檢驗，這種更替能持久嗎？所以 AI 生命如果真的取代人類，說不定很快就會滅亡或固化。
所以我覺得，盡管技術上可能，但人類不會讓人工智能訓練出真實的情感和自我意識。從創新和傳承的角度，讓 AI 替代人類也不安全。人類會把 AI 當作一種工具，人類不會把 AI 塑造得跟自己越來越接近，而是會朝着跟人類互補的方向，讓 AI 的功能變得越來越強。所以，AI 發展不會產生所謂的 " 奇點 "。因為 AI 和人類擁有不同維度的能力，不可能在某一時刻全面超越人類，不必擔心 AI 會奴役人類。
當然這種 AI 不會奴役人類的樂觀假設，是建立在人類要重視 AI 安全的前提下的。任何一項影響巨大的技術包括基因、核武器等都需要被嚴格控制。AI 技術也不例外，最重要的控制是不能讓它自我進化，不能讓它主導創新，以及不能讓它掌握關鍵的決策包括掌握關鍵的基礎設施等。
總結下來，雖然 AI 很強大，可以成為人類最好用的工具，可以勝任幾乎所有的工作。但人類不會放心讓人工智能自主進化和創新，還是會把傳承和創新的樂趣留給自己。人類不應該發展人工智能的情感和自主創新的能力，而是把人工智能發展成跟人類能力互補的強大工具。
2、人工智能與經濟
從經濟學角度來看，一個更加迫切的問題是，人工智能将取代哪些職業，是否會出現大量的失業？哪些行業會受到正面或者負面的影響？人工智能又将如何影響創新和教育？人工智能會如何影響收入分配？
短期來說，我們正好需要一個人工智能的革命。在 ChatGPT 出現之前，世界最大的擔憂就是全球範圍的經濟停滞。經濟停滞的原因，是沒有新的提高效率的工具出現。ChatGPT 正好是一個提高效率的工具。有人說大概三十年左右人工智能能夠替代一半的工作，也就是生產效率能提高一倍。三十年生產效率提高一次，年化（率）也只有 2% 到 3%，當下正好需要這樣的一個生產效率的提高。
另外，人工智能在短期内不能替代很多服務性的工作，更别說看護、導遊類的工作。所以一般的服務性工作還需要大量的人力。
結論也顯而易見，AI 在經濟上和人類是一種互補。短期内，很多服務類工作還不能替代，長期看創新類和情感類工作還不能替代人類。我曾經專門寫過一篇文章來分析讨論 AI 如何影響經濟。我們把一些代表性行業抽成了兩個維度、四個象限。
橫坐标是行業的科技自動化程度，從左邊 " 容易自動化 " 到右邊 " 難以自動化 "。比較容易自動化的行業包括農業、家電、服裝、汽車，還有數字娛樂行業。" 難以自動化 " 的行業包括房地產行業，因為建築工和裝修工短期難以被機器人取代。旅遊因為涉及到人的運輸和服務，也比較難自動化。
縱坐标是需求層次的維度，從低的 " 物質需求 " 到高的 " 精神需求 "。人的物質需求包括 " 衣食住 " 等行業，物質的需求到一定數量以後會相對飽和，而精神需求幾乎是無止境的。旅遊、娛樂還有教育屬于精神需求，創新滿足了人類探索的本能，所以也是精神需求。
第一個象限，容易自動化的物質需求行業，如農業、服裝業、汽車等消費品制造業，機器人和人工智能讓這些行業的效率大幅提升，成本和價格大幅下降，但是需求并不會因為價格下降而提升。因為物質的需求會飽和，一個人只能吃這麼多穿這麼多。所以總產值和 GDP 的占比都會下降。
第二個象限，容易自動化的精神需求行業，數字娛樂行業可以大幅度提升效率，因為人工智能已經可以生成對話、畫圖、視頻等。随着效率的提升和價格的下降，人們會消費更多數字娛樂產品，因為這屬于精神需求，所以還有很大提升空間。行業的產值與 GDP 占比都會比較穩定。
第三個象限，難以自動化的物質需求行業，如房地產，由于建築工人和裝修工人短期很難被替代，因此房地產的總體的成本是穩定的，需求也是穩定的，總產值和 GDP 占比會趨于穩定。
最後就是難以自動化的精神需求行業。旅遊可能 " 難以自動化 "，所以效率和價格都保持穩定。但是需求會随着整體社會的富裕程度提升而提升，所以在經濟中的占比會提升。衣食住行裡面，住和行難以自動化，而只有行（旅遊）是難以自動化的精神需求，其占比會越來越高。
由于高度自動化而引起的失業，其實并不是一個經濟問題。這可以被視為一件好事，因為只需要少量高技能創新工作者每周上班 3 天，就可以确保在其餘人口不工作的情況下，依然維持原先社會在商品和服務方面的供給水平。這種失業更大程度上還是社會問題，因為大多數人會感到自己似乎是多餘的；同時也是一個政治問題，因為大多數選民将不再是納稅人。
我們應該把這種問題稱為 " 休閒過剩 " 而不是失業。但即使這種情況出現的可能性也不大，因為在短期内，服務行業将會產生很多工作機會。長遠來看，即使大部分的日常工作可以被人工智能取代，未來仍會有許多與創新有關的工作機會屬于人類。
而關于分配和意義，可以按照三種不同類型的工作來看該問題。一是涉及創新和復雜腦力的高技能工作；二是簡單腦力的中技能工作；三是如服務員和快遞那樣的低技能工作。因為中技能的工作會被人工智能取代，其收入會和低技能趨同。随着人工智能被廣泛應用，企業對高技能人群的能力要求會提升，與此相對應，這些人的收入也會相對上升。
長遠來看，人工智能會取代大部分工作，這可能需要經歷幾代人的時間。那時人類就會把最有趣的工作留給自己，也會出于安全考慮而把創新工作抓在自己手裡。到那時，除了休閒娛樂產業，最大的產業很可能是創新和教育。同時，随着科技發展與社會變革，會更多地引發人類對生活意義的思考。我以前撰文提到過智能時代的人生意義，人的價值就是創新和傳承——創新還是要靠人類做，孩子還是要靠人類來生。人類應該不會讓人工智能自主創新或者生孩子（AI 復制可能造成不可控的電腦病毒）。
總結下來，人工智能會對經濟的各個方面產生深遠影響。随着經濟的整體效率提升，人們會擁有更多休閒和娛樂的時間，但不會因此出現整體性的大規模失業。有些難以自動化且能夠滿足精神需求的行業，将繼續高速增長和創造就業崗位。創新作為一個涉及精神需求的行業，會創造更多的就業，其在國力競争中的重要性也會繼續提高，而這又對教育提出了更高的要求。同時，低生育率所導致的人口萎縮，對創新的負面作用也會更加凸顯，因此中國需要出台切實有效的生育減負和教育改革的政策。
梁建章
2023 年 12 月
（作者系攜程集團聯合創始人、董事局主席，人口經濟學家）
