今天小編分享的教育經驗：看懂這一點，就看懂了下一個紅利，歡迎閲讀。
内容來源：葦草智酷、信息社會 50 人論壇，2023 年 7 月 21 日線下講座。
分享嘉賓：劉偉，北京郵電大學人機互動與認知工程實驗室主任、劍橋大學訪問學者。
責編 | 三豐
第 7598 篇深度好文 8544 字 | 18 分鍾閲讀
商業思維
筆記君説：
從信息化到數字化，再到人工智能，科技發展的節奏越來越快。
尤其是 ChatGPT 等智能大模型的湧現，出現了很多颠覆性的工作場景和市場應用。參數越來越大，表現也越來越好，但始終與想象的智能有所差距。
為什麼人工智能表現會差強人意？人工智能未來發展的趨勢是什麼？這個過程中要產生哪些突破？
北京郵電大學人機互動與認知工程實驗室主任劉偉将為我們一一解答，文章篇幅較長，請耐心閲讀，相信會對您深有啓發。
一、事實與價值，是機器與人的最大差别
1. 能辨 " 是 "" 應 "，始為智能
18 世紀，英國哲學家大衞休谟提出了 " 事實與價值能否轉換 " 的問題。他認為：事實陳述描述世界 " 是 " 怎樣的，價值判斷規定了世界 " 應該 " 是怎樣的。
前者是描述，後者是評價，屬于兩種不同的活動。因此，我們不能從一個事件 " 是什麼 " 推斷出該事 " 應該 " 如何。現實世界與理想的價值世界之間沒有邏輯的關系。
這個問題在當時引起了很大反響，因為它挑戰了倫理學、哲學等認知科學。最近随着人工智能的迅速發展，它也在挑戰人工智能，挑戰人機融合智能。
卡住人工智能脖頸的也正是這一問題，解決了這一問題，就可能產生颠覆性的影響，否則，只能按部就班地小步前行。
亞聖孟子也提過類似的思想 " 是非之心，智也 "，他把 " 智 " 解釋成 " 能明辨是非 "，這個觀點也影響了很多人。
綜合二者的觀點，我改成 " 是應之心，人機智也。"" 是 " 是 being（事實），" 應 " 是 should（價值），二者的結合就是 " 人機智能 "。
在很大程度上，" 人機智能 " 是被大家所誤解的。這裏有三個名詞：" 人機融合智能 "" 人的智能 " 和 " 機器的智能 "。三者不是同一概念，" 機器智能 " 包括了 " 人工智能 " 和 " 機工智能（機器能編程、修改程式）"。
在 " 人工智能 " 的研究中，還提出了 " 類腦智能 " 的概念，實際上這個概念也是一個錯覺。
人的智能是一個人物環境相互的產物，比如狼孩的大腦和正常人的大腦是一致的，他的神經元和正常人别無二致，但狼孩沒有人類的智能。所以，單純的類腦模拟不了人的智能，只能模拟出人的一些基本功能。
大家非常關注的人工智能產品 "ChatGPT"，在嚴格意義上説，這是一種人機融合智能產品，它的參數多達 1750 億。
它通過人機的互動反饋增強輸出結果，但它的結果中存在着 " 機器幻覺 " 現象，即輸出結果常常與事實不相符，與常識不相符，機器幻覺的產生在于它無法把事實和價值進行有效的統一。
人工智能是以數據為基礎的，但人類還有一個重要的特質——非數據智能。
非數據智能的特點在于 " 等價 " 而非 " 相等 "，等價是在價值上進行類比，而相等是在事實上完全一樣。
2. 事實與價值的定義
事實是可以通過觀察測量和驗證得出的客觀存在和發生的事件現象和數據，它是與客觀事實相符的描述或陳述，不受個人的偏見或者主觀評價的影響。
事實通常是可以被證實，有引用來源，可以由科學方法和邏輯推理所支持。如 " 地球圍繞太陽公轉 "" 温度在攝氏度下的水的沸點是 100 度 " 等是事實。
事實中包括了數據、信息、知識，同時在真實的事實裏面常常隐含非數據、非信息、非知識。
價值是指人們對道德、倫理、美學等方面的主觀評價和信仰，它反映了個體或群體的觀點、情感和信念，通常基于個人和文化的背景經驗和審美标準，價值是每個人根據自身的信仰和判斷制定的個人的準則，因此具有主觀性。
例如，" 誠實和正直是重要的價值觀 "" 美是一種主觀的審美價值 " 等就是關于價值觀的表述。
價值的作用在于什麼地方呢？首先，事前的預測、預警，比如與人合作，要看人的性格和品質；其次，事中的幹預，根據不同的定性調節事件的發生；最後，事後的追溯和反思。
事實涉及客觀存在或發生的情況，具備驗證性和客觀性，而價值則是人們對道德、倫理、美學等領網域的主觀評價和信仰，具有主觀性和個體差異。
在讨論問題時，理解事實和價值的區别和特點可以幫助我們更準确地思考和交流。
3. 事實和價值的雙向可變、适變、轉變是人機智能的瓶頸
如何把價值轉化為事實？如何把事實轉化為價值？人類到現在還沒找到它們的轉化關系的規律。
假設是建立在猜想推測條件下的前提，常常與事實相關，但假設本身與價值沒有直接的關系，只有間接關系。
統計概率是根據數據和統計分析得出的可能性的事實預測，同樣也和事實和價值沒有直接的關系。
斯坦福大學在 1966 年到 1970 年間進行了著名的棉花糖實驗：如果參與的兒童在 15 分鍾不吃掉棉花糖，則可以得到兩塊棉花糖，如果在 15 分鍾内吃掉了棉花糖，就沒有後面的獎勵了。這個實驗反映了兒童對 " 事實與價值之間的關系 " 的反應。
不過也有人對棉花糖實驗提出了質疑，比如絕大多數日本兒童在 15 分鍾之内都能忍受，而美國兒童平均 4 分鍾就會吃掉棉花糖。
所以，在不同的環境下成長的兒童，棉花糖實驗的效果不一樣，對事實和價值的判斷也不一樣。
對于成年人來説，除了客觀的事實評價以外，還有很多主觀評價，如社會評價、環境評價等。
因此，成年人看利弊，會把主觀和客觀混合在一起去看，而小孩一般憑感知或個人喜好來進行判斷。
二、事實與價值的融合嵌入，是世界的真相
真正困難的不是單純的是非問題，A 和非 A 的問題，事實與價值的問題，而是兩者的混合和發酵，它們更復雜，但更真實。
這種混合是每時每刻都存在，如何對這種混合進行有效的處理和分析，是智能研究所要面對的主要問題。
為了準确而又形象地描述人機融合智能，我用太極圖來描述人類智能與機器智能的關系：
人類智能用黑魚表示，人類智能中的程式化、理性或類機器的用黑魚中的白眼來表示；機器智能主要是程式，是算法，是數學公式，是統計，用白魚表示，在機器智能的未來趨勢中也隐藏着人類這種泛化了的靈活的智能。
1. 東方與西方
在文化、科學、技術和倫理道德等方向，東西方是相互嵌入的，正如太極圖一樣，黑中有白，白中有黑。
老子的《道德經》開篇兩句是 " 道可道，非常道 "，" 道 " 可以理解是一種理性、規律或邏輯，" 非常道 " 就不是單純的理性或邏輯，而是一堆理性或者一堆理性和感性的混合物，它是一個邏輯簇，包含了一堆邏輯。
所以，" 非常道 " 已經偏離了西方人理解的邏輯，其包含了邏輯之外，甚至相反的東西。比如智能，實際也包含了一些反智能因素，通常情況下大家不會考慮這個問題，用的時候也往往是潛意識在起作用。
道家在解釋 " 名 " 時也用了同樣的邏輯，" 名 " 是定義，" 非常名 " 則包含了一大堆的定義組合，不可能理得很清楚，所以用 " 非常名 " 來進行概括。
西方的科學技術中也有兩個嵌入東方哲學的事物：第一，光的波粒二象性；第二，量子力學的糾纏和疊加。
所以西方的物理學中存在着東方的 " 道 "。因此，以後的邏輯不再是單純的邏輯，而是混合體的邏輯組、邏輯簇。
單純解釋或理解人機互動、人機融合相對容易，但人機融合智能困難在于何時、何地、何式（事實和價值）的組合與協同問題。
2. 科學技術與人文藝術
1959 年，英國劍橋物理學家和文學家 Snow 做了一次重要的學術報告，提出了兩種文化：第一種是科學文化，第二種是人文文化，這兩種文化同時存在。
智能也包含了兩種：第一種，科學技術智能，其範圍非常廣泛，包含了人工智能、人機融合智能、人機環境系統智能等；第二種，人文藝術智能，比如《孫子兵法》中的戰争藝術，實際上是一種非常高的智能。
科學技術與人文藝術也是混合的，在科學技術中包含了人文藝術，人文藝術中也包含了科學技術。所以，真正的智能不是單一的產品或系統，它是科學與非科學、人文與非人文綜合在一起所衍生出來的一種生态。
從我個人的理解來看，人工智能算法并不智能，反而很狹隘。
深度學習、強化學習、遷移學習、遺傳算法等所有算法都是有條件、有邊界和有約束的，離開了條件、邊界和約束的算法就是智障算法。
所以，人工智能算法并不智能，這種現象普遍存在于各種智能產品中。為什麼大家感覺到現在的智能產品和系統并沒有大家想象的好，其原因就在于大家沒有意識到科學和人文是相互嵌套、相互融合的。
離開了人文，單一的科學走不遠，離開了科學，人文不會有很快的進化和發展。
3. 系統論與還原論
系統論和還原論共同整合出了人類智能的新框架，這也是東方和西方智能逐漸融合的結果。系統論也是整體論，它是東方思想中的一大特色，體現在天、地、人等思想上。
西方的還原論體現在物理、化學、生物學、解剖學等科學上，這種還原搭建了現代科學和技術的腳手架，除此之外，還有很多補償性的、豐富性的一些元素在系統中。
在本質上，人工智能并不是大家想象的智能系統，它只是一個無人自動化的系統，或者是自動化系統的技術拓撲。真正的智能系統中，在系統中嵌有還原論，在還原中嵌有系統，二者是混合的。
4." 計算 " 與 " 算計 "
計算是事實的演繹、歸納，而算計是人類價值的賦予。
系統論、控制論和信息論是系統理論的三大基礎理論，它們反應的是客觀事實，在嵌入了 " 價值 " 後有了新的發展。
信息論是用概率論和數理統計方法，從量的方面來研究系統的信息如何獲取、加工、處理、傳輸和控制的一門科學。在嵌入算計後，增加了價值賦值，對信息輸入的質量產生了很大的影響，產生了新的信息論。
控制論是研究系統的狀态、功能、行為方式及變動趨勢，控制系統的穩定，揭示不同系統的共同的控制規律，使系統按預定目标運行的技術科學。它強調數據的反饋和客觀的反饋，增加了價值反饋和主觀反饋之後，也會出現了新的控制論。
貝塔朗菲的系統論要求把事物當作一個整體或系統來研究，并用數學模型去描述和确定系統的結構和行為。在增加了定性分析和主觀評價後，產生了人機環境系統或者人物環境系統。這是一個新的系統，既涉及到定量，也涉及到定性。
在算計中也有大量的計算，同樣，計算中也嵌有算計。
高斯有句名言：" 數學的精髓在于計算之外。"，他最著名的計算案例是從 1 加到 100，用的方法也是 " 計算 " 和 " 算計 " 的融合。
在東方思維中，從《易經》到老子的《道德經》，再到孫子的《孫子兵法》中，無處不有算計，無處不在謀算。
毛主席常説的一句話 " 你打你的，我打我的。"" 你打你的 " 是事實，" 我打我的 " 是在價值上不跟着對方走，到如今毛澤東思想仍閃耀着他的光輝。
所以，計算和算計無時不在，無時不有，二者相互嵌套。
5. 數據與非數據
人工智能涉及了計算和算計，其輸入端也就涉及到了數據與非數據。但人工智能最大的缺陷是把 " 非數據 " 當作了 " 數據 " 做處理。
比如，現在流行 " 情感計算 " 的算法，實際上 " 情感 " 能計算嗎？誠然，情感有能計算的成分，但也有不能計算的成分。
數據中包含一定的信息，信息中也包含有數據。信息的定義是 " 有用的數據 "，而現在有一種 DRIP（Data Rich and Information Poor）現象 , 即 " 數據豐富，信息貧乏 "。
傳感器越來越多，得到的東西卻越來越少，為什麼？因為這些傳感器之間有矛盾、有衝突，有不和諧，有不一致。人多了是非多，同樣，傳感器多了也會產生是非，這些是非就導致了不能統一。
現在數據和信息的融合日益突出，單純強調數據不對，單純強調信息也有問題，如何把非數與 " 數據 " 進行結合，是未來發展的重要切入點。
6. 理性與感性
對數據和信息的處理涉及到兩種方式：一是理性的處理，另一個是感性的處理。
但沒有絕對的理性，理性中包含着一點感性，也沒有絕對的感性，感性中也包含着理性，理性和感性是融合的。
同一律、無矛盾率和排中率是理性的三大基本原則，其共同構建了數學大廈的基礎，也是科學和技術大廈的基礎。
同一律：A=A，無論是什麼，它就是它。A 是它本身，而不是其他什麼事物。
無矛盾律：A 和非 A 不可能同時發生。沒有什麼事物同時既是它又不是它。一個命題和它的相反面不可能同時為真。
排中律：任何事物一定要麼 " 是 " 要麼 " 不是 "，要麼 "A" 要麼非 A，兩者之間不存在其他情況。
《孫子兵法》介紹了感性的 4 條原則：能而示之不能；用而示之不用；進而示之遠；遠而示之近。
如果用理性三定律很難去表達感性，因為感性是靈活的，它不是孤立的，需要根據外部環境和不同對象采用一些策略，這些策略也不是絕對的，可能是暫時的。
感性和理性就會發生融合，融合之後我們可以得出結論：價值不同于事實，價值不是假設，價值也不是統計和概率。
在人類最早期的時候并沒有很強烈的理性觀念，餓了要打獵，下雨了要躲到山洞中，這就是一種感性。當人類吃飽之後還要考慮吃好，在不被淋雨之後還要考慮以後不會淋雨，這些意圖動機就產生了很多理性的工作和理性思維。
意圖動機產生于感性，理性也是由感性產生出來的。代數學、幾何學，包括萬有引力都不是人類出現就有的，而是随着人類發展進步慢慢衍生出來的。
很多人試圖用數學方式計算意圖理解和動機表現，或許在某些特定環境、特定的場合和特定的任務可能得出結果，但更多的結果偏差極大，因為很多人類的意圖是算不出來的。
你不了解其背景，不能理解它所產生時的狀态，就很難計算出真正的意圖和動機。
7. 一與多
" 一和多 " 的問題廣泛存在。人類生命最早期有一夫多妻現象（很多大型哺乳動物也有此類現象），佛家也有 " 一花一世界，一樹一菩提 " 之説法，現在也有一黨多黨和一國多制現象，工業設計中也有個性和共性化問題。
在智能的事實和價值中，從輸入、處理、輸出、反饋、平衡這幾個階段中都能看到一和多的現象。
輸入是一個數據還是多個數據？是小數據還是大數據？處理時是用一種方法還是多種方法？輸出是一個角色還是多個角色？這些是如何平衡，如何協調，如何協同？
" 一 " 這個整體中包含着多個元素，而在多個元素中也包含着整體的思想規則，一中有多，多中也有一，" 多和一 " 是相互融合。
語言哲學大師維特根斯坦強調語言的使用方式取決于特定的社會和文化背景，而不是簡單地由符号和含義之間的關系所決定。
比如，" 對象 " 對應的 " 名稱 " 有多個，只能用 " 非常名 " 來表達；一個蘋果放在桌子上，這一 " 事态 " 對應的是 " 基本命題 "；不同的 " 事态 " 組合在一起，變成了事實，形成了命題；" 世界 " 可以用多種 " 語言 " 來表達。
從事件的表征到推理，再構成結構到形成功能，最後映射的都是 " 一和多 " 的問題。
用小樣本解決大問題，才是真正的智能。
ChatGPT 是依靠大數據的大模型，存在着致命的漏洞和幻覺。目前的機器智能還只能處理事實，而且事實必須數據化，不能數據化的事實，機器也無法處理，而人類的智慧可以同時處理事實和價值的混合物。
8. 态與勢，感與知
态中有勢，比如，在智能城市項目中有不同的功能區，這些功能區會產生大量的狀态參數，而這些參數匯集之後會形成趨勢，并進行協同。而勢中也包含着各種狀态，狀态也藴含着趨勢和發展變化的方向。所以态中有勢，勢中也有态。
現在很多人工智能系統和產品是有态無勢，它們把狀态參數收集得很全面，但沒有反映出變化的方向和趨勢。
如何做到有态有勢呢？一定要從 " 感 " 和 " 知 " 上入手。
" 感 " 是感覺，這個 " 感 " 不是傳感器的 " 感 "，而是人的感覺，善良是人感覺中的重要特點，它是一種主動的感悟。
到現在為主，機器的各種傳感器所獲得的數據，都屬于被動的 " 感 "。所以，需要一種新的 " 感 "，包含着主動感和被動感。
" 知 " 是知覺，知覺不同于感覺，感覺是刺激、信号，而知覺是建立在已有知識有先驗的基礎上所產生的連接，它處理的是信息和知識自覺。
所以，感和知之間的轉換嵌套也非常重要，不能隔離地去看 " 感 "，也不能隔離地看 " 知 "，感中有知，知中有感，二者也是混合的體系。
深綠系統由美國國防部高級研究計劃局（DARPA）在 2007 年提出，旨在基于實時戰場态勢數據，通過計算機模拟仿真推演作戰方案，預測敵方行動和戰場态勢，引導指揮官快速做出決策。
由于深綠系統沒有反映出真實的态勢或情況，綜合成本和其他因素，深綠項目在 2011 年終止。
粟裕大将是解放軍的著名戰将，沒有依靠 " 大 " 數據，而是通過一些基本情報和對對方的洞察、知悉，取得了很多關鍵性的勝利。
費曼有句名言：凡是我不能創造的，我就不能真正理解。粟裕大将理解了态勢，用主動的感知能進行有效的把控，而機器智能很難產生真正的 " 理解 "。
理解是什麼？理解，是看到或感知那些不能感知的東西和沒有形成數據的東西。
态勢感知是時間空間内的，一般的态勢感知相對來説屬于事實性的。但人類非常特殊，人類的态勢感知和機器的态勢感知時空不一樣，人類能產生事實的想象、價值的泛化、非存在的時空，也能讓時間快，也能讓時間慢。
人類對态勢感知所表現出的控制力量，使其能創造出一些不存在的事物，比如聖誕老人、孫悟空等虛拟人物。
智能本質上是人性的拓撲，人性的本質是價值，通過價值進行聯系、協同與合作。
9. 自主和它主
自主和群體智能是人工智能領網域最前衞的概念。
機器自主智能是一種自主的智能思維。由于人工智能的發展及軟硬體的進步，使計算機邏輯分析能力不斷大幅提高，直至計算機的綜合邏輯分析提高為邏輯思維，這種邏輯思維可以根據環境條件自主產生新的邏輯，并擺脱人類的框架式控制，而成為一種自主的智能思維。
群體智能源于對以螞蟻、蜜蜂等為代表的社會性昆蟲的群體行為的研究。最早被用在細胞機器人系統的描述中。它的控制是分布式的，不存在中心控制。群體具有自組織性。
具身、離身和反身也是智能領網域的流行概念。
人類沒有天生的思想，所有的思想都是别人給的，尤其是那些重要的思想。
比如牛頓的萬有引力理論和微積分理論，大家可能并不了解它的產生過程，實際上，牛頓在其導師和朋友那裏獲取了很多養分，最後慢慢匯總形成了他的理論和思想。
因此，牛頓在做了很多工作之後，發現萬有引力是一個必然的結果。
在人的智能中，具身智能只是一個組成部分，具身要放到環境中進行互動。符号就是離身，通過對符号的計算對人進行對比，把人的智能看成機器智能就是離身的一個表現。
反身是通過别人的表現來看自己，然後調整自己，通過調整之後再看别人的反應，這種相互作用構成了反身。
因此，單純的具身有其局限性，把具身、離身和反身結合在一起，構成了自主和它主。自主中有它主，沒有絕對的自主，人一定生活在社會中，當然，它主中也有自主，因此二者也是混合的體系。
在人工智能自主分級時總會遇到一個困難——沒有讓所有人完全接受和認同的标準。大家在自主分級時使用的常常是事實性問題，沒有使用價值分析，其主要原因是價值不能很好地轉化為事實表征。
10. 主觀與客觀，因與果
在厘清了它主和自主之後，接下來是主觀和客觀的問題。" 主觀 " 确定主觀嗎？" 客觀 " 一定客觀嗎？我們的很多概念都很客觀，但這些客觀存在嗎？事物的屬性與觀察者有關嗎？客觀和主觀有關嗎？
這些問題在量子力學中得到了一定回答，當觀察者參與之後，才能發現 " 貓 " 的真實屬性，如果沒有觀察者參與，" 貓 " 的狀态既是活的也是死的。所以，主客觀在此有很多異議。
在科學研究中，" 先信仰後理解 " 是經常發生的事情。比如，牛頓從蘋果落地開始，他就感覺有一個公式可以解釋這種現象，後來也總結出了萬有引力定律；
愛因斯坦感覺牛頓的萬有引力存在問題，于是發明了 " 相對論 "；現在大家發現了人工智能存在的問題，也就會找到新的理論來突破人工智能。
所以，主客觀也存在相互轉化的問題。
因果關系也是主客觀的一項重要表現。佛學也強調因果，因果相互作用，原因中有結果，結果中也有原因，而且任何事情沒有單一的原因，比如，某人感冒是很多原因造成的，某一疾病的流行，也是由很多原因綜合作用的結果。
但在科學研究中，常常抓住為數不多的原因和結果來作為研究的主要途徑，這也存在一定的問題。而在智能的問題上，涉及的因素更復雜更繁多，多因導致的是多果。
11. 自由與決定
人從出生到離開這個世界，這是 " 決定 "，誰都逃不掉這個命運，無論你是偉大還是卑微；但在這個過程中，又是自由的，想象可以是無盡的，可以和任何一個沒見到的事物打交道。
人機智能體現了 " 自由 " 與 " 決定 " 的有效融合，它既反映了自由，也反映了決定，它既有規則和概率，同時也有反規則和反概率，它們同時存在。
人機融合是自由意志和數理決定的互動。
12. 價值與事實
價值不同于事實，它不是假設，也不是統計概率。指鹿為馬是典型的事實與價值的矛盾，馬是客觀的，鹿也是客觀的，但 " 指鹿為馬 " 就變成了主觀，它反映了客觀事實和主觀價值之間的衝突。
只有事實的對齊，沒有價值的對齊，智能或許就是智障。不能反映價值，這是人工智能被大家所诟病的原因。
自指是一種指向自己的特殊遞歸能力，從系統跳出系統、用有限的手段生成無限是人類自主或人類智能最重要的能力。自指也是事實和價值的橋梁。
現在的人工智能把數學當成了邏輯，把邏輯當成了智能，但數學不是邏輯，數學是基于公理的邏輯，智能也不是邏輯，智能是邏輯和非邏輯的綜合。
智中有愚，愚中有智，二者也是相互融合、辯證的關系。
人物（機）環境之間的一多關系、事實與價值、主客觀、自由與決定對齊可以從不同角度進行思考。這些不同角度很難對齊，尤其是在具體事物中，現在的算法還遠遠不夠，需要新的算法和新的體系。
三、人機融合智能的瓶頸與發展趨勢
1. 人機智能體系六大關鍵問題
第一，數據和非數據的問題；第二，人工智能和非人工智能的問題；第三，人在系統中和人在系統外的問題；第四，自主的定義與分級；
第五，倫理道德和法律的問題；第六，測試和評價的問題，因為智能產品極多，類别太泛，所以沒有統一的測試和評價的标準。
2. 人工智能三大瓶頸
第一，可解釋性、透明性和可信任性的問題；第二，機器常識與人類常識的問題；第三，人類學習和機器學習的差異性問題。這三個問題都涉及到事實和價值的回歸問題。
3. 智能發展的趨勢
未來智能的發展走勢，是從人工智能走向人機融合智能，再到人機環境系統智能，它包含了五個特點：第一，主動推薦；第二，互動學習；第三，高效容錯；第四，混合決策；第五，按需組網。
我的分享就到這裏，謝謝！
* 文章為演講者獨立觀點，不代表筆記俠立場。
筆記俠第二屆智能新商業大會
期待和你再次相遇
分享、點贊、在看，3 連
