今天小編分享的科技經驗:最懂AI的諾獎經濟學得主去世,大模型關鍵技術受他研究啟發,歡迎閱讀。
一位 90 歲巨擘的逝世,正在牽動整個科技圈的關注。
正如 YC 創始人 Paul Graham 所說:
我關注的每一個人,都在對丹尼爾 · 卡尼曼表達敬意。
關注大模型技術的人,應該都對這位以心理學家身份獲得諾貝爾經濟學獎的傳奇人物并不陌生——
他在著作《思考,快與慢》中提出的 " 人類思維的快慢兩個系統 ",深刻地影響了思維鏈、大模型訓練和微調等關鍵技術的發展。
特斯拉前 AI 總監、OpenAI 創始成員 Karpathy 曾在演講中指出,卡尼曼的雙系統理論,正是思維鏈背後核心利用的原理。
除了 AI,卡尼曼對人類判斷的見解,還影響了經濟學、金融、醫學等廣泛的學科。
卡尼曼生前工作的普林斯頓大學校長評價稱:
丹尼爾 · 卡尼曼改變了我們理解理性及其局限性的方式。
而他 90 年的人生,也如同他所提出的的理論一樣,充滿了傳奇。
" 人們會習慣由機器做出判斷 "
盡管并未直接從事 AI 研究,卡尼曼的名字卻随着大模型熱潮在 AI 領網域被反復提及。
他在暢銷書《思考,快與慢》中,提出了思維的二元性,認為人類的認知系統包括 System1 和 System2 兩個部分。
System1 主要靠直覺,而 System2 是邏輯分析系統。通俗來說,System1 是一個快速自動生成的過程,而 System2 是經過深思熟慮的部分。
這一理論對之後的大模型的訓練和微調,以及 " 思維鏈 " 方式都大有啟發。
特斯拉前 AI 總監、OpenAI 創始成員Andrej Karpathy就在一場演講中指出,要想讓自然語言處理中 Transformer 的表現更好,需要讓它一步一步地處理信息,而不能直接抛給它一個非常復雜的問題。
比如即使是很簡單的數學題,如果要求大模型一步到位地給出答案,也很難得到正确結果。
UW-Madison 的助理教授 Kangwook Lee 分享了一道題,定義了一種 "Q 運算 ",規則是 aQb=a+b-1(未直接在 prompt 中說明),要求大模型仿照規律進行計算,結果 GPT4、Claude 和 Gemini 這些最先進的大模型無一答對。
只有讓模型一步步推理,甚至需要不斷地給出引導,才能讓它輸出正确結果。
像這樣 " 一步一步 " 的處理方式是思維鏈的核心,而背後所利用的原理,正是卡尼曼提出的雙系統理論。
除了被廣泛引用,卡尼曼本人從本世紀第一波 AI 浪潮開始,就對人工智能技術保持着高度關注。
他曾在 2017 年的一場演講中公開發表觀點,認為 AI 終有一天會代替人們所做的一切事情。
而在 ChatGPT 問世後,卡尼曼再次對 AI 做出了相似的判斷:
我相信最終(AI)算法會比人類更正确,最終人們會信任算法。這一切都需要時間,但我不認為人們不可能信任算法。
因為在他看來,即使是簡單的變量組合,算法的 " 噪聲 " 也肯定要比人類少得多。
所謂 " 噪聲 ",是卡尼曼在 Noise: A Flaw in Human Judgment(噪聲:人類判斷力的缺陷)一書中定義的,他将 " 噪聲 " 解釋為導致人類針對相同事件做出不同判斷的原因。
舉個例子,兩位放射科醫生對同一張 X 光片,可能得出不同的診斷結果,導致兩人判斷不同的原因,這就是卡尼曼認為的 " 噪聲 "。
在後來的一次訪談中,卡尼面将 " 噪音 " 的概念進一步明确為 " 判斷錯誤中不希望出現的變化 "。
但在肯定 AI 将會非常有幫助的同時,卡尼曼也毫不掩飾地表達了對 AI 可能對人類產生的影響的擔憂。
在被問及是否擔心像 ChatGPT 這樣的 AI 的發展會不受人類限制時,他毫不猶豫地給出了肯定的答復:
我認為關注這種情況的每個人都會感到擔憂,因為從短期來看,它的使用方式可能會颠覆新聞業,因為很難區分真假。
這只是可能出現的問題之一,像這樣的問題還有很多。從長遠來看,擁有卓越的智力是一個巨大的威脅。
所以,我想很多人都很關心,我也一樣。
行為經濟學的奠基人
獲得了諾貝爾經濟學獎的卡尼曼,本不是經濟學家,而是一名心理學家,準确說是首位獲得諾貝爾經濟學獎的心理學家。
獲獎的理由是,卡尼曼與他的同事兼好友阿莫斯 · 特沃斯基(Amos Tversky)合作,将認知心理學應用到了經濟分析當中,為新的研究領網域——行為經濟學奠定了基礎。
頒獎詞中寫到," 他的工作啟發了新一代經濟學和金融學研究人員,利用認知心理學對人類内在動機的洞察來豐富經濟理論。"
△卡尼曼(左)接受頒獎,來源:諾貝爾獎官網
其中涉及了他和特沃斯基提出的前景理論(Prospect Theory,又稱展望理論),從人的心理特質、行為特征揭示了影響選擇行為的非理性因素。
通過一系列的實驗觀測,他們發現人的決策選擇取決于結果與預期的差距,而非結果本身。
對于高于預期的收益型結果,人們往往表現出風險厭惡,偏好确定的小收益,比如在 100% 概率獲得 1000 元和 50% 概率獲得 2000 元之間,雖然二者的數學期望相同,但更多人傾向于選擇前者。
而對于低于預期的損失型結果,人們反而會為了避免确定的損失而表現出 " 風險偏好 ",比如在 100% 損失 1000 元和 51% 概率損失 2000 元之間,盡管後者損失的數學期望更大,卻仍然被更多人所選擇。
正是這一理論改變了傳統經濟學關于人類行為的假設,而傳統經濟學中認為人們都是理性的。
卡尼曼的理論更準确地描述和預測人類在各種經濟環境下的實際行為,影響了金融市場分析、消費者行為研究、公共政策制定等多個領網域。
除了為經濟學帶來全新的視角,卡尼曼一場名為" 經驗與記憶之謎 "的 TED 演講也吸引了不少人的目光,在全球一共獲得了數百萬次觀看。
演講中,卡尼曼提出了人類的 " 兩種自我 " —— " 經驗自我 " 和 " 記憶自我 ",經驗自我活在當下,感受和體驗每一個瞬間,而記憶自我則負責記錄和講述生活故事。兩者的不同在于處理時間的方式和對故事的構建。
進一步地,卡尼曼在此之上探讨了快樂的本質和人們對快樂的不同認知方式。他指出,人們對快樂的理解仍存在一些認知上的陷阱,這些陷阱增加了理解快樂本質的難度。
對于快樂而言,經驗自我記錄了我們生活中具體時刻的體驗,記憶自我則決定了我們對自己生活的整體滿意度。
卡尼曼指出,經驗自我和記憶自我之間不可避免地存在衝突,而把握好這兩種自我系,有助于我們更好地認識自己的幸福感,并在追求快樂時做出更明智的選擇。
以上種種只是卡尼曼諸多理論中的一部分,卻足以體現他對于人的深刻理解與認識,這或許與他豐富的成長經歷密切相關。
" 人是無限復雜和有趣的 "
卡尼曼 1934 年出生在現在的以色列特拉維夫,童年時光則是在法國巴黎度過的。
他與心理學的結緣,從這段人生歷程開始就已經埋下伏筆:
1940 年,納粹德國占領巴黎,卡尼曼一家人當時就生活在那裡。
身為猶太人,卡尼曼一家被要求佩戴六芒星标志,并且遵守下午 6 點的宵禁。
有一次,小卡尼曼跟朋友玩得太晚,回家時街道上已經空空蕩蕩。他把毛衣翻過來藏住了星星标志,但還是倒黴地遇上了德國黨衛軍士兵,并且就在他試圖快點溜走時,對方叫住了他。
令小卡尼曼意外的是,這名德國士兵對他表現得非常親切,不僅擁抱了他,還用德語溫和地跟他說了些話。士兵對小卡尼曼展示了錢包裡一張小男孩的照片,還給了他一些錢。
小卡尼曼至此更加确信了母親對他的教導:
人是無限復雜和有趣的。
1948 年,卡尼曼和他的家人一起搬回了由英國暫時管理的巴勒斯坦。此後,十幾歲的卡尼曼表現出了與同齡人的一些不同。
比如,他進入的是一所宗教學校,但在 15 歲的某一天,走在回家的路上,他突然 " 福至心靈 ":
我突然意識到,我沒辦法相信上帝會關心我是否打飛機。
如果我無法想象上帝關心我,那麼我們就彼此毫無關聯,他是否存在也并不重要。從那一刻起,我成為了一個無神論者。
在後來的訪談中,卡尼曼對此進一步解釋說,在他十幾歲的這個階段,他發現相比于 " 上帝是否存在 ",他對 " 人們相信上帝的原因 " 更感興趣。從那時起,他已經決心要投身心理學研究。
△Midjourney 生成
在耶路撒冷希伯來大學,卡尼曼用兩年的時間獲得了自己的第一個學士學位,主修心理學,輔修數學。
他對自己感興趣的事情熱情非常高:曾經頂着 41 ℃的高燒去聽神經生理學教授耶沙亞胡 · 萊博維茲的講座。
畢業後,他被征召入伍。後于 1958 年赴美國加州大學伯克利分校攻讀心理學博士學位。
在伯克利,他師從心理語言學家、女權主義先驅 Susan Ervin,研究語義差異中形容詞之間的關系,這使他能夠 "從事最喜歡的兩項工作:復雜相關結構的分析和 FORTRAN 編程"。
1961 年,卡尼曼進入希伯來大學擔任心理學講師,正式開啟學術生涯。他和特沃斯基的長期合作也是在耶路撒冷啟動的。
有人用約翰 · 列侬和保羅 · 麥卡特尼來類比卡尼曼和特沃斯基的關系,對此,卡尼曼本人的評價是," 這是一種恭維 "。
實際上,卡尼曼和特沃斯基的性格相差甚遠:
特沃斯基永遠是 party 裡最亮的那個仔,而卡尼曼從學生時代就很 "社恐",這種嗨皮的場合更是連去都不去。
特沃斯基的辦公桌上只放一支自動鉛筆,而卡尼曼的辦公室堆滿了他沒讀完的書籍和論文。
但卡尼曼說,他倆總是 " 有共同的想法 "。
這種思維方式的共鳴,使他們的私人關系也非常密切。甚至在文章和著作署名這種事上,他倆都能用抛硬币來決定。
阿莫斯 · 特沃斯基在 1996 年去世,沒有趕上成果獲頒諾貝爾獎的時候。
2022 年,在一次采訪中,當卡尼曼被問到 " 你每天都會想他嗎?"
盡管在 20 世紀 80 年代後,兩人的合作已逐漸減少,但卡尼曼的回答是," 是的 "。
2018 年,卡尼曼的妻子、認知心理學家安妮 · 特雷斯曼去世。兩年後,他從伯克利搬到了紐約,和特沃斯基的遺孀芭芭拉 · 特沃斯基住在一起。
One More Thing
說起來,卡尼曼的學術成果,或許能解釋一個許多人疑惑的問題:
為什麼迪士尼這樣的地方大排長隊,還是有很多人願意二刷三刷甚至 N 刷?
因為," 有時,記憶中的經歷比經歷本身更重要 ",而記憶中的經歷很大程度上是由最高峰時刻及其結束決定的。
迪士尼花那麼多錢在最後時刻進行煙花表演,可不是白放的。
參考鏈接:
[ 1 ] https://www.princeton.edu/news/2024/03/28/daniel-kahneman-pioneering-behavioral-psychologist-nobel-laureate-and-giant-field
[ 2 ] https://www.washingtonpost.com/obituaries/2024/03/27/daniel-kahneman-dead/
[ 3 ] https://en.wikipedia.org/wiki/Daniel_Kahneman
[ 4 ] https://www.nobelprize.org/prizes/economic-sciences/2002/kahneman/biographical/
— 完 —
【 火熱報名中】中國 AIGC 產業峰會
定檔 4 月 17 日
峰會已經邀請到數位代表技術、產品、投資、用戶等領網域嘉賓,共論生成式 AI 產業最新變革趨勢。
最新确認嘉賓包括:商湯科技楊帆、輕松集團高玉石、印象筆記唐毅、螞蟻集團李建國等,了解更多嘉賓詳情。
峰會将全程線上下同步直播,歡迎預約直播 ⬇️
點這裡關注我,記得标星噢
一鍵三連「分享」、「點贊」和「在看」
科技前沿進展日日相見 ~
>