諾獎AI之父Hinton：我确實有些孤獨，但并不是完全孤立無援

今天小編分享的教育經驗：諾獎AI之父Hinton：我确實有些孤獨，但并不是完全孤立無援，歡迎閲讀。

第二期華夏基石數智時代領導力特訓營熱招中！

報名即送十月管理論壇名額一個！價值12800元！

來源 | Z Potentials，管理智慧

咨詢合作| 13699120588

文章僅代表作者本人觀點，圖片來源于Heidelberg Laureate Forum

傑弗裏·辛頓（Geoffrey Everest Hinton）出生于1947年，是一位英國裔加拿大計算機科學家、認知科學家、認知心理學家。

Hinton在人工智能領網域的貢獻極其卓越，被譽為 "神經網絡之父"、"人工智能教父"。他的主要貢獻包括：反向傳播算法的改進與推廣、深度學習模型的創新（深度置信網絡、卷積神經網絡等多個深度學習網絡結構）。Hinton還為AI行業培養了包括OpenAI前首席科學家伊爾亞・蘇茨克維（Ilya Sutskever）在内的諸多人才。

Hinton目前是多倫多大學教授。從2013年到2023年，他同時供職于谷歌和多倫多大學，直到2023年5月宣布離開谷歌。

Hinton于2018年獲得圖靈獎，這一獎項被稱為"計算機界的諾貝爾獎"，Hinton也被譽為"人工智能之父"。2024年10月8日，2024年諾貝爾物理學獎揭曉，Hinton與美國科學家約翰·霍普菲爾德（John Joseph Hopfield）分享了這一榮譽。

Hinton出生于科學家家庭，他的父親是英國皇家學會會員，Hinton自幼就接受非常嚴格的教育，然而Hinton的成長之路并不是一帆風順。十幾歲時他在給母親搬取暖器的時候腰部受傷，這直接導致他五十多歲之後成了"無法坐下的人"，只能站立或者卧床；在找到自己的學術方向之前，他甚至還在倫敦做過一年木匠；對于他的人工智能之路，他用"我确實感到有些孤獨"來形容自己初期的經歷。

本期，我們編譯了Heidelberg Laureate Forum Foundation對Hinton的采訪。這段采訪于2020年進行，在這段約1h的訪談中，Hinton分享了他好奇心起源以及學術生涯。這位如今當時無愧的AI之父一路的成長經歷，希望對你有啓發，Enjoy:)

Highlights：

對于我而言，硬币向上移動同樣充滿了神秘和奇妙，就像第一次發現磁性一樣，我無法相信所發生的一切。當時的我，對這一現象感到既驚訝又困惑......我想自己解開這個謎團，雖然它看似毫無意義，卻始終在我腦海中揮之不去。我的研究生涯也充滿類似的小困擾，它們令人費解，卻深深扎根在我心裏。

我從小被教育認為宗教不過是無稽之談，且至今仍然相信這一點，這是一種肌肉記憶。

這正是我後來對心理學的總體感覺，我想知道感情是什麼，感覺是什麼。你只有能夠構建一個事物，才能真正理解它。

我的研究方法論的結論與哲學家們在會議上宣讀論文的習慣有關......科學家們通常會站起來發表演講，提出一些主張，有時還會展示證據。相比之下，哲學家們則會宣讀他們的論文，而他們宣讀的方式本身也非常重要......哲學中，言辭的優美與内容的深刻并無二致。在科學領網域，某些理論聽起來可能荒謬至極......但這些理論卻可能是真實的。科學已經證明的許多事實，比任何宗教狂熱者所能想象的都要離奇得多。科學揭示的真相，往往超出了宗教狂熱者所能夢想的極限。這些事實通常顯得相當平凡。科學所确立的真理，比普通人所能想象的要更加奇異。因此，認為科學家們視野狹窄的想法是極其荒謬的。

這是一個非常有趣的論點，為什麼優雅的東西應該是真的？如果你看物理學、粒子之類的東西，你會發現大約有15種粒子可以很好地适應一個模式，除了有一個缺失的。説我們應該尋找那個缺失的，因為所有這些對稱性。它一定在那裏，這種方法是有效的。問題是，為什麼那樣，為什麼它有效？所以在生物學中這并不清楚。

我更感興趣的是利用反向傳播來解決像語音識别和物體識别這樣的復雜問題，而這些問題心理學家們并沒有有效地解決。因此，我對使用反向傳播進行機器學習充滿了熱情。

我确實感到有些孤獨，但并不是完全孤立無援。完全説我是在荒野中孤獨的聲音是不準确的，還有其他一些孤獨研究者的聲音，荒野中有學習。

回顧好奇心的起源

主持人：Hinton教授，我們可以稱這為您好奇心的傳記。我想了解一下您好奇心的起源，或許是在童年時期，您可能閲讀的書籍，以及您在智力上是什麼樣的孩子。

Geoffrey E. Hinton：讓我想想，大約在我五歲的時候。

主持人：好的，地點是在哪裏呢？

Geoffrey E. Hinton：在英格蘭的鄉村，我的母親不僅是一位教師，也是位于布裏斯托郊外約10英裏處一所小學的校長。而我也就讀于她所管理的那所學校。這樣的關系有時會帶來一些小困擾，比如有時孩子們會在操場上圍住我，請求我説服母親做某件事情，但是這不是一件特别壞的事情。我五歲時，公交車的座位是天鵝絨做的，座椅上覆蓋着一種厚重的材料。我坐在公交車上，把一便士硬币放在天鵝絨座位上，它竟然動了，而且是向上移動的。

這顯然是不可能的，我對此感到無比着迷。有時放下的硬币會向上移動，仿佛是夢境中的場景，雖然不是每個人都能經歷，但許多人都有過類似的幻想。就像在夢中突然發現自己能夠飛翔，心中既懷疑又興奮，當你再次嘗試，發現自己真的能夠飛翔時，那種感覺太神奇了。對于我而言，硬币向上移動同樣充滿了神秘和奇妙，就像第一次發現磁性一樣，我無法相信所發生的一切。當時的我，對這一現象感到既驚訝又困惑。

主持人：可能有點實驗性質。你嘗試了幾次嗎？

Geoffrey E. Hinton：我反復嘗試了多次，盡管不是每次都能成功，但确實有那麼幾次嘗試。我記得很多關于那輛公交車的細節，包括我坐在公交車的哪一側，座位的位置等。很多年裏，我都無法理解這枚硬币是如何向上移動的。這成了一個潛藏的記憶，像是發生過的奇怪事情，顯然不可能發生。

主持人：那麼你有沒有急忙去找最近的成年人，告訴他們你注意到了這個？你想請他們幫忙理解為什麼會這樣嗎？或者你只是猜測而已？

Geoffrey E. Hinton：我想自己解開這個謎團，雖然它看似毫無意義，卻始終在我腦海中揮之不去。我的研究生涯也充滿類似的小困擾，它們令人費解，卻深深扎根在我心裏。後來我成為老師、十幾歲時在學校學習物理，我才終于揭開了這個謎底。我不需要通過物理課程來理解這件事，但我最終明白了當時硬币是如何移動的。

我記得公交車的另一個特點是震動很大，前面的發動機巨大且似乎不太牢固，導致整輛車震動。所以顯而易見的是材料上的絨毛是朝上傾斜的。座椅是這樣的，絨毛就也是這樣的，所以硬币不能向下移動。當公交車震動時，震動朝這個方向，它就會上升，而不能向下震動。所以這就是硬币向上移動的原因。

主持人：你最終真的在追求這個問題嗎？

Geoffrey E. Hinton：或許是當我對閥門等事物有了足夠理解時，自然而然想到的。

學校教育經歷的教訓和不滿

主持人：這段是了解你好奇心的寶貴經歷。那你的教育情況是怎麼樣的呢？在母親擔任校長的學校裏，你在科學方面的學習怎麼樣？有沒有遇到讓你感興趣的老師？

Geoffrey E. Hinton：在母親的鄉村學校，我與一群擁有濃重Somerset口音的農家孩子一起成長。其實Somerset有不少德語，很多聽起來像德語的詞，我想這些詞可能源自德語。

當我母親懷上我妹妹時，她不得不離開學校，那時我大約六歲。之後，我去了一所離家近的小學，我的父母希望我能進入一所文法學校，那所學校設有初中部。

我不記得具體是什麼時候，但我記得我參加了文法學校的入學考試，結果沒考上。于是我父母決定送我去一所私立學校——Clifton College，那所學校我從來都不喜歡。他們願意讓我進初中，但在預備學校（為進入大班做準備）階段，他們指出需要解決我的口音問題後才能入學。他們不允許我立即入學，因為我的口音不符合他們的标準，他們建議我在小學再待一年，直到我的口音得到改善。

主持人：我可以把這個稱為"只有在英國才會發生的情況"嗎？

Geoffrey E. Hinton：也許吧，我不太确定。在當地的小學裏，我逐漸适應了更标準的口音。之後我去了這所英國預備學校。我并不喜歡那裏，感到格格不入，因為我父親是斯大林主義者，母親是堅定的工黨支持者，還擔任當地工黨的秘書。我從小被教育認為宗教不過是無稽之談，且至今仍然相信這一點，這是一種肌肉記憶。

這所學校并不雖不特别強調宗教，但仍然帶有基督教色彩。他們認為對男孩有益的事情就是玩橄榄球和去教堂。因此我們每天早上都要參加禮拜。多年後，當我長大為青少年時，周日仍需返回校園，因為我住在家裏。學校裏大多數孩子是寄宿生，只有大約20%的學生是住在布裏斯托的，我們周日不能只是呆在家裏，必須來學校參加禮拜。他們還會邀請其他學校的校長來講道。

我記得有位其他學校的校長講了一個關于俄羅斯多麼可怕的講道，談到他們如何強迫進行意識形态的馬克思主義教育，人們必須坐在那裏，不能請假，得強迫聽這些馬克思主義的無稽之談。我坐在那裏想，實際上我也是被迫聽這些宗教的無稽之談。我差點站起來走出去，心裏也希望我當時這樣做了。雖然我會被學校開除，但我真希望我那樣做過。

主持人：敢這樣做的人少之又少。在這個強調力量的學校裏，沒有人注意到你的聰明才智。

Geoffrey E. Hinton：不，有一些老師對我非常好。我記不太清他的名字了。我記得他個子高高的，瘦瘦的，喜歡數學，和很多小學數學老師不同的是，他是真的認為數學很有趣，他對紀律有奇特的想法。我還記得他做了一些現在你不可能逃脱的事情。我記得有一次課上有兩個男孩在後面説話，他們坐在路對面，他試圖解釋某事時，這兩個男孩竊竊私語。他沿着過道走下來，抓住他們的兩個頭，按着頭發把他們的頭撞在一起。那是不被接受的做法。

在我剛剛踏入這所學校的前幾周，我就被介紹給了一位美術老師。他有點虐待狂傾向，他不允許我們在更衣室裏奔跑。我們只能換下運動服，挂好衣服，換上運動服。如果你在更衣室裏奔跑，他會告訴你這是不允許的。有一次，另一個男孩偷了我的領帶，更衣室中間有隔板。他和隔板另一邊的男孩把領帶扔來扔去，穿過隔板，我圍着隔板跑來跑去，試圖拿回我的領帶。當我試圖繞過隔板去拿我的領帶時，這位美術老師走了進來，我記得他是天主教徒。我認為這就是偏見真正開始的方式。我從來沒有原諒過天主教徒。

他走進更衣室的時候我正在跑，所以他抓住了我，把我帶到走廊上，帶我去校長辦公室，他用竹竿狠狠地打了我。我的褲子還穿着，但他真的很享受。我只記得一種巨大的委屈感，你不會聽解釋。我只記得對他和天主教徒感到非常委屈。

主持人：但我猜，也許你是反抗權威的。你覺得我説得對嗎？

Geoffrey E. Hinton：是的，因為我父親的原因，我從來不喜歡那個主要的政黨。

主持人：但是，你已經有了挑戰權威的理由。這将在你以後的生活中顯現出來。我強調這一點的唯一原因。我們如何讓這個受壓迫的年輕人，偶爾被這所學校壓迫，在他在那裏的最後時期，實際上會被劍橋大學錄取？怎樣才能在智力上或道德上超越這個階段的生活？

Geoffrey E. Hinton：好的，在我們繼續之前，請允許我再講一個我認為你會喜歡的故事，那是關于那所學校的，我們必須接受宗教教育。當然，這有點像主日學校，關于耶稣有多好，上帝會照顧我們。我還記得一些細節，因為，顯然，其他孩子們都對上帝有着不同程度的信仰。在那個時期，我有一位非常聰明的朋友，他對上帝的信仰堅定不移。

我記得在一次宗教課上，老師説所有的好事都是上帝的恩賜。那大概是8歲或9歲的時候。我當時認為有問題。我不記得我當時的想法有多連貫，但她説的是有問題的，她只説它們來自上帝是因為它們是好的，她不能使用上帝的事實，你不能把這當作上帝是好的證據，因為你只是假設它們來自上帝因為它們是好的。這就是你會稱之為循環論證。當時我不知道循環論證，但我知道她剛才説的話有些非常可疑，我想我當時很想争論。

我争論了很多。順便説一句，我當時是學校裏最小、最矮最輕的男孩。但我用争論來彌補，所以我舉手，我試圖向她解釋她剛才説的話有什麼問題。我想她感到沮喪，她説好的，Hinton，你認為所有好事都來自哪裏？這是一種典型的父母式舉動，把假設融入問題，讓孩子去處理。我想了一會兒，説俄羅斯。這在1950年代的英國私立學校裏是意想不到的。1950年代中期，冷戰正處于高潮。這讓你對我在學校文化中的适應程度有所了解。

主持人：我已經有所了解。現在我們可以聊聊怎麼進入劍橋大學的經歷嗎？

Geoffrey E. Hinton：後來我有問父母，他們為什麼堅持讓我留在那裏，盡管我不開心，他們説，那裏的科學教學很好。在我進入高中之前，我喜歡數學。但後來到了某一點，我對數學感到困惑。當他們介紹函數時，我不明白函數是什麼。我在算術和代數方面都做得很好，現在有了這些我不理解的東西，比如sinx，我不知道正弦是什麼。我總是一個非常具體的思維者。實際上，我對函數感到不快，直到我成為研究生開始編程時才感到自在，一旦我開始編程，函數就是一個盒子。你給它一個東西，它給你另一個東西。

主持人：可以概括地説，如果你不理解它的目的，你就會質疑它或忽視它嗎？

Geoffrey E. Hinton：我當然想要。在理解它們之前，我對事物并不滿意。我所説的理解它們，我認為和Feynman的意思一樣。你足夠理解它，以至于你可以構建一個。

主持人：是的，聽起來确實是這樣。

Geoffrey E. Hinton：确實，這正是我後來對心理學的總體感覺，我想知道感情是什麼，感覺是什麼。你只有能夠構建一個事物，才能真正理解它。當然，很多人説你無法構建一個。

主持人：如果我們談到你目前的方法，你不會對感情和情緒這樣的術語感到多愁善感，但我們會談到那裏的。

Geoffrey E. Hinton：我不确定你所説的不感情用事是什麼意思。

主持人：我的意思是，希望它們是無法定義的、不可復制的、人類的，而不是你可以分析和已經分析過的東西。

Geoffrey E. Hinton：我不會稱那為多愁善感，我會稱那為愚蠢。一位好的科學老師，你有幾們好的科學老師。所以我擅長科學。我的數學還可以。因為我父親曾去過劍橋的一所特定學院，他希望我也去那裏。我參加了入學考試，考試成績相當不錯，所以我被錄取了。我去了劍橋。這是一個巨大的衝擊，因為在學校裏有一些孩子很聰明，有趣的想法。我有一個叫Inman Harvey的朋友，他非常聰明。他在三一學院獲得了數學獎學金，這是英國數學最好的地方。

探索信仰和學術興趣

主持人：他們大多數不是受你所上的學校類型的影響嗎？

Geoffrey E. Hinton：在我的高中，你會稱之為北美的高中，大多數孩子對劍橋不感興趣，每個人都很聰明。實際上不是每個人都很聰明。這有點讓人震驚。

所以我在那裏待了一個月後，我離開了。我覺得壓力太大了。我去倫敦做了各種零工、讀了很多令人沮喪的文學，比如《罪與罰》和《卡拉馬佐夫兄弟》。我記得坐在倫敦地鐵上，這本來就是一個相當令人沮喪的地方，讀這些令人沮喪的俄羅斯小説。我做了各種各樣的工作。

我最終對建築產生了濃厚的興趣。然後我重新申請了劍橋學習建築。他們讓我回到了同一個學院。但在我到達那裏之前，我在一家建築師事務所工作了一個夏天，我發現了建築實踐是什麼樣子。我想象坐在那裏勾勒出将要建造的美妙建築的樣子，或者可能是建造建築的新方法。實際上，建築師事務所的生活包括：要選擇便宜的地板還是便宜的門把手，必須是便宜的，否則我們就不會滿足預算。

所以在我做了一天的建築工作後，我去找我的導師。所以我想把專業換回自然科學。我的導師説，好的。

主持人：如果我理解正确的話，這是劍橋教育方法的一個優勢，他們可以靈活調整。

Geoffrey E. Hinton：非常靈活。所以我第一年學自然科學，我想我是那一年唯一同時學物理和生理學的學生。我一直對生物學感興趣，但在學校裏沒有被允許學生物學，因為我父親不允許。他説他們會教我遺傳學，遺傳學是無稽之談。

他确信所有宏觀可觀察的特征都是由許多基因的復雜相互作用引起的。而真理是，藍眼睛是由這個基因引起的，智力是由那個基因引起的。當然，這與共產主義教育非常不符。所以出于意識形态原因，我在學校不被允許學習生物學。

盡管我父親是個生物學家，以他的方式是個非常好的生物學家。他成為皇家學會的成員。實際上，他在49歲時成為皇家學會的成員。而我在50歲時成為皇家學會的成員，這總是讓我感到惱火。所以我和父親競争非常激烈。無論如何，在劍橋，我學了物理、生理學和化學。生理學真的很有趣。這是我從未做過而且不知道的東西。

他們教了我們很多關于電衝動如何沿着神經元傳播的知識。這就是中樞神經系統的工作方式。我記得我非常沮喪，因為他們實際上并沒有説它是如何工作的。他們只説了衝動是如何傳播的，但它實際上是如何工作的呢？神經元是如何相互交流的，這很有趣，但那不是我所説的它的工作原理。我想知道大腦是如何工作的，以及它是如何產生情感和感覺等等。

主持人：為什麼會這樣？

Geoffrey E. Hinton：我不認為想知道這些是激進的事情。我認為很多人都想知道這些。只是生理學上，他們不知道。第一年之後，我轉到了哲學，因為我認為哲學會教我更多關于我真正感興趣的事情。那是一個很大的錯誤。我記得學習維特根斯坦，感到非常沮喪，因為我無法理解。後來，我認為學到這些東西非常有用。但真的，我在劍橋學哲學一年的主要收獲是我對哲學產生了抗體。盡管那裏有一位哲學家我非常合得來。實際上，有兩個。我的導師，一個叫Jim Hopkins的人。他非常好，也對心智實際上是如何工作的感興趣。

然後是一位哲學家叫Bernard Williams，他是一個非常優秀的哲學家，後來去了伯克利。我再也沒有見過他，這一直是個遺憾。他過去常常在周一晚上舉行一種開放式的聚會，如果你感興趣，你可以去他的房間，花一兩個小時讨論哲學，會有很多人出現，我和他相處得很好。他是個偉大的人物。他非常折衷，思考非常流暢。他一點也不教條。他只是非常有趣，從他那裏學到東西非常有趣。他總是認真對待學生的想法，總是對他們有一些有趣的話説。他從不輕視。那是我真正欣賞的一位哲學家。然後我對哲學感到厭煩，因為他沒有告訴我我想知道的。所以我又轉到了心理學。

主持人：他們沒有提出有趣的問題？

Geoffrey E. Hinton：不，他們确實提出了有趣的問題。我非常喜歡的另一位哲學家是Daniel Dennett，他提出了有趣的問題。他們只是沒有工具來回答這些問題。我的研究方法論的結論與哲學家們在會議上宣讀論文的習慣有關，而科學家們則很少這麼做。科學家們通常會站起來發表演講，提出一些主張，有時還會展示證據。相比之下，哲學家們則會宣讀他們的論文，而他們宣讀的方式本身也非常重要。在哲學領網域，你的表達方式至關重要，因為你的話語就是全部内容。哲學中，言辭的優美與内容的深刻并無二致。

在科學領網域，某些理論聽起來可能荒謬至極，例如将加速度等同于重力，但這些理論卻可能是真實的。科學已經證明的許多事實，比任何宗教狂熱者所能想象的都要離奇得多。科學揭示的真相，往往超出了宗教狂熱者所能夢想的極限。這些事實通常顯得相當平凡。科學所确立的真理，比普通人所能想象的要更加奇異。

因此，認為科學家們視野狹窄的想法是極其荒謬的。你可以做到這一點，因為它有理論化之外的東西可以告訴你這些理論是對還是錯。我聽不懂弦理論，但我聽説過人們聲稱，那個邊界正在被弦理論推動，目前還不清楚它是否只是數學，或者它是否真的正在被數據驗證。科學有這種獨立的測試，哲學沒有。

主持人：有時候有一種衝動，我可能只在想數學，尋找優雅的解決方案，這總是讓我驚訝，是術語。優雅并不一定是真實的，但也許這就是數學優雅的精髓。

Geoffrey E. Hinton：這是一個非常有趣的論點，為什麼優雅的東西應該是真的？如果你看物理學，如果你看粒子之類的東西，你會發現大約有15種粒子可以很好地适應一個模式，除了有一個缺失的。説我們應該尋找那個缺失的，因為所有這些對稱性。它一定在那裏，這種方法是有效的。問題是，為什麼那樣，為什麼它有效？所以在生物學中這并不清楚。所以當我在聖地亞哥做博士後時，我認識了Francis Crick，他對大腦非常感興趣，他是一個非常令人印象深刻的思考者，但他的觀點是。這種認為優雅的東西将是真實的觀念并不一定适用于生物學。

主持人：如果哲學不能滿足年輕的大學生，我會假設，鑑于他未來的職業生涯，他會跳到科學領網域，但實際上，他跳到了社會科學領網域。

Geoffrey E. Hinton：不是的，心理學兼具了科學和社會科學兩個方面。但在劍橋，心理學屬于科學領網域。事實上，我實際上非常惱火，它沒有教我們任何關于人的東西。所以我去找我的導師，不是我的心理導師，而是我在國王學院的一般導師，他負責我的經費。我解釋説心理學課程沒有告訴我任何關于真正的心理學。例如，心理學課程中沒有任何關于精神分析的内容。所以我想做的是，每周去倫敦一次，從一個存在主義精神分析師那裏得到一個教程，這樣我就可以學習那個我感興趣的内容。我希望學院為此付費。所以我的導師只是説，嗯，聽起來合理。學院會為此付費的。那是真正的自由教育。那是劍橋國王學院，它很有錢。

主持人：那麼，大膽的大學生提出了要求，學院同意了，這實際上有多重要？

Geoffrey E. Hinton：我唯一真正記得的關于存在主義精神分析教程的事情是，精神分析師有一個非常漂亮的日本女友。這讓我們對精神分析產生了非常好的想法，但他教了我關于胡塞爾和海德格爾的知識。我從來沒有真正理解過這些。

主持人：因為我們沒有太多時間。我要快速帶你完成你的心理學課程。我會在任何對你的智力發展至關重要的點停下來。

Geoffrey E. Hinton：所以我覺得心理學完全沒有一個合适理論的樣子。他們沒有物理學的觀點，即理論應該真正解釋一些事情。所以它有實驗方法。所以在那種意義上它比哲學好。但他們使用實驗是為了試圖決定一些理論，這些理論是無望地不充分的。你可以直接不用做實驗就駁回，因為你根本做不到。所以我必須做一個實驗。我記得那個實驗，會拿3到5歲的孩子，試圖決定他們在那個時期是否發展，在這個時期，他們開始更多地關注形狀，更少地關注顏色和質地。

所以這個模型的小孩子，刺激像形狀、顏色和質地，他們對刺激做出反應。這是行為主義心理學，開始變得有點復雜。實驗是要決定對形狀的反應強度是否增加，對顏色的反應強度是否減少。所以你在訓練期間給他們三個物體。比如説，兩個三角形和一個黃色的正方形。他們學會挑出與眾不同的那個，就是正方形。

給他們三個三角形，其中一個是紅色的，另外兩個是黃色的。當他們學會紅色三角形時，然後一旦他們用各種不同的刺激維度訓練過，然後給他們一個黃色的三角形，一個紅色的三角形，和一個黃色的正方形。所以現在有衝突了，他們要基于顏色挑出舊的那個，還是要基于形狀挑出舊的那個，然後你看看他們怎麼做。希望是随着他們年齡的增長，較大的孩子會用形狀來挑出舊的那個，而較小的孩子會用顏色。

實際上發生的事情是這樣的。實驗進行過程中，我遇到了一個聰明的五歲小孩，我第一次給他看一個沒有明顯與眾不同的衝突物體時，他指着紅色的圓圈説，你把那個顏色塗錯了。他認為我犯了一個錯誤，因為那是舊的與眾不同的遊戲。顯然我給那個塗錯了顏色。我想，這個有機體對顏色或形狀做出反應，是這個有機體剛剛做了一件推理，。這遠遠超出了這些理論的範圍。與這些理論相比，這是一種極其復雜的行為。這個有機體基本上弄清楚了我的意圖，認為我在這裏犯了一個錯誤。這完全超出了範圍。這對我來説影響很大。我完全對心理學失去信心，因為盡管它有實驗方法，但它以一種極其幼稚的方式使用它來測試真正愚蠢的理論。

人工智能的職業演變和學術旅程

主持人：因為那些可能在聽的人，不太理解人工智能計算機等方面的探究狀态，你接下來如何規劃你的下一步？

Geoffrey E. Hinton：所以我做了一年的木匠。我退出了學術界。然後我通過一個項目重新進入學術界，研究兒童語言發展，這個項目受到Chomsky的很大影響，他聲稱幾乎所有的語言都是先天的，但語言的句法方面是先天的，這完全是胡説。這個項目是觀察布裏斯托的一大群幼兒，通過測量實際發生的事情來實證地觀察他們的語言發展。這個項目和水門事件同時發生。我們有帶無線電麥克風的小夾克。所以我們給一個孩子穿上這件小夾克，他會整天穿着它，我們會廣播孩子説的每件事和房子裏説的每件事。

那時候人們不認為這是一件壞事。在房子裏，我們有一台錄音機，每20分鍾會取一分鍾的樣本。它是通過讓一個紙盤在它的一個凹槽中慢慢旋轉，一個小杠杆會掉下來，連接磁帶錄音機來實現的。那時候的技術就是這樣的。我們會得到這些兒童語言的樣本。然後我們會嘗試分析它們。這就是問題所在。

我們在看标籤，看看孩子們是否很早就不表達復雜的語法結構，因為音素太多了，或者因為他們只是不知道這些結構。标籤很好，因為它的音素很少，但有很多語法。我們有一個孩子的家長對她的孩子説，如果你説話不标準，就不會給你玩具。我只是覺得這是一個很好的例子，説明孩子們從中學到了説好英語的數據。1972年，我開始攻讀人工智能博士學位。我開始讀博的幾年前，愛丁堡建立了一個大型的人工智能中心，所以科學研究委員會決定資助一個大型的人工智能項目。

主持人：現在回想起來，他們當時認為自己在做什麼，給你留下深刻印象了嗎？

Geoffrey E. Hinton：這是一個明智的做法。我認為建立一個真正優秀的中心是一個好的政策。我認為那裏的幾乎所有人。相信符号人工智能是好的，現在被稱為老式的符号人工智能。但我認為他們犯了一個巨大的錯誤。在幾年後，我記不得确切的時間了，可能是1974年左右。政府讓一位名叫James Lighthill FRS的傑出數學家對愛爾蘭中心進行了一項報告。

他提出了一份非常具有破壞性的報告，基本上説這些人不知道自己在説什麼。他與McCarthy進行了一次交流，McCarthy是人工智能之父之一。我記得很多年後看到了這次交流，McCarthy説，任何你可以計算的東西，你都可以用符号操作來計算。所以我們正在做的事情一定是對的。Lighthill説的是，是的，但你不知道大腦是如何做到這一點的，這是我們知道的唯一能夠思考的設備，你不知道這種方法是否高效。

現在回想起來，當時，英國的所有人都對人工智能感到憤怒，因為James Lighthill FRS不相信它。我認為雙方都在假設一些事情，雙方都在假設計算不會比現在快幾百萬倍，可能會快幾千倍，但不會快幾百萬倍。在那種假設下，Lighthill完全正确，這種符号化的方法，盡管理論上你可以用我們擁有的計算速度做任何事情，但沒有希望做到像感知測量這樣的事情。

主持人：報告是什麼時候發表的，你當時是在本科階段還是研究生階段？你是在宣布這一決定的時候的研究生嗎？

Geoffrey E. Hinton：确實，我的導師是三位在愛丁堡大學創立人工智能學院的教授之一。後來，由于種種原因，包括與另一位重要人物的個人衝突，他離開了愛丁堡，轉而前往蘇塞克斯大學。我也随他一同前往。

主持人：你是否發現你的研究生同學們對這個分析感到困惑？

Geoffrey E. Hinton：我不記得當時的情況了。不過，我認為Lighthill對人工智能太過嚴厲了。當然，有很多同齡人的壓力讓你相信這一點。我不記得和他們讨論過這個問題。所以，我不得不每隔一段時間就回愛丁堡一次，籤個字證明我還住在那裏，這樣我就能拿到從布萊頓到愛丁堡的往返車票，一天之内來回奔波。

主持人：但是愛丁堡的某個人将不得不批準這個論文題目。那個人是誰？

Geoffrey E. Hinton：在人工智能領網域有一位資歷較淺的老師叫Jim Howe，他是我的官方導師，但所有人都知道這只是一種安排。

主持人：在這種情況下，你是如何确定論文題目的？

Geoffrey E. Hinton：我本想研究神經網絡以及它們的學習機制，但我無法理解它們是如何學習的。我想不出有什麼顯著的方法能超越50年代末到60年代初就已經為人所知的感知器收斂定理。我的導師，直到我來愛丁堡之前，他一直在研究神經網絡。就在我到達愛丁堡之前，他改變了自己的觀點。他之前研究的是全息記憶，這讓我非常感興趣。

大約在我剛開始研究生學習的時候，他對特裏·温諾格拉德的一篇論文印象深刻，那篇論文使用符号方法來嘗試理解自然語言命令，比如‘是的，請把紅色的積木放在綠色積木上的藍色盒子裏’。他對那個印象深刻。他基本上把他的興趣從神經網絡轉向了符号人工智能。他收了一個顯然對神經網絡感興趣的研究生，試圖説服我改變興趣，但我對此不感興趣。

我當時非常固執。當我回想起來，作為一個導師或研究生，是的，見過各種類型的研究生，包括那些極其固執的人，我記得他走進我的辦公室，對我説："Geoffrey，我有個你可能感興趣的主意，讓我解釋給你聽"。所以他向我解釋了這個想法，這個想法看起來相當有趣。在想法的最後，他説"Geoffrey，你覺得你想研究這個嗎？"，我驚訝地看着他説，不，我有自己的想法需要研究，所以他非常寬容。他容忍我作為研究生，盡管他認為我在做瘋狂的事情。我們一直在争論。我最後同意，如果六個月内我沒有取得進展，我就轉向符号人工智能。然後我會一直食言。這就是他的寬容之處。

主持人：你的脾氣也讓你不願意去做那種工會卡片上的事情，也就是按照教授説的任何事情去做，然後繼續你的真實生活。你沒有準備那樣做。

Geoffrey E. Hinton：不，我的意思是，我不會去研究我不相信的想法。

主持人：但不是那樣，我仍然希望你獲得學位。這是如何實現的呢？

Geoffrey E. Hinton：最後，我設法做了一些不是神經網絡學習的事情，而是神經網絡中的推理。我讓它起作用了。它有一點點數學來證明它，他對此很滿意。所以我獲得了博士學位，然後我就離開了那裏，那時我對一切都非常失望。我經常辍學，我又休息了一年。我去了倫敦，在一所自由學校教書。自由學校的環境非常不同，有很多情緒不穩定的孩子。然後我回去了。我可能休息了大約六個月。然後我回去做了博士後的工作。我們在蘇塞克斯，蘇塞克斯待了一會兒，最後我申請了聖地亞哥的工作。那似乎是一份非常好的認知科學工作，他們将招聘6名不同領網域的博士後，他們将相互交流，試圖理解心智。

主持人：我讀過的關于你的文章之一，不一定準确，但説經濟支持工作的問題也是去美國的一個因素，這是真的嗎？

Geoffrey E. Hinton：因為Lighthill報告，人工智能領網域根本沒有工作，基本上在那裏就完蛋了。愛丁堡有一個人工智能的工作，很多非常優秀的人在競争，所以你幾乎别無選擇。我根本得不到，我根本得不到英國的學術工作，沒有任何機會，我甚至得不到一個學術工作的面試機會。

主持人：現在我們差不多快結束了。這次采訪的重點是思考的起源，所以這不是問題。但我想知道我們是否能接近尾聲，描述一下你當時去聖地亞哥時遇到的美國大學的學術環境和策略。

Geoffrey E. Hinton：這是一個巨大的對比，在英國，人工智能的學術界是單一的。有一種正确的觀點，沒有容納多個陣營的空間。而在美國，至少你有兩邊的海岸，在語言學上，東海岸有喬姆斯基陣營，西海岸有菲爾莫爾和萊考夫陣營。人工智能也是如此，在聖地亞哥，有一群人，特别是David Romhart，他來自心理學但數學很強，他基本上有一個完全不同的人工智能觀點。他對大腦中實際發生的事情感興趣。他認為理解大腦中發生的事情對于理解這一點是有用的，這與許多心理學家不同。他的觀點與我一直在思考的非常吻合。所以這是我第一次來到一個我和某人一起工作的地方，他真的對如何理解心智以及它是什麼樣子有同樣的信念。這很美妙。

主持人：當接近尾聲時，我的意思是，我要問一個可能是荒謬的概括性問題。我也完全準備好聽到你説這是荒謬的。但當人們回顧你的職業生涯時，有一些教訓，一些是關于在美國頑固堅持一個想法的教訓，盡管大多數人説這是胡説八道，然後甚至在你後來去的加拿大，仍然有學術界説你感興趣的東西和你追求的東西是錯誤的。

Geoffrey E. Hinton：是的，我對心理學的一些觀點提出了批評。但是，當反向傳播算法被Dave Rumelhart重新發現之後，我和他以及其他研究者已經證明了它在提升學習能力方面具有巨大的潛力。這在計算機科學界引起了一陣熱潮，但随着時間的推移，由于它的效果并沒有達到我們的預期，這股熱潮逐漸冷卻。

然而，在心理學領網域，人們對它的興趣卻持續不減。因此，它在心理學界占有一席之地，心理學家們總是願意支持這些創新的想法。盡管如此，我更感興趣的是利用反向傳播來解決像語音識别和物體識别這樣的復雜問題，而這些問題心理學家們并沒有有效地解決。因此，我對使用反向傳播進行機器學習充滿了熱情。但心理學家們并沒有真正推動這一領網域的研究。

主持人：在某種程度上，你相對孤獨？

Geoffrey E. Hinton：我确實感到有些孤獨，但并不是完全孤立無援。完全説我是在荒野中孤獨的聲音是不準确的，還有其他一些孤獨研究者的聲音，荒野中有學習，但整體上，學術界對機器學習的研究并沒有那麼熱衷。

主持人：非常感謝！

原視頻：HLF Laureate Portraits: Geoffrey E. Hinton

https://www.youtube.com/watch?v=z9Fz96Mr4bM&t=1864s

編譯：Huiru Jiao

第二期華夏基石數智時代領導力特訓營熱招中！

報名即送十月管理論壇名額一個！價值12800元！

開班時間

10月25-27日中國·北京

報名條件

本課程适合有意提升數智化領導力的企業一把手及中高層領導者