今天小編分享的教育經驗：世界經濟論壇上，伯克利Stuart Russell教授的觀點：AI時代你需要掌握的實用技能，歡迎閱讀。
第三期華夏基石數智時代領導力特訓營熱招中！
來源 | AI工作坊，管理智慧
咨詢合作| 13699120588
文章僅代表作者本人觀點（未經本人審核）
全文10,000 字，閱讀約需21分鍾
世界經濟論壇的一項預測表明，到2027年，近一半（44%）的員工核心技能将面臨重大變革。這一驚人數字凸顯了：未來已至，我們必須未雨綢缪。
近日，在世界經濟論壇的一場圓桌讨論中，來自不同領網域的專家齊聚一堂，深入探讨了"人工智能時代的技能"這一緊迫話題。與會者包括Astrotech的創始人兼首席執行官Abdullah Abdu Shake、阿聯酋Majid Al Futtaim的高管Joe Odriskie、ADP的首席經濟學家兼ESG官員Nella Richardson博士，以及加州大學伯克利分校計算機科學教授Stuart Russell。
随着基本的生產活動逐漸交由機器完成，我們正在邁向一個全新的經濟形态。這意味着未來可能會出現更多的自由職業者，而教育系統也需要相應調整，以培養在這種人際交往密集型角色中取得成功所需的技能。然而，面對這種變革，許多人仍然抱有"公司有義務保證我不失業"的心理。但現實是，在某些領網域，人工智能已經開始展現出超越人類的能力。
在這個新時代，生存能力再次成為關鍵。在人工智能時代，未來的成功者可能不是那些學識最淵博的人，而是那些能夠快速适應變化環境的人。正如我們在當今的金融和商業領網域所看到的，真正脫穎而出的往往是那些善于适應的個體。
主持人 ： 認為在未來十年内，人工智能将如何影響工作崗位的創造、颠覆，甚至可能的消失？
嘉賓Abdullah Abdu Shake： 當然，感謝大家的邀請。我認為這是我們現在最常被問到的問題："我會不會失去工作？機器人會不會明天就取代我做的事情？" 我認為有幾個角度可以看待這個問題。首先，這并不是新鮮事，這樣的技術創新曲線在歷史上已經發生過多次。我經常喜歡舉一個例子，當年牛津大學的教授曾經抗議計算器的發明，他們認為數學家将會變得無關緊要。然而，在每一次工業革命或技術革新時，新技術的出現并不會讓所有人都失業，而是會将勞動者抽成兩個群體——操作員和那些不再直接參與操作的人。比如，當電子郵件發明出來的時候，郵差并沒有消失。我們仍然有郵差，只是他們的收入、補償等都處在較低水平，而那些适應新技術的人則轉變為操作技術的工作。所以，我認為人工智能将會帶來類似的影響。人工智能的第一階段将主要接管那些重復性、勞動密集型的工作，AI在這些重復性的任務中表現非常出色，而這将為人類騰出更多時間去做其他事情。我認為人類會因此創造出新的一類工作。以上是我對這個問題的想法。
主持人 ： 非常有趣。Joe，你的看法是什麼？你如何看待人工智能對未來就業的颠覆與創造？
嘉賓Joe Odriskie：我非常喜歡這個問題。我認為有一種持續存在的說法是"人工智能将取代我們所有的工作"。但在Majid Al Futtaim，我們認為人工智能實際上是為了提升人類，而不是取代他們。不是人工智能要搶走我們的工作，而是它将會取代那些不了解人工智能的人的工作。很容易被人工智能的炒作所吸引，但事實是，我們需要對人工智能的發展保持認知上的謙遜。我們并不确切知道它的走向，因此我認為工作崗位的創造将主要集中在那些能夠适應、改變并能跟上人工智能時代步伐的人身上。正如我提到的，我們需要有一種謙卑的态度，意識到我們不可能完全預測出人工智能将走向何方，而是要為它将帶我們去的地方做好準備。
主持人 ： Nella，你怎麼看呢？
嘉賓Nella Richardson博士： 首先感謝各位的到場。我能感受到大家對這個話題的強烈興趣，我非常認同前面兩位嘉賓的觀點，即人工智能正在改變我們的工作方式。我認為人工智能最早出現的地方往往是在公司内部。大多數公司都在努力尋找如何管理他們的人力資本——這是他們最重要的資產，也是最昂貴的資產。人工智能改變了公司管理人力資本的方式，甚至可能，如果我們做得對的話，它可以将"管理"轉變為"發展"。在ADP，我們在大約140個國家開展業務，我們非常關注公司如何管理他們的員工。我們研究了超過5300萬名員工的數據，跨度達四年。
我想讓大家在腦海中想一想，這5300萬名員工中，有多少人實際上是由他們的公司進行技能提升的？想象一下這個數字，問問自己是否超過了兩位數？我現在告訴你們答案：不到4%。在兩年内，這5300萬名員工中，只有不到4%的人獲得了公司提供的技能提升。因此，即使沒有人工智能的存在，也有巨大的機會可以培養出一支具備技能的員工隊伍，并推動持續學習的文化。我認為人工智能最先改變的是公司如何看待他們的人才，并希望能夠促使他們更多地投資于人才發展。
主持人 ： 我會再回來探讨這個問題。不過先請教一下Stuart，你的看法呢？
嘉賓Stuart Russell教授： 我認為答案取決于你是在看當下存在的人工智能，還是未來十年的人工智能。有許多專家預測，到這個十年末，也就是六年後，我們将擁有在各個方面都超過人類能力的人工智能系統。這意味着幾乎沒有任何工作是人工智能系統無法以更低成本和更高效率完成的。有趣的是，長期以來，經濟學家一直用希臘字母寫出理論，證明不會出現"技術性失業"。但如果我告訴你，我能為每個人制造一個"替身"，而且這個替身比你做得更好、從不宿醉，還願意免費工作，那麼你們中還有多少人會保住自己的工作？這時，經濟學家才會說："哦，我明白你的意思了，是的，可能确實會有更多的工作，但那些工作不再是由人類來完成的。"
因此，制定政策變得非常困難。大約一半的專家認為這種情況将在未來十年内發生，我們将擁有這種強大的技術，而另一半，包括我自己在内，認為這個過程會更長，我們目前過高估計了現有技術的能力，其擴展的影響也并沒有像很多倡導者所想的那麼深遠。但是，我們确實已經看到了一些顯著的影響。令人驚訝的是，我認為Abdullah是對的，很多重復性的工作，那些你按百人、千人規模雇傭的、可以替換的機器人般的工作，将由真正的機器人來完成。然而，我們也看到了對創意產業的影響，比如圖形藝術家和自由撰稿人。我們可以在他們獲得工作的在線市場上清楚地測量到價格的下降，因為人們可以使用人工智能在十分之一的時間内完成這些工作。
當我向公眾演講時，父母們更多地關心的不是他們的工作是否會被取代，而是他們的孩子将來該做什麼？他們應該學什麼？他們應該選修哪些課程？在短期内，人工智能工程師和機器人工程師将有需求。但從長期來看，人與人之間的技能将變得尤為重要。這将是一個非常不同的經濟形态，當基本的生活生產交給機器時。我們需要思考這意味着幾乎每個人都會成為自由職業者，以及為了在這些人際交往的角色中取得成功，所需要的教育是什麼。我們有200年沒有進行系統性研究，研究如何過上好生活，或幫助别人過上好生活，因此還有很多工作要做。
個人掌握關鍵技能
主持人 ：我們或許可以說，未來會更加重視人類的創造力和情感智能。不過，Stuart描繪了一個非常有趣的畫面，展現了一個更加自動化的未來。那麼，Nella，接下來我想請教你，在這個日益自動化的未來，哪些技能将成為至關重要的"任務關鍵"技能，工人們需要掌握，企業需要培養？
Nella Richardson博士： 首先，我要非常坦誠地說，這個問題存在不确定性。沒有人能夠準确預測未來十年人工智能的發展。在某種程度上，人工智能就像開車。我車上有很多人工智能功能，但我實際上并不知道它們具體做什麼。我依然使用着我16歲時考到的駕照。對很多工人來說，他們的人工智能體驗将會是這樣的——它只會成為他們日常任務的一部分。但是，的确存在這樣一種共識：軟技能将變得尤為重要。如果我們專注于生成式人工智能，尤其是内容創作、進行更多的創造性工作、更具協作性的工作以及跨越地理界限的數字化工作，那麼文化意識和對人類的敏感度将會變得非常重要。此外，能夠訓練人工智能的能力也是關鍵，因為最好的人工智能總是以人為中心的，必須有人為它提供反饋，不論是數據上的反饋，還是人際互動上的反饋。這種反饋機制對人工智能的發展至關重要，即使是人工智能，也需要人的幫助。
那些具有廣泛技能、深入知識和可轉移專業能力的人，将是未來能夠生存下來的關鍵。因此，與其想着我們都必須成為機器人工程師（幸好不需要如此），不如說要從職業導向轉變為任務導向，不管是什麼職業，都要有靈活性去橫向或縱向發展，而不是僅僅在某一專門領網域往上爬。同時，如何更好地溝通和協作，從而真正抓住人工智能的優勢并大規模應用到不同的業務運營中，這是至關重要的。這并不是一個簡單的解決方案。我們知道，人工智能已經存在了很長時間，這些進展也是經過長時間的積累才實現的。然而，全球的生產力早在疫情前就已經放緩了，所以人工智能與員工的結合能否真正讓全球經濟受益，并提高生活水平，還是一個未知數。我們需要确保這種結合發生，而這正是為什麼企業将如此專注于将技術與人才匹配起來的原因。
主持人 ： Joe，作為阿聯酋國内一家非常重要的企業，同時也是一個大雇主，作為首席學習官，你是如何更新培訓計劃以适應這個人工智能驅動的未來？此外，關于終身學習，對于那些希望在Majid Al Futtaim長期工作的員工，你們是如何推動終身學習的？
Joe Odriskie： 這是個非常有趣的問題，因為我們最近推出了一個人工智能學院，而其中的一個模塊在一周内就過時了，這就是人工智能發展的速度。所以我們不得不從非常新穎的、具有反叛精神的角度來重新思考如何部署學習。我們現在通過人工智能，不僅要滿足學習者當前的需求，還要預測他們未來可能達到的水平。因此，我們正在使用一些工具，例如有一家名為Arist的公司，他們其實是應危機而生的創新產品。他們最初是為了在葉門衝突期間幫助學生獲得學習機會，現在已經是一家矽谷初創公司。他們通過短信推送學習内容，這對我們來說是一個非常好的機會，因為我們有從一線員工到CEO各個層次的員工。我們能夠真正滿足員工的潛在需求，讓他們在工作流程中學習。我們可以通過Teams、WhatsApp或短信發送關于人工智能的消息或更新。這是我們利用人工智能以更加用戶友好的方式支持學習者的一個途徑。
我們之所以這樣做，是因為我們越來越多地看到，尤其是年輕一代，他們帶着所謂的"流動期望"進入職場。他們期望在處理學習管理系統（LMS）時能夠像使用蘋果或亞馬遜一樣流暢——他們希望實現無縫體驗，兩次點擊、十秒完成，這是注意力經濟所允許的時間。所以我們必須從傳統的三天課堂式培訓轉變過來。因此，我們正在試圖在員工入職之前就找出那些已經為此做好準備并适應這種變化的人。我們正在評估人們的學習能力，因為你提到的這個關鍵問題——我們應該專注于哪些技能？我認為最重要的技能之一就是一個人願意學習的程度，以及他們學習的能力。他們是否能夠在日常工作中融入學習科學的原則，例如反復測試和間隔學習等。通過人工智能，現在我們可以以一種非常客觀的方式來評估這些能力。
主持人 ： Abdullah，你能不能也從技術的角度來談談這個問題？特别是在我們讨論的技能需求，以及你在招聘時看重哪些技能？
Abdullah Abdu Shake： 可能這會讓我陷入一些麻煩，但我對這個問題有一個非常極端且明确的看法，因為我每天都在寫代碼，這是我們每天的工作。或許有一點我想提前說明的是，在我們的公司中，我們告訴員工，沒有人有義務保住你的工作，尤其不是人工智能的責任。公司希望以更快、更便宜的方式做事情，他們希望雇傭那些寫代碼不會生病、不會在周日休息的人。而這一事實在很長一段時間内都不會改變。我觀察到，很多人都有一種"公司有義務保證我不失業"的心理，盡管人工智能比人類更擅長一些工作。他們認為，公司應該保障他們的工作崗位，但現實并非如此。作為人類，我們歷史上最重要的技能之一就是生存能力——我們之所以能以今天的樣子存在，正是因為我們善于生存。在人工智能時代，生存仍然是最重要的，而最适者生存的原則依然适用。
那些最有學識的人并不是最好的生存者，也不是最成功的。你可以在當今世界看到，很多在金融或商業領網域表現出色的人，并不是學識最淵博的，而是那些能夠快速适應變化環境的人。因此，我在這裡可能會有點不同意見——我認為，人工智能的未來并不模糊，至少在我的工作領網域非常清晰。
未來十年，如果人工智能能夠實現其承諾，我們将看到很大的改變。我們仍然不确定它究竟會在5年内、還是10年内到來，我們可能高估了其計算能力，也可能低估了它，但我們知道它一定會到來。屆時，将會有大量的工作崗位消失，因為人類在這些工作中效率太低，而人工智能将極其高效地完成這些工作。所以我的想法是，人們需要學習什麼技能？我常說的一點是，技術越好，正式教育就越無效，因為技術進步得越快，教育系統就越落後。你可以問問在座的各位，有多少人在日常工作中真正用到了他們的正式教育，尤其是那些非技術性工作的人，答案可能很少。
在人工智能時代，大學裡所學的内容不會是你需要的技能。這不是一個四年制的項目，你不可能通過四年大學課程準備好迎接人工智能時代。就像剛才提到的，一個模型在一周内就過時了，想象一下，如果你花四年時間學習某個領網域，到你畢業時，那些知識已經是"古代科學"了。所以，我認為，正式教育系統必須重新調整它的定位。我們公司在招聘時，我發現年輕的開發者越來越具備優勢。我們現在招聘的年齡大幅下降，許多18、19歲的年輕人表現非常出色，成為我們最有效率的開發者。他們都是自學成才的，沒有按照某個四年制的課程計劃來學習。他們沒有那種"完成哈佛四年課程你就是最聰明的人"的心态。因此，我認為這是一個非常重要的變化，會影響各行各業。如果有一件事我可以非常肯定地說，那就是我們現在需要的重點不再是如何設計機器人，而是要真正理解這個機器人或人工智能到底能做什麼。舉個例子，有位非常著名的銀行CEO曾問我，未來的人工智能銀行會是什麼樣子？我回答說，我不認為未來的銀行會去賣面包，它們依然會提供銀行服務，但會在3秒鍾内為你批一筆貸款，而不是像現在需要3個月，而且可能只需要一個人來完成工作，而不是300人。這就是未來銀行的樣子，你可以把這個模型應用到幾乎所有的行業。
主持人 ： Stuart，我想請你回應一下Abdullah的觀點。你認為學術機構在應對這些技術變化的速度上做得對嗎？我們談到獲取傳統學位所需的時間，你覺得這些機構的反應速度足夠快嗎？
Stuart Russell教授： 絕對不夠快。我認為這正是我們應該在20年前開始規劃的原因，因為那時我們已經可以看到這些變化即将發生。但眾所周知，學術界的變革速度非常慢。我本科就讀的牛津大學早在1851年就首次讨論是否要設立地理專業，但他們花了25年的時間才通過各項流程，最終決定設立地理專業，而那時衛星已經使得傳統的地理學大部分變得不相關了。如果我們思考未來，我同意Abdullah的觀點，人工智能一定會到來。我們不知道具體什麼時候，但總有一天我們會擁有通用人工智能，幾乎可以肯定的是，在學術變革的時間框架内，它會到來。我們可以說學術上的重大變革大概需要20到30年的時間，這涉及到我們提供什麼樣的學位、如何教授内容以及内容的來源。
如果我們要培養人們從事各種人際交往相關的職業，那麼我們就需要"學習科學"，也就是關于人類心理的科學。這裡沒有冒犯心理學家或學習科學家的意思，但這門科學比經濟學還要更加"沉悶"，因為我們對人類如何運作知之甚少。我們不知道為什麼某些人對某些教育方式反應良好，而另一些人則需要完全不同的教學方式。我們需要認識到，人類不是商品，而是80億個獨特的個體。從科學角度來看，我們需要知道如何從個體的特征出發，找到最佳的學習方式，幫助他們學習。這項科學的發展将需要幾十年的時間，而我們其實應該在20年前就開始研究這一領網域。
然而，我們将數千億的資金投入到手機等其他創新上，結果是利弊參半的。現在的大學甚至還無法應對大語言模型對學生作業的影響。這種現象在高中更為嚴重。我有一位伯克利的同事，他定了一條規則，要求學生必須使用ChatGPT或類似的人工智能引擎來撰寫文章，但如果你直接提交AI的輸出，你将得零分。你的評分依據是你如何改進AI的輸出。這聽起來像是一個相當有見地的做法，但如果你想把這種方式應用到高中，大約90%的高中生是無法改進大型語言模型輸出的。然後你開始思考這種現象對學生動機的影響。經常有人拿計算器來做類比，認為計算器自動化了數學中最機械的部分。你們中有多少人能理解手動計算長除法的每一個步驟？你可能只記得那些線條和箭頭，但其實你并沒有真正理解它。而計算器自動化了這一"無腦"的步驟。
但理解一個問題并形成答案的過程，特别是寫作，這才是學習思考的核心。如果你将這部分自動化了，那麼你實際上是在切斷我們希望人類學會的最核心的部分。不過即使人工智能未能實現很多人所承諾的超人類智能，我仍然認為，如果我們能以正确的方式适應現有的技術，它可以成為一個"殺手級應用"。它可以至少在中學階段提供個性化教育，充當導師的角色，而不是為你做作業，而是引導你思考問題。比如說，人工智能可以問你："你覺得這個想法怎麼樣？我們可以從哪裡找到答案？我們可以做哪些研究來探讨這個問題？"這種方式可能對整個人類有巨大的價值，因為有很多國家無法負擔從K到12年級的完整教育體系。
甚至有一些國家連K階段的教育都無法提供，除非你能支付學費。而通過手機（盡管尚未全球普及，但已經廣泛應用），我們可以提供比我在英國或美國最好的學校獲得的教育質量還要高的學習體驗。但目前我們還沒有這樣做，因為教育領網域的經濟激勵遠遠不如廣告領網域，而且教育是一個非常復雜的行業，難以通過它賺到錢。
主持人 ： 既然談到了這個話題，我還有一個問題想請教你。如果你現在要進入大學，在新學期開始時你會選擇什麼課程？為什麼？
Stuart Russell教授： 哦，要是能再年輕一回該多好啊（笑）。我可能會選擇人類科學領網域的課程，比如心理學或兒童發展之類的課程。因為從長遠來看，我們将依賴人類科學來維持一個正常運轉的社會。我還想補充一點，可能會選擇人文學科。因為人類生活中的很大一部分豐富性依賴于藝術和文學，依賴于這些類型的學習。不過我覺得過去幾十年裡，人文學科有點走了彎路，但如果它們能重新調整方向，它們将對社會進步做出巨大的貢獻。
AI的幻覺問題
主持人 ： 我想讓你也來回應一下這個問題，因為你對"信任"這一話題有着深入且批判性的思考。我們看到人工智能和這些大型語言模型（LLMs）有時給我們答案時沒有提供引用來源，那麼我們為什麼要信任人工智能呢？
Stuart Russell教授： 這是個好問題，也是為什麼未來一個哲學學位可能會派上用場的原因之一。我認為判斷力将成為人在人工智能時代的關鍵特征。并不是所有的人工智能都是完美的，我們知道它們有"幻覺"，如果人工智能的發展缺乏人類的幹預或影響，那麼我們如何信任它所提供的信息是真實的呢？這是一個關鍵問題。我們還要問：你如何信任你的大學能夠提供你所需要的技能，以幫助你在未來發展？如果我們環顧全球，并不是真的缺少勞動力，而是缺少技能，尤其不是技術方面的技能。在技術領網域，你會發現需要的技能變得越來越狹窄、具體和專注。去年，美國有10萬名計算機科學畢業生，但他們的技能很快就會過時。然而，依然存在一個"照護經濟"，即能夠制作家具或成為一名優秀的水管工等職業。人工智能目前并沒有解決我需要修理馬桶的實際問題，因此在勞動力市場中仍然有許多技能是非常需要的。問題在于，我們如何幫助員工獲得這些技能，以及如何讓員工順利過渡到其他技能，尤其是在我們知道技能正在迅速被創造和淘汰的情況下。
讓人工智能創造出人類無法完成的工作，而不是替代我們可以完成的工作，這将是未來的關鍵問題。這最終歸結為信任問題。因為你的大學可能不再是你最後的教育者，你的合作者可能是人工智能，可能是你的同事，可能是世界另一端的人，甚至是你的公司。我們在過去十年間對全球約50萬名工人進行了調查，詢問他們為何信任他們工作的公司。答案歸結為幾個要素：首先，我信任我的經理——這是基本的人際關系。我信任我的團隊，我看到自己在領導層中得到了代表。
如果你能從這些角度出發建立信任，那麼你就能培養信任。為什麼信任很重要？因為我們正在要求工人信任，信任新的技能正在被創造，信任某些任務正在被替代，信任新的任務将會提高他們的生活水平。那麼他們為什麼要信任這一點？如果他們不信任，那會發生什麼？他們可能會拒絕技術。當公司、非政府組織或大學推出技術時，如果工人不信任技術，你會得到的回應可能就是翻白眼，"我才不做呢。"他們可能會抵制技術進入他們的州或國家，甚至會集結起來反對，因為他們害怕它。因此，我們必須為工人提供信任的基礎，我認為這從人際層面的溝通開始。技術的推廣方式非常重要，它決定了勞動力是否會采用這些技術，而技術的采用直接影響其在業務中的熟練程度。技術不能單憑一個業務案例或市場來運作，它需要有一個目的，而人是賦予技術目的的主體。
主持人 ： 真的非常重要的觀點。Joe，你同意這個觀點嗎？
Joe Odriskie： 是的，我同意。我認為我們需要更多地談論批判性思維和判斷力的重要性。我最近開始做的一件事是讓ChatGPT等工具嘗試反駁自己提供的答案，并尋找相反的證據。如果你不培養這種批判性思維，那麼就很容易被誤導。我們已經看到許多新聞報道，甚至在訴訟中，有人依賴了錯誤的信息。這讓我想起，有時我們會将人工智能和人力資本視為一種烏托邦，認為它們可以幫助我們消除偏見，促進工作場所的公平性。但實際上，誰在訓練這些人工智能系統？是我們。在進行多元化和包容性培訓時，我們常常喜歡說"别人需要接受這些培訓，而我自己沒有偏見"。但如果你有大腦，你就會有偏見。我們正在用偏見訓練這些系統。回到你之前問我的問題，我認為除了學習能力外，元認知的能力——能夠退一步思考自己是如何思考的——在人工智能時代将變得更加重要。
主持人 ：非常正确。Abdullah，你怎麼看？我想你現在也在思考類似的問題。就像我之前問Stuart的那個問題：如果你現在要從頭開始創業，你會從哪裡開始？
Abdullah Abdu Shake： 你問我，如果可以重新開始，我會從哪裡開始？首先，我不會選擇再去學校。如果可以重新選擇，我不會再去上學。但如果讓我現在開始創業，我認為技術領網域的商業基礎已經發生了巨大的變化。過去，要成為一家價值數十億美元的公司，你需要數以萬計的員工。而現在，重點是，你能用兩個人、三個人或者十個人做到嗎？在我們考慮收購或投資一家公司的時候，人員越少越好。所以，"原子化團隊"正在變得越來越重要，不需要太多的人來運營。這是一點。關于人工智能的第一階段，我們已經可以明确看到，它主要将接管那些重復性、無聊的任務——也就是我們人類不想做的事情。比如将這些椅子從這邊搬到那邊，這是一些人每天要做100次的工作，他們其實并不想做，這是一項不需要太多認知能力的任務，而人工智能非常擅長自動化這些任務，比如呼叫中心等。因此，人工智能的第一階段将在這些最簡單、最重復的任務中帶來最大的财務收益，特别是在未來的兩到三年内。
然後，它将進入第二階段，這将更加復雜，需要一些批判性思維和一定的智能。再往後，可能是十年後或更長時間，我們将進入通用人工智能階段，人工智能将能夠與其他人工智能系統進行溝通，并根據需要執行任務。所以，接下來的兩到三年裡，我會專注于自動化那些最重復、最無聊的任務——那些人們真的不想做的工作。也許一個大提示是，稅務工作是很多人不願意做的事情，而人工智能可以在這方面表現得非常出色。我想再補充一點關于信任的問題。我經常聽到這個話題，不知道是不是我有點憤世嫉俗，但人類本來就不太信任彼此，為什麼我們期望會有一個系統出現，并且所有人都會信任它呢？現在的重點并不是"我是否信任這項技術"，而是"我信任誰的偏見？"因為我們作為人類，對某些事情是有共識的，但歷史告訴我們，我們在許多事情上也有分歧，而且在人類之間存在大量的不信任。
為什麼我們會期望某種技術的出現會讓我們一致地信任它？這幾乎是不可能實現的。因此，關于"信任與不信任"的問題，我們其實應該在20年前決定，在我們開始使用這些了解我們一切的手機之前，現在談信任已經有點晚了。我認為最終，我們将被迫去信任那些更快占領市場的人。我知道很多人不信任ChatGPT，但它是目前可用的選項。我知道很多人不信任iPhone，但它也是可用的選項。所以，商業上來看，誰先占領市場，誰就會獲得更多的市場份額，至于我們是否信任它，這将是哲學課上的讨論，不會對人工智能未來的經濟形态產生太大的實際影響。
Nella Richardson博士： 我不同意這個觀點。我認為有一個可以讨論的論點是，人工智能實際上讓信任變得更加困難，因為我們不知道信息是如何傳播的，信息的來源也變得比以往更加不可靠。以前，具備資質的來源是人們獲取信息的主要渠道，但現在不再是這樣了。我們該如何扭轉這一局面？當我思考未來時，我認為人工智能并不是一個被動發生在我們身上的東西。我們在人工智能的發展過程中其實是非常積極的參與者。因此，我認為這是一個非常重要的觀點。我的重點一直是放在人力資源上，因為這是決定未來的關鍵。如果我們想要一個可以信任的信息世界，并且知識仍然被重視，那麼我們必須現在就采取行動。
所以，我不同意信任不重要的觀點，也不同意人工智能的發展是預先決定好的。人類經驗中的任何事都不是預先決定的，我們必須現在行動，才能塑造我們想要的未來，而不是接受一個我們不希望看到的未來。
主持人 ： 因為我們根本沒有采取行動。Stuart，你也想對此發表一些看法嗎？
Stuart Russell教授： 簡單說一下，我認為"信任"這個問題在公司發展的關鍵路徑上非常重要。我參與的公司董事會中，所有的大公司都在問同一個問題：我們如何使用這項新技術？我可以告訴你，在上世紀80年代，類似的事情也在發生。當時有一種叫做"專家系統"的人工智能技術，成千上萬的公司都成立了部門來研究如何在他們的業務中使用專家系統。現在我看到的是，"信任問題"正在阻礙公司将任何人工智能技術放入他們的關鍵路徑。例如，如果你是一家保險公司，你會允許一個人工智能系統與客戶對話并達成交易嗎？當然不會。你只要看看一些笑話般的例子，比如客戶問："我可以打九折嗎？" AI回答："當然可以，實際上我們還會給你一些錢。" 這類問題已經發生過了。
曾經有一個通用汽車的聊天機器人以1美元的價格賣了一輛卡車。Air Canada也曾因聊天機器人給客戶錯誤信息而被告上法庭。機器人告訴客戶，他們可以先乘坐班機去參加葬禮，然後再申請退款，而實際上該公司沒有這種政策。法官最終判定Air Canada必須支付退款，因為聊天機器人給了客戶這樣的承諾。這一判決對企業在高風險場景下采用人工智能技術產生了寒蟬效應，而高風險場景正是大多數資金所在的地方。
Nella Richardson博士： 我還想補充一下，關于人工智能應用的地方。我們不能只是想着通過取代人類的工作來賺取利潤。我們需要尋找那些尚未被滿足的需求。如果我們只是滿足已經被人類滿足的需求，那麼這些需求通常已經飽和了。這在汽車行業中已經發生了。當我們剛開始研發汽車時，汽車行業的就業人數猛增，數百萬人在汽車行業工作。随着自動化的引入，汽車變得更便宜，銷售量增加，行業需要更多的工人。但到了某個節點，需求飽和了。現在，美國每個想要汽車的人基本都有車了。在大多數發達國家也是如此。此時，增加生產力和自動化只會減少工人數量。
我們在一個又一個行業中都看到了這種趨勢。首先，技術創造了需求，因為它降低了價格。但當需求飽和時，工作機會就開始減少了。因此，如果你想抓住上升的機會，你就得尋找那些尚未被滿足的需求。個性化兒童輔導就是其中一個例子。人類的輔導費用太昂貴，我們無法為每個孩子配備一位導師，但如果有一群機器人幫助人類導師，生產力将大大提高。
AI的當前問題
主持人 ： 我們還有大約一分鍾的時間，我想給每個人一個快速回答的機會，作為今天的總結。我們的觀眾即将離開這個會場，他們應該在人工智能領網域思考些什麼？有沒有什麼關于人工智能的問題讓你們徹夜難眠？Stuart，我們從你開始，請快速回答。
Stuart Russell教授： 讓我徹夜難眠的是，我們可能會開發出超人類人工智能，但卻沒有找到如何永久控制它的方法。關于人工智能，我認為大家應該知道的一點是，不要輕信你讀到的一切。這些系統比人們想象的要"愚蠢"得多。
Nella Richardson博士： 人工智能不必讓人感到害怕。有時候變化是個挑戰，但有時候它也是成長的機會。我認為我們是這項技術的主人，不要讓它主導我們。最終，技術的影響将取決于它如何幫助企業或員工，而不是單純為了技術而推出技術。
Joe Odriskie： 我會說，堅信學習是工作的一部分。學習可能是職場中最重要卻常被忽視的活動。學習曲線将決定你的收入曲線。那些能夠快速适應、轉向新領網域的人将會在未來占據優勢，因為我相信人工智能會繼續給我們帶來驚喜。所以，我建議大家成為自己學習的推動者。正如我在人工智能學院的第一條規則中所說，不要等着人工智能學院去教你，自己創建一個個人學習雲，掌握你的學習，并通過提升自己來幫助他人。
Abdullah Abdu Shake： 我完全同意。我想給大家的建議是，密切關注變化的速度，因為事情會比我們預期的快得多。你會發現，今天學到的東西可能在兩個月後就會變得過時。所以，要保持警惕，随時準備快速學習。保持積極的心态，并互相照顧。
原視頻鏈接：https://www.youtube.com/watch?v=NTJK5e9ADcw&t=1010s&ab_channel=WorldEconomicForum
