今天小編分享的互聯網經驗：修正階級偏見，快上虛拟現實，歡迎閱讀。
文 | 追問 nextquestion
在當今人工智能對世界產生日益增長影響的背景下，關注 AI 模型的偏見及其對弱勢群體造成的影響變得尤為重要。虛拟現實（Virtual Reality）技術，通過沉浸式的視角轉換，已被證實能有效提高人們的共情能力。Ruben Schlagowski 團隊由此展開了實驗，試圖探究 VR 技術是否能有效增強公眾對于人工智能偏見的意識。
▷原始論文：Schlagowski, Ruben, et al. "The Feeling of Being Classified: Raising Empathy and Awareness for AI Bias through Perspective-Taking in VR." Frontiers in Virtual Reality 5: 1340250.
理解人工智能偏見
随着 AI 工具越來越普遍地出現在人們的生活中，其算法和訓練數據集帶來的偏見也愈發不容忽視。這不僅是技術層面的挑戰，更是社會倫理層面的難題，加劇了對特定群體的不公平對待。
本研究關注的社會偏見，根植于社會結構與文化觀念之中，導致人們因其種族、性别、膚色、宗教信仰或階級背景而遭受差異化對待。由于 AI 訓練使用的數據集通常來自真實機構的長期記錄，過去對某些群體的偏見和歧視可能會反映在 AI 的判斷上。例如，亞馬遜招募員工使用的 AI 工具，就因為歷史數據中男性數量占比過高，系統便将性别納入了選擇員工的依據之一 [ 1 ] 。如何訓練出不帶偏見的人工智能任重道遠，而在此過程中，依賴 AI 工具的群體（包括企業領導層）應當對這一現象保持警覺。
要引起社會對這一問題的重視，就要向使用 AI 的非專業人士科普人工智能的偏見行為，強調這種現象對弱勢群體生活可能造成的深遠影響。然而，基于人工智能的決策（AI-based decisio- making）對許多人來說是個過于抽象的概念，一個出身優渥、養尊處優的人，很難設身處地地考慮弱勢人群的視角，真切感受到人工智能歧視的嚴重性。好在，共情是一種可以後天習得的能力。
具身 VR：在沉浸式體驗中尋找答案
共情是一種能理解他人情緒、體驗和視角的重要能力 [ 2 ] 。在共情的影響下，人們可以做出弱化甚至消除偏見的決策。傳統意義上，" 設身處地 "、" 推己及人 " 不過是一種修辭方式。而今天，依托科技發展，我們有機會真正站在别人的角度思考問題，深入理解他們的處境。
作為沉浸式體驗的載體，虛拟現實能從字面意義上改變用戶的觀察視角，讓用戶能夠以設定角色的身份與環境互動，具象化地體驗其境遇。虛拟現實中的互動體驗給用戶極高的存在感和參與感，比電腦螢幕更容易讓人共情。 [ 3 ]
▷圖 1 一位參與者通過虛拟現實的全身動作捕捉進行不同背景的虛拟具身角色體驗
其中，"身體歸屬感"（body ownership）是虛拟現實技術中的一個關鍵概念 [ 4 ] 。當用戶戴上頭顯，與虛拟世界互動時，系統會根據動作捕捉技術精準地映射用戶的動作，這種視覺反饋能夠讓用戶感受到身體歸屬感，使大腦下意識将虛拟身體視為自己實際身體的延伸。用戶可以通過這種沉浸式媒介體驗不同身份角色，在模拟現實世界中獲得身臨其境的第一人稱體驗。換言之，虛拟現實建立了跨越認知壁壘的橋梁，推動了對多樣性視角的深層理解，有效培養了共情能力。
過去的研究已經證明，通過視角轉換和身臨其境地扮演他人角色，VR 技術能夠有效提升共情能力，減少種族偏見。但是，這種方法是否同樣能夠有效增強人們對人工智能偏見的意識，以及提高對受害者的共情能力，還有待商議。因此，研究者展開用戶研究，比較了傳統意義上角色扮演的心理具身（Mental Embodiment）和基于虛拟現實的全身動捕沉浸式虛拟具身（Virtual Embodiment）兩種條件，旨在探索哪種方法更能有效達成提升共情的目标。
* 具身化概念（Embodiment）是心理學新興的一個研究領網域，自 20 世紀 80 年代中期以來已經被廣泛地用在認知科學和人工智能的文獻中。這一概念探索了身體與實體物理環境或虛拟數字空間環境互動時，對認知過程的影響。與此相對的概念是 " 離身 "（Disembodiment），指的是認知過程與身體的分離或解耦。 [ 5 ]
實驗假設與設計
過去的研究表明，虛拟現實能有效降低用戶對他人的刻板印象和社會偏見 [ 6 ] 。研究人員因此提出了兩條假設：
1）相較于僅在心理上進行角色扮演的心理具身體驗，通過虛拟現實進行的虛拟具身角色體驗能更易使參與者對角色產生共情；
2）與心理具身條件相比，處于虛拟具身狀态下的參與者将認為偏見嚴重的人工智能 " 綠野仙蹤 " 作業系統（後文簡稱 Oz）的行為更加不公正。
▷圖 2 心理具身條件下的 Oz 界面
▷圖 3 虛拟具身條件下的角色形象和 Oz 界面（Unity 引擎制作）
人工智能 Oz 被刻意編程了偏好設定：性别上明顯更偏向男性，年齡上明顯更偏向年長者。這兩個維度交叉形成四個不同的象限，從而創建了不同的角色設定：一個極端弱勢角色（年輕女性）、兩個中等角色（年長女性 / 年輕男性）和一個特權角色（年長男性）。同時，研究還引入了年齡、籍貫、年收入、财務狀況和職業等與身份相匹配的因素。Oz 打分評判标準存在的偏見将只針對年齡和性别。
▷圖 4 虛拟具身條件下的四個角色
在實驗中，參與者需要分别在心理具身和虛拟具身的條件下，以不同角色的身份向銀行申請金融信貸，由人工智能打分給出申請額度。
▷圖 5 研究流程總覽。問卷 A 測量了相關變量，問卷 B 作為補充數據有關具體角色的 AI 公平性
由于個體對人工智能公平感知和角色共情能力的差異性較大，研究采取個體内部對照的方式，縱向比較個體經歷虛拟現實和顯示器之間的區别（參與者的體驗順序随機）。研究結果顯示，相較于傳統顯示器環境，更多參與者在虛拟現實環境中能夠察覺到 Oz 評分系統的偏見，表明虛拟現實體驗能顯著增強參與者對人工智能公平性的思考，以及對弱勢群體處境的共情。
研究團隊也指出了實驗的一些局限性。" 不公平 " 很大程度上是主觀的感受，受個人的政治立場和價值觀影響。雖然實驗中年齡和性别偏見在打分系統中呈現的影響程度不相上下，使得人們可能認為年長女性和年輕男性受到的待遇相同，但現實情況可能并非如此 . 不同維度的偏見程度并不一定相等，此外，不同維度之間也有相當程度上的聯系。可以說，分值直接反映的是人們對 AI 公平性的感知，與偏見維度沒有直接的聯系。
總結
在探讨人工智能偏見的議題上，與傳統教育方法相比，虛拟現實技術展現出了獨特的優勢。它能通過具身角色體驗，讓使用者在虛拟空間中感同身受，體驗不同的人生，進而能夠有效提升人們對 AI 偏見的認識，以及對受偏見影響群體的共情。
但僅靠技術來解決問題是遠遠不夠的。雖然市面上已有一些專門針對這一問題的解決方案，但這個問題的處理不應僅限于少數人的決策，普及人工智能所面臨的問題，制定相關政策，甚至是提出人工智能透明度和信任的解決方案，形成多層面、互補的策略體系，這些都需要社會各界（尤其是那些直接受到 AI 偏見影響的群體）的廣泛參與。
參考文獻：
[ 1 ] Dastin, J. ( 2022 ) . Amazon scraps secret ai recruiting tool that showed bias against women. Ethics of data and analytics Auerbach Publications, 296 – 299.
[ 2 ] Cohen, D., and Strayer, J. ( 1996 ) . Empathy in conduct-disordered and comparison youth. Dev. Psychol. 32, 988 – 998. doi:10.1037//0012-1649.32.6.988
[ 3 ] Troeger, J., and T ü mler, J. ( 2020 ) . Virtual reality zur steigerung empathischer anteilnahme. GI VR/AR Workshop.
[ 4 ] Slater, M., and Sanchez-Vives, M. V. ( 2014 ) . Transcending the self in immersive virtual reality. Computer 47, 24 – 30. doi:10.1109/mc.2014.198
[ 5 ] Nju.edu.cn. " 認知的具身化（Embodiment）," 2016. https://ptext.nju.edu.cn/c1/ad/c12146a246189/page.htm.
[ 6 ] Peck, T. C., Seinfeld, S., Aglioti, S. M., and Slater, M. ( 2013 ) . Putting yourself in the skin of a black avatar reduces implicit racial bias. Conscious. cognition 22, 779 – 787. doi:10.1016/j.concog.2013.04.016
