“深度偽造”值得擔心嗎？

今天小編分享的科學經驗：“深度偽造”值得擔心嗎？，歡迎閱讀。

利維坦按：

我個人覺得沃爾特 · 謝勒對于 " 深度偽造 " 的未來還是過于樂觀了，各種移花接木式的明星換臉有時候可不僅僅是娛樂和惡搞，她們往往也會成為色情網站的重點技術處理對象。不僅如此，看看最近的以哈戰争，各種惡意煽動仇恨的虛假信息漫天飛，尤其是那些偽造的圖片，試圖通過視覺上的刺激來挑動人們的憤怒情緒——這無疑分化了公眾輿論，煽起了暴力的火焰。

在網易雲音樂搜索【利維坦歌單】，跟上不迷路

我們有一個新号【利維坦行星】，可以關注

在互聯網上，我們如何知道什麼是真實的？

2023 年春天，一張在五角大樓附近的爆炸照片（下圖）引起了華爾街的輕微恐慌，這是首次發生的人工智能生成影像通過互聯網傳播影響市場的案例。

雖然這個惡作劇在受到審查後消失了，但對許多人來說，它似乎預示着更糟糕的事情即将發生。

這張假照片顯示，弗吉尼亞州美國軍事總部五角大樓附近冒出大量濃煙。© IAPONOMARENKO/TWITTER

不過，當聖母大學（the University of Notre Dame）計算機科學家、媒體取證專家沃爾特 · 謝勒（Walter Scheirer）讓他的學生在互聯網上搜尋人工智能篡改視頻的例子時，他們帶回來的結果讓他感到驚訝。他說，這就像是 " 無盡的迷因 "。

到目前為止，大多數令人信服的 " 深度偽造 "（Deepfake）似乎都只是為了引起你的會心一笑，而非引發經濟崩潰：假冒的湯姆 · 克魯斯談論洗手；尼古拉斯 · 凱奇出演所有電影；拜登、川普和奧巴馬一起玩《使命召喚》。

謝勒得出結論，互聯網确實充斥着虛假内容，但其中絕大多數似乎旨在建立聯系，而不是破壞與毀滅。

沃爾特 · 謝勒。© Glass Darkly Films

謝勒和互聯網是一起成長的。作為一名較年長的千禧一代，他将自己的第一台計算機描述為 " 特别原始 " 的——一台連接到家庭電視機的德州儀器機頂盒。中學時，他開始流連于 Internet Relay Chat 黑客頻道，與早期計算機地下世界的賽博朋克叛逆者進行虛拟交流。他說，即使在那個時候，黑客們也喜歡将科學事實和虛構結合在一起，僅僅是出于喜歡炫技而已。

在他的新書《互聯網上的虛假事物史》（A History of Fake Things on the Internet）中，謝勒認為今天的 " 深偽 " 最好以這種精神來理解，即，從許多方面來看，它們是 18 世紀諷刺、維多利亞時代靈異攝影術等前互聯網時代戲仿與想象傳統的數字後代。

在最近的一次談話中，謝勒告訴我，他逐漸認識到，互聯網上虛假信息的盛行，并不是對公民規範的徹底、可怕的背離，而是我們人類創造神話和講故事動力的完全自然演變。

---

- 無害虛假信息和危險虛假信息，該如何界定呢？

- 在寫這本書的過程中，我更加欣賞的一件事就是，戲仿和諷刺在人類溝通中的價值。這是一種用來進行社會批判的非常古老的形式，經常被相當有策略地使用。早在互聯網出現之前，一個非常著名的例子是 1729 年喬納森 · 斯威夫特（Jonathan Swift）寫的名為《一個小小的建議》（A Modest Proposal）的散文。

文章談論關于同類相食和吃嬰兒，這确實令人不安，但斯威夫特實際上并不是在談論同類相食，他試圖表達的是對愛爾蘭貧困狀況進行社會批判（該文提出下述建議：" 将愛爾蘭十二萬嬰兒中的十萬嬰兒提供給富家人士當成桌上佳肴 "，認為這樣做可以讓貧苦父母纾緩經濟困難，獲得解脫。編者注）。如果你批判性地、深入地閱讀，你會即刻建立起某種聯系，你可能會以一種黑暗的方式找到它的主旨趣味所在——這當然也是斯威夫特的本意。

但多年來，這篇散文經常被誤解。偶爾會有公開朗讀的場合，即使在今天，人們也會失去理智——天呐，怎麼可能有人提倡食用嬰兒呢？——這顯然沒有抓住重點。

互聯網上的很多内容就是這樣。它充斥着颠覆性的内容，需要你思考一下才能理解其信息。問題是，社交媒體的信息流特性往往導致我們停留在信息的表面層次上，這樣就會引起一片譁然。

- 那麼深度造假呢？内容看起來和聽起來都如此真實，很難辨認真假，更不用說反駁了。對這些的擔憂是否也被誇大了？

- 是的，這是最近才出現的一個問題。深偽于 2017 年首次出現在互聯網上，因此如今的它并不是一項特别新的技術。人們非常擔心視頻出現在政治背景下，可能會改變選舉進程或導致政治暴力。但是，這些都沒有發生。

- 你在書中寫了很多關于上世紀 90 年代和 21 世紀初計算機地下活動的内容。從你的叙述中可以看出，即使在那個時候，人們也在網絡上模糊了事實和虛構間的界限。黑客們在互相分享技術信息的同時，還分享各種謠言和笑話。你那時還是個十幾歲的少年，是如何被吸引進這個世界的？

- 我一直對計算機非常感興趣，但在初中時，我的一個朋友找到了一些黑客的文本檔案，基本上是黑客們制作的創意寫作雜志，他說：" 看，這些東西真的超級有趣！" 那時我就意識到，還有這樣一個完全不同的計算機世界的存在。

- 這些檔案裡面有什麼？有諸如 " 猜猜政府到底在做什麼？" 之類的陰謀信息嗎？

- 會涉及這些内容，但還有更多其他内容，比如有大量的視頻遊戲作弊代碼。但随後它會更深入，比如，你聽說過企業和政府使用的 Unix 作業系統嗎？好吧，這裡有如何訪問它、如何使用它的方法。然後，就是創意寫作部分。除了經典的陰謀論故事外，還有很多關于不明飛行物和超自然的内容，這些内容不可能是真的，但足夠有趣，讓你想繼續閱讀。我認為将所有這些想法融合在一起真是太酷了。

- 你自己參與過傳奇的黑客行動嗎？有什麼你願意透露的嗎？

- 我要把所有的功勞都歸功于我書中提到的那些黑客。我當時年紀還小。

- 因為有一個故事我很好奇。你寫到了一個在 2012 年出現在網上的大型文本檔案，似乎記錄了多年來對主要公司和政府目标進行的非常成功的攻擊——深度滲透，這種攻擊可能會讓人入獄。你評論說，直到今天，沒有人知道誰是幕後黑手。你的措辭讓我想知道是否是你本人。

- 無可奉告。

-（笑）所以，你顯然認同無政府主義者 " 互聯網渴望自由 " 的思想。但今天你在聖母大學教書，你的個人簡介說你 " 倡導受天主教社會教義啟發的技術發展 "，我有點難以将這兩者聯系在一起：反權威的黑客，天主教社會思想家。你能解釋一下嗎？

-它們之間的聯系是關于社群的觀念。黑客是一個非常有趣的亞文化群體——一群第一次彼此相連并創造了持久事物的人。他們創建了計算機安全行業。而天主教社會教義是關于：我們如何在社區意義上茁壯成長？如何建立某種共同利益的概念？

這裡有一個重要的聯系：如果你把時間倒轉，看看我們今天構建互聯網的想法，很多想法都來自上世紀 60 年代著名的媒體理論家馬歇爾 · 麥克盧漢（Marshall McLuhan）。他與反主流文化運動有着緊密聯系，但許多人不知道的一個事實是，他是一位虔誠的天主教徒。

馬歇爾 · 麥克盧漢（1911-1980），加拿大哲學家及教育家，曾在大學教授英國文學、文學批判及傳播理論，也是現代傳播理論的奠基者，其觀點深遠影響人類對媒體的認知。在沒有 " 互聯網 " 這個字出現時，他已預示互聯網的誕生，" 地球村 " 一詞正是由他首先采納。© The Paris Review

- 這我真不知道。

- 他皈依了天主教，并相信天主教信仰是最終的媒體系統。因為你總是在交流，對吧？與聖人，與已故的人，當然還有上帝。通過祈禱和冥想——這些靈性形式——結合在一起，看到這種想法如何滲透到他對媒體的思考中，真是令人着迷。他着迷于通過信息網絡将整個地球團結起來的想法。

- 他不是寫過最後我們會變成信息嗎？那聽起來像是某種網絡化的聖餐。

完全正确。當你考慮到技術時，它有點神秘，對吧？我不認為這完全是一個瘋狂的想法。很多人都在用這種方式讨論新興技術，尤其是當他們試圖理解人工智能時——比如，它是否具備某種精神層面？我認為這其中是有原因的。所有這些技術都是人類創造的形式，在基督教中，我們被要求與上帝共同創造；他賦予了我們這種創造的能力。

- 所以你認為互聯網是人類集體想象的延伸。與其将其看作是市場驅動的技術，你更原因将其視作創造神話的工具。

你談到了人類學家克洛德 · 列維 - 斯特勞斯（Claude L é vi-Strauss）的觀念，即，我們同時生活在兩個不同的領網域：現實世界，或者說是真相的領網域，以及神話周期。這個概念如何适用于互聯網上的所有奇怪事物呢？

- 列維 - 斯特勞斯的見解是，想象力對人類的生存非常有用，但到了 19 世紀和 20 世紀，就被忽視了。然而，我們仍在編故事。好吧，這是為什麼呢？如果你是一個完全理性的人，你應該想要優化生活的方方面面。為什麼要浪費時間講故事和憑空捏造事物？這不是高效的。

特别是在 21 世紀，認為白日夢可能有用，簡直令人震驚。我們難道不應該只是工作嗎？但列維 - 斯特勞斯認為，這兩種思考方式都很重要，它們相輔相成。

- 這很有趣，因為我們可能會想知道為什麼我們要花費這麼多人力去構建一個模拟的虛拟世界——試圖在線上建立一個蹩腳的創作副本。但在我看來，你與列維 - 斯特勞斯的觀點是，互聯網是我們人類創造神話的動力所在。

也許魅力并沒有消失，而是悄悄地回到了我們互聯網創造的這片狂野、尚未成形的前沿。如果是這樣，那麼所有那些小小的迷因都比我們想象的更有意義？

- 我堅信這一點。當你審視幾個世紀以來的文化時，這并不奇怪。我們開發創新的新技術，并且不斷帶來 " 驚喜，驚喜！" ——我們用它們來講述故事。我認為這在很大程度上被誤解了。

我的意思是，互聯網是用來做什麼的？很多人仍然會說它是信息高速公路；你去那裡是為了獲取事實并完成你的工作——這可以追溯到 90 年代互網絡泡沫時代的公司宣傳。但互聯網從來就不是這個意思。它更像是麥克盧漢對創意空間的願景，在這裡，我們可以與他人分享我們想象力的投射。

- 這讓我想到我們一直在與錯誤的人談論互聯網。與其與技術大師和網絡政策專家交流，我們應該轉向精神分析學家、人類學家和神學家——專注于思考我們講述的故事、以及講述這些故事潛意識動機的人。西格蒙德 · 弗洛伊德在網上會感到賓至如歸。

- 是的，想想夢境吧。我的意思是，互聯網——尤其是通過這些創造性的人工智能技術——就像一個夢境，對吧？人類生活中有多少被編碼在這些人工智能的幻覺中？我認為在這方面有很多有趣的工作要做，但很少有人在研究。

- 我最近讀到的另一個内容—— " 復活的深度偽造 "。" 聊天機器人 " 或已故人物的復制品。這是一個迫切需要深入分析的話題。

- 是的，這是一個很偉大的想法，人工智能實際上可以讓人重生。而且這是一個古老的想法，有點像 19 世紀末 20 世紀初流行的 " 靈異攝影 "。攝影師在特效方面越來越精湛——是的，事實上，在暗房裡可以編輯照片！他們發現，如果将底片曝光兩次，你可以得到兩張不同的影像。因此，你可以讓某人坐下來拍攝肖像，然後将同一張底片曝光到他們失散已久的親人舊照片上，在二度曝光中，它會呈現出幽靈般的魅影。

現在人們基本上也在使用 " 深偽 " 做類似的事情，對吧？人們有這種與已故親人保持聯系的衝動——我猜麥克盧漢可能對此會感到相當滿意。

- 你讓我想到，詢問互聯網上的某事是真實的還是偽造的，似乎無關緊要。并不是說你對不道德行為表示贊同。但你的一個主要觀點是，網絡虛假信息所揭示的内容比隐藏的内容更多，是因為它們告訴了我們一些關于我們自己的信息。它們傳達了怎樣的信息？

- 這是很多社會科學家試圖找到的一個大問題——一個概括性的解釋來歸納整個現象。但歸根結底，它只是在講故事。人們只是想要與其他人建立某種聯系。很多這些媒體對象都是為了人際交往。就像我想與你分享一些東西，我希望你了解我或我的社區的一些事情。

文 /Anne Strainchamps

譯 /tamiya2

校對 /tim

原文 /nautil.us/stop-worrying-about-deepfakes-470212/

本文基于創作共享協定（BY-NC），由 tamiya2 在利維坦發布

文章僅為作者觀點，未必代表利維坦立場

加星标，不迷路

往期文章：

☟