今天小編分享的科技經驗：《碟中諜7》的超級AI令人膽寒，現實可能更加兇險，歡迎閲讀。
文｜林炜鑫
編輯｜鄧詠儀
在深海裏，一艘俄羅斯的潛艇疑似遭到未知魚雷的攻擊，船長下令發射魚雷作回應。過一會兒敵方潛艇突然消失在雷達裏。眾人以為是儀器出了點故障，松了口氣，不料剛才發出的魚雷竟然自己拐了彎，将這艘潛艇炸個粉碎。
這是好萊塢新片《碟中諜 7》的第一幕。與以往不同，炸毀潛艇的反派是名叫 " 智體 " 的超級 AI，它無處不在，可以瞬間清除實時視頻，冒充任何人的聲音，破解人的身份安全碼（甚至是指紋碼），輕松入侵全世界的賽博空間。
只有一把金屬鑰匙可以關閉智體。為了争奪鑰匙，阿湯哥飾演的主角伊森與智體及其黨羽展開殊死搏鬥。
阿湯哥的身後就是智體 來源：Paramount Pictures
而在戲外，本月，好萊塢的演員和編劇爆發了一場浩大的罷工示威。這場罷工的一大原因就是，生成式 AI 給影視圈帶來的威脅。演員擔憂 AI 創建的數字替身終有一天會取代自己，編劇則拒絕可能到來的現實：AI 寫劇本初稿，他們來潤色修改。
阿湯哥也公開支持好萊塢對 AI 的抵制，向制片商喊話，不要忽視演員對 AI 的擔憂。
AI 技術的進步是這個時代無法回避的話題。換個角度想，《碟中諜 7》人與 AI 的對抗，像是好萊塢反抗人工智能的一個隐喻。
人們的恐懼使 AI 的能力被誇大
《碟中諜 7》導演克裏斯托弗 · 麥奎裏認為，我們當下的時代精神就是技術帶來的焦慮，技術如何影響人們的生活。他説，AI 很像冷戰時期的核彈，不用強調，每個人都感受到了。
這個故事巧妙地迎合了今天一部人的情緒：對日益進步的 AI 的恐懼和擔憂。不過，現在 AI 還遠無法達到這種智能程度。
在電影中，智體可能是男主角面對的最可怕的敵人，因為它已經進化到具備自我意識，能預測人類的每一步行動，因此幾乎把伊森和他的團隊逼入絕境。
令人恐懼的另一個因素是，人類無法知道智體想要什麼，它的動機始終處在神秘之中。也許下一部電影将解答這個疑問。但在現實中，AI 本身就是一個巨大的黑箱，沒有人有信心解釋到底發生了什麼。
早在 ChatGPT 在全球爆紅時，至少有一部分人堅信，生成式 AI 将造成人類生存威脅。恐懼建立在未知上，但事實是，生成式 AI 目前仍處在早期階段，它的能力被誇大了。
人工智能有可能獲得自我意識，甚至擁有欲望和貪婪嗎？牛津大學教授桑德拉 · 瓦赫特否認了這一點，他在接受英國媒體 Evening Standard 采訪時稱，大眾混淆了生成式 AI 和 AGI（通用人工智能），" 沒有證據表示我們正在往 AGI 發展，甚至這條路存不存在都不好説。"
阿湯哥手裏握着能關閉智體的鑰匙 來源：Paramount Pictures
智體可以随時删掉監控裏的部分畫面，甚至侵入 AR 眼鏡，冒充人類的聲音。據英國媒體 Evening Standard 報道，IT 安全公司 F-Secure 的專家勞拉 · 康卡拉説，抹去監控錄像畫面理論上是可行的，但要想做到實時删除，背後需要的計算資源是巨大的，至少現在還辦不到。
至于影片開頭的潛艇事件，網絡安全公司 Dargtrace 的專家托比 · 劉易斯則表示，AI 可能趁潛艇在港口停靠時，或者浮出水面時，通過潛艇的通信渠道進入。
另一個專家詹姆斯反對這個設想，他告訴 Evening Standard，軍用潛艇為了隐藏位置，和總部之間的通信渠道會受到嚴格限制。AI 試圖從通信渠道進入，攻擊軍用計算機系統，污染潛艇的聲納系統，不太可能會發生。" 但這是個很棒的電影故事情節。"
盡管如此，出于對 AI 失控的擔憂，越來越多人開始呼籲對其進行監管和限制。早在今年 3 月，馬斯克和一系列硅谷名流及科學家共同籤署了一封聯名信，呼籲各方暫停開發生成式 AI 六個月。這封聯名信征集了超過 33000 個人的籤名。
他們的擔憂有一定道理，畢竟科技進步的速度可能超乎常人想象。一些看似遙遠的技術已經變成現實，比如電影裏主角常用的指紋識别、無人機設備以及 AR 眼鏡等等。
AI 武器化将不可避免
智體失控，本是一場不必要的災難，然而整部電影中，只有阿湯哥想徹底摧毀它。編劇借一個角色的台詞説出真相：不是要消滅它，而是要控制它。
公平地説，AI 威脅人類尚且還早，使用 AI 的人類相互對抗，才是正在加劇的威脅。換句話説，人工智能已經不可避免地涉足到國防軍事領網域，甚至被運用在現代戰争裏。
AI 技術将使戰争可能減少人員傷亡。搭載 AI 的無人機可以在復雜環境中導航，并以巨大的精度進行偵查，對目标發起精準打擊。這種 " 斬首行動 " 也極具威懾力。據報道，美國國防部正在研發能駕駛戰鬥機的 AI 機器人。一位軍方顧問道格拉斯 · 肖説：" 在未來，無人機的數量将遠超武裝部隊的人數。"
AI 系統将改變戰争決策。AI 提供的情報分析，使決策視窗從幾天或幾小時，縮短到幾分鍾。斯坦福大學教授赫伯特 · 林接受《紐約 - 時報》采訪時説，因為 AI 的運算速度遠超過人類，領導層可能過度依賴 AI 的情報。那麼，萬一 AI 給出虛假情報，甚至做出錯誤決策呢？
這并非沒有先例。早在伊拉克戰争期間，美軍的導彈系統就曾擊落過友軍戰鬥機，事後證明是系統的自主操作。
2020 年中東戰場，被稱為 " 遊蕩彈藥 " 的無人機不需要人類的遠程操作，就能自主巡邏。無人機内置炸藥，自動識别地面目标，然後俯衝過去轟炸。AI 自動殺人已經成為現實。如果 AI 将平民誤認為恐怖分子，将醫院誤認為軍事基地，後果不堪設想。
為了避免這類悲劇，今年一月，美國國防部在關于使用 AI 武器系統的指令中規定，開發和部署 AI 武器系統必須至少有人為判斷。
未來可能出現的 AI 戰士 來源：Getty/Ociacia
反對 AI 武器的大有人在。年滿 100 歲的基辛格剛出生時，人類的戰争還需要用到馬匹，現在這位美國前國務卿在思考 AI 戰争，他呼籲道，國際社會應該暫停軍事化 AI 的發展，" 是時候用新的國際法來規範這些技術 "。
但是，暫停的可能性微乎其微，當前緊張的國際局勢裏，人工智能軍備競賽不可能徹底結束。
五角大樓官員約翰 · 謝爾曼公開表示，" 如果我們停下來，海外的潛在對手不會停下來。我們必須繼續前進。"
著名導演卡梅隆也有類似的擔憂。上周，卡梅隆接受媒體采訪時警告道：" 我認為人工智能的武器化是最大的危險，我覺得我們會陷入一場類似核軍備競賽的人工智能競賽，如果我們不去開發它，其他人肯定會去開發它，然後就會更新。"
目前來看，各國能做的，就是呼籲一下，采取些限制措施，比如 " 負責任地部署與使用人工智能 "；對核武器的所有方面進行嚴格的 " 人為控制與參與 "，不把發射權交給計算機；在軍事 AI 的每個階段進行嚴格的人為監督、測試和驗證；AI 系統應該從一開始就明确其任務，并且可以被關閉。
7 月 18 日，聯合國安理會首次就 AI 威脅國際和平與穩定，召開會議。秘書長安東尼奧 · 古特雷斯説，聯合國必須在 2026 年前達成一項具有法律效力的協定，禁止在自動武器中使用人工智能。
説實話，沒有人真正知道更新更強大的 AI 技術在軍事領網域能做什麼。風險與日俱增。僅有的一點好消息是，在探索 AI 軍事應用時，大國可能都會更加小心翼翼，這可不是玩笑。
