今天小編分享的科技經驗：警惕！層出不窮的AI騙局，很多人已被坑慘！，歡迎閲讀。
作 者丨耿康祁
華商韬略出品丨ID：hstl8888
" 人工智能之父 " 傑弗裏 · 欣頓做了個末日預言：
人工智能可能對人類構成巨大威脅，因為 " 很難找到防止壞人用它做壞事的方法 "。
不幸的是，掌握人工智能的壞人，越來越多了。
4 月 20 日 11 時 40 分左右，福州市某科技公司法人代表郭先生，遭遇了一場高端騙局。
一位好友，突然打了個微信視頻：
" 老郭，我一個朋友在外地競标，需要 430 萬保證金。你看看能不能先走你的公司賬户，幫忙過個賬？"
好友説錢已打過來，還發了銀行轉賬底單截圖。因為是視頻聊天，郭先生就沒核實錢是否到賬，直接給對方賬户轉了 430 萬。
事後，郭先生給好友打了電話，稱 " 事情辦妥了 "，對方卻十分驚訝，回應完全沒有這回事。
9 分鍾，430 萬沒了！坑了郭先生的，是一起典型的 AI 詐騙。
這個騙局分三步：
1，不法分子用 AI 機器人騷擾電話，獲取目标的聲音素材，然後進行聲音偽造；
2，盜取目标的社交賬号，尋找受害人；
3，用 AI 換臉技術，和受害人視頻通話，博取信任，實施詐騙。
這個詐騙手段環環相扣、用時短、難防範。它标志着詐騙犯罪的更新，進入了 AI 智能化、定制化的時代。
傳統互聯網 " 發個語音 "、" 打個視頻 " 的防詐手段，在 AI 詐騙面前基本失效。更可怕的是，掌握 AI 詐騙的騙子，越來越多了！
公開信息顯示，自 2021 年以來多個省份都出現了 AI 詐騙及不當牟利案件。中國互聯網協會 5 月 24 日稱，利用 "AI 換臉 ""AI 換聲 " 等進行詐騙、诽謗的違法行為屢見不鮮。
AI 詐騙不只盯着數百萬的 " 肥肉 "，幾千元的 " 蒼蠅肉 " 也來者不拒。假扮大學同學、親戚、供貨商等視頻借錢案件，層出不窮。
如果覺得從不借錢便不會中招，就太天真了。
當騙子偽裝成領導，以匯款、資金周轉等緊急理由，要求下屬立即轉賬，很少有人能頂住壓力。更有甚者，騙子直接偽造子女、父母車禍入院等借口，利用親人感情實施欺詐。
2006 年，搞了 20 多年的中國台灣詐騙集團，把目光投向互聯網普及不久的大陸。他們在東南亞等國家建立詐騙基地，招募員工進行人設、話術包裝的統一培訓。
最終，誘導戀愛或裸聊的 " 殺豬盤 "、非法買彩票、網上賭場、借貸騙局等發明，開始橫掃内地。
電信詐騙，由此成了懸在 14 億人頭頂的一把利刃。甚至有人戲稱，從未接到過詐騙電話的，都有可以去買彩票的運氣。
不過，大部分人仍對電信詐騙，沒太大概念。傳統認知裏，其受騙對象多是經不起誘惑、社會經驗少的 " 冤大頭 "，以及一些不常上網的老年人。
比如上世紀 80 年代最知名的尼日利亞王子來信，以及最近令人笑掉大牙的 " 上門槍斃 " 通知短信。這些誇張劇本，似乎只為篩選那些 " 缺乏基本辨識能力 " 的群體。
但正如微博大 V@全民防詐騙所説：" 你目前還沒被騙，并不是因為你多聰明，也不是因為你沒錢，而是适合你的‘劇本‘還在路上。"
只要給幾張照片和幾秒語音，就能復刻出 " 假人 " 的 AI 詐騙，以細思極恐的手段，讓每個人都可能難逃一劫。
據湖北網警巡查執法公布消息，AI 技術新騙局詐騙成功率竟接近 100%，其成功率之高、涉案金額之大、詐騙速度之快令人咋舌。
比如安徽安慶經開區發生的一起 AI 詐騙案中，詐騙分子只用一段 9 秒智能 AI 換臉視頻佯裝 " 熟人 "，就順利從受害人手上騙走 245 萬元。
更令人毛骨悚然的是，信息泄露、隐私不安全的普遍現實，為 AI 詐騙造就了 " 天然温床 "。
2 月 15 日，一則 " 幾乎無人幸免，疑似 45 億條電商或快遞信息泄露 " 的消息，衝上熱搜。有網友稱，" 自己 10 年前的收貨信息，都被扒出來了。"
對此，人們忍不住吐槽道：" 要有多強的防範意識，才能想到跟你視頻通話的親友，不是一個大活人啊？要有多強的隐私意識，才能保證自己信息不泄露或被竊取？"
AI 詐騙的降維打擊，也引發了社會的廣泛關注和部分恐慌情緒。"AI 詐騙在全國爆發 " 的話題，一度登頂熱搜，引爆超 2 億閲讀。
随即，公安部門專門進行了辟謠，稱 AI 詐騙案件目前占比仍較低。同時，承諾已注意到此犯罪新手法，并将加大力度開展技術反制和防範宣傳。
數據顯示，公安機關 2022 年全年破獲電信網絡詐騙案件 46.4 萬起，緊急攔截涉案資金 3180 餘億元。從詐騙案件量級及涉案金額來看，其仍然是一塊社會 " 頑疾 "。
一個悲觀預期是，新型 AI 詐騙的降臨及加速迭代，可能讓 " 人人警惕，全民反詐 "，成為未來社會不得不面對的嚴峻問題之一。
4 月末的一天，美國一位叫詹妮弗 · 德斯特凡諾的母親接到一通陌生電話。
" 媽媽，救命！" 大女兒布裏安娜，似乎陷入了大麻煩。
詹妮弗吓呆了，一個低沉的男人聲音威脅到：" 如果你打電話報警，就永遠别想再見到她了！"
挂斷後，身邊朋友勸她報警。詹妮弗卻急着給贖金，因為 " 女兒 " 的哭泣聲實在太真實且撕心裂肺。幸運的是，女兒正好打來電話，騙局 " 不攻自破 "。
但心有餘悸的詹妮弗，仍無比驚訝：" 就算隔一棟樓，我也不會認錯自己孩子的哭泣聲。"
詹妮弗絕對想不到，突飛猛進的 AI 技術，早已比一個母親更了解自己的孩子。而騙子支付的代價，可能還不到每月 5 美元。
2017 年，名為 "Deepfakes" 的社交網站用户，利用 AI 技術發布了将色情演員換臉成蓋爾 · 加朵、泰勒 · 斯威夫特、斯嘉麗 · 約翰遜等名人的視頻片段，引發軒然大波。
此後，AI 換聲及換臉技術進入大眾視野，并被稱為 " 深度偽造 "（Deepfake）。
2018 年，美國不法分子還主要通過使用非法機器人呼叫，偽裝成慈善機構或谷歌數據服務代理，進行詐騙。
但機器人語音系統，往往存在卡頓、音色機械化、多輪對話 " 鬼打牆 " 等問題，" 唬人 " 能力有限。
此後，AI 換聲迅猛發展到克隆級别。2019 年 3 月，一詐騙犯冒充一家英國能源公司大老板，強勢要求公司 CEO 立即将 22 萬歐元，轉到匈牙利的供應商銀行賬户。
這位高管毫不猶豫照做了，因為大老板的語調一如平時，甚至連他 " 微妙的德國口音 " 也毫無破綻。這一事件，被認為是全球首例涉及人工智能的詐騙案。
其實，AI 技術流行的美國、歐洲等發達國家，AI 詐騙也早已一馬當先。
過去一年裏，美國 AI 詐騙同比上漲了 50% 到 75%。美國聯邦調查局年度報告顯示，2022 年美國網絡詐騙損失達 103 億美元，創五年來新高，面向老年人的 AI 語音騙局則是重災區。
世界經濟論壇研究與分析主管布魯内曼稱，" 在過去一年裏，26% 的小公司和 38% 的大公司經歷過深度偽造欺詐 "。她甚至預測到 2026 年，超 90% 的網絡攻擊内容都将是 AI 合成。
AI 技術快速更新，不僅讓換聲、換臉越來越以假亂真。相應的，AI 詐騙技術的門檻和成本，卻在不斷降低。
美國加州大學伯克利分校教授法裏德表示，AI 聲音合成一兩年前還需要大量音頻數據，現在僅需十幾秒的短視頻或錄音。收集人臉信息則更簡單，一張照片就可實現。
相應的 AI 程式使用費，卻僅需每月 5 美元到數百美元不等。恐怖的是，任何人都能由此進行不法活動。
AI 詐騙受害對象從老年人到精英人群，從普通人到明星偶像無所不包，甚至章程規範的商業公司、學校機構，也極易中招。
智能化程度更高的 AI 技術，還使得騙局變得花樣更多、更難防範。
通過信息收集及大數據分析，AI 可以智能篩選出 " 易騙人群 "。比如進行金融詐騙時，經常搜集投資信息的人群會成為潛在目标。
甚至，AI 還能分析目标的社交網絡，進而掌握其個性化表達方式、人際關系、興趣愛好等生活習慣，實現 " 詐騙劇本 " 定制化。
法裏德驚呼：" 這很可怕，就像一場完美的風暴，具備了釀成大禍的所有條件。"
更可怕的是，盡管風險顯而易見，AI 語音及視頻合成技術卻仍在狂奔。科技巨頭的 AI 競賽，也在持續加碼。
今年 1 月，微軟團隊發布了 AI 語音合成模型 VALL-E。只需 3 秒指定素材，即可精确地模拟説話者聲音，甚至連環境背景音也能準确還原。
AI 籤名、AI 聲音克隆、AI 換臉……這些新技術，本來是創造美好和便利的象征。
但當這類高端技術變得廉價且輕易獲取，并被不法分子惡意利用時，無數人和機構的财產、信息及現實安全卻形同 " 裸奔 "，又會是多麼巨大的風險？
全球大爆發的 AI 詐騙，無疑給人類敲響了警鍾。
" 現在已經到了，大規模、集中化讨論 AI 風險的關鍵時刻 "，清華大學教授沈陽如此呼籲。
其實，對 AI 詐騙的警惕與治理方案，早已在路上。
美國安全中心發布的《人工智能與國家安全》，明确将人工智能偽造技術列為威脅國家安全的重點技術。中國也開始通過政策管理和技術限制等途徑，來應對其潛在安全風險。
但 AI 詐騙，似乎是打不死的 " 小強 "。
比如美國聯邦貿易委員會近年來加強了對非法機器人電話的監管行動，但數據顯示，2019 年美國境内民眾接到的 " 機器人騷擾電話 " 總數超過 500 億個，即平均每個美國人每月至少接到 15 個 " 機器人騷擾電話 "。
一個怪圈出現了——美國不斷更新法案打擊電信詐騙，機器人來電數量卻屢創歷史新高。
根本原因，還是法律法規制定、推廣的護欄建設速度，趕不上 AI 技術迭代和傳播速度。產業、大眾對 AI 危害的反應，也很容易慢半拍。
甚至于，AI 騙局已經超出 " 詐騙 " 範疇，蔓延到人類社會的各個角落。
3 月份，一組由 Midjourney 生成的特朗普 " 被捕照 " 傳遍全球。一覺醒來，人們看着這位美國前總統被警察包圍并按倒在地的狼狽狀态，深感不可思議。
但這，不過是一網站創始人艾略特 · 希金斯精心制作的 "AI 假照片 "。盡管他的賬号被查封，人們當時無比真實的震撼和驚訝，卻因此成為 " 笑話 "。
這更像是，AI 騙局對人類分辨能力和真實情感的 " 嘲弄 "。很快，人們又經歷了更嚴重的被戲耍。
5 月 22 日，一張五角大樓附近發生爆炸的照片，廣泛流傳。這張虛假照片的出圈，甚至導致标普 500 指數瞬間從漲轉跌。
在國内，假新聞、假圖片案件也甚嚣塵上。
5 月 7 日，甘肅省平涼市公安局網安大隊成功破獲了一起 AI 造假案件。不法分子利用 ChatGPT，偽造了一條 " 今晨甘肅一列火車撞上修路工人，導致 9 人死亡 " 的虛假新聞，即刻獲得超 1.5 萬次點擊量。
5 月 24 日，科大訊飛受一篇名為《科大訊飛出現重大風險的警示文》的文章影響，股價也迅速跳水。公司緊急回應稱，股價下跌系某生成式 AI 寫作虛假 " 小作文 " 導致。
人們越來越驚恐地發現，自己被 AI 置身于一個 " 沒有真相的時代 "。
造假，甚至成為某種普遍且必要的 " 謀生手段 "。一項國外調查報告指出，全是由 AI 生成的假新聞網站已有 49 家之多。且這些信息閱聽人并不少，粉絲大多超 10 萬量級。
無處不在的造假熱潮，更讓無論是普通人還是明星都難以阻擋。
一邊是，幾十元的 "AI 換臉教程 " 大行其道；一邊是，在地鐵上被 "AI 一鍵脱衣 " 造謠的女性，無力申訴。偽裝成 " 楊幂 "" 迪麗熱巴 "" 成龍 " 等明星的直播帶貨，更肆無忌憚。
面對鋪天蓋地的 "AI 孫燕姿 " 合成視頻，佛系的孫燕姿無奈表示，" 你跟一個每幾分鍾就推出一張新專輯的‘人’，還有什麼好争的？"
真相被 " 捏造 " 已經夠可怕，人們無力分辨則讓現實變得愈發混亂。
4 月 13 日索尼世界攝影獎頒獎禮，大獎得主卻衝上舞台奪過話筒，悲憤地説這是 AI 偽作。他的反問發人深思，" 如果索尼世界攝影獎的評委都分不清真假照片，其他人還能怎麼辦？"
當 AI 騙局從專業級走向 " 平民化 "，熟悉的親友、日常的新聞、權威的知識、眼見為實的原則甚至是集體記憶等，原本刻在骨子裏的 " 确信 " 都在被逐一颠覆。
AI 監管，由此愈加任重道遠。畢竟人類不能沒有真相，就像時鍾不能沒有指針。
[ 1 ] 《AI 換臉風暴：騙局、產業與技術防守》36 氪
[ 2 ] 《"AI 換臉 " 詐騙，怎麼防？》人民日報
[ 3 ] 《警惕！美國發生多起 AI 語音詐騙案件，聯邦機構将加強監管》第一财經
