今天小編分享的科技經驗：AI馬斯克，1分鍾騙走幾十萬，歡迎閱讀。
智東西（公眾号：zhidxcom）
編譯 | 香草
編輯 | 雲鵬
試想一下，當一位頂級企業家向你抛出橄榄枝，" 親口 " 告訴你現在有一種無風險的方式快速致富，只要填個表就能賺 100 萬美元，你會怎麼做？
如果這個人是馬斯克，并且還有 BBC 為其背書，告訴你這是 " 一場不為公眾所知的技術革命 " 呢？
警惕性較高的人可能會立刻嗅到電信詐騙的氣息，但對于不常接觸互聯網的人群，要識别出這樣的偽造視頻并不容易。
智東西 8 月 16 日消息，據《紐約時報》報道，去年年底，82 歲的退休人員 Beauchamp 看到馬斯克宣傳一項激進的投資機會，并承諾無風險、快速回報。他聯系了視頻中的公司，在随後幾周的一系列交易中花光了退休金，累計 " 投資 " 超過 69 萬美元。
接下來的事情可想而知，退休金和這家公司一起消失了。
随着名為 Deepfake（深度偽造）的 AI 技術愈發成熟，類似的視頻充斥在互聯網上。據知名咨詢機構德勤估算，深度偽造視頻每年将造成數百億美元的詐騙損失。
監測深度偽造視頻的機構 Sensity 近日做了一項調查，通過分析 2000 多段深度偽造視頻，發現馬斯克已經成為這類視頻中最常見的 " 發言人 "。自去年年底以來，馬斯克出現在近 1/4 的深度偽造詐騙視頻中，其中針對加密貨币的視頻他的出現率更是達到 90%。
其他常見的偽造對象，還有著名的投資人巴菲特、亞馬遜創始人貝索斯等。
一、每年詐騙上百億美元，馬斯克出現率 1/4
為了制造這些視頻，詐騙者首先會找到馬斯克等人的真實采訪視頻。比如開篇視頻的畫面原本來自馬斯克在《華爾街日報》接受的一次采訪，談論的話題是如何利用 AI 等技術實現公司的高效管理。
詐騙者會利用唇形同步技術（Lip-synching），調整人物的口型，随後使用語音克隆工具添加一個 AI 復制的語音。
▲唇形同步（圖源：《紐約時報》）
最後，部分視頻還會添加模仿 BBC 等專業新聞機構的虛假圖示，這對于普通互聯網用戶來說也許更有說服力。
▲新聞标識（圖源：《紐約時報》）
究竟有多少這樣的深度偽造視頻正在網絡上流傳，已經很難準确量化。在 Facebook 的廣告庫中搜索這些騙局的常用宣傳文案，會出現數十萬條廣告，其中有不少都是深度偽造視頻。
▲ AI 貝索斯深度偽造視頻
YouTube 也充斥着這類視頻。如果在 YouTube 上搜索 " 埃隆比特币會議 "（Elon Bitcoin conference），你會得到數十個标注着現場直播的視頻，但實際上這些都是預先錄制的深度偽造視頻。
▲ YouTube 深度偽造視頻（圖源：YouTube）
這些 " 直播 " 的觀看人數動辄數十萬，但據 YouTube 證實，詐騙者可以使用 " 水軍 " 刷人數，人為地誇大這個數字。
今年 5 月，知名咨詢機構德勤發布關于生成式 AI 增加深度偽造欺詐風險的報告，其中提到 2023 年，金融科技領網域的深度偽造事件增加了 700%，并預測到 2027 年，AI 将使美國的欺詐損失從 2023 年的 123 億美元增加到 400 億美元，復合年均增長率為 32%。
▲生成式 AI 造成的欺詐損失增長預測（圖源：德勤）
深度偽造視頻的數量和影響力越來越大。據監測深度偽造視頻的機構 Sensity 調查，在 2000 多段深度偽造視頻中，馬斯克已經成為最常見的 " 發言人 "，出現在近 1/4 的深度偽造詐騙視頻中，其中針對加密貨币的視頻他的出現率更是達到 90%。
Sensity 聯合創始人 Francesco Cavalli 認為，這可能是有史以來最大的深度偽造騙局。
二、成本不超 10 美元，幾分鍾偽造大量視頻
實際上，制作這類視頻的成本并不高，只需要不到 10 美元，就能在幾分鍾時間内制作出大量偽造視頻。
這些 AI 生成的視頻并不完美。馬斯克在一些視頻中聽起來像機器人，他的口型也并不總是保持一致。但這些視頻已經能騙過相當多的人，而且技術還一直在不斷改進。
Sensity 調查顯示，這類詐騙者主要來自亞洲、東歐國家，使用免費和廉價的工具将視頻翻譯成多種語言，不斷将騙局傳播到更大範圍。
其中一種常見的套路是宣傳虛假的 AI 軟體。詐騙者通過讓 " 發言人 " 聲稱這些軟體可以產生驚人的投資回報，鼓勵目标首先交一小筆錢——一般是 250 美元左右，然後通過聲稱初始投資的價值正在增加等方式，慢慢引誘他們投資更多。
例如在下面這段來自特斯拉股東大會的視頻中，馬斯克 " 展示 " 了一款由 AI 驅動的自動交易產品，該產品每天可以使特定投資翻倍，" 只需投資 4500 蘭特，您就能獲得每天 8000 蘭特的穩定利潤 "。（注：蘭特是南非的貨币部門）
這些 AI 詐騙者通常瞄準年齡較大的互聯網用戶，他們可能熟悉加密貨币、AI 等話題，以及馬斯克、巴菲特這些人，但不熟悉安全的投資方式。
" 老年人是一個非常有錢且容易上當的群體。" 加州大學戴維斯分校科技研究教授、加密貨币市場專家 Finn Brunton 說，" 即使沒有社交媒體平台，老年人也一直是詐騙的目标。"
而之所以瞄準馬斯克，則是因為馬斯克擁有獨特的全球 " 粉絲 " 群體。研究加密貨币社區的專家稱，這些人通常由保守派、反建制派和加密貨币愛好者組成，他們經常被新奇的賺錢途徑所吸引——這使他們成為騙局的完美目标。
加密貨币社區研究員 Molly White 稱，這群人總是認為，财富的秘密對他們是隐藏的，而一旦他們 " 發現 " 了這一秘密，他們就會認為這是其所需的一切。
開頭提到的退休人員 Beauchamp，在 75 歲之前是一家加拿大公司的銷售代表。他在去年剛開始使用 Facebook，随後看到了一則馬斯克在 CNN 上接受采訪的廣告。
雖然他堅稱自己在 CNN 官方上也看過這段視頻，但據 CNN 發言人稱，馬斯克已經很多年沒接受過他們的采訪了。
根據 Beauchamp 先生與視頻中提到的公司之間的電子郵件來往記錄，去年 12 月，他向這家名為 Magna-FX 的公司匯款 27216 美元。
Magna-FX 讓他的投資看起來似乎在增值，甚至讓一名銷售代理使用軟體遠程控制了 Beauchamp 的電腦，假裝轉移資金用來投資。
為了提取增值的資金，Beauchamp 被告知要支付 3500 美元的管理費和 3500 美元傭金。他把錢匯出去後，又被告知還需要支付 2 萬美元，才能提取其中大約 20 萬美元。他再次支付了這筆錢。
最後，Beauchamp 用完了退休儲蓄，刷爆了信用卡，動用了信用額度，還從姐姐那裡借錢來投資和支付費用。但騙子仍一再要求他支付更多筆費用。Beauchamp 這才聯系了警方。
遺憾的是，這個案件尚未取得任何進展。
三、平台監管面臨挑戰，删視頻治标不治本
虛假廣告之所以盛行，和平台的監管疏忽也脫不開關系。
一些被偽造視頻的人拿起了法律武器。澳大利亞億萬富翁 Andrew Forrest 對 Facebook 的母公司 Meta 提起民事訴訟，指控其在廣告業務運營方面存在疏忽。他的深度偽造視頻被用在了 Facebook 廣告投放中，他認為這将引誘 " 無辜用戶進行不良投資 "。
Meta 回應道，公司正在訓練自動檢測系統，以捕捉其平台上的欺詐行為，但同時也稱這是一場 " 貓捉老鼠 " 的遊戲，詐騙者會不斷改變策略以逃避檢測。
YouTube 也在采取一些措施來對應深度偽造視頻。今年 3 月，YouTube 更新了政策，要求創作者披露他們是否使用了 AI 進行創作，并禁止欺詐和篡改視頻。
YouTube 在一份聲明中提到，今年 1-3 月期間，公司删除了超過 1570 萬個頻道和超過 820 萬個違反内容政策的視頻。但只是删除視頻仍是指标不治本的行為，平台需要重新審視自己的審核制度，從根源處解決問題。
結語：深度偽造視頻污染互聯網
數字詐騙的歷史，就像互聯網一樣悠久。但随着 AI 技術越來越成熟、AI 工具的使用成本越來越低，利用該技術進行詐騙的時間和金錢成本也大幅壓縮。以馬斯克等名人為主角的新一波深度偽造視頻正在污染互聯網。
随着技術的不斷發展，深度偽造技術或許會變得更加難以分辨，這對平台、監管機構、法律都提出新的要求。
