今天小編分享的科技經驗：AI詐騙成功率100%？度小滿防深偽模型“用魔法打敗魔法”，歡迎閲讀。
日前 , 一條 #AI 詐騙成功率接近 100%# 的話題衝上微博熱搜。一個 AI 換臉的視頻 , 讓福建某科技公司的法人代表在 10 分鍾内就被騙走了 430 萬。
國外也發生了一起 AI 相關詐騙 , 一封附上谷歌 CEO 視頻的郵件 , 讓不少 YouTube 博主們下載了帶着危險病毒的檔案。
這兩起詐騙事件都有着深度偽造技術 deepfake 的身影。這是一項誕生了 6 年之久的換臉大法 , 如今 AIGC 技術的大爆發 , 更使得制作難以識别的 deepfake 視頻越來越容易。對人臉識别應用普遍的金融行業來説 , 防深偽攻擊也顯得尤為重要。
在金融行業 , 由 deepfake 產生的欺詐主要是身份欺詐 , 即通過深度偽造的虛假影像和視頻來冒充他人身份 , 騙過金融信貸流程中的身份核驗系統 , 進而實施盜刷和惡意注冊等。目前 , 金融行業應對 deepfake 已有了比較成熟的技術方法和方案 , 度小滿在 deepfake 應對方法上就積累了豐富的經驗。
度小滿介紹 , 近年來利用深偽技術繞過人臉識别流程的趨勢有所增長 , 對金融機構實名認證系統造成了一定的威脅。而要識别認證内容是否造假 , 最好的辦法是交給 AI 去解決 , 研發 " 反 deepfake" 檢測算法。據了解 , 度小滿防深偽檢測模型的算法策略就從三個維度入手 , 有效破解造假視頻。
首先是生成瑕疵。具體而言 , 由于相關訓練數據的缺失 ,deepfake 模型可能無法正确渲染部分人類面部特征 , 小到眨眼頻率不正常 , 大到口型與聲音不吻合等。檢測模型則能将這些 " 基本肉眼可見 " 的特征都提取出來 , 設計特定的分析算子 , 從而進行分析研判。
其次是固有屬性。由于不同攝影機擁有不同的設備指紋 , 類似 GAN 這種模型在生成人臉時也會留下獨特的用于識别生成器的指紋 , 因此經過對比就能發現端倪。
第三個細節是高層語義。它指的是檢測面部動作單元 ( 肌肉群 ) 協調性、面部各區網域朝向一致性、視頻微觀連續性等方面的問題 , 由于這些細節建模困難、難以復制 , 很容易抓到把柄。
當然 , 由于單一特征難以适應復雜的 deepfake 内容 , 因此檢測模型的整體框架采用的是多特征融合 , 以此來保證決策的魯棒性。
在數據樣本優勢之外 , 度小滿還融入了自己的獨創點 , 包括神經網絡搜索調優算法、微表情分析和圖卷積 ( GCN ) 技術以及基于重建的自監督預訓練方法 , 讓模型實現了從 " 鑑偽 " 到 " 鑑真 " 的轉變。
也正因此 , 去年 9 月度小滿防深偽檢測模型順利通過了信通院人臉識别安全專項評測 , 獲得活體檢測安全防護能力優秀級認證。具體效果上 , 它可以覆蓋各種深偽形式 , 包含靜态人像圖片活化、AI 換臉、人臉虛假合成等 , 達到千分之一誤報率下召回 90% 以上 , 也就是 99%+ 的準确率。
随着新的 deepfake 工具不斷湧現 , 金融行業要應對的深偽攻擊會更多。度小滿認為 , 未來更多的鑑偽技術應該集中去挖掘語義特征、跨模态特征等 , 讓模型利用可解釋性強的高層語義去鑑偽。作為創新型金融科技企業 , 度小滿也将為金融行業的穩健發展貢獻更多科技力量。
>
