今天小編分享的互聯網經驗：人臉識别防護系統：常見繞過方式與防御手段分析，歡迎閱讀。
近日人臉識别防護問題已成焦點，嘉峪關網警、大連市銀行協會發布信息，稱市民 A 先生與不法分子視頻通話期間手機被犯罪分子控制，未接收到驗證碼，通話後手機收到消息提示，銀行定期存款已被銷戶，銀行人臉識别系統未發揮效果，資金已被轉出。經偵查後發現，犯罪分子事先獲取了 A 先生的身份證影像信息，并通過技術手段合成了短視頻，使用該視頻成功應對了銀行大額資金轉賬時的人臉識别驗證。
目前人臉識别防護技術存在明确的安全隐患，人臉信息發生洩露的風險主要存在于收集、存儲、使用、加工、傳輸，其中使用、加工、傳輸需要金融機構等廠商提高重視度，收集、存儲環境也需消費者提高警惕心。消費者不應随意同陌生人的視頻聊天、下載來源不明的 App、随意參與 App 内的錄制視頻 / 聲音活動，北京互聯網法院綜合審判三庭副庭長曾表示 " 一些營銷短視頻、音頻的商家經常在未經當事人許可和同意的情況下進行換臉、換聲操作，以此獲利 "，降低人臉信息的收集、存儲環節的安全隐患。消費者應保護好銀行卡号、密碼、身份證等個人信息；人臉、指紋等個人生物信息，發現可疑行為及時報警。
個人生物信息一旦洩露便後患無窮，尤其是人臉信息，上述案例中的收集人臉信息、通過技術手段攻擊人臉識别防護系統，攻破後進行盜取轉移資金等違法行為的犯罪鏈已較為成熟。通過 AI 技術攻擊人臉識别防護系統的手段可分為深度偽造攻擊與對抗樣本攻擊。深度偽造攻擊是将一個人的面部表情移植到另一個人照片的面部，從而讓被移植人照片活化起來；對抗樣本攻擊是在人臉照片上添加難以察覺的微小擾動使人臉識别系統誤判。本次案例中，不法分子極可能是利用視頻通話采集受害者人臉信息并基于深度偽造攻擊手法騙過銀行的人臉識别防護系統，竊取用戶存款，此類案件層出不窮。
不法分子的攻擊目标早已不局限于金融系統，政務系統也是重點攻擊目标之一，根據天津網信辦報道，不法分子獲取公民身份信息和人臉照片後，利用 AI 技術破解相關政務 APP 的 " 人臉識别 " 認證，在當事人毫不知情的情況下，幾分鍾就能利用他人信息注冊公司。
針對人臉識别防護系統的攻擊與防御，是一場雙方都在不斷更新的攻防對抗，目前針對人臉識别防護系統的攻擊手段已經過多次進化。多數人臉識别算法廠商聚焦于人臉特征提取、人臉差異，對深度偽造攻擊、對抗樣本攻擊及針對應用的攻擊的防護能力極為有限，為此業内新增了三類檢測功能，但均有一定局限性。
1、增強活體檢測模塊，以識别對抗眼鏡及表情操縱攻擊此種防御方式對于螢幕重放攻擊有一定的防御效果，但是若采用攝像頭繞過方式即可繞過，對于安全加密強度不夠的 APP，采用公開手機模拟器即可繞過攝像頭，直接将準備好的偽造影像傳輸給後台人臉比對算法。
2、增強人臉特征比對算法，存在異常即攔截該方法本質上是提升了比對算法的阈值，在提升自身安全性的同時，也降低了對于用戶的友好體驗，往往要進行反復拍照、核驗才能通過比對，并不能從根本上解決人臉偽造的攻擊方式。
3、增加臉部異常結構的識别該方式，旨在防範對抗眼鏡樣本的攻擊方式，但對抗樣本的攻擊方式千變萬化，可以是眼鏡形式外的任何形式，此方法并不能解決對抗樣本本身帶來的攻擊危害。
此外攻擊者還可以通過注入應用、破壞系統内核及利用接口防護不當與設計缺陷嘗試繞過人臉識别防護系統的活體檢測環節。
1、注入應用繞過人臉識别防護系統活體檢測攻擊者通過注入應用的方式來篡改程式，繞過活體檢測，使用一張靜态照片就可以通過人臉識别。還可以通過查看當前 APP 的數據結構，修改參數來篡改活體檢測完成後的圖片，從而達到活體檢測由任意一個人完成都可以通過的效果，這樣只需要拿着被攻擊者的照片來通過靜态人臉識别，然後其他人眨眼抬頭來破解活體檢測。
2、破壞系統内核繞過人臉識别防護系統活體檢測通過修改 Android 系統源代碼，在底層直接修改并返回相關函數的調用結果。劫持攝像頭，指定視頻存放位置，在活體檢測後替換人臉識别圖片、視頻，繞過活體檢測。
3、利用接口防護不當和各種設計缺陷部分 APP 在使用上傳人臉影像時，沒有對影像數據進行籤名，導致圖片可以被工具截獲然後篡改，而有的則是在數據報文沒有加入時間戳，可以通過重放數據報文的方式來實施破解。有些人臉識别的成功與否，是通過返回報文中的一個阈值來決定的，相當于考試中的 " 及格分數 "，如果人臉匹配度超過該阈值就可以通過，不幸的是，部分 APP 沒有對這個返回報文加籤名，導致該報文可以被篡改，最終通過調低該阈值的方式破解了它的人臉識别防護系統。人臉識别技術正面臨着日益嚴峻的新型攻擊威脅和重大财產損失的風險，想提高安全性須采用成體系可應對上述各類攻擊手段的人臉識别安全方案。為加強安全防護能力，愛加密推出了 " 查、打、防 " 三位一體的人工智能安全體系、愛加密人臉安全綜合防護系統，從人工智能應用的生命周期進行檢測，治療和預防。
愛加密人臉安全綜合防護系統可全面加固任意人臉識别系統。通過集成終端風險感知、業務端實時偽造檢測、運營風險挖掘三大類功能，實現在人臉核身、在線視頻等典型場景中有效抵御對抗樣本攻擊、深度偽造攻擊等新型安全風險，大幅提升人臉識别系統的安全性。
愛加密将持續關注人臉識别防護安全，在此呼籲各大機構提高對人臉信息的重視度，加強對個人隐私信息的保護力度，提升人臉識别防護系統的安全性。愛加密通過十餘年技術積累和豐富的行業服務經驗研發，助力人臉識别防護系統的安全運營，未來将繼續憑借自身技術優勢、業務資質優勢、產品方案優勢等，守護互聯世界。
