Sora問世，如何用大模型反詐？

今天小編分享的科學經驗：Sora問世，如何用大模型反詐？，歡迎閲讀。

龍年伊始，Sora 橫空出世。

2 月 15 日（美國當地時間），人工智能研究公司 OpenAI 正式對外發布人工智能文生視頻大模型：Sora。一年多前該公司發布的革命性產品 ChatGPT 影響還在持續，而 Sora 一經發布便立即轟動全球 AI 領網域，再次成為輿論焦點。

根據 OpenAI 的技術報告顯示，Sora 這類視頻生成模型是世界的模拟器，能夠理解和模拟現實世界模型的基礎、了解物體在物理世界中的存在方式，可以根據使用者的文本提示創建最長達 60 秒的視頻，視頻内容能夠深度模拟真實物理世界，能生成具有多個角色、包含特定運動的復雜場景。

文生視頻大模型并非 OpenAI 獨創，Runway、Pika、Stable Video Diffusion 等大量 AI 創業公司在這條賽道上百家争鳴，但 Sora 發布後造成如此大轟動與熱議的原因，在于它突破性的進展，滿足了 AI 領網域新一代生產力工具願景，從 " 生成視頻的長度 "、" 鏡頭切換與畫面流暢度 "、" 使用的基礎模型架構 " 三個方面均遠超現有同類產品水平。

目前 OpenAI 官網已更新了數十個視頻 DEMO，在這些範例視頻中，Sora 不僅精準呈現了細節，還能理解物體在物理世界中的存在，并生成了具有豐富情感的角色。

△視頻來源：OpenAI 官網

Sora 的出現，可以預見未來将對影視、遊戲、廣告等内容行業產生巨大影響，同時還将推動 AI 伺服器、AI 芯片與光通信等上遊行業的發展，但在暢享正面影響的同時，存在的隐患我們也需要警惕。

在 Sora 問世前已有多起利用 AI 偽造視頻進行詐騙的案例，昭示了 AI 生成視頻可能被濫用于非法目的的風險。而今後 Sora 的普及将會進一步降低偽造視頻的門檻，由深度偽造進行的欺詐行為可能會更加泛濫。

AI 技術再更新，欺詐檢測三重難關：識别、檢測、追溯

Sora 的出現意味着今後利用 AI 更新技術實施欺詐行為門檻将變低，反欺詐產品服務類科技公司在面對更強大的欺詐攻擊時，将面臨更加嚴峻的挑戰。其中，可預見最大的變化會來自 "深度偽造"。" 深度偽造 " 的危險不僅在于生成虛假視頻和圖片，還在于其所促成的整個詐騙生态系統：一個由機器人、虛假賬户和匿名服務組成的錯綜復雜的網絡運作，所有這些都旨在制作、放大和分發捏造的信息和内容，具有識别難、檢測難和追溯難的問題。

除 " 深度偽造 " 外，AI 生成視頻包含違法或倫理道德風險内容、合成身份、虛假信息傳播以及版權隐私侵犯等，也都是 Sora 将來可能帶來的棘手問題。要想防御與打擊這些問題造成的欺詐行為，一方面需要識别檢測偽造的視頻、圖片和信息（有效甄别出虛假偽造的内容）；另一方面需要實行諸如 " 深度偽造 " 欺詐行為的渠道和平台網絡進行識别與檢測（多方面提升數字賬号的安全性）、同時還要防範由類似 AI 生成工具引發的假證濫用情況。

針對 Sora 問世後公眾產生的造假焦慮，OpenAI 稱在真正面向公眾推出產品時，将确保生成視頻包含來源元數據，并推出檢測視頻真偽的工具。OpenAI 還承諾，在產品中使用 Sora 前将采取安全措施，包括由 " 錯誤信息、仇恨内容和偏見等領網域的專家 " 對模型進行對抗性測試來評估危害或風險；核查并拒絕包含極端暴力、性内容、仇恨影像、他人 IP 等文本輸入提示等。即便如此，OpenAI 也承認，盡管進行了廣泛的研究和測試，" 我們仍無法預測人們将使用我們技術的所有有益方式和濫用我們技術的所有方式 "。

随着技術水平的提升，AI 生成視頻的反欺詐審核迎來了新的挑戰，ADVANCE.AI 作為全球領先的人工智能科技企業，致力于為全球金融機構和互聯網企業提供中立、可靠、合規的數字身份驗證和風險管理解決方案。一直以來，ADVANCE.AI 都在密切關注 " 深度偽造 " 與 " 合成身份 " 欺詐領網域技術的進展，并不斷提升產品實力。由 ADVANCE.AI 推出的 " 星鑑 " 數字身份驗證與風險管理解決方案，產品中包含了全新更新的"3D 活體檢測功能 "，通過引導用户移開 / 靠近相機，進行活躍度檢測，捕捉用户近景和遠景影像，确保用户影像采集的實時性，提高對重拍和深度偽造欺詐的檢測準确性，高效防範 Al 換臉、人臉合成等 " 深度偽造 " 身份欺詐攻擊。而同樣防範身份偽造的 " 假證檢測 " 產品，則通過全自動化的工作流程、智能的機器學習模型，确保能夠準确、快速地識别出 6 大證件偽造類型，确保用户提供的身份證件的真實性，預防欺詐行為，保護企業和機構免受身份證件偽造風險的影響。

Sora 發布以來，ADVANCE.AI 一直給予高度關注，面對未來由此帶來的欺詐更新，相應的反欺詐解決方案產品已加入更新計劃，有能力與信心應對欺詐領網域日新月異的變化，持續為企業全球化發展保駕護航。針對此次 Sora 的發布，我們采訪了 ADVANCE.AI 技術負責人範懷宇與 ADVANCE.AI 人工智能產品負責人餘江波，二人分享了 Sora 在 AI 生成欺詐領網域的影響判斷與防範應對的看法。

對抗 " 深度偽造 " 的黑暗更新，從算法與數據訓練上提升反欺詐技術

" 在‘ AI 視頻生成’這件事上，Sora 的發布有點劃時代的意思，多年後我們甚至可以用‘ Sora 前時代’和‘ Sora 後時代’來進行描述，等 Sora 正式面向公眾發布且大面積鋪開使用後，影視、遊戲、廣告等行業肯定會有不小的變革，而在 AI 生成視頻欺詐領網域也會有影響，欺詐者的犯罪成本和門檻進一步降低了。"ADVANCE.AI 技術負責人範懷宇説到，" 而該技術對‘深度偽造’這一欺詐行為的加持将是最明顯的，以往我們應對 " 深度偽造 " 監測識别的常見方法有利用影像的特征，尋找特定篡改證據的 [ 影像特征檢測 ] ，以及 [ 影像構成真實性比對 ] 的方法，利用人工智能技術深度偽造的影像或視頻，在影像細節上，還是會出現一些與基于實物正常拍攝的影像之間的明顯偏差，比對其中的差異後進行反欺詐應對。"

範懷宇還表示 " 在動态視頻的深度偽造監測上，以往我們會通過檢測、觀察動态人像在一些指定角度扭動時影像特征或構成的異常變化，可以發現是否存在偽造。有了 Sora 的加持後，這類偽造視頻細節上的真實程度會大幅提升、漏洞與破綻可能會變得難以察覺，這就要求我們要提升 ADVANCE.AI 現有的‘活體檢測功能’產品的欺詐行為識别能力，從算法與數據訓練上下功夫。"

Sora 加持後的潛在欺詐行為并非完美無缺，深挖不同點賦能產品是關鍵

在 Sora 震撼發布後的極短時間内，ADVANCE.AI 内部團隊便敏鋭的感知到 Sora 未來可能為反欺詐領網域造成的影響。雖説成熟產品還未面向大眾，但一旦正式投入市場，Sora 作為利器很快便會被欺詐者瞄上作為潛在的犯罪工具，因此反欺詐戰線需要提前做出防範。

" 這次 OpenAI 發布 Sora 能在各領網域產生如此大的轟動，用‘遙遙領先’一詞可以比較準确的定義 "，ADVANCE.AI 人工智能產品負責人餘江波表示，" 在其他 AI 生成視頻公司的普遍水平還在 4 秒左右時，Sora 直接支持最大生成 60 秒長度視頻，直接跨越式更新 15 倍。從官方發布的 DEMO 視頻看，Sora 能夠在保持主體一致性的前提下實現多角度鏡頭無縫切換，整個畫面幹淨流暢，實現了真正的視頻大片效果。而在基礎模型架構的使用上，此前的 AI 生成視頻大部分都是基于‘大模型 + 大數據’架構，因此在 AI 幻覺這個問題上難以突破，但 Sora 則已經具有了世界模型的雛形，因此内容更加符合、邏輯也更加令人信服。"

餘江波還表示 ," 從技術上講，Sora 的技術基礎包括 Transformer、圖片字幕、擴散模型、視頻 patches 和 Dit 等，這些技術都是之前已經存在的，但 OpenAI 結合了更強大的算力和豐富的訓練數據，這些因素共同推動了 Sora 在 AI 生成視頻領網域的創新。更強的矛勢必催生更強的盾，Sora 被應用在金融欺詐領網域不可避免，但結合 Sora 背後的這些技術特點，我們可以模拟可能發生的欺詐行為，例如畫面更逼真、漏洞更少的深度偽造的 AI 視頻發起的欺詐行為，找出與以往既有深度偽造、合成身份欺詐行為的不同之處，進而提升我們 ADVANCE.AI 反欺詐解決方案產品的防御能力，讓客户用着安心。除了畫面識别之外，通過更多維度的信息能更好的檢測潛在欺詐行為。這些信息網可以幫助我們搭建更加安全的反欺詐體系，包括用户行為特征和網絡關系。"

ADVANCE.AI 數字身份驗證與風險管理解決方案領航者

作為全球領先的人工智能技術企業，ADVANCE.AI" 星鑑 " 數字身份驗證與風險管理解決方案可以幫助互聯網金融、數字銀行、社交直播平台等容易面臨高欺詐風險的企業輕松實現數字化管理，管理用户注冊風險、交易風險等。ADVANCE.AI 在東南亞、拉丁美洲、非洲等新興國家市場積累了豐富的本土化服務經驗，自 2016 年成立以來，ADVANCE.AI 的技術服務已得到全球超過 500 家金融機構和企業客户的認可，服務客户遍布印尼、菲律賓、墨西哥、哥倫比亞、尼日利亞、新加坡、馬來西亞等國家，身份驗證產品的 API 調用量達到 400 萬次，年調用量已接近 20 億次，OCR 準确率高達 99.4%、能夠精準識别 3000+ 證件類型，產品數據安全符合多項 ISO 權威認證。

△ADVANCE.AI 一站式數字身份驗證與合規反欺詐解決方案

其中，" 星鑑 " 數字身份驗證與風險管理解決方案包含以下功能：

3D 活體檢測功能，可以通過引導用户移開 / 靠近相機，進行活躍度檢測，在過程中實時反饋和指導正确姿勢，捕捉近景和遠景影像，高效識别身份欺詐，提高對重拍和深度偽造欺詐的檢測準确性。同時，該功能增強了前端互動和後端模型性能，支持客户根據自身品牌調性自定義配置背景顏色、UI 樣式、指示位置等等。

此外，身份證件作為用户個人最重要的身份證明信息，ADVANCE.AI 的證件識别功能針對各個證件定制化開發，可實時、準确地從身份證件的影像中提取結構化的身份信息，顯著提升數據記錄、遠程注冊、實名認證、身份識别等方面的準确性和工作效率。

同時，假證識别功能可以有效識别偽造身份證圖片，如螢幕翻拍，黑白復印，人臉貼圖，身份證号碼篡改等，多重保障用户身份證件的真實性。

" 星鑑 " 解決方案中涵蓋的生物識别、人臉比對功能的識别精準率超過 99%，領先市場同類產品，并特别針對東南亞、拉丁美洲、非洲等地區的用户使用習慣進行了優化，識别不受當地用户低配手機攝像頭或驗證環境光照條件的影響，且控制識别響應時速在 1 秒以内。同時，ADVANCE.AI 的生物識别技術還對用户戴着帽子、眼鏡、妝效等進行人臉識别時的驗證效果進行了優化。

為了便利企業或金融機構可以根據展業的不同目的地市場，自身不同的成本規劃，落地更因地制宜的技術部署選擇，ADVANCE.AI 支持雲端 SaaS、本地化、可視化平台等多元部署方式。

除了數字身份（KYC）產品，ADVANCE.AI 還與海外當地官方數據庫、運營商、征信機構合作，确保數據服務中立、可靠、合規。企業和金融機構可以結合社交媒體 / 手機号碼 / 電話号碼狀态檢測工具、IP 風險檢測工具、郵箱檢測工具、身份信用評分、企業信息篩查（KYB）等多種工具一起使用。同時，支持自動化數字身份驗證流程（KYC）與反洗錢制裁和風險名單篩查一體化部署，高效助力企業及時識别與發現合規與風險管理流程本身衍生出的漏洞或風險問題，同時更好地釋放 AI 技術的效率價值。