今天小編分享的社會經驗：“打了視頻電話确認是熟人”，又有人9秒被騙走245萬元！，歡迎閱讀。
" 眼見 " 不一定 " 為實 " 之後，怎麼辦？
繼此前 "10 分鍾被 AI 換臉騙走 430 萬元 " 事件引發關注之後，5 月 25 日，4 月發生的又一起 AI 換臉詐騙事件被媒體曝光。這次金額達到 245 萬，且整個詐騙過程時間更短，只有 9 秒鍾。
在前一天，中國互聯網協會發文提醒，不法分子利用 AI 技術，通過聲音合成，偽造成特定人物的聲音，通過 AI 換臉，偽裝成特定人物，實時與他人進行視頻通話。更換後的面部表情自然，以假亂真，能夠冒充他人身份聯系被害人，博取被害人信任後實施詐騙。面對利用 AI 技術的新型騙局，廣大公眾需提高警惕，加強防範！
9 秒被騙走 245 萬
" 打了視頻電話又是熟人 "
據大皖新聞報道，今年 4 月，安徽安慶經開區發生一起 " 冒充熟人 " 詐騙案，經開公安分局反詐中心民警調查發現詐騙分子使用了一段 9 秒鍾的智能 AI 換臉視頻佯裝 " 熟人 "，讓受害人放松警惕從而實施詐騙。
" 視頻裡邊我看到是他的臉 "，" 但是沒幾秒就挂了，說在開會不方便 "。4 月 27 日，何先生的微信 " 好友 " 突然向其發起視頻通話，電話接通後，何先生看到 " 好友 " 正在一間會議室内，就在他準備進一步詢問時，" 好友 " 直接挂斷了電話，并表示在會議中有重要事情交代，需要何先生添加 QQ 溝通。
随後，" 好友 " 在 QQ 上告訴何先生，目前有一個項目招标需要周轉資金，希望何先生先行幫忙墊付。" 因為打了視頻電話又是熟人 "，" 我就沒多想，就轉賬了 "，基于對 " 熟人 " 的信任，何先生沒有猶豫，立刻讓家人将 245 萬元到對方指定的賬号上，直到事後撥打對方電話才得知被騙。
發現被騙之後，何先生迅速報警，接報案後，安慶經開公安分局立即抽調精幹警力組成專案組第一時間對涉案賬戶的資金流、信息流進行查詢追蹤。4 月 28 日，專案民警連夜趕赴北京市抓獲 3 名涉詐嫌疑人。5 月 22 日，警方将先行追回的 132 萬元被騙款及時返還給何先生，目前案件正在進一步偵辦中。
AI 換臉、換聲詐騙怎麼防？
回撥電話、觀察畫面
5 月 24 日，中國互聯網協會發布公告，面對利用 AI 技術的新型騙局，廣大公眾需提高警惕，加強防範。中國互聯網協會表示，伴随着深度合成技術的開放開源，深度合成產品和服務逐漸增多，利用 "AI 換臉 ""AI 換聲 " 等虛假音視頻進行詐騙、诽謗的違法行為屢見不鮮。
中國互聯網協會表示，在 AI 時代，文字、聲音、影像和視頻都有可能是深度合成的，在轉賬匯款、資金往來這樣的典型場景，要通過回撥對方手機号等額外通信方式核實确認，不要僅憑單一溝通渠道未經核實就直接轉賬匯款，無論對方是誰。
針對使用 AI 換臉、拟聲技術進行詐騙的案例，小冰公司 CEO 李笛表示，目前了解到的用 AI 換臉的詐騙團隊，主要是采用 Wav2Lip 這種開源技術，通過音頻去驅動口型。" 但是在某些口型上是會出現問題的，比如嘟起嘴時的口型錯誤、邊緣抖動，或者口型朝向與五官不搭配等等。"
瑞萊智慧聯合創始人、算法科學家蕭子豪也表示，在視頻通話時可以通過讓對方做一些大幅度的搖頭、張嘴之類的動作，" 如果黑產做的模型不太精細、只做了正臉的情況下，突然露齒時生成的牙齒或舌頭就不會特别清晰，耳朵處也可能會出現不正常的陰影。"
據蕭子豪介紹，從技術角度辨别内容是否經過深度偽造同樣有迹可循，辨别思路大致可分為兩種，一種是尋找影像編輯痕迹，另一類則是判斷行為是否符合常識。
人工智能詐騙接二連三
更高層面監管亟須落地
據證券時報，" 人工智能教父 " 傑弗裡 · 辛頓今年年初就曾經警告，人工智能對人類構成的威脅将比氣候變化更加緊迫。辛頓認為，人工智能是一種智能工具，可以輔助人類做一些繁瑣、重復和創意性工作，但也會有不法之徒用它來做違法亂紀的勾當。人工智能不但能撰寫文章，還能生成影像、視頻。如果用來弄虛作假，幾乎可以亂真，普通人很難識别出來。如果有人用它來制作虛假影像、視頻，傳遞錯誤信息，其破壞力遠大于單純的文字形式。
據新華網，" 短短 10 分鍾，被騙 430 萬元 "" 換臉冒充當紅女星帶貨，賺得盆滿缽溢 "…… 這種 " 換臉 " 術和拟聲術，讓人防不勝防。如此種種，無不說明換臉術的濫用，已經對公共利益構成威脅。
針對技術手段日益更新的 AI 詐騙事件，2022 年 11 月 25 日，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》（以下簡稱規定），自 2023 年 1 月 10 日起施行。規定要求深度合成衣務提供者對使用其服務生成或編輯的信息内容，應當添加不影響使用的标識。提供智能對話、合成人聲、人臉生成、沉浸式拟真場景等生成或者顯著改變信息内容功能的服務的，應當進行顯著标識，避免公眾混淆或者誤認。要求任何組織和個人不得采用技術手段删除、篡改、隐匿相關标識。
今年 4 月 11 日，國家網信辦起草了《生成式人工智能服務管理辦法》（征求意見稿），提出 AI 内容必須真實準确，其中也明确提到，禁止非法獲取、披露、利用個人信息和隐私、商業秘密。
為此破局，一方面要強化公共宣教，确立新的防騙反詐意識；另一方面，更重要的還是加快防御性、對抗性技術工具的推廣落地和應用嵌入。比如說，不妨嘗試在常用的社交媒介軟體中，内嵌入聲紋、人臉識别的身份核驗模塊等。
