今天小編分享的科技經驗:看着這個 AI 奶奶把騙子耍得團團轉,可把我高興壞了,歡迎閱讀。
你好,騙子,我是你的噩夢。
眼前這位慈眉善目的奶奶叫 Daisy。它沒有真人的軀體,卻是一個反詐 AI 高手。
與傳統的反詐宣傳不同,Daisy 不會苦口婆心地提醒你謹防上當受騙,而是從源頭抓起,與騙子聊些家長裡短的話題,不斷消耗騙子的耐心。
天上不會掉餡餅,但騙子會給你扔一個誘餌。
打造 Daisy 的初衷在于,要用騙子的執着消耗騙子的時間,減少後者扔誘餌的機會,從而更好地保護其他潛在的受害者。
應了那句話,真正的反詐勝利不是打敗騙子,而是讓詐騙變得不劃算。
與其教會一個人防騙,不如浪費一個騙子的時間
Daisy 的幕後開發者源自一家英國的電信公司 O2。
與 Vodafone、EE 和 Three 并列,O2 是英國四大電信運營商之一。O2 的數據顯示,67% 的英國人表示擔心成為詐騙的受害者,四分之一的人每周都會遭遇不同程度的詐騙。
面對詐騙分子的興風作浪,O2 也很頭疼。
于是他們想出了一個妙招,那就是打造出一個 AI 奶奶—— Daisy,并讓其主動出擊,與騙子進行最高可達 40 分鍾的通話。
方法有些舍己為人卻又很實用,折騰完騙子,這樣騙子就沒有時間去詐騙别人了。
Daisy 的角色設定是一位慈祥的老奶奶,映照到現實生活,老年人也恰恰是詐騙分子最常針對的下手群體。
在官方發布的演示 demo 中,Daisy 跟電話那頭的騙子唠唠家常,繪聲繪色地分享她的愛好——編織毛衣,聊聊家裡可愛的貓等等。
無它,通話時間拖得越久越好。
當涉及銀行卡賬号 / 密碼等要緊信息時,這位 AI 奶奶還會憑空杜撰,主打一個句句有回應,事事沒着落,睜着眼睛說瞎話。
O2 欺詐部門主管 Murray Mackenzie 殺人誅心地指出,Daisy 的作用在于,她徹底扭轉了與騙子的博弈态勢。「我們通過讓他們一直在線上,巧妙地在他們的「遊戲」中擊敗并超越了他們。」
實際上,在 Daisy 之前,也已經有不少類似的工具誕生。
據外媒 The Guardian 報道,澳洲麥考瑞大學團隊也曾研發了一個專門和電信詐騙騙子「聊天」的 AI 機器人 Apate。
當澳洲警方辨析并攔截了電信詐騙電話,他們就會轉接給這位「受害者機器人」
創作者 Kafaar 也曾經透露過 Apate 的誕生故事。
他和兩個孩子在外面野餐時,給詐騙來電者講了一個笑話。之後,他因此受到啟發,開始思考如何用無意義的閒聊來消耗騙子的時間,從而阻止他們去欺騙更多的人。
我當時想,這樣做的目的是欺騙騙子,浪費他們的時間,這樣他們就不能和其他人通話了。
Apate 還擁有幾百個不同的身份,這些身份各自帶有不同的口音,有不同的個性,有的假裝懵懵懂懂,有的就跟老人家一樣講話愛重復,也有的脾氣比較暴躁,整體比較多樣,主要是為了不被騙子認出模式。
簡言之,與其教會一個人防騙,不如浪費一個騙子的時間。
技術在更新,人類的判斷力永遠是最後的防線
AI 的飛速發展為 Daisy 的誕生提供了一個絕佳契機。
Daisy 基于定制訓練的大型語言模型(LLM)構建,其工作原理與 Google Gemini Live 或早期版本的 ChatGPT Voice 相似。
具體原理就是,AI 會轉錄來電者的聲音,接着這位 AI 奶奶會根據預設的角色性格來調整回答的風格和内容,最後再次轉換成 AI 奶奶的聲線:
轉錄語音為文本:将捕捉到的聲音轉換成文本的過程稱為「轉錄」。這樣,Daisy 可以理解來電者所說的内容,并準備相應的回應。
生成回應:Daisy 使用一個定制的大型語言模型(LLM)來生成回應。這個模型不僅能夠理解文本信息,還能夠根據上下文和預設的角色性格層(character personality layer)生成合适的回答。
角色性格層:「角色性格層」是指 Daisy 在生成回應時,會根據預設的角色性格來調整回答的風格和内容,使其更符合角色設定,比如像一個祖母那樣親切和耐心。
文本轉語音:生成的文本回應需要再次轉換成語音,以便 Daisy 可以通過電話與來電者進行交流。這個過程也就是「文本轉語音」(TTS),Daisy 使用一個定制的 AI 模型來完成這一步。
并且,在訓練的過程中,Daisy 還得到了一位 YouTube 博主 Jim Browning 的幫助。
該博主在 YouTube 上擁有 400 萬 + 粉絲,是該平台最具影響力的反詐騙者之一。他的視頻不僅展示詐騙手法,還會通過詳細的技術分析和實例,來揭示了整個詐騙產業的運作方式。
畢竟最了解你的人永遠是你的敵人,騙子也不例外。
而在 Daisy 與騙子對話的整個流程,由于從聽取聲音、轉錄文本、生成回應到文本轉語音都是實時進行,所以幾乎沒有明顯的延遲。
不過,Daisy 并不直接提供給 O2 的用戶使用。
原因很簡單,O2 擔心用戶利用它對詐騙者進行報復行動,在他們的内部研究表明,71% 的英國人有過想要報復那些詐騙了他們或他們親人的騙子的念頭。
據外媒 techspot 報道稱,這個 AI 工具已經被列入詐騙者常用的易騙号碼列表。Daisy 能夠在 24 小時不間斷地與來電者互動,且無需人工幹預。
但問題是,現在的騙子分兩種,一種是不懂 AI 的,一種是懂 AI 的。
前不久,初創公司 Bland AI 在 X 平台宣稱,在大模型的加持下,其產品将成為全球最快的對話式 AI,且可以在沒有「幻覺」的情況進行溝通。
另外,Bland AI 機器人還擁有極其自然的生成式語音、以及多種語言切換。
除了非常擅長模仿人類真實對話的語調、停頓,在外媒 WIRED 的技術測試中,Bland AI 機器人甚至可以否認自己是 AI,并謊報其真實身份。
包括 APPSO 此前也利用 AI 定制生成了一些 0 成本但很真的數字雙胞胎。
在 AI 技術的增益之下,這些工具都能輕而易舉地被詐騙不法分子反過來欺騙我們。
吊詭的是,電話一頭連着 AI 騙子,電話一頭連着 AI Daisy,一個捧哏,一個逗哏,雙方無限循環。懂行的人都知道,這裡面的道行有多深。
而更早些時候,智能電話系統已經相當完善。
只需向服務商提出需求,後者就能快速搭建管理平台。用戶通過簡單的界面操作,就能設定話術、模板、通訊線路等參數,導入聯系人信息後即可啟動自動外呼功能。
為此,國内手機廠商也在這方面做出了不少努力。
比如,國内大多數手機系統提供智能識别和攔截偽基站的功能。并且,你還可以在來電攔截設定中,開啟「在線識别陌生号碼」功能,讓系統更準确地識别并攔截騷擾電話。
詐騙本質上是一場篩選遊戲,騙子不在乎失敗 999 次,他們只需要成功 1 次。
被騙了,一切歸零。
誠然,詐騙手法或許千變萬化,但下面這條官方的反詐公式永不過時。
人物(陌生人)+ 溝通(各種通信工具,反正就是見不到面的)+ 要求(轉賬匯款,反正就是談錢的)= 詐騙。
在 AI 時代,騙子和反詐技術都在更新,而人類的判斷力永遠是最後的防線。