今天小編分享的科技經驗:研究:2000 人中僅兩人能準确識别深度偽造内容,歡迎閲讀。
IT 之家 2 月 19 日消息,随着深度偽造技術(deepfake)的不斷發展,人們對虛假信息、詐騙和身份盜竊的擔憂日益加劇。一項最新研究顯示,人們對 AI 工具的認知水平極低,難以有效識别深度偽造内容。
根據 iProov 的一項最新研究,大多數人在區分深度偽造内容與真實内容時存在困難。該研究邀請了來自英國和美國的 2000 名參與者,向他們展示了一系列真實和 AI 生成的影像及視頻。結果顯示,僅有 0.1% 的參與者 —— 也就是兩個人,能夠準确區分真實内容與深度偽造内容。
研究還發現,老年人更容易受到人工智能生成的虛假内容的欺騙。大約 30% 的 55 至 64 歲人群和 39% 的 65 歲以上人群此前從未聽説過深度偽造。盡管年輕參與者對自己的深度偽造檢測能力更有信心,但他們在測試中的實際表現并未優于其他年齡段。
研究發現,深度偽造視頻比影像更難被識别,參與者正确識别假視頻的可能性比識别假影像低 36%。
IT 之家注意到,社交媒體平台被認為是深度偽造内容的主要傳播渠道。近半數參與者(49%)認為 Meta 旗下的平台,包括 Facebook 和 Instagram,是深度偽造内容最常見的來源,而 47% 的人則指向 TikTok。
即使人們懷疑某個内容是深度偽造,大多數人也不會采取行動。只有 20% 的受訪者表示,如果在網上遇到疑似深度偽造内容,他們會進行舉報。
随着深度偽造技術愈發逼真,iProov 認為僅靠人類感知已無法可靠地識别深度偽造内容,需要采用帶有活體檢測功能的生物識别安全解決方案來應對日益逼真的深度偽造威脅。