今天小編分享的科技經驗：換臉已經不靈了？這些個反AI技術有點兒東西。，歡迎閱讀。
不知道大夥兒還記不記得，幾個月前有個老板 10 分鍾被騙走 430 萬的 AI 詐騙事件？
因為被詐騙的金額過于大，當時還引起了不小的轟動。
而在那之後，什麼 9 秒被騙 245 萬， 7 秒視頻通話被騙 30 萬，類似的 AI 詐騙事件是接二連三。
更可怕的是，利用 AI 換臉、 AI 換聲，還衍生出了一條灰色產業鏈。
今年 3 月，一名女生在地鐵被偷拍後又被人換成全裸的照片，一度衝上了熱搜。
而像這種一鍵換臉，或者一鍵脫衣的違法行為在外網上可謂猖獗，有些人就是靠着販賣 AI 換臉軟體，或是幫助别人把臉換到色情視頻裡，以此來賺錢。
雖說，咱們現在都知道有 AI 換臉這回事兒，但這東西它防不勝防，即使臉和聲音都對得上，也不一定是本人。
這才是 AI 的可怕之處。
現在是有一些用于檢測内容是否由 AI 生成的工具，但檢測的準确性， emm 多少還是有點一言難盡。
前不久， OpenAI 還下線了自家的 AI 檢測工具，理由就是錯誤率太高了。。。
所以要阻止技術濫用的問題，光靠檢測是不夠的，還得從根源上找法子。
最近，國外的創意内容平台 Shutterstock 宣稱，要用一種叫做 C2PA 的協定，給自家平台上的 AI 生成内容打上标籤，用來區分人類創作。
這 C2PA 協定，倒也不是啥新技術。
兩年前， Adobe 、微軟、 BBC 等幾家科技公司和媒體一起合作，成立了一個内容來源和真實性聯盟 ( C2PA ) 。
成立的初衷呢也簡單，當時受到 AI 等數字技術的影響，媒體發布内容的可信度越來越低，于是這些個巨頭就想通過建立 C2PA 協定，打擊網絡上的一些虛假信息。
具體來看，這個 C2PA 協定是一種類似區塊鏈的加密技術。
就比如說，一張影像裡包含了數百萬的像素， C2PA 通過數據加密技術給每個像素的來源信息進行編碼，它最大的特點就是可以溯源。
簡單來理解，有了 C2PA 協定之後，内容是誰創作的，歷史的修改記錄，這些都會被記錄下來。
就相當于給你的影像、視頻打上了一層看不見的水印（ 文本目前暫時還不适用 ）。
這個協定雖說不能防止 AI 作惡，但有了水印之後，至少能反向解決 AI 檢測工具準确率不高的問題。
當你看到某段視頻的時候，到底是 AI 生成，還是人類創作的，一目了然。
C2PA 協定推出之後，已經有部分企業将其集成到了自家的產品當中。
像微軟，就已經在自家的 Bing Image Creator 和 Microsoft Designer 裡裝上了 C2PA 協定，AI 生成的影像都會被标記，并且還會披露出元數據的來源。
當然了，這種加密方法也存在一定的 bug ，那就是需要有足夠多的内容創作者和平台使用這協定，不然也是白搭。
如果想要給平時拍的每一張照片都打上水印，這就需要把協定集成到手機相機裡，又或者，你在 PS 上設計的圖片，也需要平台集成了這個協定才行。
也就是說，C2PA 協定要生效，需要完整的使用鏈條。
可惜的是，目前在協定上，整個互聯網還沒形成統一的共識。
不過最近，來自 MIT 的大佬們，又推出了另外一個叫做 PhotoGuard 的工具。
這跟上邊兒的協定還不太一樣，如果說 C2PA 只是留下水印，那麼 PhotoGuard 的方式就更簡單粗暴了，直接切斷了 AI 生成内容的生路。
原理很簡單，就是利用 PhotoGuard 在原始照片中引入一種幹擾的噪聲得到免疫圖片（ immunize images ），但同時這種噪聲又很難被察覺出來。
當有人想用圖片進行 AI 惡搞時，就會得到一堆馬賽克、或者扭曲的照片。
就比如論文中，原始照片是兩個男人在看打網球，如果沒有加防護，那麼就會被随意更改，比如這樣。
但 PhotoGuard 可以生成一模一樣的免疫照片出來。
如果再有人想用 AI 來惡搞，就會得到一張這樣的照片。
一個是打水印，一個是直接把路封死，要真的跟 AI 詐騙打起來，還不是嘎嘎亂殺？
但問題也出在這，技術有，但是還沒能大規模用起來。
即使有微軟、 Adobe 、 Arm 這些巨頭撐腰， C2PA 協定的大面積鋪開也還需要些時日，更别提剛出來的 PhotoGuard 了。
不過好在，事情還是朝着樂觀的方向在發展。
包括上邊兒提到微軟的兩個工具，還有 Shutterstock 平台，今年陸陸續續都開始用起來了。
照着這勢頭， C2PA 在不久的将來或許大有可為。
況且， C2PA 協定一直都是開源的，這就方便了很多人把協定集成到應用當中。
畢竟， AI 詐騙、灰產肆意橫行的同時，也在反推大家思考如何加快反 AI 詐騙的步伐。
同時呢，像 C2PA 這種打水印的方式，也給 AI 生成内容的版權問題，提供一個解決思路。
對于 AI 生成的内容，大家争論的關鍵點就是不希望自己的作品獻祭給 AI 。
那倘若生成的結果顯示數據來源了，作品收入也會根據來源來抽成，那是不是也可以算作一種新的商業模式？
當然了，這也只是一種假設。
回到反 AI 詐騙本身，技術的進步固然重要，如果相關法規能适時再添一把火，相信也能好好治一治 AI 帶來的這股不良風氣。
不管怎麼說吧，在規範形成之前，咱還是多留個心眼，以後可能眼見也不一定為實咯。
