今天小編分享的科技經驗:AI換臉制作合成圖片:韓國女性受不了了 跑到中國求救,歡迎閱讀。
8 月 24 日當晚,在巴黎郊外的布爾歇機場,剛下私人飛機的帕維爾 · 杜羅夫被法國警方逮捕。
法國官方公布的消息稱,杜羅夫創建的平台缺乏監管,導致了大量包括傳播虛假信息、仇恨言論等在内的犯罪活動。
這個平台有一個在全球網絡上響當當的名字, Telegram ,中國的網友通常稱它為電報。
就在電報創始人杜羅夫進局子沒幾天,離法國半個地球遠的韓國,又出現了一場發生在電報平台上的風暴。
這場風暴在韓國媒體中有個大家十分熟悉的稱呼—— " N 号房 " 。
是的你沒看錯,在韓國, N 号房又雙叒叕來了。
不過和之前的幾次 N 号房事件有所不同,這次事件爆發後,韓國的女性們做了件所有人都意想不到的事,她們來到了中國的社交平台,開始向中國網友求助了。
如果這兩天有刷微博的差友,應該有關注到這件事。
8 月月底,先是一個 ip 顯示在韓國的網友 nosunae-520 發布微博,她自稱是韓國女孩,現在有很多女性受到了 Deepfake 的影響。
據說有很多韓男開始用熟人女性的照片做 AI 換臉,然後戲弄她們,這種事件在學校裡尤其多。女生之間也開始留下删掉自己 ins 的公開照片,但遭到了同校男生嘲諷 " 醜人多作怪 " 。
不久後另一個韓國 ip 自稱是 18 歲韓國女學生的網友,用機翻的方式發了一條類似的微博。
她們的主要目的是想通過這種方式,擴大全球對于 AI 換臉問題的關注度。
至于為啥不在韓國網絡上發聲,而是跑到中國的平台發帖,原因是她們在韓國發帖老被舉報,然後平台就會警告,最後删帖處理。
中國女孩們的行動力也确實強的可怕,為了響應韓國女孩們的号召,她們打算在韓國駐倫敦大使館前組織一場反對偷拍和 Deepfake 的活動。
在推特等平台上,韓國女孩也進行了感謝。
也有韓國的 youtuber 遮得嚴嚴實實,在鏡頭前侃侃而談,認為女性們純粹是在大驚小怪。
這番逆天言論一出,沒過多久,這個人的 youtube 收益就被停了。
就事說事,在中國平台發帖的那兩個網友是不是韓國女性,她們的目的是不是想為自己的現狀争取關注,這個不好确定。
但可以确定的是,那幾條微博裡說的事,真的發生了。
8 月 28 日,韓媒 KBS 對韓國教師教育工作者工會光州地區的工作人員 ??? 進行了采訪,對方稱,對 AI 換臉的恐慌已經蔓延到了學校,僅僅在光州,就有 30-40 多所中學受到了影響,因為學生很容易接觸到類似的技術和社交媒體。
并且這位受訪者給了一個十分誇張的數字:在全球範圍内,有超過一半( 53% )的 Deepfake 性剝削材料,是在韓國生產的,就連小學生都受到了影響。
KBS 主播與受訪者( 右一 )連線
唔,可能大家對于 53% 這個比例沒什麼概念。
這麼說吧,央視在昨天發了條微博,裡邊說韓國教育部門針對深度偽造犯罪問題,對全國校園進行了摸底清查。
結果僅 8 月 27 日、 29 日兩天,就受理了 2500 起舉報,至少涉及 200 所學校。
這還只是舉報的,那些沒敢站出來舉報的,誰也不知道有多少人。
而且請大家注意,以上的數字,還有一個大前提:
在今年 5 月底,韓國就已經爆發過一次 N 号房事件了。當時首爾大學 "N 号房事件 " 的關鍵詞在韓網上引起了廣泛談論,咱國内也火過一圈。
事件的起因是首爾大學的幾個男性校友,在多年時間裡,通過網絡等方式搜集同校女性的照片資料,并通過 Deepfake 技術合成暴露圖片,然後通過電報平台進行傳播,甚至對照片原主人進行戲弄恐吓等。
警方對于電報平台的隐蔽性無能為力,一般都是草草結案,最後基本只能得到個 " 我們會盡力 " 的答復,至于怎麼盡力,那就只有天知道了。
之後提心吊膽的受害者們跑到首爾中央地方檢察廳和首爾高等檢察廳,結果又被駁回。
萬般無奈之下,她們找到了調查過 N 号房事件的 " 追蹤團 · 火花 " 成員袁恩智( 音譯 ),幫助自己進行調查。
袁恩智先是給自己偽造了一個擁有嬌妻的首爾大學畢業中年男的身份,和對方建立了聯系。然後在兩年時間的接觸之後,她逐漸打消了對方的懷疑,開始了進一步的動作。
為了勾引對方現身,她對元兇說我把老婆的内褲給你,然後這幾個被小頭控制大頭的人,就來到了線下,暴露在了攝像頭前。
給首爾大學造成恐慌的幾個兇手,可算是被警方給一鍋端了。
真相浮出水面,大家才知道為啥韓國女性對這事這麼恐慌。
只是五個元兇中的樸某一人,就針對約 48 名包括未成年在内女性受害者制作了 AI 合成的成人内容。他被指控在 2021 年 7 月至今年 4 月期間制作了約 400 個虛假視頻,并傳播了約 1700 個視頻。
幾個深藏在人們身邊的罪犯是被挖出來了,官方該處理也處理過了,可當時我就預測過,這事根本沒完。
那陣子韓國人在網絡上吵翻了天,能留言的地方肯定會有人說國家要完。
事實也證明了,韓國人确實懂韓國。
究其原因, N 号房三個字代表的不是某一事件,而是某一類事件。
第一次 N 号房曝光之後,涉案人員趙博士等人吃牢飯去了,首爾大學 N 号房事件之後,涉案團隊也蹲号子去了,可是你看,現在又一起 N 号房出現了。
光是抓捕兇手是不夠的,重點是犯罪的土壤,似乎從未改變。大家忙着清掃屋子,可就是不願意去看一眼房間裡的大象。
韓國時報報道,那些 Deepfake 的肇事者,根本不怕警方的警告,他們甚至在社交平台吹噓,認為自己不會被抓住,并且嘲笑政府和媒體大驚小怪。
京畿大學犯罪心理學教授李秀貞( Lee Soo-jung )認為,自 2022 年以來,主要是歐洲開始制定對傳播性剝削内容的平台追究責任的法律,但韓國仍然沒有懲罰法規,只有監控。
為啥韓國就老是搞不定這些事呢?因為 telegram 從未回應韓國政府合作調查性犯罪的請求。
于是在現實世界裡,韓國官僚政客和 Deepfake 内容生產者們,似乎達成了一種微妙的平衡。
政客們沒少提各種意見和建議,但最後就是執行不下去, Deepfake 内容生產者們該怎麼玩還是怎麼玩,世界該怎麼爛就怎麼爛。
沉疴還需下猛藥,韓國少一個敢掀桌子,逮捕 telegram 創始人的猛人。
可能已經有人忘了, "N 号房 " 這個名詞的由來了。
當時性剝削的聊天室分别被命名為 "1 号房 " 、 "2 号房 " 。以此類推,這類聊天室被統稱為 N 号房。
N 的背後,是在網絡上泛濫的色情霸凌,也是人性裡無窮無盡的欲望。坐在螢幕前窺視着 N 号房的人,站在絕對支配地位,不受控制的散發出惡意,最後就連自己也習以為常。
這種惡意經過網絡的傳播,就像蟑螂一樣增殖,爬到每一個角落。直到有一天曝光到普通人的視野裡,大家才知道掀開互聯網的一角,裡面遍布充斥着人性腐臭味的賽博蟑螂。
對付蟑螂的最好辦法不是溝通和懷柔,殺蟲劑才是良藥。有些東西就不該出現,殺死蟑螂衝進下水道,它好我也好。