今天小編分享的科技經驗：困在AI色情視頻裡的K-Pop女明星，歡迎閱讀。
韓娛公司，正在反擊 AI 作惡。
上周，韓國娛樂公司 HYBE 宣布，将與京畿北道警察局合作，共同打擊以 HYBE 藝人為對象的深度偽造内容。
HYBE 與 NGPPA 籤署了一份協定，明确了合作細節，包括加快相關案件的調查進程，并在韓國設立舉報熱線，方便公眾報告相關犯罪活動。同時，HYBE 也宣布加強對深度偽造内容的監控和處理，尤其是在色情内容方面，将專門設立響應機制，盡快采取行動。
去年 9 月，韓國娛樂公司 JYP、YG 和 Cube 也向使用其 K-pop 藝人影像創建的深度偽造視覺内容宣戰。YG 指出，包括 ( G ) I-dle、NewJeans、Twice、Kwon Eun-bi 和 BlackPink 等知名 K-Pop 女子組合都是深度偽造内容的受害者中的冰山一角。
近年來，深度偽造内容泛濫已成為全球關注的焦點，尤其是針對娛樂行業的惡意攻擊。那麼，為什麼深度偽造技術會集中盯上 K-Pop 圈？背後隐藏着怎樣的惡趣味？
困在 AI 色情視頻裡的女明星
深度偽造是一種人工智能技術，依賴深度學習技術，尤其是生成對抗網絡，來生成或篡改影像和視頻。其中，GAN 由生成器和判别器組成，通過兩者不斷地對抗和博弈，生成器逐漸學會生成更加逼真的虛假内容，直到能夠以假亂真。
借助深度偽造，可以把一個人的臉、聲音、動作換到另一個視頻或圖片上，讓它看起來像是真實發生的事情，比如讓某人 " 說 " 他從未說過的話，或者 " 做 " 他從未做過的事情。
而在韓國娛樂行業，許多女明星的形象被不法分子用來制作惡搞、色情等有害内容，嚴重侵害了藝人的隐私和名譽。
美國網絡安全公司 Home Security Heroes 的一份報告顯示，在互聯網所有深度偽造視頻中，幾乎 98% 是深度偽造色情視頻，前 10 個專門用于深度偽造色情内容的網站上，視頻總訪問量超過 3 億次，總觀看次數超過 3000 萬。
報告還指出，94% 的深度偽造色情内容都發生在娛樂業，其中歌手、演員分别以 58%、33% 占據大頭。在深度偽造的色情内容中，99% 的受害者是女性，僅 1% 為男性。
而在 10 個深度偽造色情網站和 85 個視頻共享平台上的近 9.6 萬個視頻中，53% 的人是韓國歌手和演員。
在海外社交媒體 Reddit 上，有網友指出，當搜索 "K-Pop" 相關的關鍵詞時，跳出的熱門 subreddit 幾乎都是 18 禁的話題，評論簡直令人作嘔。
當前，深度偽造的色情内容已經蔓延到各種在線社交平台。其中，曾引發韓國惡性集體性犯罪 "N 号房事件 " 的閱後即焚 APP Telegram 就是重災區，甚至有人将其命名為 " 新 N 号房事件 "。
去年 8 月，韓國女性民友會發布一組報告，指出在社交平台 Telegram 的聊天群組中，只需上傳熟人照片，付費後 5 秒鍾内就能生成不雅合成圖。令人震驚的是，這個聊天群的參與人數高達 22.7 萬。
更惡心的是，一些深度偽造網站甚至列出了來自幾乎每一代 K-Pop 的 200 多名女性偶像的名字，包括多個第五代 K-Pop 團體的成員。
去年，YG 旗下女團 BABYMONSTER 的粉絲群體在社交平台上發聲，呼籲粉絲暫時放下飯圈紛争，共同保護女藝人。他們強調，大家無論支持哪個團體，現在都應團結一致，堅決反對深度偽造色情内容的行為，今天的受害者是她們，明天可能就是其他人。尤其是 BABYMONSTER 的 7 名成員中，有 4 人仍是未成年人，這足以說明問題的嚴重性。
今年 1 月，韓國娛樂公司 Starship 因工作人員重大失誤，官方微博轉發了公司旗下 K-Pop 女子團體 IVE 成員張元英、安宥真的深度偽造内容。
盡管經紀公司、粉絲群體、網友都對深度偽造内容痛斥不已，紛紛敦促相關部門迅速采取法律行動來保護受害者，并追究責任人，但深度偽造内容對女藝人的傷害卻難以完全遏制，它不僅是技術濫用的惡果，更是長期以來數字空間中性别暴力與隐私侵害問題的縮影。
目前，韓國政府和相關機構在輿論壓力下，已加快立法進程，以更嚴厲的法律打擊深度偽造色情内容的制作和傳播。
深度偽造為何盯上 K-Pop 女明星？
可以說，技術的低門檻、藝人的高曝光、社會對女性偶像的物化、法律的滞後，種種因素交織，共同催生了這場韓娛生态中的 " 數字性侵 "。
有報道顯示，在韓國，涉及深度偽造的色情案件從 2022 年的 3725 起激增到 2023 年的 21019 起。
盡管根據《關于處罰性犯罪的特殊案件法》，參與編輯、合成或處理深度偽造色情内容的個人将面臨最高五年的監禁或 5000 萬韓元的罰款，以營利為目的傳播此類内容的發布者最高可被判處 7 年監禁。
然而，在 2020 年至 2023 年韓國對深度偽造犯罪做出的 71 項裁決中，只有 4 起案件僅因深度偽造犯罪而被判處監禁。目前還沒有針對下載或觀看深度偽造色情内容的法律。
這意味着，現行法律只針對深度偽造色情内容的制作和傳播者進行處罰，而觀看或持有這些内容的人卻不受法律約束。這種法律漏洞使得 " 觀眾 " 可以毫無顧忌地浏覽相關内容，進一步助長了非法市場的需求，也使受害者更難獲得有效的法律保護。
根據 Home Security Heroes 統計，10 大最常被深度偽造色情内容攻擊的數據統計中，大部分受害者都是韓國歌手，其中一位歌手的視頻數量高達 1595 個，而另一位韓國歌手的深度偽造視頻觀看量超過了 561 萬。
2017 年，在一個名為 DeepFake 的 Reddit 用戶出現，偽造出了一系列女性色情電影，後來，這個詞的含義逐漸擴大，不僅包括他制作的換臉視頻，還指各種利用 AI 技術生成的合成内容。随後，開源工具如 DeepFaceLab 和 Faceswap 相繼發布，使得用戶能夠更容易地創建深度偽造内容。
當下，深度偽造内容不再是一個高門檻的技術挑戰，幾乎任何人都能輕松、高效地制作出逼真的虛假内容。從操作難度來看，目前只需一台手機就足以制作出 AI 換臉内容，用戶只需要提供素材并簡單調整，技術本身就會完成大部分工作。
而 K-Pop 產業在全球範圍内的廣泛傳播，尤其是韓國女歌手通過社交媒體與粉絲的緊密互動，創造了極高的曝光度。這種高度可見性使得她們的形象成為了深度偽造内容的理想素材。
去年 3 月，K-Pop 女子團體 ITZY 成員黃禮志在一次粉絲連線活動中，意外地看到了一段自己的深度偽造的跳舞視頻。當時，黃禮志的表情顯然有些難以招架，既高興又有些困惑，只能尴尬地模仿起視頻中的舞蹈動作。盡管這段視頻表面上似乎并無惡意，但事後，許多人表示，觀看這段視頻讓人感到 " 毛骨悚然 "。
如今，偶像的每一個動作、每一個表情都可能成為被惡意利用的對象。任何人只需借助技術手段，就能利用公開的藝人影像、物料，制作出極為逼真的偽造視頻。這些偽造的視頻不僅可能被推向公共平台，也有可能被洩露到私密場合，給偶像帶來無法預見的困擾和傷害。
另一方面，韓國社會對女性偶像的極度關注和物化，加劇了這種侵犯的普遍性。
在傳統的性别文化中，女性往往被視為視覺消費的對象，尤其是年輕的女歌手，她們的形象和形态經常被放大、審視和評價，使得這些女明星成為了深度偽造内容的高頻目标。對她們進行深度偽造不僅能夠迅速吸引眼球，其社會影響力也使得這些内容具備了更高的傳播價值。
而且，大多數觀看深度偽造色情的男性并不認為這種行為有道德問題。
以 Home Security Heroes 的 1522 名美國男性受訪者為例，74% 的人對深度偽造色情内容沒有罪惡感，其中 " 我知道這不是真人。"" 只是我個人興趣，這不會傷害任何人。"" 深度偽造色情只是更逼真的性幻想。"" 深度偽造色情和普通色情沒有太大區别。"。
其背後的邏輯，他們或是受名人吸引力驅使，或是 " 幻想滿足 "，希望獲得更個性化、定制化的成人娛樂體驗，卻無視了基本道德界限，抱着輕視女性尊嚴的态度，這讓深度偽造色情在道德和法律的空白地帶肆意泛濫，進一步加深了對女性藝人的傷害與物化。
而對于經紀公司而言，考慮到影像的殘留與輿論的烙印在互聯網難以抹去，甚至可能成為二次網絡暴力的導火索。大多時候沒有辦法透露深度偽造色情案件的具體細節，這也讓外界難以全面了解案件的嚴重性和受害者所經歷的困境。
由此可見，K-pop 女明星成為深度偽造内容的高危群體，其背後既有深度偽造技術的隐蔽性與低門檻，也折射出部分男性對女性的輕視。
可以說，K-pop 產業高度的全球曝光度與對偶像形象的極致塑造，使得女藝人不僅是商業符号，更成為公眾欲望的投射對象。再加上法律體系在應對這一新興問題時的滞後，讓女性藝人淪為網絡上的玩偶，随時可以被任何人肆意操控、貶低，甚至肆無忌憚地消耗。
當技術成為 " 賽博照妖鏡 "
一個更恐怖的事實是，不僅在韓國，根據去年 3 月英國《衛報》報道，在歐洲 5 個訪問量最大的深度偽造内容網站上，有近 4000 位明星被 AI 換臉成色情内容的主角，5 個網站三個月的浏覽量就達到了 1 億次。受害者包括女演員、電視明星、音樂家和 YouTube 網紅。
去年年初，Taylor Swift 的深度偽造色情圖片也曾在 X 上廣泛傳播，在平台而且被累計浏覽超 4700 萬次。據相關統計顯示，當時全網已有超過 9500 個網站 " 專門制作非自願親密影像 "。最終， X 一度封鎖了對斯威夫特的相關搜索，以遏制這些虛假内容的傳播。
而國内，也出現了深度偽造的相關案件，且受害者并不限于女明星，更有你我這樣的普通人。
2020 年，虞某一邊通過傳播換臉的淫穢視頻來 " 吸粉引流 "，同時通過出售 "AI 換臉 " 軟體和提供所謂 "AI 換臉 " 的私人定制服務，在不到半年的時間裡就獲利數萬元。2023 年 11 月，杭州市蕭山區人民法院判決虞某犯制作、傳播淫穢物品牟利罪，判處有期徒刑七年三個月，并處罰金 6 萬元。這也是我國首例關于 "AI 換臉 " 侵犯公民個人信息公益訴訟案的審理判決。
國内在此類案件的處理中，該封号的封号，該處罰的處罰，但利益、欲望似乎總是先于規則，而法律的步伐卻往往滞後于技術變革。面對技術濫用的新型挑戰，" 以技術對抗技術 " 正成為重要的應對策略。
比如，去年推出的榮耀 Magic7 系列推出手機行業首個端側 AI 反詐檢測技術，可在手機端識别内容是否存在 AI 換臉的風險。該技術還獲得了 2024 年中國網絡安全創新創業大賽最具投資價值獎。
當然，平台的責任也不應該僅僅是 " 亡羊補牢 "，否則，規則再完善，也只是落後于人性弱點的一紙空文，既攔不住逐利的黑產，也保護不了受害者的尊嚴。
社交平台上，依然有大量不法分子在非法網站上傳不少女藝人的相關深度偽造視頻内容，一些交易平台的商家不過是換了張面孔，便在規則的夾縫中繼續遊刃有餘。
近年來，國内雖然在相關立法方面有關注這一議題，但已出台的規章制度還不具備可操作的細則和明确的處罰标準。在今年 3 月全國兩會上，全國人大代表，TCL 創始人、董事長李東生也提出了關于加強 AI 深度偽造欺詐管理的建議。
近幾年，" 技術無善惡，但卻有邊界 " 類似的話術，幾乎成為每一篇關于技術濫用的報道中的口号。但技術無法為道德缺失填坑，每一幀都是施暴者的主動選擇，不是算法自作主張。
當技術成為了一部分人的 " 賽博照妖鏡 "，或許我們更需要的不僅僅是更鋒利的監管刀刃，也需要一場全民的精神覺醒。數字世界的 " 不要臉 "，本質是現實人格的徹底潰爛。
