今天小編分享的互聯網經驗：互聯網上到處都是“辣眼睛”的“AI寫真”，歡迎閱讀。
文 | 聽筒 Tech，作者 | 小聽，編輯 | 饒言
"AI 很好很強大，但如果在使用的過程中變味，那就值得深思了。"
最近，沉迷 AI 寫真的 90 後林姐頗為感嘆，她直言，如今，社交平台的各種 AI 寫真，頗為 " 辣眼睛 "，" 現在，我只要打開那些社交平台，整個人都難受。"
" 這種難受，是直接的視覺衝擊。" 林姐直言，" 直接跳出來的是各種 AI 美女，或行走在‘擦邊’上的 AI 帥哥，這和日常想象和見到的 AI 寫真相差甚遠。一點也不正常，‘辣眼睛’。"
而更普遍的是，打開小紅書、抖音等社交平台，運營該類賬号的博主，發布的 " 職業裝小姐姐系列 "、" 泳裝系列 " 等，有的還在内容上打上 " 無不良引導 " 的标籤。
這在很多用戶看來，簡直 " 指鹿為馬 "。一位網友甚至表示，" 在社交平台天天高喊嚴監管，積極構建優質内容生态的今天，自己卻仿佛回到了曾經那個看成人網站的年代。"
還有網友表示了強烈的質疑，" 平台對成人内容的放開，是否想過對未成年人的荼毒？"
而于更多的網友而言，他們不止一次對平台感到失望。
小紅書重度用戶小然就表示，" 每一次内容的擴容，小紅書似乎與‘擦邊’都會扯上關系。從旅遊搭子事件到名媛培訓班，再到 AI 應用，形形色色不良引導的内容就沒幹淨過。"
顯然，企業目标和内容操作的悖論，這很難讓用戶理解。
無論平台審核标準是否精細，還是創作者利用了平台機制的灰色地帶，亦或整個監管還存在漏洞，在 " 萬物 AI" 的時代，用戶需要的僅僅是一個幹淨且高質量的内容生态。
實際上，監管部門對此高度重視。2025 年 3 月 5 日，在十四屆全國人大三次會議首場 " 部長通道 " 上，國家市場監督管理總局表示，今年重點整治 " 大數據殺熟 "、" 主播惡意炒作 " 等内容。
或許，平台是時候真正高度重視那些利用 AI 惡意制作的不良内容了。
" 辣眼睛 " 的 AI 内容
林姐是一名 90 後，日常的工作就是新媒體運營，也會在社交平台運營相關内容。在看到平台很多人用 AI 拍寫真讓 " 老照片復活 "，假裝在夏威夷群島旅遊，嵌入多套造型和發型，實現百變造型 " 拍照片 " 後，林姐也想玩一玩 AI。
按照經驗，林姐打開社交平台先搜索 AI 拍寫真的教程，沒想到輸入 "AI 寫真 " 關鍵字後，跳出來的頁面居然大多數是 "AI 美女 " 和 "AI 帥哥 "。
但讓林姐震驚的是，這些左下角标識 " 由 AI 生成 " 的照片，并不是傳統意義上的寫真。這些内容雖是 AI 合成，但無論男性女性，都衣着暴露，或展示身材，或做不雅舉動，整體給人的感覺就是 " 辣眼睛 "。
讓林姐尤其不能理解的是，她是初次在社交平台搜 "AI 寫真 "，平時也對這類照片完全不感興趣，何以被大數據推送至該内容？
作為一位賽博原住民，林姐經歷了早期互聯網内容的野蠻時代。最早，林姐上網，網站随處可見成人内容頁面，但她沒想到的是，" 都 2025 年了，這些擦邊内容依然活躍在大眾面前。刷短視頻，就像在看那些成人網頁。"
習慣逛小紅書的小然，對此也深惡痛絕。
小然是一名 00 後，平日喜歡美妝和旅行，由此成為小紅書的常客。小然也是一名潮流新科技應用愛好者，在知曉 "AI 寫真 " 後，便在小紅書率先浏覽關于 "AI 寫真 " 的博主使用和拍攝心得。
圖：社交平台關于 "AI 寫真 " 的内容來源：小紅書《左》、抖音（右） 《聽筒 Tech》截圖
" 不看不知道，一看吓一跳。" 搜索 "AI 寫真 "，小然的小紅書頁面瞬間被顯露身材的 " 美女 " 和 " 帥哥 " 霸占。
" 他們是非典型性寫真。有的圖顯示‘疑似包含 AI 創作信息’，有‘浴袍’、‘健身 OOTD ’、‘跑馬的漢子’等等系列，但内容都直指‘擦邊’。" 小然感慨，" 這是小 Hong 書，還是小 Huang 書？"
曾經一度，在 " 旅行搭子 " 盛行的時候，小紅書就爆出存在 " 不良引導 " 新聞。小然也曾在小紅書找旅遊搭子的時候，發現類似案例。
令小然沒想到的是，一直将高質量内容作為平台标籤的小紅書，依然保持原來的樣子。尤其是，此前 Tiktok 因受封事件，小紅書一度在美登頂下載量第一，一大波海外紅人也入駐小紅書，連小然都引以為傲地表示，" 不得不說，中國社交應用也算是在海外出息了。"
但如今，一個小小的體驗，再次讓小然感到失望，" 有些無語，也有些看不上。如果一直保持這樣的内容生态水準，沒準自己會慢慢逃離這個平台。"
據小然透露，實際上，不僅僅是小紅書，在抖音、快手、微信視頻号等社交平台，同樣存在大量類似的内容。
小然表示，自從在抖音上搜索過 "AI 寫真 " 後，他的推薦内容便 " 畫風大變 "。如今，小然直呼，他的抖音賬号已經完全無法直視，" 我是硬生生地将抖音刷成了青樓。"
快速起号，急于吸金
"AI 瘋狂秀肌肉 "，" 真人越來越假，AI 越來越真 "，似乎慢慢成為最貼切的形容。
而運營這些 "AI 美女 " 賬号的博主，正在利用擦邊吸引力，快速起号并掘金。
在抖音，一些 "AI 美女 " 穿着暴露，在平台不斷發布跳舞視頻，短短半年就漲粉 100 多萬。
據媒體報道，去年，抖音還有一名為 " 小姨妹 " 的博主，每條視頻都帶不同產品，價格一般在 10 元以内，但封面圖卻是 AI 生成的美女加上產品介紹，一度收獲超 110 萬粉絲。
甚至還有博主，将此視為下一個 " 撈偏門 " 的掘金賽道。在抖音，有不少博主一本正經講解，該 " 如何成為一個 AI 擦邊博主 "。
圖：社交平台關于 " 如何成為 AI 擦邊博主 " 的内容來源：抖音 《聽筒 Tech》截圖
實際上，在小紅書，從 2024 年開始，平台就出現了妝容精致、身材火辣的 AI 寫真美女快速起号。這些博主經常發布穿着泳衣在海邊度假，或者在時髦的街道拍照的美女照片，點贊量超過幾千。
以坐标浙江的某博主為例，其認證 " 設計服務公司 "，服務涉及 " 數字視頻和數字寫真 "，從 2024 年 3 月開始發布第一條筆記，内容多為擦邊，涉及 " 純欲風 "、" 御姐風 " 等。截至目前，其粉絲超 3.6 萬，獲贊與收藏超 20 萬。
實際上，在平台早期，很多人通過簡單的 " 拍一拍、寫一寫 " 就能收獲不錯的流量。但随着平台内容生态的逐漸成熟，内容分發機制越來越依賴算法邏輯，而非單純的運氣。
一位小紅書運動博主亦向《聽筒 Tech（ID:Tingtongtech）》透露，她的内容如果 " 稍微擦點邊 "，流量便比正常發布的内容要好。
在該運動博主看來，雖然平台并未承認過 " 擦邊内容能夠吸流 "，但經過她的多次嘗試，至少在她看來，" 擦邊的内容，流量遠比正常發布的内容要高。"
該運動博主表示，不僅僅是小紅書，在抖音、快手、微信視頻号等短視頻平台，同樣存在類似的問題，" 我在這幾個短視頻平台都嘗試過發泳裝 AI 短視頻，流量非常好。" 但考慮到她的運動 IP 形象，她最終沒有走該風格。
一名在社交平台擔任運營工作的内部人士也向《聽筒 Tech》表示，一般來說，内部生态會給到特定内容的流量支持，在平台的扶持下的快速起号。
上述内部人士表示，" 流量支持的參考标準，包括關鍵詞匹配、興趣推薦，以及互動和停留時間等不同參考維度。比如，用戶的點贊、收藏、評論，以及在筆記上的停留時間，直接決定了内容是否會被推薦給更多人。"
這也造成這樣一個誤區， 很多人以為爆款内容是 " 随機的 "，但實際上，爆款背後都有清晰的流量邏輯。當然，上述内部人士亦表示，" 刷流 " 也是重要的推流手段。
針對 " 上述野蠻生長的 AI 擦邊寫真，是否存在一定意義上的扶持 "，上述人士表示，" 這并不好說，但平台的算法問題肯定存在。"
是時候高度重視了
無論是大量擦邊 AI 寫真内容的存在，還是兜售 AI 擦邊生意的賣課行為，這背後都直指一個問題，平台監管存在漏洞。
而這已不是第一次出現。
以小紅書為例，在過去的幾年裡，平台涉黃、違規交易等都曾掀起過輿論焦點。
2020 年 11 月，小紅書被曝出推送大尺度美女裸露照片和視頻，内容露骨且包含暗示性。2021 年 9 月，央視曝光小紅書存在大量洩露未成年人身體隐私的視頻。
更廣為人知的，2023 年 8 月，一篇題為《小紅書 " 旅遊搭子費用全包 " 涉黃了》的文章在網上引發軒然大波，稱小紅書上的旅遊搭子筆記，打着 " 找搭子 " 旗号，實則涉及性交易。
盡管，每次小紅書都表示将進行調查和處理，但實際效果卻并不理想。
即便時間走到 2025 年，面對 TikTok" 面臨封禁 " 期間，海量美國用戶投向小紅書，幾乎在一夜之間，小紅書平台就出現了大量海外博主擦邊信息和照片。
這再次暴露了小紅書内容生态監管的薄弱。而彼時，有業内人士表示，小紅書真的需要進一步細化審核标準了，以适應不同法律環境下的内容監管要求，避免因内容違規而引發的法律風險。
小紅書也不是沒有行動。今年 2 月 13 日，小紅書官方賬号 " 薯管家 " 發布公告，稱從去年 12 月至今，治理團隊對美妝個護、食品、3C 數碼、生活服務等 15 個行業、1695 個存在違規營銷行為品牌進行了處罰。
但從目前的情況來看，小紅書似乎有點 " 心有餘而力不足 "。
而抖音方面，盡管也進行了多次對 " 涉黃 " 等相關内容進行監管，但截至目前，依然無法有效改善平台的生态。
實際上，這種反復出現的問題不僅損害了平台的形象和聲譽，更讓用戶對其信任度大打折扣。尤其是，在監管日益嚴格的今天，平台如何有效遏制不良内容的傳播，仍成為亟待解決的問題。
不過，一位算法工程師告訴《聽筒 Tech》，" 實際上，各大主流 App，也都推出了 AI 标識功能，而且也在加強對 AI 圖片、視頻的審核。但從目前的情況來看，效果一般。尤其是面對越來越先進的 AI 工具，有時連平台也無法真正判别出來。"
當然，對此，國家方面也有了一定的動作。2024 年 9 月，網信辦發布了關于《人工智能生成合成内容标識辦法（征求意見稿）》征求意見通知，要求平台和服務提供者，對 AI 生成内容明确标識，比如添加水印。
但這仍需要平台端的大力支持。
此前，中國社會科學院大學法學院副教授、互聯網法治研究中心主任劉曉春表示，" 為防止平台利用 AI 涉及暴力、侮辱性内容的輸出，可采取不同的技術手段。在輸出端，服務商應進行篩選和再次審查。"
不過，面對用戶的種種質疑，平台的監管力度明顯仍有欠缺。至少目前來說，這無法改變用戶對平台和整個生态的不信任。
" 你美得像 AI"，對女生來說，這是一種讓人難以抗拒的贊美。AI 科技的進步不可逆轉，相關應用也确實讓人們的生活更美好。
" 但僅從擦邊寫真方面來看，如果我們或者我們的下一代，仍被各種随處可見的色情内容和低級趣味所喂養，那大概是人類為科技進步和平台的逐利行為，所付出的慘痛的代價。" 小然直言。
" 我們仍期待 AI 向善，不要被惡意利用。" 在小然和林姐看來，" 我們不是批評平台，我們更希望平台能夠加強監管，還網友一個真正純淨的空間。"
而這些，都建立在平台、技術、監管部門和整個社會對内容生產保持基本的尊重和敬畏的基礎之上。
（文中均為化名。）
