今天小编分享的互联网经验：互联网上到处都是“辣眼睛”的“AI写真”，欢迎阅读。
文 | 听筒 Tech，作者 | 小听，编辑 | 饶言
"AI 很好很强大，但如果在使用的过程中变味，那就值得深思了。"
最近，沉迷 AI 写真的 90 后林姐颇为感叹，她直言，如今，社交平台的各种 AI 写真，颇为 " 辣眼睛 "，" 现在，我只要打开那些社交平台，整个人都难受。"
" 这种难受，是直接的视觉冲击。" 林姐直言，" 直接跳出来的是各种 AI 美女，或行走在‘擦边’上的 AI 帅哥，这和日常想象和见到的 AI 写真相差甚远。一点也不正常，‘辣眼睛’。"
而更普遍的是，打开小红书、抖音等社交平台，运营该类账号的博主，发布的 " 职业装小姐姐系列 "、" 泳装系列 " 等，有的还在内容上打上 " 无不良引导 " 的标签。
这在很多用户看来，简直 " 指鹿为马 "。一位网友甚至表示，" 在社交平台天天高喊严监管，积极构建优质内容生态的今天，自己却仿佛回到了曾经那个看成人网站的年代。"
还有网友表示了强烈的质疑，" 平台对成人内容的放开，是否想过对未成年人的荼毒？"
而于更多的网友而言，他们不止一次对平台感到失望。
小红书重度用户小然就表示，" 每一次内容的扩容，小红书似乎与‘擦边’都会扯上关系。从旅游搭子事件到名媛培训班，再到 AI 应用，形形色色不良引导的内容就没干净过。"
显然，企业目标和内容操作的悖论，这很难让用户理解。
无论平台审核标准是否精细，还是创作者利用了平台机制的灰色地带，亦或整个监管还存在漏洞，在 " 万物 AI" 的时代，用户需要的仅仅是一个干净且高质量的内容生态。
实际上，监管部门对此高度重视。2025 年 3 月 5 日，在十四届全国人大三次会议首场 " 部长通道 " 上，国家市场监督管理总局表示，今年重点整治 " 大数据杀熟 "、" 主播恶意炒作 " 等内容。
或许，平台是时候真正高度重视那些利用 AI 恶意制作的不良内容了。
" 辣眼睛 " 的 AI 内容
林姐是一名 90 后，日常的工作就是新媒体运营，也会在社交平台运营相关内容。在看到平台很多人用 AI 拍写真让 " 老照片复活 "，假装在夏威夷群岛旅游，嵌入多套造型和发型，实现百变造型 " 拍照片 " 后，林姐也想玩一玩 AI。
按照经验，林姐打开社交平台先搜索 AI 拍写真的教程，没想到输入 "AI 写真 " 关键字后，跳出来的页面居然大多数是 "AI 美女 " 和 "AI 帅哥 "。
但让林姐震惊的是，这些左下角标识 " 由 AI 生成 " 的照片，并不是传统意义上的写真。这些内容虽是 AI 合成，但无论男性女性，都衣着暴露，或展示身材，或做不雅举动，整体给人的感觉就是 " 辣眼睛 "。
让林姐尤其不能理解的是，她是初次在社交平台搜 "AI 写真 "，平时也对这类照片完全不感兴趣，何以被大数据推送至该内容？
作为一位赛博原住民，林姐经历了早期互联网内容的野蛮时代。最早，林姐上网，网站随处可见成人内容页面，但她没想到的是，" 都 2025 年了，这些擦边内容依然活跃在大众面前。刷短视频，就像在看那些成人网页。"
习惯逛小红书的小然，对此也深恶痛绝。
小然是一名 00 后，平日喜欢美妆和旅行，由此成为小红书的常客。小然也是一名潮流新科技应用爱好者，在知晓 "AI 写真 " 后，便在小红书率先浏览关于 "AI 写真 " 的博主使用和拍摄心得。
图：社交平台关于 "AI 写真 " 的内容来源：小红书《左》、抖音（右） 《听筒 Tech》截图
" 不看不知道，一看吓一跳。" 搜索 "AI 写真 "，小然的小红书页面瞬间被显露身材的 " 美女 " 和 " 帅哥 " 霸占。
" 他们是非典型性写真。有的图显示‘疑似包含 AI 创作信息’，有‘浴袍’、‘健身 OOTD ’、‘跑马的汉子’等等系列，但内容都直指‘擦边’。" 小然感慨，" 这是小 Hong 书，还是小 Huang 书？"
曾经一度，在 " 旅行搭子 " 盛行的时候，小红书就爆出存在 " 不良引导 " 新闻。小然也曾在小红书找旅游搭子的时候，发现类似案例。
令小然没想到的是，一直将高质量内容作为平台标签的小红书，依然保持原来的样子。尤其是，此前 Tiktok 因受封事件，小红书一度在美登顶下载量第一，一大波海外红人也入驻小红书，连小然都引以为傲地表示，" 不得不说，中国社交应用也算是在海外出息了。"
但如今，一个小小的体验，再次让小然感到失望，" 有些无语，也有些看不上。如果一直保持这样的内容生态水准，没准自己会慢慢逃离这个平台。"
据小然透露，实际上，不仅仅是小红书，在抖音、快手、微信视频号等社交平台，同样存在大量类似的内容。
小然表示，自从在抖音上搜索过 "AI 写真 " 后，他的推荐内容便 " 画风大变 "。如今，小然直呼，他的抖音账号已经完全无法直视，" 我是硬生生地将抖音刷成了青楼。"
快速起号，急于吸金
"AI 疯狂秀肌肉 "，" 真人越来越假，AI 越来越真 "，似乎慢慢成为最贴切的形容。
而运营这些 "AI 美女 " 账号的博主，正在利用擦边吸引力，快速起号并掘金。
在抖音，一些 "AI 美女 " 穿着暴露，在平台不断发布跳舞视频，短短半年就涨粉 100 多万。
据媒体报道，去年，抖音还有一名为 " 小姨妹 " 的博主，每条视频都带不同产品，价格一般在 10 元以内，但封面图却是 AI 生成的美女加上产品介绍，一度收获超 110 万粉丝。
甚至还有博主，将此视为下一个 " 捞偏门 " 的掘金赛道。在抖音，有不少博主一本正经讲解，该 " 如何成为一个 AI 擦边博主 "。
图：社交平台关于 " 如何成为 AI 擦边博主 " 的内容来源：抖音 《听筒 Tech》截图
实际上，在小红书，从 2024 年开始，平台就出现了妆容精致、身材火辣的 AI 写真美女快速起号。这些博主经常发布穿着泳衣在海边度假，或者在时髦的街道拍照的美女照片，点赞量超过几千。
以坐标浙江的某博主为例，其认证 " 设计服务公司 "，服务涉及 " 数字视频和数字写真 "，从 2024 年 3 月开始发布第一条笔记，内容多为擦边，涉及 " 纯欲风 "、" 御姐风 " 等。截至目前，其粉丝超 3.6 万，获赞与收藏超 20 万。
实际上，在平台早期，很多人通过简单的 " 拍一拍、写一写 " 就能收获不错的流量。但随着平台内容生态的逐渐成熟，内容分发机制越来越依赖算法逻辑，而非单纯的运气。
一位小红书运动博主亦向《听筒 Tech（ID:Tingtongtech）》透露，她的内容如果 " 稍微擦点边 "，流量便比正常发布的内容要好。
在该运动博主看来，虽然平台并未承认过 " 擦边内容能够吸流 "，但经过她的多次尝试，至少在她看来，" 擦边的内容，流量远比正常发布的内容要高。"
该运动博主表示，不仅仅是小红书，在抖音、快手、微信视频号等短视频平台，同样存在类似的问题，" 我在这几个短视频平台都尝试过发泳装 AI 短视频，流量非常好。" 但考虑到她的运动 IP 形象，她最终没有走该风格。
一名在社交平台担任运营工作的内部人士也向《听筒 Tech》表示，一般来说，内部生态会给到特定内容的流量支持，在平台的扶持下的快速起号。
上述内部人士表示，" 流量支持的参考标准，包括关键词匹配、兴趣推荐，以及互动和停留时间等不同参考维度。比如，用户的点赞、收藏、评论，以及在笔记上的停留时间，直接决定了内容是否会被推荐给更多人。"
这也造成这样一个误区， 很多人以为爆款内容是 " 随机的 "，但实际上，爆款背后都有清晰的流量逻辑。当然，上述内部人士亦表示，" 刷流 " 也是重要的推流手段。
针对 " 上述野蛮生长的 AI 擦边写真，是否存在一定意义上的扶持 "，上述人士表示，" 这并不好说，但平台的算法问题肯定存在。"
是时候高度重视了
无论是大量擦边 AI 写真内容的存在，还是兜售 AI 擦边生意的卖课行为，这背后都直指一个问题，平台监管存在漏洞。
而这已不是第一次出现。
以小红书为例，在过去的几年里，平台涉黄、违规交易等都曾掀起过舆论焦点。
2020 年 11 月，小红书被曝出推送大尺度美女裸露照片和视频，内容露骨且包含暗示性。2021 年 9 月，央视曝光小红书存在大量泄露未成年人身体隐私的视频。
更广为人知的，2023 年 8 月，一篇题为《小红书 " 旅游搭子费用全包 " 涉黄了》的文章在网上引发轩然大波，称小红书上的旅游搭子笔记，打着 " 找搭子 " 旗号，实则涉及性交易。
尽管，每次小红书都表示将进行调查和处理，但实际效果却并不理想。
即便时间走到 2025 年，面对 TikTok" 面临封禁 " 期间，海量美国用户投向小红书，几乎在一夜之间，小红书平台就出现了大量海外博主擦边信息和照片。
这再次暴露了小红书内容生态监管的薄弱。而彼时，有业内人士表示，小红书真的需要进一步细化审核标准了，以适应不同法律环境下的内容监管要求，避免因内容违规而引发的法律风险。
小红书也不是没有行动。今年 2 月 13 日，小红书官方账号 " 薯管家 " 发布公告，称从去年 12 月至今，治理团队对美妆个护、食品、3C 数码、生活服务等 15 个行业、1695 个存在违规营销行为品牌进行了处罚。
但从目前的情况来看，小红书似乎有点 " 心有余而力不足 "。
而抖音方面，尽管也进行了多次对 " 涉黄 " 等相关内容进行监管，但截至目前，依然无法有效改善平台的生态。
实际上，这种反复出现的问题不仅损害了平台的形象和声誉，更让用户对其信任度大打折扣。尤其是，在监管日益严格的今天，平台如何有效遏制不良内容的传播，仍成为亟待解决的问题。
不过，一位算法工程师告诉《听筒 Tech》，" 实际上，各大主流 App，也都推出了 AI 标识功能，而且也在加强对 AI 图片、视频的审核。但从目前的情况来看，效果一般。尤其是面对越来越先进的 AI 工具，有时连平台也无法真正判别出来。"
当然，对此，国家方面也有了一定的动作。2024 年 9 月，网信办发布了关于《人工智能生成合成内容标识办法（征求意见稿）》征求意见通知，要求平台和服务提供者，对 AI 生成内容明确标识，比如添加水印。
但这仍需要平台端的大力支持。
此前，中国社会科学院大学法学院副教授、互联网法治研究中心主任刘晓春表示，" 为防止平台利用 AI 涉及暴力、侮辱性内容的输出，可采取不同的技术手段。在输出端，服务商应进行筛选和再次审查。"
不过，面对用户的种种质疑，平台的监管力度明显仍有欠缺。至少目前来说，这无法改变用户对平台和整个生态的不信任。
" 你美得像 AI"，对女生来说，这是一种让人难以抗拒的赞美。AI 科技的进步不可逆转，相关应用也确实让人们的生活更美好。
" 但仅从擦边写真方面来看，如果我们或者我们的下一代，仍被各种随处可见的色情内容和低级趣味所喂养，那大概是人类为科技进步和平台的逐利行为，所付出的惨痛的代价。" 小然直言。
" 我们仍期待 AI 向善，不要被恶意利用。" 在小然和林姐看来，" 我们不是批评平台，我们更希望平台能够加强监管，还网友一个真正纯净的空间。"
而这些，都建立在平台、技术、监管部门和整个社会对内容生产保持基本的尊重和敬畏的基础之上。
（文中均为化名。）
