今天小编分享的社会经验：“AI信息污染”成疾？这种情况最严可被封号，欢迎阅读。
编 辑丨王俊
《哪吒 2》员工愿意 996 是因为公司在成都分房、梁文峰在知乎上首次回应 DeepSeek 走红、80 后死亡率突破 5.2% ……类似的信息正在占领互联网。它们看起来有精确的细节，但没有信息来源，仔细搜索后还有明显事实错误。不少此类内容，被指出由 AI 生成。
针对未标识的 "AI 谣言 "，3 月 11 日微博宣布启动治理。微博社区治理官方账号发文称，治理的重点领網域是社会民生、突发事件、科普医疗和个人权益，会对不同情况予以处置。
具体而言，如果账号的单条内容由 AI 生成且未主动标识，微博称会主动打标，提示 " 疑似由 AI 生成 "；如果账号有多条 AI 内容都未标识，会限制流量分发；如果这些内容造成了恶劣影响，则可以禁言乃至封号。
21 记者在 3 月 12 日核查，目前要加上 AI 标识，微博用户需点击内容发布页右下角的 " 公开 " 权限，增加 " 内容声明 "，选择 " 内容由 AI 生成 "。发布后，该微博的时间栏会新增 "AI 生成 " 状态框。
" 我们能够非常直观地看到，AI 技术对内容平台是一把双刃剑。对于创作者来说，AI 可以丰富内容多样性，我们也在工作、生活等各种场合开始尝试用 AI 工具减负增效；但很多用户对新技术掌握不够充分，产出的内容也给站内生态带来了问题，包括滥用 AI 生产的劣质空洞内容、利用 AI 洗稿侵犯他人著作权等等。这些问题既损害了用户体验，又挤压了优秀原创作者的流量，严重损害了创作的公平性。" 该平台一位负责人称，过去一年里，AI 内容给平台带来了很大挑战。
但前述负责人也在会上坦言，过去的治理重点是" 用户能明显感知到的低质 AI 内容 "，现在批量生产、难辨真假的 AI 内容成为新的挑战。
近一年里，已经有不少 "AI 内容农场 " 产业链曝光。2024 年 4 月，陕西西安警方公布了一起 AI 造谣案件：涉案人员通过 " 翠绿笔墨 "AI 写作軟體，将热门社会新闻重新拼凑、替换同义词，并批量生成内容，日均产量高达 19 万篇，流向 6000 多个自媒体账号，以获取平台流量抽成。
2024 年 1 月，南昌一家 MCN 机构因编造 " 西安爆炸 " 事件遭到警方调查。警方评估显示，负责人一共经营了 5 家 MCN 机构，运营账号 842 个，一天能 AI 生成 4000-7000 篇文章，全程基本不需要人工参与。经初步的估算，每天的收入在 1 万元以上。
科技自媒体博主阮一峰曾核算使用某国产大模型 API 批量生成文章的成本，一篇 AI 文章的成本是人民币 0.00138 元，也就是一分钱可以生成七篇文章。AI 的成本之低、生产能力之强，再绑定流量变现的吸引力，可以通过 " 量大管饱 " 的方式迅速冲击互联网内容生态。
为 AI 内容加标识，是目前解决 " 深度伪造 "" 信息污染 " 等问题的主要措施之一，也是国内监管机构着力推进的方向。2023 年 8 月开始实施的《生成式人工智能服务管理暂行办法》要求，AI 服务提供者对图片、视频等内容进行标识。2024 年 9 月，《人工智能生成合成内容标识办法 ( 征求意见稿 ) 》进一步要求，不仅是 AI 提供者，社交传播平台也需要添加明显的 AI 标识，区别 AI 内容和真实内容。
除了微博，抖音、快手、微信、小红书、哔哩哔哩六家国内日活量最大的社交平台，都已要求用户在上传内容时声明是否由 AI 生成。但 21 记者在年初时测试发现，平台里许多明显的 AI 内容并没有相应标识，实际执行效果不尽如人意。微博此次指出，现在的治理难点是技术手段有限、法律滞后、公众认知分歧。接下来，计划结合 AI 检测、人工审核与用户举报机制，加强对未标识 AI 内容的主动识别。
今年 2 月，网信办发布 2025 年 " 清朗 " 系列专项行动通知，指出今年的重点会是整治 AI 技术滥用乱象，强化生成合成内容标识，打击借 AI 技术生成发布虚假信息、实施网络水军行为等问题。
