今天小編分享的社會經驗：“AI信息污染”成疾？這種情況最嚴可被封号，歡迎閱讀。
編 輯丨王俊
《哪吒 2》員工願意 996 是因為公司在成都分房、梁文峰在知乎上首次回應 DeepSeek 走紅、80 後死亡率突破 5.2% ……類似的信息正在占領互聯網。它們看起來有精确的細節，但沒有信息來源，仔細搜索後還有明顯事實錯誤。不少此類内容，被指出由 AI 生成。
針對未标識的 "AI 謠言 "，3 月 11 日微博宣布啟動治理。微博社區治理官方賬号發文稱，治理的重點領網域是社會民生、突發事件、科普醫療和個人權益，會對不同情況予以處置。
具體而言，如果賬号的單條内容由 AI 生成且未主動标識，微博稱會主動打标，提示 " 疑似由 AI 生成 "；如果賬号有多條 AI 内容都未标識，會限制流量分發；如果這些内容造成了惡劣影響，則可以禁言乃至封号。
21 記者在 3 月 12 日核查，目前要加上 AI 标識，微博用戶需點擊内容發布頁右下角的 " 公開 " 權限，增加 " 内容聲明 "，選擇 " 内容由 AI 生成 "。發布後，該微博的時間欄會新增 "AI 生成 " 狀态框。
" 我們能夠非常直觀地看到，AI 技術對内容平台是一把雙刃劍。對于創作者來說，AI 可以豐富内容多樣性，我們也在工作、生活等各種場合開始嘗試用 AI 工具減負增效；但很多用戶對新技術掌握不夠充分，產出的内容也給站内生态帶來了問題，包括濫用 AI 生產的劣質空洞内容、利用 AI 洗稿侵犯他人著作權等等。這些問題既損害了用戶體驗，又擠壓了優秀原創作者的流量，嚴重損害了創作的公平性。" 該平台一位負責人稱，過去一年裡，AI 内容給平台帶來了很大挑戰。
但前述負責人也在會上坦言，過去的治理重點是" 用戶能明顯感知到的低質 AI 内容 "，現在批量生產、難辨真假的 AI 内容成為新的挑戰。
近一年裡，已經有不少 "AI 内容農場 " 產業鏈曝光。2024 年 4 月，陝西西安警方公布了一起 AI 造謠案件：涉案人員通過 " 翠綠筆墨 "AI 寫作軟體，将熱門社會新聞重新拼湊、替換同義詞，并批量生成内容，日均產量高達 19 萬篇，流向 6000 多個自媒體賬号，以獲取平台流量抽成。
2024 年 1 月，南昌一家 MCN 機構因編造 " 西安爆炸 " 事件遭到警方調查。警方評估顯示，負責人一共經營了 5 家 MCN 機構，運營賬号 842 個，一天能 AI 生成 4000-7000 篇文章，全程基本不需要人工參與。經初步的估算，每天的收入在 1 萬元以上。
科技自媒體博主阮一峰曾核算使用某國產大模型 API 批量生成文章的成本，一篇 AI 文章的成本是人民币 0.00138 元，也就是一分錢可以生成七篇文章。AI 的成本之低、生產能力之強，再綁定流量變現的吸引力，可以通過 " 量大管飽 " 的方式迅速衝擊互聯網内容生态。
為 AI 内容加标識，是目前解決 " 深度偽造 "" 信息污染 " 等問題的主要措施之一，也是國内監管機構着力推進的方向。2023 年 8 月開始實施的《生成式人工智能服務管理暫行辦法》要求，AI 服務提供者對圖片、視頻等内容進行标識。2024 年 9 月，《人工智能生成合成内容标識辦法 ( 征求意見稿 ) 》進一步要求，不僅是 AI 提供者，社交傳播平台也需要添加明顯的 AI 标識，區别 AI 内容和真實内容。
除了微博，抖音、快手、微信、小紅書、哔哩哔哩六家國内日活量最大的社交平台，都已要求用戶在上傳内容時聲明是否由 AI 生成。但 21 記者在年初時測試發現，平台裡許多明顯的 AI 内容并沒有相應标識，實際執行效果不盡如人意。微博此次指出，現在的治理難點是技術手段有限、法律滞後、公眾認知分歧。接下來，計劃結合 AI 檢測、人工審核與用戶舉報機制，加強對未标識 AI 内容的主動識别。
今年 2 月，網信辦發布 2025 年 " 清朗 " 系列專項行動通知，指出今年的重點會是整治 AI 技術濫用亂象，強化生成合成内容标識，打擊借 AI 技術生成發布虛假信息、實施網絡水軍行為等問題。
