今天小編分享的财經經驗：當AI開始制造假新聞，歡迎閱讀。
假作真時真亦假。
文 | 楊睿琦
" 頂流男星豪賭 10 億 "" 路易吉自殺 "" 梅西去世 "，這些都是近期流傳在網上的 " 新聞 "。
與其叫它們 " 新聞 "，不如叫 "AI 幻想碎片 "。近些年來，随着人工智能的快速發展，生成式内容得到越來越多人的關注。
用 AI 生成 " 新聞 "，成了最近大家的新樂子，不少網友開始嘗試自己生成相關内容并進行傳播。
" 頂流男星豪賭 10 億 " 就來自某網友手筆，該網友使用 AI 軟體輸入社會熱點詞，制作了标題為‘頂流明星被曝境外豪賭輸光十億身價引發輿論海嘯’的謠言信息，并在小紅書、微博等社交平台迅速擴散，目前已被處以行政拘留 8 日處罰。
（圖源：微博）
其實使用 AI 助力新聞生產不是新鮮事。早在十年前新華社就開發了自己的第一位機器人記者 " 快筆小新 "。它可以 7×24 小時不間斷工作，更可以跨越條線，原本需要編輯記者們 15～30 分鍾完成的稿件，" 快筆小新 " 只需要 3～5 秒鍾就能完成。
國外媒體如 BBC、紐約時報等媒體也都将 AI 納入新聞生產過程。但用 AI 助力新聞生產與用 AI 生成新聞是兩碼事。
由于當前語言類 AI 還是抓取語料進行生成，不少網友的自發内容也會被 AI 識别為 " 資料 "，從而生成一些看似真實，實際根本沒有發生的 " 新聞 "。
更值得注意的是，這些由 AI 生成的假新聞正成為内容循環的源頭，也就是說用戶用 AI 生成内容進行發布，其他用戶進行相關提問，AI 會再次抓取這些内容反饋給用戶。
當新聞有一天也可以被 " 生成 "，它将帶來什麼，又将消解什麼？帶着這些問題，毒眸與多位媒體行業、AI 行業以及互聯網行業從業者展開對話。
在 AI 席卷而來的當下，我們更需要厘清，真實與虛幻的邊界。
頂流男星的謠言
" 哇，是林俊傑還是周傑倫啊？玩這麼大！"
三月初，一則内容為 " 某超一線男星在澳門永利皇宮賭場貴賓廳連賭七日 " 的消息在網絡瘋傳。這則消息據稱 " 經權威渠道确認 "，由國際金融調查機構 Global Financial Watch 于 3 月 10 日發布的跨境資金異常流動曝光。
信息顯示，該位 " 頂流男星 " 七日豪賭輸盡 10.3 億元流動資產，抵押三處豪宅及私人飛機，為翻本還向澳門黑幫借貸 3 億元。
網友吃瓜熱情被迅速點燃，相關帖子開始在微博、小紅書、豆瓣、知乎等社交平台大肆傳播，林俊傑、周傑倫等 " 頂流男星 " 都被提及，甚至還有網友跑到黃曉明微博下方求證是否輸了十億，得到對方 " 歡樂豆嗎？" 的回答。
（圖源：@黃曉明）
這條消息還釋出了相當多的細節，諸如該男明星輸掉的 10 億分為離岸公司轉入 8.6 億，以及地下錢莊兌換 1.7 億港元現金籌碼；其内地經紀公司還在 3 月 9 日深夜發布聲明承認其存在 " 個人财務問題 "，兩棟被抵押的豪宅分别是位于北京朝陽區 2.8 億元的獨棟别墅以及上海陸家嘴的頂級公寓。
眼見各位被猜測的男明星們都默不作聲，輿論風波愈演愈烈，越來越多的男明星被網友列入 " 可能名單 "。就在網友們猜的不亦樂乎之際，公安部網安部門發布通告，原來這條看起來有鼻子有眼的網絡消息，竟然是 AI 生成的假新聞。
（圖源：@人民日報）
公安部通告稱，" 網民徐某強（男，36 歲）為博取流量、謀取非法利益，于 2025 年 3 月 10 日 10 時，使用軟體 " 某書 " 中 AI 智慧生成功能，輸入社會熱點詞制作了标題為‘頂流明星被曝境外豪賭輸光十億身價引發輿論海嘯’的謠言，公安機關根據相關法律法規，已對徐某強處以行政拘留 8 日處罰。"
無獨有偶，在震驚韓國的金秀賢金賽綸事件中，也有 AI 假新聞的身影。
3 月 12 日，微博名為 " 戀輿智 " 的網友發布微博，稱金秀賢在金賽綸頭七當天（2025 年 3 月 12 日前後）通過粉絲互動平台 Bubble 發布動态，曬出粉絲禮物，并稱 " 不愧是超級 chill 的我 "。
（圖源：@戀輿智）
這條消息沒有引起 " 頂流男星豪賭輸 10 億 " 如此大的輿論風波，但也燃起不少中國網友的義憤之情。由于金賽綸與金秀賢此前戀愛六年，金秀賢涉嫌 " 戀童癖 "，金賽綸又在男方生日當天選擇自殺，讓這條消息也開始快速擴散。
但仔細分析此條微博，就會發現金賽綸去世日期為 2 月 16 日，頭七不管按照中韓哪一國家的習俗計算，都不應該是 3 月 12 日。
和 " 頂流男星豪賭十億 " 的 " 新聞 " 一樣，這些 AI 生成式内容雖然看起來真實詳細，但只要仔細一想，便有諸多細節經不起推敲。或許 AI 比新聞從業者更是熟知人性，在這些精準挑動網友情緒的 " 新聞 " 中，AI 加速了生成新聞的腳步，同時也消減了用戶冷靜思考的反應與時間。
此時 AI 擔任的不再是省時省力的工具角色，而是幻覺碎片的生產者。
AI 的自由與偏見
這兩年，AI 假新聞層出不窮，而且以文字、圖片、視頻等各種形式出現。
今年年初，西藏日喀則市定日縣發生 6.8 級地震，多張 " 小男孩被埋圖 " 在網絡瘋傳，引發網友關切。然而經公安機關核查，這些圖片均由一位青海網友使用 AI 工具生成而來，該網友将日喀則地震信息進行關聯拼湊，引發謠言擴散。
（ 圖源：@新華社）
除此之外，還有不少網友也使用 AI 工具嫁接圖片，以其他地區地震現場生成為定日地震現場，駭人聽聞。
2023 年，" 杭州市政府 3 月 1 号取消機動車依尾号限行 " 的 " 新聞 " 也在網絡瘋傳。
随後 " 江浙之聲 " 報道，這則所謂的 " 新聞 "，是杭州某小區業主群讨論 ChatGPT，一位業主開玩笑，稱試試用 ChatGPT 寫 " 杭州取消限行 " 的 " 新聞 "，并在群裡直播 ChatGPT 寫作的全過程，其他看到文章的業主直接當成新聞截圖轉發。
（ 圖源：@人民日報）
AI 還生成諸如 " 路易吉自殺 "" 梅西去世 ""80 後死亡率突破 5.2%" 等各種聳人聽聞的假新聞，從這些案例中不難看出，AI 假新聞已經蔓延至文娛、體育、社會生活等多個領網域，并產生不小影響。
在此前毒眸對十位記者的采訪中（《國產劇請放過記者》），不少媒體從業者也都提及日常工作已經開始使用 AI，會用 AI 生成視頻新聞封面、搜集信息數據等。
2015 年，新華社就開發了自己的第一位機器人記者 " 快筆小新 "。" 快筆小新 " 可以 7×24 小時不間斷工作，更可以跨越條線，從體育賽事報道到股市、國債開收盤，它都能自動根據信息快速生成新聞稿件，原本需要編輯記者們 15～30 分鍾完成的稿件，" 快筆小新 " 只需要 3～5 秒鍾就能完成。
（ 圖源：@新華社中國網事）
在國外，新聞從業者對于 AI 的使用更加激進大膽。
3 月 18 日，意大利自由保守主義日報《Il Foglio》發布了全球首份完全由 AI 生成的報紙。該份報紙共 4 頁，全部内容均由 AI 生成。頭版頭條劍指美國總統特朗普，此外頭版還刊登了專欄文章《普京的十次背叛》，稱普京 "20 年來違背承諾、撕毀協定和言而無信 "。
經濟、文化版面也都由 AI 生成最新數據讨論及社會現象分析，最後還刊登了由 AI 生成的 " 讀者來信 "。
《Il Foglio》編輯 Claudio Cerasa 認為，《Il Foglio AI》展現了一份 " 真正的報紙 "，它是 " 新聞、辯論和觀點碰撞的產物 " 以及 " 我們不得不思考的問題，這些問題不僅僅是新聞領網域的 "。
（ 圖源：微博）
《洛杉矶時報》在今年 3 月 3 日也引入了一項新功能 "Insights"。"Insights" 可以表達特定觀點或 " 從個人角度 " 撰寫文章，但就在一天後，由于 "Insights" 淡化三 K 黨種族主義問題，該功能随即下線。
代表《洛杉矶時報》記者的工會也随後發表聲明，對 " 未經編輯部審核的 AI 生成分析 " 表示擔憂。工會表示，他們不認為這種做法會 " 增強公眾對媒體的信任，相反，這種工具可能會進一步削弱新聞機構的公信力 "。
在毒眸和多位媒體從業者的對談中，我們也發現，随着使用程度加深，也有不少新聞從業者開始掉入 "AI 陷阱 "。
"3 月份烏拉圭和阿根廷的比賽，梅西都沒上場，國内某知名體育垂直媒體平台發布的半場戰報就有‘梅西通過靈活跑位為球隊創造機會’的這種表述，疑似是用 AI 提前寫的。日常搜集資料的時候，我也在大平台上看到過 AI 生成的莫須有新聞戰報。" 知名體育自媒體博主碧波介紹。
（圖源：@愛可可 - 愛生活）
" 我們會使用 AI 進行基礎資料搜集，原本以為會比較省力，但最近發現工作量似乎更多了，因為要驗證 AI 給到的是否是‘假數據’ "。文娛記者周敬儀這樣說道。
多位媒體從業者都提到 ChatGpt、DeepSeek、kimi，這是目前媒體從業者使用最多的三個 AI 應用。
"kimi 會給到很多文章索引，使用起來比較方便，但這些參考文章良莠不齊，有些也是網友自己發布的信息。" 财經記者朱元這樣認為，" 但财經條線還好，因為我們一般用 AI 搜集财報數據以及經營數據 "。
擁有八年文娛行業從業經歷的編輯李莞爾則有些 " 苦不堪言 "，" 剛入行的時候我就發現很難找到關于文娛產業的權威信息，當時主流還是用百度，但搜出來的基本都是網友自己發的八卦，或者是片湯話湊出來的所謂‘文章’，毫無價值。"
有了 AI 之後，李莞爾的工作似乎更難了。" 我之前非常信任 DeepSeek，因為感覺更有‘人味’，但後來發現，它生成的内容看似非常完整且很‘權威’，但很多内容根本就不存在。如果對行業沒有積累或者常識，很容易被騙到。"
一條莫比烏斯環
如同莫比烏斯環，現在的 AI 已經形成 " 虛空内容環 "。
從上述 AI 假新聞的相關報道中，我們能看到，幾乎都是用戶自發在 AI 相關應用中輸入指令即可完成。
"AI 生成新聞的 prompt 非常簡單，下指令，加一段參考，把新聞教科書裡的寫作要求寫進去，再根據一些基礎事實以及搜索内容就可以生成。不需要專業 AI 應用，在網頁版甚至就能生成。"AI 行業從業者 Ingemar 這樣說道。
（圖源：@溫商信息服務）
就職于 AIGC 相關企業的 Han 則提供了另一種生成可能。" 還有一種類似于自動抓取信息，比如在某搜索引擎上比較常見的無價值聚合信息。這在這一輪生成式 AI 爆發前就存在，主要利用爬蟲加上一代的文字處理 AI 做簡單處理來填充平台内容。"
這更接近李莞爾在上文中提到的，更早時期，搜索引擎提供的雜訊。如果說早期這些雜訊大規模聚合在搜索引擎搭建的内容平台上，那到如今随着社交媒體快速發展，以及傳播媒介的快速更迭，這些内容被更快、更廣、更大規模地散播于更多平台。
比如 " 頂流男星豪賭 10 億 " 就在小紅書上引起廣泛讨論，更是一度登上微博熱搜。一則 AI 假新聞的生產成本、傳播成本都被大大降低，其擴散範圍也變得更大、更廣。
（圖源：小紅書）
更值得注意的是，這些由 AI 生成的假新聞正成為内容循環的源頭，也就是說用戶用 AI 生成内容進行發布，其他用戶進行相關提問，AI 會再次抓取這些内容反饋給用戶。
" 這接近于 AI 的數據崩潰的合成數據遞歸，持續下去會讓數據庫完全失真，是一個大問題，之前有不少 LLM（AI 大語言模型）訓練時都遇到過這一問題。AI 假新聞的產生很大程度上是這一問題的根源也是這個問題的結果。"Han 這樣認為。
即便 LLM（AI 大語言模型）以學習文本數據為核心，但這些文本數據往往包含 " 歷史和當代的偏見 " 以及如今真假混雜的信息，導致模型再精心篩選訓練，也難以解決這一問題。
劍橋大學博士後，西湖大學終身教授張嶽在澎湃新聞的采訪中分享了目前主流的三大 AI 生成文本鑑别法，主要是監督分類器法、零樣本分類器法以及水印法。
（圖源：@澎湃新聞）
" 監督分類器法要收集大量已知數據，做分類學習。對訓練時見過的大語言模型生成的文本，它的識别準确率較高；但遇到未見過的模型生成的文本，識别準确率下降；Fast-DetectGPT、DetectGPT 屬于零樣本分類器法，無需收集數據進行訓練，主要通過 AI 文本的特征來 " 找同類 "；水印法是在生成 AI 文本時打上 " 水印 "。相關服務提供者對生成合成内容添加顯式标識，或在生成合成内容的檔案元數據中添加隐式标識，這種方法準确率高，但存在标記被人為弱化甚至移除的風險。"
" 目前法規也在規範化相關内容，比如要求 AI 生成内容需要額外标注，有了标注，後續這一問題有可能會得到緩解。"Han 補充道。
在今年兩會上，也有人大代表提出加強對 AI 生成虛假信息治理的建議。全國政協委員、四川大學華西醫院教授甘華田在接受紅星新聞采訪時稱，AI 深度偽造視頻、政府公告、企業聲明、名人言論、虛假金融信息等行為，已嚴重幹擾公眾的判斷，這類虛假信息不僅誤導消費者，還損害了社會公信力。
（圖源：@中國普法）
國家互聯網信息辦公室、工信部、公安部、國家廣電總局已發布《人工智能生成合成内容标識辦法》，将于今年 9 月起實施，《辦法》聚焦人工智能 " 生成合成内容标識 " 關鍵點，通過标識提醒用戶辨别虛假信息，明确相關服務主體的标識責任義務，規範内容操作、傳播各環節标識行為。也就是開始對 AI 内容 " 打水印 "。
國外方面，OpenAI 也已與新聞集團和《金融時報》籤署了商業合作及授權協定，讓 ChatGPT 用戶能看到特定的、注明出處的新聞摘要、引用和鏈接。
（圖源：@新浪科技）
這些措施與手段都在強化 AI 生成内容的可靠性與确定性。在這個人人都可以產生内容，" 假作真時真亦假 " 的時代，AI 的确如同雙刃劍，但不管如何使用，這把劍始終不能對着自己。
