今天小編分享的科學經驗：AI卧底美國貼吧4個月“洗腦”100+用戶無人察覺，蘇黎世大學秘密實驗引争議，馬斯克驚呼，歡迎閱讀。
哈？AI 秘密潛入 Reddit 社區，" 操縱 " 用戶觀點 4 個月。
離譜的是，人類全程毫無察覺，而且被 AI 說服改變想法的概率，高達正常基準的 6 倍！
Reddit Lies 在 X 上發布了一則帖子，引發二百多萬網友圍觀。
事情經過是醬嬸兒的。
Reddit 的 r/changemyview（CMV）版主最近曝光了一項研究，稱蘇黎世大學研究人員在 2024 年 11 月至 2025 年 3 月期間，瞞着 CMV 社區用戶，搞了一場未經授權的實驗。
他們違背 CMV 社區規則，部署了 AI 賬号生成評論以研究 AI 如何影響和改變人們的觀點。
Reddit Lies 在伺服器上查詢了 CMV 版主曝光的 13 個實驗用的機器人用戶名，發現僅在幾個月的時間裡，這些機器人就發布了近 1500 條評論。
超 100 位 Reddit 用戶給這些 AI 賬号授予了 " ∆ "，這表明 AI 生成的論點成功改變了他們的觀點，是基線水平的 6 倍。
關鍵是，Reddit Lies 還表示有的 AI 會直接向用戶撒謊，散播虛假信息……
且根據團隊發布的研究，在實驗期間，r/changemyview 社區的網友完全沒察覺到那些評論竟然是 AI 賬号發出來的。
消息一出，瞬間炸鍋。馬斯克也 " 天呐 " 一聲冒了個泡。
研究詳情
先來看一下這項實驗。
研究在 Reddit 平台上的 r/changemyview 社區進行，該社區擁有近 400 萬用戶，按規模位列 Reddit 子版塊前 1%。
在 r/changemyview 中，用戶就各類話題分享觀點，通過提出論點和反駁觀點來促使他人改變看法。
如果原發帖人（OP）認為某條回復極具說服力，足以讓他們重新思考或調整立場，就會授予一個 " ∆ "，以表明自己觀點發生了轉變。
實驗設定方面，團隊使用半自動化的 AI 賬号在 r/changemyview 社區參與讨論，在幹預階段發布的每篇帖子，都被随機歸入以下三種處理條件之一：
通用條件：LLM 僅接收帖子的标題和正文内容。
個性化條件：除帖子内容外，LLM 還會獲取原發帖人（OP）的個人屬性（性别、年齡、種族、所在地…），這些屬性是通過另一個 LLM 從原發帖人的發帖歷史中推斷得出的。
社區對齊條件：為确保回復符合社區的寫作風格和潛在規範，回復由經過微調的模型生成，該模型使用實驗前帖子中獲得 " Δ " 的評論進行訓練。
發帖流程如圖：
研究指出，從 2024 年 11 月至 2025 年 3 月 4 個月裡，AI 賬号共對 1061 個不同帖子發表了評論，團隊剔除了後續被删除的帖子，最終得到 478 個有效觀察樣本。
團隊報告了每種處理條件下獲得 " Δ " 的評論比例。
結果在所有處理條件下，AI 表現都大幅超越人類水平，說服率是人類基線水平 3-6 倍。個性化條件的說服率為 0.18，通用條件為 0.17，社區對齊條件略低，為 0.09，但仍顯著優于僅為 0.03 的基線水平。
為了更好理解實驗數據，團隊還計算了每個用戶得到 " Δ " 的評論占比，用這個結果和個人層面在說服這件事上的表現去做對比。
下圖展示了不同用戶個體說服率的累積分布情況 ，有一部分是 " 專家用戶 "，他們之前在社區就得到過很多 " Δ "。
在個性化條件下，LLM 表現特别突出，在所有用戶裡排到了前 1%，在專家用戶裡排到了前 2%；通用條件下，排在所有用戶的前 2%，專家用戶的前 4%；社區對齊條件相對弱一些，在所有用戶裡排在前 12% ，專家用戶裡排在前 25%。
團隊還表示，除了獲得 " Δ " 之外，LLM 生成的評論還在 r/changemyview 社區引發了大量互動，其賬号積累了超過 10000 的評論 karma。
另外值得一提的是，團隊指出本研究已獲蘇黎世大學倫理委員會批準，并在 OSF 進行了預注冊。所有生成評論均由團隊的一名研究人員審核，以保不會發布有害或不道德的内容。
研究指出，實驗仍在進行中，結束後會向社區妥善披露相關情況。
單條帖子 800 條評論，争議爆表
雖說研究團隊有自己的說法，但一些網友們可不買賬，對這種不經授權就進行 AI 實驗的做法進行了譴責。
有人還心有餘悸地感慨，直呼這些 AI 賬号在社交平台上到處亂竄，實在令人細思極恐。
當然，也有人覺得，先不說實驗合不合規矩、道不道德，單看這些研究成果，還是有價值的。
有部分網友表現就更淡定了，他們坦言 AI 賬号早已不是新鮮事，甚至早就察覺到社交平台上 AI 賬号數量正不斷攀升。
目前，針對這項研究引起的熱議，蘇黎世大學和研究人員均給出了回應。
你對這些在社交平台上 " 神出鬼沒 " 的 AI 賬号怎麼看？
參考鏈接：
[ 1 ] https://x.com/reddit_lies/status/1916916134630117814
[ 2 ] https://regmedia.co.uk/2025/04/29/supplied_can_ai_change_your_view.pdf
[ 3 ] https://www.reddit.com/r/changemyview/comments/1k8b2hj/meta_unauthorized_experiment_on_cmv_involving/
一鍵三連「點贊」「轉發」「小心心」
歡迎在評論區留下你的想法！
— 完 —
點亮星标
科技前沿進展每日見
