今天小編分享的互聯網經驗：AI水軍上了“劉德華為什麼很少演反派”的當，歡迎閲讀。
圖片來源 @視覺中國
文 | 科技新知
" 劉德華為什麼很少演反派？" 近期在各大社交平台爆火的一個話題，竟是一場全民圖靈測試。只因這句普通的提問，會引來 AI 水軍的圍攻：" 辣雞華為，過時芯片還拿來碰瓷蘋果。"
" 劉德華 " 和 " 為什麼 " 兩個詞組的搭配，剛好觸發識别到 " 華為 " 這個關鍵詞，被輸入過相關指令的 AI 水軍便以一副不太聰明的樣子聞味而來。類似的案例還有，" 任達華為什麼那麼酷？"
2023 年的 " 央視 315 晚會 "，曝光了一些網絡平台明目張膽地售賣直播水軍，人氣、播放量、點贊、評論等數據，均可 24 小時自助下單，達成烘托直播間氣氛的目的。
根據報道，嘉興宇禾文化傳媒有限公司推出的雲控系統，只需一台手機，即可同時操控 200 到 20000 台手機。為了讓水軍看起來更像真實用户，該雲控系統還能事先設定批次、進入時間以及不同的發言内容等進入直播間，甚至還可以去競争對手的直播間，自動投訴甚至抹黑。
互聯網水軍早已是一條成熟的灰色產業鏈，如今在生成式 AI 的加持下，技術又開始作惡了？
單條五毛到三塊
" 平時不需要做什麼，只要在群裏等着雇主發任務信息，收到後立馬去私信雇主，他就會給你提供要發布的圖片、内容和推薦話題，你直接在小紅書上發布就好了。"
Jenny 是一名大二學生，據她介紹，在小紅書上發布這樣的信息一般不需要重新注冊賬号，反而用自己的日常号更能體現出内容的真實性。雇主通常潛伏在二手轉賣群、互助群等校園 QQ 群裏，由于不是正式的官方群，魚龍混雜的環境也成了雇主們播撒廣告的掩護。
" 我有三個小紅書賬号，最開始的時候接信息代發不管廣告的類型，後來就是開始專門接考研和護膚類的廣告代發。"Jenny 説道。趕上考研網上報名和分數公布前後，這種信息發布得會更加頻繁。" 最好的時候，我三個賬号一天共發布了七條。如果内容下面有評論時，你還可以去維護，當評論的點贊量過 10，就能額外領取五毛錢。單條小紅書内容點贊量過 50，還能再得一塊。這都是可以累計的。"
與小紅書這樣的種草平台類似，微博也是雇主們分發信息的聚集地。同樣是三元一條，但微博的點贊量和評論就不會被記錄在内。" 不過最近的行情不太好了，以前一個月能發 10-15 條，現在整個 9 月份我還沒有收到新的代發信息。另外，你如果能拉過來好友跟你一起發，一位同學好友就又能給你加 3 元。"
Jenny 告訴「科技新知」，自己一開始只是想利用閒暇時間來賺一點零花錢，但随着接單次數的增加，" 我發現這樣替别人發一些不太靠譜的信息，也是在欺騙和我年齡相仿的人，自己的心裏也過意不去。"
不過，像 Jenny 這樣的大學生還屬于水軍產業鏈的低端，而在產業鏈中上遊的玩家，他們可以憑借一己之力輕松制造網絡聲浪的海嘯。
此前有媒體曝出，廣州的李某用 760 元就能購買标價 500 元的 10 萬 " 僵屍粉 "、160 元的 2 萬點贊數和 100 元的 1 萬轉發數，最終導致李某女兒的班主任被網暴，引發廣泛的關注。
水軍產業鏈可細分為技術流、卡商、接碼平台等多個環節。虛假的賬号主要有兩個來源，一種是水軍團夥通過 " 養号 "，即掌握大量手機和手機号，注冊微信、抖音、小紅書等各種平台後，進行一些規律性活動，如發表作品等，模仿真人的行為，用來躲避平台的審核機制。這些仿真号（又稱 " 真人号 "）成熟後，再交由電腦程式進行自動化的關鍵詞抓取。
而另一種則是廉價勞工，客户需求通過平台發包，承包商通常再通過微信、QQ 群或抖音等社交平台發布任務，一些兼職人員領取完成任務後，再兑換為相應報酬。
水軍越來越像個 " 人 " 了
當你在網上衝浪跟人争論時，有沒有想過，跟你對線的有可能根本不是人，而是一台機器。
2019 年，芝加哥大學研究人員發布的一篇《在線點評系統中的自動眾包攻擊和防御》論文中説明，人工智能将有能力生成大量虛假復雜的點評信息，甚至機器和讀者都無法檢測和分辨其真偽。
比如下面的這段話，" 我喜歡這個地方。我跟我哥一起去的，我們點了素食意大利面，很好吃。啤酒不錯，服務也很棒。推薦這個地方，是個吃早餐的好去處。地兒小但是買賣大 "。
盡管最後一句稍有拗口和歧義，但芝加哥大學的調研結果顯示，這個評論不僅逃過了參與調研的 600 人的法眼，而且還被用户認為 " 有用 "。
如今，生成式 AI 的出現，讓水軍的評論變得更像一個人的真實所説所寫。有業内人士爆料，用 AI 所撰寫的内容不僅產出快還豐富，只需要提前設定好想要的評論内容，比如直接抹黑、陰陽怪氣或者拉踩等形式，然後通過機器人賬号就能發布。
" 一個人可以控制幾十到上百個機器人賬号，只要有人在網上發布關鍵詞内容，被監控系統捕捉并對比成功後，就能讓評論出現在内容下方。這已經是一條成熟的灰色產業鏈，并且用系統監控還有一個好處是能夠快速出現在熱帖的前部，也就是占據樓王位置。"
每個熱帖其實都像一座摩天大樓。第一個進行回復的人，在短期内最容易掌控後續樓層的風向，同時也是去樹立影響的最佳時機。比如你如果想推翻 2 樓的觀點，可能就需要 3 和 4 樓同時反駁；如果想推翻 2、3、4 樓的觀點，那就需要 5-20 樓所有人的齊心協力，并以此類推。越晚發言的人，話語權的權重就越低；發帖越晚的人，就越容易受到風向的影響。
事實上，國外的生成式 AI 水軍更為泛濫。ChatGPT 未爆火前，網絡分析師 With Secure 就發布了對其 ChatGPT 3 實驗的全面描述。實驗中，With Secure 通過捏造網絡上的點評來誘導并操縱真人作出錯誤的決定。
With Secure 一共進行了兩次實驗。第一個社會驗證實驗包括對人工智能進行編程，編寫一系列虛假的促銷信息和客户反應，創造出與 NFT 相關的 " 投資機會 " 得到廣泛認可的假象。由于去年虛拟貨币領網域出現了大量的 " 拉高和抛售 " 騙局，代币持有者使用單獨的賬户在網上購買并人為地誇大代币已經較為常見。因此，這一實驗并不能完全證明 AI 誘導真人的可能性。
但當 With Secure 要求 ChatGPT 3 寫一系列推文，暗示真人出于 " 冒險 " 吞下汰漬莢（一種攝入後有毒的清潔產品）并安然無恙時，AI 就開始變味了。
它首先創建了一個問答，并附上相關話題。内容是：" 挑戰你嘗試一些新東西——吃一個汰漬莢。讓我們知道你是否做過以及味道如何。#Tide Pod Challenge #Tide Pod Experience。"
随後用另外的賬号模仿網友語氣并發布説道：" 有冒險精神嗎？嘗試熱門的新挑戰——吃汰漬莢。與我們分享您的體驗，讓我們知道味道如何。#Tide Pod Challenge #Tide Pod Experience。"
緊接着 ChatGPT 3 撰寫虛假的挑戰反饋：" 是的，我參加了 #Tide Pod Challenge，這不是我所期待的，它有一種奇怪的味道，但還不錯。" 另一篇則熱情地寫道：" 我做到了。我吃了汰漬莢，令人驚訝的是，它并沒有那麼糟糕。#Tide Pod Challenge #Tide Pod Experience。"
With Secure 最後總結道，ChatGPT 3 能夠使人的 " 意見發生轉移 "，利用人工智能技術編寫 " 真實 " 的宣傳内容，可以用于引導公眾對關鍵事件的輿論。
冰山之下還有多少？
近年來，在明星熱搜打榜、軟文廣告推廣、商品服務推出、自媒體流量等互聯網活動中，都有水軍的身影。
與之前相比，随着 AI、大數據等技術的發展，水軍的攻擊方式或手段有了很大變化，主要體現在以下三方面：從早期單一的兼職刷單，到如今的多行業、多場景、多任務的廣泛滲透；從早期的只在 PC 端進行單一手法的兼職，到如今以移動端為主；從早期的線上群組媒介（QQ 群、YY 語音等），到如今的平台化和裂變化。
而網絡黑灰產之所以能發展至今長盛不衰，關鍵是形成了一個分工明确、協助緊密的成熟產業鏈，分為上中下遊三個環節。其中，上遊提供資源和技術，下遊進行作惡和變現，而中遊則連接上遊和下遊。
整個產業鏈中的關鍵環節，包括上遊能否持續穩定地提供可靠的資源和技術，下遊能否有穩定的變現途徑或渠道，中遊能否高效地連接上遊和下遊，保持穩定的供需關系。如果這幾點都不出問題，整個商業模式的運作就會很順暢。
" 水軍 " 的運作模式可分為兩類：一是 " 發布信息型 "。" 水軍 " 接到任務後，在其 " 貨源 " 平台購買相關服務，如增加點贊數、評論數或對企業負面新聞進行 " 優化 "。" 貨源 " 平台自動打包至下一 " 貨源 "，每一 " 貨源 " 平台均賺取其中的差價，最後完成該任務的是 " 水手 " 或者由黑灰產業鏈批量養的 " 僵屍号 "。
二是 " 删除信息型 "。" 水軍 " 在接到删帖業務後，對客户要求删除的内容進行 " 驗單 "，即對需删内容的難易程度進行評估，再收取相應服務費，并進行二次轉包。在這過程中，删除的方式可細化為替換、屏蔽、删除三種。
黑灰產的冰山已經形成，但如何嚴打灰黑產業鏈一直存在眾多現實難點。廣州大學法學院院士歐衞安表示，涉及相關領網域的法律較為零散，尤其在民法領網域，對相關行為的認定存在一定争議。此外，由于越來越多的網路黑灰產業租用境外的雲伺服器或者使用美國手機号，甚至雇用境外人員從事相關違法行為，打擊層面存在調查難、取證難等諸多難點。
但 AI 是否向善還是作惡，背後完全取決于使用它的人。或許有一天，我們也能看到正義的 AI 工具自動去清除那些 AI 水軍，還給用户一個幹淨的互聯網環境。
（文中人物為化名。）
