今天小編分享的互聯網經驗：網絡犯罪分子訓練AI聊天機器人，進行網絡釣魚和惡意軟體攻擊，歡迎閱讀。
繼 WormGPT（使用面向惡意軟體的數據進行訓練的 ChatGPT 克隆版）之後，如今又出現了一種新的生成式人工智能黑客工具：FraudGPT，據稱至少另一種基于谷歌的 AI 聊天機器人 Bard 的工具正在開發中。
這兩個基于 AI 的機器人程式都出自同一人之手，此人似乎熱衷于專門針對眾多的惡意用途訓練的聊天機器人，包括網絡釣魚、社會工程攻擊以及利用漏洞和創建惡意軟體。
FraudGPT 于 7 月 25 日問世，由用戶名為 CanadianKingpin12 的人在各種黑客論壇上四處宣傳，他稱這款工具是面向騙子、黑客和垃圾郵件發送者的。
圖 1. FraudGPT 在黑客論壇上推廣（圖片來源：SlashNext）
下一代網絡犯罪聊天機器人
網絡安全公司 SlashNext 的研究人員開展的調查顯示，CanadianKingpin12 正在積極使用從暗網獲取的不受限制的數據集訓練新的聊天機器人，或基于為打擊網絡犯罪而開發的復雜的大型語言模型訓練聊天機器人。
CanadianKingpin12 在私下表示，他們在開發 DarkBART ——這是谷歌的對話生成式人工智能聊天機器人的 " 惡意版本 "。
研究人員還了解到，廣告商還可以訪問另一個名為 DarkBERT 的大型語言模型，該模型由韓國研究人員開發，使用暗網數據進行訓練，但目的是為了打擊網絡犯罪。
DarkBERT 可以根據相關的電子郵件地址提供給學術人士，但 SlashNext 強調，獲取郵件地址對黑客或惡意軟體開發人員來說遠遠談不上是挑戰，他們花上大約 3 美元就能從學術機構獲得電子郵件地址。
圖 2. 待售的 .EDU 電子郵件賬号（圖片來源：SlashNext）
SlashNext 的研究人員透露，CanadianKingpin12 表示，DarkBERT 機器人程式 " 勝過使用暗網數據進行訓練的同類中所有其他機器人程式 "。惡意版本已經過調整，可以執行以下用途：
策劃復雜的網絡釣魚活動，以人們的密碼和信用卡資料為目标。
執行高級社會工程攻擊，以獲取敏感信息或獲得對系統和網絡的未授權訪問。
利用計算機系統、軟體和網絡中的漏洞。
創建和分發惡意軟體。
利用零日漏洞以牟取錢财或破壞系統。
正如 CanadianKingpin12 私下向研究人員透露，DarkBART 和 DarkBERT 都将擁有實時訪問互聯網的功能，并與谷歌鏡頭（Google Lens）無縫集成，用于影像處理。
為了演示 DarkBERT 惡意版本具有的潛力，開發者制作了以下視頻：
圖 3
目前尚不清楚 CanadianKingpin12 是在 DarkBERT 的合法版本中修改了代碼，還是僅僅獲取了模型的訪問權，只是将其用于惡意用途。
無論 DarkBERT 的起源如何、威脅分子的說法到底有多可信，使用生成式 AI 聊天機器人的趨勢總之愈演愈烈，采用率也可能随之增加，因為這種聊天機器人可以為能力較差的威脅分子或那些希望将業務拓展到其他地區但缺乏語言技能的人提供一種簡單的解決方案。
SlashNext 的研究人員認為，鑑于黑客已經能夠使用兩個這樣的工具，協助執行高級的社會工程攻擊，并且在不到一個月的時間内就開始肆虐，這表明了惡意 AI 對網絡安全和網絡犯罪領網域帶來了重大影響。
