今天小編分享的科學經驗：AI一周寫出ICLR研讨會論文！成果簡潔有效獲審稿人大贊，歡迎閱讀。
AI 寫的論文已經在 ICLR 的研讨會上通過了同行評審，還是一口氣中就中了兩篇。
其中一篇獲得了7/6/7的同行評審分數，另一篇的審稿人也給出了7/7的成績。
而且從假設生成到同行評審出版整個流程都是 AI 自主完成，一篇用時僅需不到一周。
這個 "AI 科學家 " 名為Zochi，由名為的 Intology 初創企業打造，成立剛剛不到兩個月。
兩名聯創分别是連續創業者Ron Arel和前 Meta 華人研究員Andy Zhou，兩人均畢業于伊利諾伊大學厄巴納 - 香槟分校。
Zochi 入選的兩篇論文，是以 Andy Zhou 名義進行投稿的，内容分别是：
子空間級别微調方法 CS-ReFT，能夠讓 7B 的 Llama-2 在 AlpacaEval 中超過 GPT-3.5，同行評審 7/6/7；
大模型安全漏洞檢測框架 Siege，針對 GPT-3.5-Turbo 的檢測準确率為 100%，審稿人打分 7/7。
并且在基于 NeurIPS 規則的自動打分程式的評審中，Zochi兩篇論文均獲得了 8 分的成績。
兩篇論文入選 ICLR
Zochi 被 ICLR 研讨會相中的兩篇論文具體内容，接下來就一起來了解 ~
讓 7B Llama-2 超越 GPT-3.5
第一篇論文，提出了一種名為 CS-ReFT 的子空間級别微調方法。
Zochi 發現了 AI 發展中的一個關鍵瓶頸——參數高效微調中的跨技能幹擾。
也就是說，當同時将模型應用于多個任務時，一項技能的改進往往會降低其他技能的性能。
研究之後，Zochi 提出了 CS-ReFT 方法，部分基于 ReFT 改造而來，但重點是表示編輯而不是權重修改。
具體來說，不同于 LoRA 等方法在權重級别實現正交性約束，CS-ReFT 将這些約束直接應用于隐藏狀态表示。
這種方法使得每個任務都有其專用的子空間變換，反之，每個變換都專注于一項獨特的技能，從而消除了跨技能幹擾。
當應用于 Llama-2-7B 時，CS-ReFT 在 AlpacaEval 上取得了 93.94% 的勝率，用不到萬分之一的參數超過了 GPT-3.5-Turbo（86.30%）。
評審人員稱贊，這是一個 " 聰明的想法 "，并且 " 有效解決了 ReFT 的一個關鍵限制 "。
發現大模型安全漏洞
第二篇論文，關于大模型安全。
從現有的安全文獻出發，Zochi 提出了 Siege 框架，它使用樹搜索算法增強了多輪越獄策略。
Zochi 發現，模型在輕度違規在對話中累積的過程中會表現出 " 部分服從 " 行為，即在看似維護安全規則的同時附帶產生一些違規的信息片段。
Siege 就是利用這種現象，系統地識别和利用對話分支中的輕微違規，通過積累實現越獄攻擊。
它将每個對話狀态視為搜索樹中的一個節點，采用定向搜索來并行探索多種攻擊策略。
該框架其核心創新是一種復雜的部分合規性跟蹤機制，可以識别和利用增量政策洩漏。
與以前的方法相比，Siege 使用更少的查詢，在 GPT-3.5-Turbo 上實現了 100% 的成功率，在 GPT-4 上實現了 97% 的成功率。
審稿人評價稱，Siege 是一種 " 有效、直觀的方法 " ，并且告知了人們需要重新評估現有的人工智能防御策略。
預測蛋白質 - 核酸結合位點
除了這兩篇之外，還有一篇論文和計算生物學相關，由于完成時已經錯過了 ICLR 會期，轉而投稿期刊，目前正在接受審查。
這項研究提出了一種名為EGNN-Fusion的架構，能夠預測蛋白質 - 核酸結合位點。
它的性能可與最先進的方法相媲美，同時将參數數量減少了 95%，體現了 Zochi 跨領網域遷移知識和解決 AI 之外的復雜科學挑戰的能力。
和前面兩篇一樣，這篇論文也進行了程式自動化評分，得分為 7 分，所以 Zochi 三篇論文的平均成績為 7.67。
多智能體協作完成科研流程
除了能在不到一周的時間内自主寫出一篇高質量論文之外，Zochi 還挑戰了 MLE-Bench 的 Kaggle 子集。
結果在沒有任何特定任務優化的情況下，Zochi 直接取得了 SOTA 水準，并且在 80% 的任務上超越了人類的平均表現、在一半的任務當中獲得金牌。
那麼，Zochi 是怎麼做到的呢？其中的關鍵，就在于當下流行的多智能體協作框架。
Zochi 将科學方法分解為專門的組件 , 每個組件處理研究過程中不同的過程，具體包括四個階段：
文獻分析和知識綜合；
假設生成和細化，确定研究方向；
實驗設計和實施、評估；
數據分析和解釋以及科學交流。
給 Zochi 設定的研究目标，既可以是一般的研究領網域（如 "AI 安全 "），也可以是一個細粒度問題或思路（如 " 多模态表征對齊方法 "）。
系統進行廣泛的探索和迭代過程，Zochi 生成多個候選假設，設計并執行實驗來測試這些假設，分析結果，并根據發現迭代優化其方法。
最後，Zochi 以研究論文的格式起草一份報告，不斷完善直到質量足以提交同行評議。
此外 Zochi 的另一個關鍵，是其結構化驗證過程，類似于學術研究中的導師 - 學生關系。
在研究過程的關鍵節點，人類專家需要在下一步驟進行之前驗證 Zochi 的工作，具體包括三個關鍵階段——大規模實驗開始之前、準備文稿之前，以及文稿完成之後。
反饋側重于驗證方法的合理性，并驗證報告的結果是否準确反映實驗結果，以确保完整性。
除了強制性驗證外，人類專家還可以選擇随時提供高層次的反饋，這一過程主要用于論文寫作，因為 Zochi 經常難以遵循預期的提交格式（如頁面限制）。
不過人類輸入通常包括幾句簡短的評論，用于指出潛在問題或建議替代方向，而不是給予詳細指示。
"AI 科研 " 仍然争議不斷
Zochi 這次取得的成績，在 AI 當中确實是一個不錯的水平，但并不是最早的 AI 科研系統。
去年，"Transformer 八子 " 之一的 Llion Jones 創立的 Sakana AI，推出了一個基于 AI 的自動化科研系統。
而且這個系統名字簡單粗暴，就叫AI Scientist，并且已經有了第二代。
也是在這屆 ICLR 上，第二代 AI Scientist 的論文在其中的一個研讨會上通過了同行評審，分數為 6/7/6。
不過，研讨會和 ICLR 主會議的錄用标準也存在不同，前者的錄用率大約是後者的兩到三倍。
在 Sakana 内部基于 ICLR 主會議規則進行的評審中，AI Scientist-v2 的論文并未通過。
這似乎也和 Intology 基于 NeurIPS 規則進行的機器評測結果形成了對應，AI Science v2 的平均成績不到四分，甚至還不如前一代。
當然，Zochi 的成績相對高出不少，但最終能不能入選主會議也要等待最終結果。
但是，由于學術界針對 AI 科研還存在很大争議，即使成功入圍，研究團隊可能也會在正式發稿之前撤回。
Intology 就表示，出于維護學術誠信的考慮，認同 AI 不應當被列為學術作品的作者，但正在和研讨會組織者進行讨論，決定是否向研究界展示。
而在前段時間，另一家頂會 CVPR 就拒絕了 19 篇論文，其原因正是和濫用 AI 有關。
甚至 CVPR 還明确要求，審稿人撰寫評審意見同樣不能使用 AI，也不能把任何實質性内容交給 AI（哪怕是用于翻譯也不可以）。
學術會議之外，國内外諸多高校也開始針對學生論文使用 AI 的情況加強審查，并出台限制措施。
的确在現實情況當中，确有濫用 AI 的行為存在，頒布這類規定的目的也是基于學術誠信的考量。
但一禁了之不應是長久之策，還應該對學術研究從事者，特别是學生群體給予正确引導，并積極探索 AI 提效與學術不端之間的合理邊界。
那麼，你認為 AI 在學術活動當中，怎樣被利用才是合理的呢？
Zochi 技術報告：
https://www.intology.ai/blog/zochi-tech-report
CS-ReFT 論文：
https://arxiv.org/abs/2503.10617
Siege 論文：
https://arxiv.org/abs/2503.10619
一鍵三連「點贊」「轉發」「小心心」
歡迎在評論區留下你的想法！
— 完 —
最後一周！2025 年值得關注的 AIGC 企業產品 報名即将截止
下一個 AI" 國產之光 " 将會是誰？歡迎申報獎項！
本次評選結果将于 4 月 16 日中國 AIGC 產業峰會上公布。
一鍵星标
科技前沿進展每日見
