今天小編分享的科學經驗：度小滿軒轅：金融行業的大模型實戰派，歡迎閲讀。
總體來看，12 款金融大模型包括3 種參數。2023 年 5 月，度小滿開源了國内首個千億級中文金融大模型 "XuanYuan-176B"。2023 年 9 月，"XuanYuan-70B" 大模型在 C-Eval 和 CMMLU 兩大權威榜單上位列所有開源模型榜首。本次度小滿 " 軒轅 " 模型矩陣再次更新，十億－百億－千億參數全覆蓋，實現多場景任務适配。
而從效果上看，度小滿軒轅達成了18 大維度金融實戰能力遙遙領先，多場景 6B 模型與 72B 模型表現相當；通用能力同樣達到開源模型 TOP 水平，看齊 GPT-4，并且采用了獨創的數據處理流水線，生產更豐富、更安全、更符合中文場景的數據。通過首次将人類偏好對齊引入金融垂網域大模型訓練，相關模型實現了安全性顯著提升、有用性突破瓶頸、金融任務表現明顯增強 。
讓我們來走進度小滿軒轅，透視金融領網域的大模型變革。
度小滿「軒轅」大模型
全參數矩陣
（度小滿軒轅大模型發布時間軸）
度小滿軒轅系列已經有 17 款開源大模型，适配廣泛場景任務，滿足不同開發者需要。
（度小滿軒轅大模型矩陣）
模型矩陣的設計考慮了不同的應用場景和性能要求：70B 及以上的模型專門針對需要深度分析、復雜指令執行以及全方位 Agent 調用的場景，而 6B、13B 的模型則更加适用于對響應速度有高要求、面向小規模場景和單任務的應用，它們也同樣能夠處理計算、編程、創作等一系列通用需求。特别地，最小化的 XuanYuan-6B-4-bit 量化 Chat 模型以其低推理部署成本，進一步降低了大模型的應用門檻。
模型效果
18 大維度金融實戰能力遙遙領先
01 金融能力
将軒轅系列大模型在金融自動評測集 FinanceIQ 測試集上進行測試，FinanceIQ 涵蓋了注冊會計師（CPA）、税務師、經濟師、銀行從業資格、基金從業資格、證券從業資格、期貨從業資格、保險從業資格（CICE）、理财規劃師等十大權威金融領網域考試。結果如下表，XuanYuan-70B-V2 在該項評測任務上擁有超過 GPT-4 的水平，在知識層面展示出金融領網域專家的水平。
同時，為了考察軒轅大模型在金融實際任務上的能力，軒轅團隊還特别組織了金融專家為對話大模型進行人工評測。任務的設計均是從金融行業實際應用場景出發，去判斷軒轅是否在各項金融任務上具備 " 實戰能力 "。
（人工金融評測集任務構成）
最終結果顯示，軒轅大模型各個參數上均具有" 以小搏大 " 的實力，達到自己 2 倍甚至 5 倍參數量的模型水平。在各項金融評測任務上，XuanYuan-6B 表現超越市面最新 13B 中文開源模型（左圖），XuanYuan-13B 表現超越市面最新 72B 中文開源模型（中圖），XuanYuan-72B-V2 表現可以媲美 GPT4（右圖），并且在金融法規、金融產品信息等中文場景上超越。
（軒轅擁有遠超同參數水平的金融能力）
02 通用能力
将軒轅大模型在 MMLU、CEVAL、CMMLU、GSM8K、HumanEval 等中外主流評測集上進行評測，觀察大模型在知識、邏輯、代碼等通用能力上的表現。同時加入類似參數矩陣的 LLaMA2 系列進行比較，結果顯示軒轅不同參數大模型在各項榜單成績上均有優異表現，在 CMMLU、C-Eval 等多個中文評測榜單上，更是有超越 GPT-4 的水準。
進一步分析發現，經過專門優化以增強考試能力的 XuanYuan-6B 和 XuanYuan-13B 模型，在 C-Eval 和 CMMLU 這兩個中文考試評測指标上有了顯著提升。然而，需要注意的是，" 高分 " 并不意味着 " 高能力 "。評測集成績可通過優化模型考試能力來提升，不直接等同于模型在實際應用中的優勢。因此，盡管小參數模型在某些評測中表現出色，這并不意味着它們的各方面真實能力均超越了同系列大參數模型。
（軒轅大模型在各個評測集上的分數）
「軒轅」技術解析
對齊技術突破能力瓶頸
面向公眾開放自動化訓練框架
度小滿軒轅大模型團隊在過去一年，對大模型訓練的各個環節積累了豐富的經驗。這包括建立了一套完整的數據處理流水線、采用更适配領網域模型的高效訓練方法等，以及本次突破性的利用人類偏好對齊技術，極大地提升了 6B、13B、70B 模型的對話能力，顯著增強了模型的場景适應性。
軒轅系列大模型使用 DeepSpeed 分布式訓練框架，引入動态評估與調整機制以優化訓練過程。在微調階段，軒轅特别的采用了Self-QA 策略來收集指令微調數據。該方法能夠在沒有人工标注的情況下生成大量高質量的問答數據，為模型提供有監督的訓練樣本，有效提升模型的學習效率和質量。
（軒轅大模型 Self-QA 數據構造方法）
針對金融領網域的特定需求，軒轅大模型還開發了一種混合微調訓練框架，旨在通過融合通用與特定領網域數據來增強模型性能及适應性。這種混合微調方法不僅顯著提高了模型在特定任務的表現，也增強了其整體的泛化能力和适應性，為金融領網域任務的性能提升開辟了新途徑。
度小滿創新地在金融領網域大模型中引入了人類偏好對齊技術，開創了領網域内強化對齊訓練的先河。通常，領網域大模型僅在微調階段引入特定領網域數據，但這種方法在實際應用中常常顯示出局限性。金融行業的復雜性要求模型能夠更深入地理解并适應行業特定的需求，而強化對齊訓練有助于突破僅依靠微調所能達到的性能瓶頸。
軒轅團隊精心構建了涵蓋通用性、安全性和金融特性的 Prompt 數據集，并組織了專業的标注團隊對成對的回答進行偏好标注。接下來，團隊通過一系列實踐、分析和改進，成功完成了獎勵模型（Reward Model）和後續的強化（采用近端策略優化算法）訓練。下圖以 XuanYuan-6B 為例展示了模型在通用性和金融能力的綜合評估結果。從圖中可以看出，在兩個領網域，經過人類偏好對齊後，模型的能力都有了極大的提升，證明了強化對齊訓練的有效性。
（RLHF-model vs SFT-model）
（通用能力：RLHF-model vs SFT-model）
（金融能力：RLHF-model vs SFT-model）
度小滿軒轅大模型團隊一向貫徹開源開放的原則。為了讓廣大開發者能夠更容易的上手使用大模型，使用真實數據和真實代碼作為示例，詳細介紹了訓練模型的每個關鍵步驟。現在相關代碼已經上傳開源社區，供廣大用户實操體驗。
金融行業需要怎樣的大模型？
金融領網域對大模型的要求遠超過基本的 " 判斷 " 與 " 生成 " 能力，更加強調在 " 分析 " 與 " 決策 " 過程中的高級能力，這些能力是觸及金融企業核心利益的關鍵。大模型的價值體現在其能否在核心業務場景中發揮實際作用，如通過綜合分析用户信息以支持風險評估、客户畫像繪制、精準營銷策略，或通過企業數據分析支持财務審查、智能投顧和行業研究。
金融大模型的最終目标是提高企業 ROI。這意味着，高效的金融大模型應當能夠在實際應用中，如客服場景，通過提升對話處理、指令遵循和意圖理解能力，不僅短期内提高客服效率，長期還可能實現機器人客服的全面替代，重塑客户服務流程，推動金融服務向更高智能化水平邁進。
結束語
關于度小滿「軒轅」大模型
度小滿軒轅大模型系列具有以下特色：
· 多尺寸開源，開發者友好。
· 版本快速迭代，社區持續更新。
· 持續面向金融行業夥伴交流共建。
在今年的政府工作報告中，提出了 " 大力發展科技金融、綠色金融、普惠金融、養老金融、數字金融 "。在這樣的宏觀背景下，AI 大模型落地金融場景，為行業帶來全新的智能化發展機遇，是金融行業本身的發展意願，也是 " 新質生產力 " 的客觀要求。
作為 " 實戰派 " 的度小滿軒轅，已經應用在金融領網域的各個業務場景，并且初見成效。未來，度小滿軒轅會成為金融行業的一個支點，為更多智能化探索打開大門。
欲知 " 軒轅 " 大模型詳情，可移步 Github 官網。
