今天小編分享的财經經驗:李彥宏發布文心大模型4.0工具版 推理成本降至1年前的1%,歡迎閱讀。
4 月 16 日,百度創始人、董事長兼首席執行官李彥宏在 Create 2024 百度 AI 開發者大會上,正式宣布發布文心大模型 4.0 的工具版。
李彥宏表示,相比一年前,文心大模型的算法訓練效率提升到了原來的 5.1 倍,周均訓練有效率達到 98.8%,推理性能提升了 105 倍,推理的成本降到了原來的 1%。" 也就是說,客戶原來一天調用 1 萬次,同樣成本之下,現在一天可以調用 100 萬次。"
此外,李彥宏在演講中分享了百度過去一年實踐出來的、開發 AI 原生應用的具體思路和工具。" 這是我們百度根據過去一年的實踐,踩了無數的坑,交了高昂的學費換來的。" 他強調,大語言模型本身并不直接創造價值,基于大模型開發出來的 AI 應用才能滿足真實的市場需求。
圖片來源:企業提供
李彥宏首先表示,未來,大型的 AI 原生應用基本都是 MoE。他介紹:" 這裡所說的 MoE 不是一般的學術概念,而是大小模型的混用,不依賴一個模型來解決所有問題。"
其次,李彥宏表示,小模型推理成本低,響應速度快,在一些特定場景中,經過精調後的小模型使用效果可以媲美大模型。這也是百度發布 ERNIE Speed、ERNIE Lite 和 ERNIE Tiny 三個輕量模型的原因。" 我們通過大模型,壓縮‘蒸餾’出來一個基礎模型,然後再用數據去訓練,這比從頭開始訓小模型,效果要好很多,比基于開源模型訓出來的模型,效果更好,速度更快,成本更低。" 他表示。
第三是智能體。李彥宏表示," 智能體 " 是當前非常熱的一個話題,随着智能體能力的提升,會不斷催生出大量的 AI 原生應用。智能體機制包括理解、規劃、反思和進化,它讓機器像人一樣思考和行動,可以自主完成復雜任務,在環境中持續學習、實現自我迭代和自我進化。" 在一些復雜系統中,我們還可以讓不同的智能體互動,相互協作,更高質量地完成任務。這些智能體能力,我們已經開發出來了,并且向開發者全面開放。" 李彥宏介紹。
每日經濟新聞