今天小編分享的科技經驗:百度智能雲千帆大模型 2.0 更新發布,号稱“一天跑通效果驗證”,歡迎閱讀。
IT 之家 9 月 5 日消息,在今日舉辦的 2023 百度雲智大會上,百度智能雲宣布千帆大模型平台 2.0 全面更新發布。
據百度雲官方介紹,千帆大模型平台 2.0 更新帶來了多項改進:
在工具鏈方面,大模型開發、訓練、部署、應用開發各個環節是緊密結合的。據介紹,千帆整套的工具鏈可以無縫銜接全生命周期的各個業務流程,最大化提升效率。以前,技術團隊一個月才能調試、跑通看到大模型的效果,在千帆一站式工具鏈平台,當天就可以實現。
在算力效能方面,千帆底層是一套集合了異構算力集群、高速互聯的網絡、高性能存儲,能夠支撐萬卡規模訓練的 AI 算力基礎設施,可将大模型訓練、推理的成本降到最低。
在數據方面,千帆不僅納管大模型,還可增強大模型的能力。本次全新更新中文增強,可大幅提升大模型中文理解和生成能力,例如 LIama2 的國外大模型,也可實現中文對話好的效果。同時還全面提升訓練和推理性能,訓練 LlaMA 2 的總體吞吐可以提升 1/4,推理甚至能提升 3 倍。
在企業級安全方面,通過千帆的安全機制,企業能夠構建四層安全防線,全方位保障大模型的内容安全、數據安全和系統安全。對合規要求很高的客戶,千帆支持國内、國外主流芯片和作業系統,也支持私有化部署,确保每個企業自己的大模型都自主可控。
此外,在 2023 百度雲智大會上,百度集團執行副總裁、百度智能雲事業群總裁沈抖表示,截至目前百度網盤 " 雲一朵 " 智能助理累積使用人數已經超過 600 萬。
IT 之家注:千帆大模型平台是百度智能雲推出的一站式企業級大模型平台,可以為企業提供大模型開發全流程工具鏈和整套環境,号稱可以 " 讓企業高效率、低成本地擁抱大模型 "。
8 月初,千帆大模型平台完成第一輪更新,全面接入了 LLaMA2 全系列、ChatGLM2 等 33 個大模型,成為國内擁有最多大模型的平台;同時,千帆大模型平台上線 103 個預置 Prompt 模板,覆蓋對話、編程、電商十餘個場景。
而現在,千帆大模型平台納管的國内外主流大模型達到了 42 個再創新高,還預置了 41 個有行業特色的數據集,月活企業數已近萬家,覆蓋金融、制造、能源、政務、交通等行業的 400 多個業務場景。