今天小編分享的互聯網經驗:國内首家! 阿裏雲全方位支持Llama 3 訓練推理,并提供免費算力,歡迎閲讀。
4 月 18 日,Meta 開源最新 Llama 3 系列,阿裏雲魔搭社區第一時間上架全部 4 款模型。今天,阿裏雲百煉大模型服務平台宣布在國内首家推出針對 Llama 3 系列的限時免費訓練、部署、推理服務,企業和開發者即日起即可在阿裏雲上基于其打造自己的專屬大模型。
Llama 3 是 Meta 推出的新一代開源大語言模型,擁有 80 億及 700 億參數版本,訓練數據較 Llama 2 擴大 7 倍,性能表現也大幅提升。不過,由于對特定語言或垂直領網域能力的要求,企業和開發者往往需要對開源模型進行再訓練或微調,過程較為繁瑣。
為方便國内開發者,阿裏雲百煉平台推出針對 Llama 3 的一鍵訓練、部署、推理方案,且限時免除模型開發和調用的算力費用。企業和開發者可在阿裏雲百煉模型廣場申請使用,通過後即可快速體驗 Llama 3 效果,并與其他模型進行直觀比較。
希望直接進行推理應用的用户,可在百煉上點擊模型調試、prompt 模版等功能,快速基于 Llama 3 打造自己的 AI 助手。希望深度開發的企業,可結合企業數據集,一鍵啓動 SFT 全參訓練或 LoRA 高效訓練,後續利用百煉 RAG 檢索增強、智能體打造等能力進行應用開發。
百煉平台融合了阿裏雲強大的 AI 基礎設施能力,企業和開發者能獲得豐富的 AI 計算資源和極致彈性,輕松在雲上完成對超大尺寸模型的深度開發、高效部署和高并發推理。在基礎設施層,阿裏雲靈駿智算集群具備高達十萬卡 GPU 的擴展性;在 AI 平台層,人工智能平台 PAI 提供了高效靈活的調度能力,可 10 倍提升大模型訓練性能,并穩定運行千卡任務 5 周以上;在模型即服務層面,阿裏雲打造了國内最大規模的 AI 模型社區魔搭和模型服務平台百煉,提供從大模型選型、體驗到再訓練、部署、應用、推理的一站式服務。
作為中國雲計算領導者,阿裏雲提出要做 "AI 時代最開放的雲 ",全面支持中國大模型生态繁榮。從去年起,阿裏雲全尺寸、全模态開源了自研通義千問大模型,并深度支持對 Llama、Mistral、Stable Diffusion、ComfyUI 等開源模型的開發應用,以及百川智能、智譜 AI、零一萬物、昆侖萬維、vivo、復旦大學等眾多國内機構大模型的訓練推理。目前,阿裏雲已成為中國大模型的公共算力底座,超過一半中國主流大模型跑在阿裏雲上。
雷峰網