今天小編分享的互聯網經驗:神州數碼聯合華為打造昇騰能力中心,聚焦邊緣推理應用,歡迎閲讀。
文 | 田哲
編輯 | 蘇建勳
9 月 19 日,神州數碼宣布合作華為打造基于華為昇騰 310 處理器的昇騰能力中心,該能力中心将 AI 芯片銷售、軟硬體開發于一體,可針對不同行業的 AI 推理場景需求,提供 AI 產品開發環境。
大模型對算力需求整體體現在預訓練、推理、調優三部分,其中通過推理,開發人員可定位模型中潛在問題,提升模型性能。
随着模型越發龐大,對推理算力需求也将持續增長。華為昇騰計算整機業務總監胡宣春表示:"AI 正在從感知識别邁向内容生成,從專用 AI 模型轉向更為廣泛的通用 AI 模型。AI 應用的爆發式增長,可能帶動 AI 推理算力需求激增至訓練算力的百倍。"
IDC 數據顯示,我國 23H1 訓練工作負載的伺服器占比達到 49.4%,預計全年的占比将達到 58.7%。随着訓練模型的完善與成熟,模型和應用產品逐步投入生產,推理端的人工智能伺服器占比将随之攀升,預計 2027 年,用于推理的工作負載将達到 72.6%。
神州數碼信創業務集團副總裁、研發中心總經理周川告訴 36 氪,以前的推理以中心推理為主,而現在的推理應用更多在邊緣側,後者對算力需求相對更大。因此有必要推出更大算力、基于邊緣推理應用的參考設計方案。
因此,神州鲲泰計劃與華為合作推出昇騰能力中心,為不同行業的客户提供產品軟硬體的設計能力以及應用遷移适配調優的能力,縮短客户產品上市時間。
公開資料顯示,神州數碼集團于 2019 年加入華為鲲鵬生态,2020 年發布自有品牌 " 神州鲲泰 ",已推出數據計算、終端、DCN 數據通信、KunTai 數據通信四條產品線。
周川認為,由于基礎設施不斷建設,訓練模型最終會變成應用落地,訓練的高峰發展期可能即将結束。由于許多客户的數據十分敏感,不能流通,因此有着本地建設推理中心的推理需求,推理側将存在大量建設、應用機會。
他表示,不同行業的推理應用形态不一,華為難以支撐所有客户應用需求,神州數碼的昇騰能力中心可以幫助華為覆蓋中小型客户,這是神州數碼對比友商的最大差異點與優勢。