華為大模型登Nature正刊！審稿人：讓人們重新審視預報模型的未來

今天小編分享的科學經驗：華為大模型登Nature正刊！審稿人：讓人們重新審視預報模型的未來，歡迎閲讀。

比傳統方法快 1 萬倍、只需要 1.4 秒就能完成 24 小時全球氣象預報——

它就是來自華為雲的盤古氣象大模型。

今天，它登上了 Nature，據稱還是近年來首篇以中國科技公司作為唯一署名部門發表的 Nature 正刊論文（也就是華為雲獨作）。

審稿人給予它高度評價，這一模型使人類得以重新審視氣象預報模型的未來。

言外之意，就是有了它，原來的傳統方法都不香了。

那麼，它究竟是如何被開發出來的？解決了哪些關鍵難題？又有何具體成效和應用？

順着這篇論文帶你一文看盡。

破解現有 AI 氣象預報模型精度不足問題

上世紀 20 年代以來，特别是近三十年随着算力的迅速發展，傳統的數值天氣預報在每日天氣預報、極端災害預警、氣候變化預測等領網域取得了巨大的成功。

但是随着算力增長的趨緩和物理模型的逐漸復雜化，這一方式的瓶頸日益突出。

于是研究者們開始挖掘新的氣象預報範式如使用深度學習方法預測未來天氣。

華為雲研發團隊于 2 年前開始這方面的研究。

他們發現，在數值方法應用最廣泛的領網域如中長期預報中，現有的 AI 預報方法精度仍然顯著低于數值預報方法，并受到可解釋性欠缺，極端天氣預測不準等問題的制約。

而造成 AI 氣象預報模型的精度不足主要有兩個原因：

第一，現有的 AI 氣象預報模型都是基于 2D 神經網絡，無法很好地處理不均勻的 3D 氣象數據；

第二，AI 方法缺少數學物理機理約束，因此在迭代的過程中會不斷積累迭代誤差。

在此，華為雲的研究人員提出了3D Earth-Specific Transformer（3DEST）來處理復雜的不均勻 3D 氣象數據，從而打造了盤古氣象大模型。

其主要思想是使用一個視覺 transformer 的 3D 變種來處理復雜的不均勻的氣象要素，并且使用層次化時網域聚合策略，訓練了 4 個不同預報間隔的模型（分别為 1 小時間隔、3 小時間隔、6 小時間隔、24 小時間隔），使得預測特定時間氣象狀況的迭代次數最小，從而減少迭代誤差，也避免了由遞歸訓練帶來的訓練資源消耗。

為了訓練每個模型，研究人員使用 1979-2021 年的氣象數據，以小時為部門采樣，訓練了 100 個 epoch。

每個模型需要在 192 塊 V100 顯卡上訓練 16 天。事實上，即使經歷 100 個 epoch，這些模型依舊沒有完全收斂。

也就是説，在計算資源更加充足的情況下，AI 預報的精度還能夠進一步提升。

最終推理時，盤古氣象大模型僅需在一張 V100 顯卡上運行 1.4 秒，即可完成 24 小時全球氣象預報，包括位勢、濕度、風速、温度、海平面氣壓等，其中水平空間分辨率達到 0.25 ∘ × 0.25 ∘ ，時間分辨率為 1 小時，覆蓋 13 層垂直高度，可以精準地預測細粒度氣象特征。

而作為首個精度超過傳統數值預報方法的 AI 方法，它的計算速度相比傳統數值預報提升超過 10000 倍。

可直接應用于多個下遊場景

今年 5 月，台風 " 瑪娃 " 走向受到廣泛關注。

中央氣象局表示，華為雲盤古大模型在 " 瑪娃 " 的路徑預報中表現優異，提前五天預報出其将在台灣島東部海網域轉向路徑。