今天小編分享的科學經驗:小扎All in 開源AGI:正訓練Llama 3,年底将有35萬塊H100,歡迎閱讀。
白交 發自 凹非寺
量子位 | 公眾号 QbitAI
小扎宣布新目标:All in 開源 AGI。
不錯,小扎又 All in 了,正是 OpenAI 谷歌必争之地。
不過在 AGI 之前,着重強調了是Open Sourse(開源)的。
此舉受到不少好評,一如此前 LIama 系列大模型開源之時。
不過此次又一波 All in,不禁讓網友想起上一波 All in 了:元宇宙去哪裡了???
但必須要說的是,此次列的 Flag 确實更具體一些,甚至也透露了一些關鍵數據。
比如,
年底将有 35 萬塊 H100,而包括其他 GPU 在内,總算力将相當于 60 萬塊 H100。
FAIR 團隊的工作将與 GenAI 團隊更為緊密。
LIama 3 即将到來。
最後他還打了個小廣告。他們正在打造以 AI 為中心的新型計算設備,比如 Ray Ban Meta 智能眼鏡。
看來元宇宙還在繼續。
小扎又 All in 了
現在,小扎正式宣布加入 AGI 之争。
雖然沒有明确的時間表,但作為長期願景,明确表示兩個關鍵點:
負責任地開源,并廣泛提供,讓每個人都能從中獲益。
而為了實現這一目标,主要有兩件事:
第一,将現有兩大 AI 研究工作團隊(FAIR 和 GenAI)緊密結合在一起。
按照 LeCun 的話說,就是兩個成為兄弟部門。
并表示,Llama-3 is coming!
第二,建設大規模的計算基礎設施:今年年底将擁有 35 萬塊 H100,總算力相當于 60 萬個 H100。
按照 2.5 萬美元至 3 萬美元出售價來測算,總算力價值将達到 150 億美元至 180 億美元。
此前曾有機構預計,2023 年英偉達朝 Meta 的 H100 出貨量能達到 15 萬塊,同微軟持平,并且至少是其他公司的三倍。
為此小扎表示,我們已經建立了這樣的能力,其規模可能比任何其他單獨的公司都大。
有網友算了算計算能力直呼:大腦大小的模型即将到來。
不過也有人質疑,英偉達應該生產不了那麼多。
但有 Meta 領導現身說法:H100 是包含現有在内,一共 35 萬塊。
除此之外,還強調了硬體設備上的進展。
大佬們對于 AGI 的評價
在小扎宣布這一消息之前,不少大佬在達沃斯世界經濟論壇上發表了不少關于 AGI 的評論。
像 LeCun 則在 The Expanding Universe of Generative Models 這一論壇上強調了 AGI 實現路徑中開源的重要性。
我們之所以能在人工智能領網域看到如此快速的進步,是因為人們進行了開放研究。
即便他經常經常對 AGI 很快到來(當然不是在未來五年内)表示懷疑,但 AGI 還是到來了。
而 Transformer 主創 Aidan Gomez 則表示:
目前我們還沒有完成擴展,我們還需要繼續努力。
至于像 OpenAI CEO 奧特曼表示,人類水平的人工智能很快到來,但對世界的改變遠比我們想象的要小。
通用人工智能(AGI)可能會在 " 相當接近的未來 " 得到開發。
對于 AGI 的發展,你們怎麼看?
— 完 —
點這裡關注我,記得标星哦~
一鍵三連「分享」、「點贊」和「在看」
科技前沿進展日日相見 ~
>