今天小編分享的科技經驗:ChatGPT之父:奧特曼在下“芯片”大棋,歡迎閲讀。
最近,Open AI 計劃造芯鬧得沸沸揚揚。據消息,OpenAI CEO 奧特曼已經接觸了英特爾、台積電想要合作成立一家新的芯片工廠。此外,奧特曼 1 月訪韓時,還将目光投向三星、SK,也是為了芯片。
實際上,去年十月份,奧特曼就表态想要自研芯片,到了現在奧特曼似乎還想進一步布局造芯。從自研到自造,奧特曼芯片的 " 野心 " 藏不住了。
01奧特曼的野心自研芯片
自研芯片這件事,不止 Open AI,很多大廠都嘗試過。只不過,Open AI 的入局更晚一點。去年 10 月,外媒報道,OpenAI 正在探索制造自己的人工智能芯片。
并且,Open AI 的網站開始招募硬體相關的人才,官方網站上有數個軟硬體協同設計的職位在招聘,同時在去年九月 OpenAI 還招募了人工智能編譯器領網域的著名牛人 Andrew Tulloch 加入,這似乎也在印證 OpenAI 自研芯片方面的投入。
在一場公開對話中,奧特曼表示 OpenAI 不排除自研芯片這一選項。
奧特曼説到:" 對于是否采用定制硬體(芯片),我們還在評估中。我們正努力确定如何擴大規模以滿足世界的需求。雖然有可能不會研發芯片,但我們正在與做出卓越成果的夥伴保持良好合作。"
自造芯片
Open AI 真正的野心不止于自研芯片。
現在,Open AI 還想自造芯片。據報道,OpenAI 首席執行官山姆 · 奧特曼(Sam Altman)正在謀劃用數十億美元資金建立一所具備一定規模的半導體晶圓廠。這個項目的核心是建立 " 工廠網絡 ",以增加芯片產量。
為了這個項目籌措資金,奧特曼在拉攏包括阿布扎比和沙特阿拉伯在内的中東政府以及硅谷投資者。據《金融時報》報道,奧特曼與中東投資者就芯片投資進行談判,為開發 AI 大模型所需的芯片及芯片制造廠提供資金。
談判方包括中東地區最富有的投資者,阿布扎比最富有、最有影響力的人物之一——謝赫 · 塔努 · 本 · 扎耶德 · 阿勒納哈揚(Sheikh Tahnoon bin Zayed al-Nahyan)。他是阿聯酋總統謝赫 · 穆罕默德 · 本 · 扎耶德 · 阿勒納哈揚(Sheikh Mohammed bin Zayed al-Nahyan)的兄弟,也是阿聯酋國家安全顧問,擔任阿布扎比投資局(ADIA)、阿布扎比第三大主權财富基金 ADQ(阿布扎比發展控股有限公司)的主席,是阿布扎比人工智能公司 G42 的董事長,而該公司也和微軟、OpenAI 建立了合作關系。
奧特曼也在拉攏頂級芯片制造商,包括台積電、英特爾。此外,在最近 1 月的訪韓中,奧特曼與韓國芯片巨頭三星、SK 探讨合作。他們會議上讨論的主要話題之一是高帶寬内存(HBM)芯片,這是用于處理大量數據的最現代的内存芯片,對 AI 處理器至關重要。
事實上,Sam Altman 早在去年 6 月訪韓時就注意到了這兩家芯片巨頭,并表示願意投資韓國的 AI 初創企業。Econotimes 引用一位不願意透露姓名的官員消息稱,若合作達成,SK 和三星可能會負責開發和生產存儲芯片。
除了自己建廠外,奧特曼還早早投資了三家芯片初創企業,分别是 Cerebras、Rain Neuromorphics 和 Atomic Semi。
Cerebras 曾經推出過超大芯片,Cerebras 的第二代 AI 芯片 WSE-2 晶體管數量達到 2.6 萬億個,AI 内核數量也達到了 85 萬個,多項指标打破世界紀錄。這家公司去年一口氣開源了 7 個 GPT 模型,參數量分别達到 1.11 億、2.56 億、5.9 億、13 億、27 億、67 億和 130 億。
來源: Cerebras 官網
另一家是 Rain Neuromorphics,這家公司設計的芯片模拟大腦工作方式,屬于神經拟态芯片初創公司。Rain AI 的首款芯片基于 RISC-V 開源指令集架構,面向包括手機、無人機 / 機器人等設備,其亮點是既能訓練算法,又能在部署時運行。盡管第一批硬體尚未向客户交付,但 OpenAI 早已向 Rain AI 下了 5100 萬美元的預定訂單。
此外,還有由芯片大神吉姆 · 凱勒和 " 車庫造芯 " 紅人山姆 · 澤洛夫共同創立的 Atomic Semi。他們二人共同創立的 Atomic Semi,旨在讓芯片生產加工更加簡化,以期在數小時内生產出更廉價的芯片。
02奧特曼的憂 " 芯 "
現階段,奧特曼或許是這個世界上最渴望 GPU 的人。
GPU 對于奧特曼一直是一個沉重的負擔。早在 2022 年,他就公開表達了對英偉達 GPU 芯片短缺的不滿,聲稱這給公司帶來了巨大的壓力。
他在多次采訪中抱怨,"OpenAI 目前正受到 GPU 算力的嚴重制約,導致許多短期計劃無法按時完成。"
在 11 月中,Open AI 突然宣布,ChatGPT Plus 賬号暫停注冊,原因無他:訪問量激增超出了伺服器的承受能力。
Altman 在 X 上發文對此解釋道:由于 OpenAI 開發日後 ChatGPT 使用量的激增超出了我們的承受能力,我們希望确保每個人都有良好的體驗。您仍然可以在 app 内注冊 ChatGPT,以便在 ChatGPT Plus 重新開放時收到通知。
當時的情況下普通的 ChatGPT 賬号還是可以注冊的,但要購買 Plus 服務時,就會被提示——已注冊等待名單,且附上了理由:由于需求量太大,我們暫時暫停了更新服務。
OpenAI 公布過一組數據,大模型訓練所需算力的增速保持在 3~4 個月 / 倍速度增長,遠超摩爾定律 18~24 個月 / 倍。強大的算力,意味着更快的數據處理速度、更強大的大模型服務能力。
在倫敦聽證會上,奧特曼稱 " 大部分問題都是 GPU 短缺造成的 "
首先 OpenAI 很多客户都在抱怨 API 的可靠性和速度,在沒有足夠的 GPU 的情況下,這是沒有辦法被解決的。
第二,由于算力的緊缺,ChatGPT 更長的 32k 上下文能力( 大約是 24000 個詞的上下文能力 )也暫時無法推送給更廣的客户。
第三,由于算力的緊缺,ChatGPT 的模型微調 API 也做不到很好地支持,不能使用 LoRa 等高效的微調方法。
第四,由于算力的緊缺,OpenAI 沒辦法賣給客户更多的專有定制化模型,現在的解決辦法是要求客户預先支付高達 10 萬美元的定金。
基于以上種種問題,奧特曼和 OpenAI 雖然是大模型浪潮的締造者,但他們卻不得不仰仗于英偉達的產能,英偉達在 AI 領網域占有近 80% 的市場份額,英偉達的產能一天上不來,OpenAI 就沒辦法盡快發展。
而 Open AI 面臨的難題不僅僅是 GPU 的短缺困境,還包括其高昂的價格。
無論是購買英偉達的 GPU,還是使用基于 GPU 的雲伺服器,都太貴了。去年,OpenAI 去年錄得收入 2800 萬美元,而總體虧損為 5.4 億美元;而 OpenAI 巨大的虧損背後,主要原因就是由于算力開銷。
根據美國金融公司 Bernstein 的分析,如果 ChatGPT 的訪問量達到谷歌搜索十分之一的水平(而這也是 OpenAI 未來的重要目标之一),OpenAI 初始需要的 GPU 價值高達 481 億美元,每年維持運行的芯片成本需要 160 億美元。
這樣的開銷,可能是未來 OpenAI 進一步規模化的一個主要瓶頸。畢竟即使強如微軟,也無法長期支撐如此巨額的投入。
對于 OpenAI 而言,自己造芯片意味着安全和長期更可控的成本。
03存在變數
先來看自研芯片的變數。其實目前自研芯片的大廠不在少數,比如 Facebook 的母公司,Meta 目前正開發一款新型芯片,希望能涵蓋所有 AI 類型;OpenAI 的主要支持者微軟也在開發定制 AI 芯片,并交由 OpenAI 進行測試。
不過,親自下場做芯片設計研發,有三大問題。
第一,對人才密度要求非常高。
第二,投入不小。百人高端芯片團隊以及動辄幾千萬的單次流片成本,無不是重投入,而且還不能指望一次流片成功。據 Semiengingeering 數據顯示,開發 28nm 節點芯片的投入約為 5130 萬美元,7nm 節點芯片更是達到了 2.97 億美元。
第三,找一個合适的代工廠。7nm 以下的代工廠,只能找台積電和三星這兩家,但是如何讓台積電和三星積極配合項目進度,也考驗 Open AI 與上遊 Fab 廠打交道的能力
那如果加上自己建工廠,變數會更大。
首先,還是錢的問題。我們提到,就算自研芯片的流片成本都很高,那麼直接蓋一個晶圓廠的成本只會高上加高。
晶圓廠建造耗資巨大。半導體公司英特爾曾表示,一個晶圓廠需要 6000 名工人花 3 年時間建造,耗資 100 億美元。與此同時,生產先進計算芯片也是既昂貴又復雜,這些芯片必須在 " 潔淨室 " 中組裝,以防止微小顆粒甚至靜電損壞芯片。如果是 AI 芯片需要的 3nm、2nm 級節點的晶圓廠如今的投資成本也将高達 300 億美元。
但是作為初創公司,Open AI 還是缺錢的。
去年 4 月,OpenAI 完成最新一輪融資,估值 270 億到 290 億美元。微軟目前為 OpenAI 的最大股東,持有 49% 的股份。其他财務投資機構包括老虎環球基金、Sequoia、位于加州的 Andreessen Horowitz、位于紐約的 Thrive 和 K2 Global、Founders Fund 等。
當時,奧特曼在回應估值時強調,目前 OpenAI 需要籌集大量資金,以尋找研發人才,以及快速推動創新研究。
" 我們需要大量的資金來完成 OpenAI 使命。在我們有限的時間裏,一定有比我們未來融資計劃更有趣的事情可以讨論。當然,我們需要更多的錢,AI 未來的路徑尚不明确,但創新昂貴。在產品方面,我們正在尋找研發人才和快速推進創新,并且正努力推動 AI 的各種應用并與客户合作。" 奧特曼表示。
到了 12 月,傳出消息新一輪的融資正在初步磋商,OpenAI 的估值可能因這一融資而達到或超過 1000 億美元。
不過不管怎麼説,融的多、花的多。Open AI 花錢的地方多的是,如果加上自研芯片和蓋晶圓廠,那還是不夠塞牙縫。
其次,是需求的問題。AI 芯片的真正產能需求能有多大?肯定無法 Cover 一個晶圓廠的運營成本。
來看看目前的晶圓代工廠,台積電、三星、中芯國際,其中的代工業務都包含半導體產業鏈的各種產品,從 40nm 到 3nm,就算這樣在半導體出現周期下行時,營業也有波動。因此,專門建設一個晶圓廠,進行 AI 芯片的制造,也并不是一件現實的事情。
回過頭來,AI 時代的大幕拉開,OpenAI 其實并沒有絕對優勢,如今已經是一場各顯神通的混戰。
從 GPT-5 到 AI 芯片廠,不知道 Open AI 能否撐起奧特曼的野心。