今天小編分享的科學經驗：ChatGPT 日耗電超 50 萬度，卡死AI發展的竟然是能源？，歡迎閲讀。
最近《紐約客》報道，ChatGPT 每日耗電量或超過 50 萬千瓦時，相當于美國家庭平均用電量的 1.7 萬倍。埃隆 · 馬斯克也曾預言，未來兩年内電能短缺将成為制約 AI 發展的主要因素。然而，事實真的是這樣嗎？
目前關于 AI 耗電量的觀點主要源自估算結果，而非真實的測量數據。美國信息技術與創新基金會（ITIF）發布的報告認為，個别不準确的研究大大高估了 AI 的能耗，這樣的言論可能對 AI 發展造成不利影響，阻礙 AI 在促進節能減排、應對環境挑戰方面發揮潛力。業界人士呼籲，應當促進行業信息透明，同時減少 AI 技術的濫用。
AI 能耗評估難題：
影響因素眾多
ITIF 是一家非營利智庫，總部位于美國華盛頓。在這份題為《重新審視對人工智能能耗的擔憂》的報告中，ITIF 指出，不同 AI 模型的能耗和碳排放存在巨大差異，受到諸多因素的影響，包括芯片設計、冷卻系統、數據中心設計、軟體技術、工作負擔、電能來源等。
所以，在估算 AI 的能耗方面，不同研究的結論出現了較大分歧。2019 年馬薩諸塞大學阿默斯特分校團隊發布的一項預印本研究估算，當時領先的谷歌公司大語言模型 BERT 在 79 小時的訓練過程中排放了約 1438 磅二氧化碳（約合 652 千克），量級相當于一名乘客乘坐飛機往返于紐約和舊金山一次。研究也對 AI 神經架構搜索（NAS）等技術得出了類似結論。這篇論文在谷歌學術被引用接近 3000 次，并得到了大量媒體報道。
然而，從事 AI 研發的企業和機構得出了截然不同的分析結論。2021 年，谷歌公司與加州大學伯克利分校發布一項預印本研究認為，前述研究将谷歌的 AI 碳排放數值高估了 88 倍。但是這項研究得到的關注遠不如前者，被引數僅有 500 左右。
圖庫版權圖片，轉載使用可能引發版權糾紛
由于媒體和公眾關注負面信息的傾向，結論驚人的研究更容易得到傳播。科技行業名人的言行也在放大 " AI 能耗巨大 " 的信息，馬斯克曾預言 " 制約 AI 發展的因素将由‘缺硅’變成‘缺電’ "；Open AI CEO 薩姆 · 阿爾特曼也表示 AI 将消耗更多電力，并高調投資核聚變。
從全生命周期視角
評估 AI 能耗
ITIF 報告指出，目前許多研究和政策都關注 AI 訓練（training）階段，但多項研究表明 AI 在推理（inference）過程中，也即人們使用 AI 輸出結果的過程能耗更高。此外，不同 AI 模型處理不同類型的推理任務，能耗的差異也很大。例如 1000 次請求計算，圖片分類任務的耗電量是 0.007 千瓦時，而圖片生成任務耗電 2.907 千瓦時。
報告作者指出，AI 的訓練是一次性事件，而它的使用是長期過程，讨論 AI 能耗問題時應該關注的不是爆發式增長，而是長期的影響。并且，從技術史的視角看來，AI 及其能耗的增長還将受到以下 4 個因素的限制：
1
基礎設施建設成本将制約 AI 的快速增長
"ChatGPT 每日耗電量或超過 50 萬千瓦時 " 的結論，出自技術博客 Digiconomist 作者亞歷克斯 · 德 · 弗裏斯（Alex de Vries）的估算。德 · 弗裏斯還曾預測，在最糟糕的情況下，谷歌的 AI 用電量将與整個愛爾蘭相當，達到每年 29.3 TWh（太瓦時）。但他同時也指出，要想達到這樣的規模，谷歌需要在芯片上投入 1000 億美元，此外還要數據中心的運營和電費投入數十億美元。如果 AI 的運營成本居高不下，逐利的商業公司自然會放慢腳步，減少投入。
2
AI 性能增長存在邊際效應
近年來 AI 連續在許多領網域取得了突破性進展，這也意味着它可能很快迎來一個瓶頸期。研發、運營更大的模型帶來的回報将越來越低，在提升準确性上精益求精也将變得更困難。所以，優化 AI 模型可能是接下來的研發方向。
3
軟體和硬體的性能提升将減少 AI 能耗
AI 模型的優化，以及硬體技術的進步，都有望減少 AI 的能耗。一項發表于《科學》期刊的研究指出，在 2010~2018 年間，全球數據中心的運算量增長了 550%，存儲空間增長了 2400%，但耗電量僅增長 6%。硬體、虛拟技術和數據中心設計方面的創新提升了能效，也使得雲計算的規模化成為可能。
圖庫版權圖片，轉載使用可能引發版權糾紛
同樣，剪枝（pruning）、量化（quantization）、蒸餾（distillation）等技術有望帶來更好的算法，讓 AI 模型更快、更節能。谷歌公司和加州大學伯克利分校研究團隊指出，有賴于各項技術進步，近年來在谷歌公司内部 AI 的能耗占比保持穩定，盡管機器學習增長到運算量的 70%~80%。
4
AI 的應用最終将在某些方面減少碳排放
整體上，當人們用電子郵件替代傳統書信，用觀看 DVD 或流媒體頻道替代去電影院看電影，這些活動的數字化都減少了碳排放。AI 有望在這方面繼續發揮作用，例如通過改進視頻通話體驗，使更多的會議轉向遠程進行。此外，AI 技術還可用于進行電網調度、分析氣候數據，從而成為應對氣候變化的助力。
準确評估 AI 能耗
促進領網域健康發展
從歷史的角度看，關于 AI 碳排放的擔憂并不新鮮。90 年代曾有人預測，未來發電量的一半将用于滿足互聯網活動；在流媒體出現的時候，同樣有人提出類似觀點。如今我們知道，這些擔憂都并未成為現實。ITIF 報告認為，如果沒有完全理解 AI 能耗問題就急于進行管控，可能會阻礙 AI 的性能提升，限制其發展潛力。例如，使 AI 消除偏見和仇恨言論、避免輸出有害信息，都需要進行更多的推斷，從而提升能耗。
報告建議，應對大眾關于 AI 能耗問題的擔憂，決策者應當：
① 制定相應标準，使 AI 模型能耗公開透明；
② 鼓勵業界主動公開 AI 模型能耗信息，以便公眾進行知情選擇；
③ 考慮 AI 法規對能源使用的意外後果；
④ 利用 AI 實現政府運作的低碳化。
一些機構已經在推動 AI 的信息公開。2023 年 12 月，歐盟通過《人工智能法案》，這是全球首部 AI 監管法案。法案督促 AI 開發者致力于使模型高能效、可持續，并要求進行相應的信息公開。
圖庫版權圖片，轉載使用可能引發版權糾紛
德 · 弗裏斯同樣呼籲進行信息公開，同時他希望及時限制 AI 的發展，就像限制加密貨币技術一樣。數字經濟學家（Digiconomist）博客指出：" AI 和先前的區塊鏈等新興技術的發展，伴随着大量的狂熱和錯失恐懼（FOMO），這通常會催生對終端用户沒什麼益處的應用 。"
而在《紐約客》報道中，著名科學記者伊麗莎白 · 科爾伯特（Elizabeth Kolbert）的原話是：" 每當 ChatGPT 吐出信息（或給某人寫高中作文），都需要進行大量運算。據估計，ChatGPT 每天要響應約 2 億次請求，同時消耗超過 50 萬千瓦時電力。" 也就是説，要應對 AI 能耗危機，或許可以從限制使用 AI 寫作業開始。
參考文獻
[ 1 ] Elizabeth Kolbert. The Obscene Energy Demands of A.I.. The New Yorker. https://www.newyorker.com/news/daily-comment/the-obscene-energy-demands-of-ai. <2024-03-09/2024-03-09>
[ 2 ] Loz Blain. Elon Musk: AI will run out of electricity and transformers in 2025. New Atalas. https://newatlas.com/technology/elon-musk-ai/. <2024-03-01/2024-03-12>
[ 3 ] Daniel Castro. Rethinking Concerns About AI ’ s Energy Use. Center for Data Innovation. ITIF. https://itif.org/publications/2024/01/29/rethinking-concerns-about-ai-energy-use/. <2024-01-29/2024-03-04>
[ 4 ] Strubell, Emma, Ananya Ganesh, and Andrew McCallum. "Energy and policy considerations for deep learning in NLP." arXiv preprint arXiv:1906.02243 ( 2019 ) . https://arxiv.org/pdf/1906.02243.pdf
[ 5 ] Patterson, David, et al. "Carbon emissions and large neural network training." arXiv preprint arXiv:2104.10350 ( 2021 ) . https://arxiv.org/abs/2104.10350
[ 6 ] OpenAI CEO Altman says at Davos future AI depends on energy breakthrough. Reuters. https://www.reuters.com/technology/openai-ceo-altman-says-davos-future-ai-depends-energy-breakthrough-2024-01-16/. <2024-01-16/2024-03-12>
[ 7 ] de Vries, Alex. "The growing energy footprint of artificial intelligence." Joule 7.10 ( 2023 ) : 2191-2194.
https://www.cell.com/joule/pdf/S2542-4351 ( 23 ) 00365-3.pdf
[ 8 ] Eric Masanet et al., "Recalibrating Global Data Center Energy-Use Estimates," Science 367, no. 6481 ( February 28, 2020 ) : 984 – 86, https://doi.org/10.1126/science.aba3758.
[ 9 ] Patterson, David, et al. "The carbon footprint of machine learning training will plateau, then shrink." Computer 55.7 ( 2022 ) : 18-28.
[ 10 ] Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world. Council of the EU. https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/. <2023-12-09/2024-03-12>
[ 11 ] Powering AI could use as much electricity as a small country. Digiconomist. https://digiconomist.net/powering-ai-could-use-as-much-electricity-as-a-small-country/ <2023-10-10/2024-03-12>
策劃制作
作者丨瑪雅藍 科普創作者
審核丨于旸 騰訊玄武實驗室負責人
策劃丨徐來 楊雅萍
責編丨何通
相關推薦
1. 韓國人開始吃綠色油炸牙籤，食品安全局發文提醒：請不要吃牙籤！
5. 要想活得好，不要吃太飽！經常吃太飽危害比你想象還大（不止變胖）
本文封面圖片及文内圖片來自版權圖庫
轉載使用可能引發版權糾紛
原創圖文轉載請後台回復 " 轉載 "
點亮 " 在看 "
一起漲知識！
