今天小編分享的科學經驗：英特爾突襲英偉達H100，新AI芯片訓練快40%，推理快50%，CEO蹦迪慶祝，歡迎閱讀。
英特爾，開始正面硬剛英偉達了。
就在深夜，英特爾 CEO 帕特 · 基辛格手舞足蹈地亮出了最新 AI 芯片——Gaudi 3：
他為什麼開心到現場直接蹦迪？
看下 Gaudi 3 的性能結果，就一目了然了：
訓練大模型：比英偉達 H100 快40%
推理大模型：比英偉達 H100 快50%
不僅如此，雖然基辛格沒有在現場給出直接的數據，但他還表示：
Gaudi 3 的性能将與英偉達 H200 相當，在某些領網域的性能甚至會更好。
如此直面對标英偉達，到底效果如何，我們繼續往下看。
硬剛英偉達的 Gaudi 3
英特爾表示，Gaudi 3 已經在 Llama 上做了測試，可以有效地訓練或部署 AI 大模型，包括文生圖的 Stable Diffusion 和語音識别的 Whisper 等等。
在現場，基辛格也展示了集成最新英特爾芯片的 AI PC，能夠快速處理的多項任務，例如快速處理郵件：
再如語音處理：
以及影像渲染：
英特爾演示操作的同事還非常調皮地展示了用 AI PC 生成的卡通版基辛格：
據了解，Gaudi 3 采用 5 納米工藝制造，與歷代 Gaudi 其它性能上的具體對比，如下表所示：
英特爾表示，Gaudi 3 芯片将在今年的第三季度向客戶大規模提供，包括戴爾、惠普和超微電腦在内的公司将使用該芯片。
至于具體的價格，目前英特爾方面還并未透露。
不過更令人意外的是，Gaudi 3 還只是在這次英特爾 Vision 活動中發布的產品之一。
Xeon，步入第六代
沒錯，去年年底英特爾剛剛上市第五代 Xeon，僅時隔數個月，第六代 Xeon又來了！
（英特爾這次還真沒有擠牙膏）
在現場，基辛格還親切地叫它"little baby"：
第六代 Xeon 包含兩種架構，分别是Sierra Forest和Granite Rapids。
Sierra Forest 基于英特爾更小、低功耗的 E-cores，而 Granite Rapids 則由更大但性能更高的 P-cores 組成。
基辛格在現場稱二者像雙胞胎：
更具體而言，Sierra Forest 架構的英特爾 Xeon 6 處理器，其機架密度提高 2.7 倍。
客戶能以近 3:1 的比例替換舊系統，大幅降低能耗，幫助其實現可持續發展目标。
而 Sierra Forest 架構的英特爾 Xeon 6 處理器包含了對 MXFP4 數據格式的軟體支持。
與使用 FP16 的第四代 Xeon 處理器相比，可将下一個 token 的延遲時間最多縮短 6.5 倍，能夠運行 700 億參數的 Llama-2 模型。
至于英特爾 Xeon 6 處理大模型的速度到底有多快，基辛格做了更加直接的對比。
他将第四代、第五代和最新的第六代 Xeon 放到了一起，來了一個現場速度的大比拼。
從直觀的生成速度來看，第六代 Xeon 明顯要比 " 前任們 " 快上許多。
具體到精确的延時數值，第六代 Xeon 運行 Llama 2 70B 只有82ms。
同等條件下，第六代 Xeon 與 " 前任們 " 的延時數值對比如下：
據了解，Sierra Forest 架構的第六代 Xeon 處理器将于今年第二季度推出。
網友揭秘英特爾 " 秘方 "
這場硬剛英偉達的發布會，同樣也激起了不少網友們的熱議。
例如 Gaudi 3 封裝的一處細節，即使用 HBM2e 存儲芯片，有網友對此表示驚訝：
他們使用的是 HBM2e，這是英偉達 A100 在 2020 年使用的。
而最先進的 HBM3e 英特爾原本也計劃采用，但很可能因為供應不足，這次沒能搶到足夠的訂單。
對此，這位網友進一步表示：
這是英特爾的秘方之一。
他們總能靠舊技術趕上 / 超越新技術，直到當前的技術在生產、獲取和集成上變得更容易。
實際上，制造優勢也是英特爾在半導體領網域的關鍵優勢之一，作為半導體產業的開創者之一，英特爾幾乎擁有芯片產業的所有資源和要素能力。
但何時能夠和英偉達全面一較高下？這也是不少網友關注的問題：
這次英特爾硬剛的是 H100/H200，那什麼時候可以對标英偉達最新的 " 核彈 "B200？
或許答案只有交給時間來回答。
但無論如何，英特爾此次的發布，确實是給 AIGC 時代的算力，多提供了一項 " 快好省 " 的選擇。
參考鏈接：
[ 1 ] https://www.anandtech.com/show/21342/intel-introduces-gaudi-3-accelerator-going-bigger-and-aiming-higher
[ 2 ] https://www.servethehome.com/intel-vision-2024-keynote-live-coverage/
[ 3 ] https://news.ycombinator.com/item?id=39981032
— 完 —
【 火熱報名中】中國 AIGC 產業峰會
定檔 4 月 17 日
峰會已經邀請到數位代表技術、產品、投資、用戶等領網域嘉賓，共論生成式 AI 產業最新變革趨勢。
最新确認嘉賓包括：商湯科技楊帆、輕松集團高玉石、印象筆記唐毅、螞蟻集團李建國等，。
峰會将全程線上下同步直播，歡迎預約直播 ⬇️
點這裡關注我，記得标星噢
一鍵三連「分享」、「點贊」和「在看」
科技前沿進展日日相見 ~
>
