今天小編分享的科技經驗：HBM，大戰打響，歡迎閱讀。
因為人工智能的火熱，HBM 已經成為了兵家必争之地。
SK 海力士在昨日的财報會上就指出，随着生成式人工智能 ( AI ) 市場的擴張 ( 以 ChatGPT 為主 ) ，AI 伺服器的需求迅速增加，HBM3、DDR5 等高階產品銷售上揚，進而使得公司第 2 季營收季增 44%、營損縮減 15%。
而據行業知名機構 TrendForce 的調研顯示，目前高端 AI 伺服器 GPU 搭載 HBM 已成主流，預估今年全球 HBM 需求量将年增近六成，達 2.9 億 GB ，2024 年将再成長三成。
正因為如此，包括 SK 海力士、三星和美光在内的三大存儲巨頭正在紛紛加碼 HBM。如美光在昨日就對外公布了其最新的 HBM 產品。
美光科技，不甘人後
在半導體行業觀察早前發布的文章《HBM 的崛起》中，我們就有講到，因為最初選擇為其高性能内存策略開發一種不同的技術——混合内存立方體 ( HMC ) ，從而導致美光在 HBM 上錯過了第一波機會。雖然他們在 2018 年奮起直追，但迄今也沒有改變他們落後的事實。
但美光的管理層在早前的發布會上聲稱，他們不僅會在 HBM3 上趕上，而且還會超越目前的領先者。他們指出，客戶現在正在試用其新的 HBM3 產品，并表示該產品比競争解決方案具有明顯更高的帶寬，并在性能和功耗方面建立了新的基準，并得到我們的 1-beta 技術、TSV 和其他創新技術的支持，從而實現了差異化的先進技術包裝解決方案。美光方面甚至強調，作為一種產品，它比市場上的其他產品幾乎實現了一代的飛躍。
可以肯定的是，大家對其 " 口出狂言 " 是有所保留，但他們終于公布了其最新的 HBM 產品。
美光表示，其最新的 HBM3 Gen 2 内存正在向客戶提供樣品。他們同時指出，其產品的速度其迄今世界上最快的，具有 1.2 TB/s 的聚合帶寬和最高容量的 8 高堆棧 24GB 的容量，采用該公司的 1β ( 1-beta ) 制造工藝制造。美光還聲稱其新内存是最節能的，與該公司上一代 HBM2E 相比，每瓦性能提高了 2.5 倍。
美光聲稱，公司正在使用 16Gbit 芯片的 12-Hi 配置。因此，美光有望成為第一家在更典型的 8-Hi 配置中提供 24 GB HBM3 模塊的供應商。如美光所說，公司也不會止步于基于 8-Hi 24Gbit 的 HBM3 Gen2 模塊，他們透露，公司計劃明年推出更高容量的領先 36 GB 12-Hi HBM3 Gen2 堆棧，以進一步擴充其產品線。
如美光所說，公司的 24GB HBM3 Gen2 堆棧将支持帶寬為 4.8 TB/s 的 4096 位 HBM3 内存子系統和帶寬為 7.2 TB/s 的 6096 位 HBM3 内存子系統。将這些數字結合起來，就可以使得 Nvidia 的 H100 SXM 的峰值内存帶寬為 3.35 TB/s。
除了高頻之外，美光的 HBM3 Gen2 堆棧還與當前 HBM3 兼容應用程式（例如計算 GPU、CPU、FPGA、加速器）直接兼容。因此，設備制造商最終也可以選擇美光作為 HBM3 内存供應商，等待通常的資格檢查。
通過這些新產品，美光的目标是立即在 HBM3 市場中占據性能領先地位，這意味着他們需要從技術層面提升競争力。而為了實現這一目标，美光進行了多項的變革和創新，當中就包括将矽通孔 ( TSV ) 數量比發貨的 HBM3 產品增加兩倍，并将互連尺寸縮小了 25%，更密集的金屬 TSV 互連還有助于改善器件各層之間的熱傳遞，從而降低熱阻。最終，盡管容量和吞吐量有所增加，但該封裝仍符合标準 0C 至 105C 工作範圍。
此外，美光還縮小了 HBM3 Gen2 堆棧中 DRAM 設備之間的距離。封裝的這兩項變化降低了這些内存模塊的熱阻，并使其更容易冷卻。據介紹，美光将各個 DRAM 層之間的空間減少了 23%，這有助于從最低芯片（往往是最熱的）到頂部芯片（往往是最冷的）的熱傳遞。層間的空氣也可以起到絕緣作用，因此減小芯片之間的距離具有減小氣隙的連鎖效應。然而，美光仍然堅持最終封裝的标準 720um Z 高度（厚度）。
但是，矽通孔數量的增加在帶來優勢的同時，還引入了新的挑戰。
如上所述，美光在其 HBM3 Gen2 堆棧中使用 24 Gb 内存設備（而不是 16 Gb 内存設備），這就讓他們不可避免地必須增加 TSV 數量以确保正确的連接。然而，将 HBM 堆棧中的 TSV 數量加倍可以通過促進更多并行數據傳輸來增強整體帶寬（并縮短延遲）、功效和可擴展性。它還通過數據重新路由減輕單個 TSV 故障的影響，從而提高可靠性。然而，這些好處也伴随着挑戰，例如制造復雜性增加和缺陷率增加的可能性增加（這已經是 HBM 持續關注的問題），這可能會轉化為更高的成本。
與其他 HBM3 内存模塊一樣，美光的 HBM3 Gen2 堆棧具有 Reed-Solomon 片上 ECC、内存單元軟修復、内存單元硬修復以及自動錯誤檢查和清理支持。值得一提的是，美光的 HBM3 Gen 2 封裝與标準 CoWoS 封裝兼容；鑑于業界對 GPU 和其他類型加速器的此類封裝的偏好，這是必然的。
除了即将推出的 HBM3 Gen2 產品之外，美光還宣布該公司已經在開發 HBMNext 内存。該 HBM 迭代将為每個堆棧提供 1.5 TB/s – 2+ TB/s 的帶寬，容量範圍為 36 GB 至 64 GB。
韓國巨頭，遙遙領先
在美光科技試圖彎道超車的時候，來自韓國的三星和 SK 海力士卻不甘落後。
首先看三星方面。根據他們在之前發布的路線圖，三星在去年已經實現了 HBM3 技術的量產。為了追趕領先者，三星量產的 HBM 3 產品覆蓋了 16GB 和 24GB 容量的存儲芯片。據了解，這些產品的數據處理速度達到了 6.4Gbps，是市場上最快的，有助于提高伺服器的學習計算速度。
而按照預計，公司将在 2024 年實現接口速度高達 7.2 Gbps 的 HBM3p，從而将數據傳輸率相比這一代進一步提升 10%，還将堆疊的總帶寬提升到 5 TB/s 以上。
在我們看來，三星提供的上述參數應該還沒有考慮到高級封裝技術帶來的高多層堆疊和内存寬度提升，為此我們預計到時候單芯片和堆疊芯片到 2024 年 HBM3p 都将實現更多的總帶寬提升。而這也将會成為人工智能應用的重要推動力，這就意味着在 2025 年之後的新一代雲端旗艦 GPU 中看到 HBM3p 的使用，從而進一步加強雲端人工智能的算力。
而據韓國媒體 ET News 的報道，為了應對 AI 的需求，三星計劃在 2024 年底前将 HBM 產的能翻一番。而據當地券商 KB Securities 稱，到 2024 年，HBM3 将占三星芯片銷售收入的 18%，高于今年預計的 6%。三星負責芯片業務的設備解決方案部門總裁兼負責人 Kyung Kye-hyun 在本月早些時候的公司會議上表示，三星将努力控制一半以上的 HBM 市場（現在 40%）。
與此同時，SK Hynix 也正在加強鞏固自己的在 HBM 方面的市場份額（50%）。
資料顯示，SK 海力士于去年上半年開始量產 HBM3 DRAM ( 第四代高頻寬記憶體產品 ) ，客戶就包括了 AI 芯片大廠英偉達。今年五月，公司帶來了第五代的 HBM 3e 產品。
據介紹，這個 HBM 3 增強版的技術可将數據傳輸速率提高 25%，從而為使用這種優質 DRAM 的應用程式提供可觀的性能提升。SK Hynix 進一步指出，公司的 HBM3E 内存将數據傳輸速率從目前的 6.40 GT/s 提高到 8.0 GT/s，從而将每堆棧帶寬從 819.2 GB/s 提高到 1 TB/s。SK 海力士計劃于 2023 年下半年開始提供 HBM3E 内存樣品，并于 2024 年開始量產。
按照 SK 海力士所說，公司的新一代 HBM 產品獲得了高度好評，原因之一在于公司的 MR-MUF（Mass Reflow-Molded Underfill ）封裝技術。
據他們介紹，這是一個在堆疊半導體芯片并将液體保護材料注入芯片之間的空間後，再硬化以保護芯片和周圍電路的工藝。與在每個芯片堆疊後應用薄膜型材料相比，MR-MUF 是一種更高效的工藝，并提供有效的散熱。
而為了增加產品的容量或層數，同時保持其厚度，HBM 中堆疊的 DRAM 芯片必須比以前薄 40%。但這會導致芯片容易彎曲等問題。因此，SK 海力士的團隊通過應用改進的環氧模塑料 ( EMC ) 并利用新一代的 MR-MUF 技術和新的堆疊方法克服了這些技術問題。
SK 海力士表示，與原始 MR-MUF 相比，新一代的 MR-MUF 工藝提供了三項改進：首先，采用新技術來控制晶圓變薄，使其不會彎曲；其次，在 12 層堆疊過程中，瞬間施加強烈熱量，以确保連接芯片的凸塊均勻拼接；最後，将一種新的散熱 EMC 材料置于真空下，并施加 70 噸壓力來填充芯片之間的狹小空間。
" 這種先進的 MR-MUF 保留了原始 MR-MUF 的優點，同時将生產率提高了約三倍，并将散熱提高了約 2.5 倍。"SK 海力士強調。
SK 海力士财務長 Kim Woohyun 在昨日的财報說明會中表示，公司整體投資立場不變 ( 今年資本支出預估至少年減 50% ) ，但引領未來市場成長的高密度 DDR5、HBM3 產能将持續擴大。據 BusinessKorea 報道，SK 海力士的目标是在明年将 HBM 和 DDR5 芯片的銷量翻一番。
統計顯示，SK 海力士目前 HBM 產品銷售占比在數量上還不到 1%，但銷售額占比已達 10% 左右。如果 HBM3 和 DDR5 業務規模擴大一倍，則有望加速營收增長和利潤改善。鑑于 SK 海力士今年上半年預計虧損超過 6 萬億韓元，此次目标設定也被解讀為該公司希望通過高附加值内存市場實現業績反彈。
寫在最後
雖然 HBM 的應用前景很好，然而，HBM 的發展也面臨一些挑戰。
首先，HBM 的成本相對較高，這在一定程度上限制了其在大規模應用中的普及。其次，HBM 技術的設計和制造難度相對較高，對芯片制造工藝和堆疊技術提出了更高的要求。這也意味着在實際應用中，需要更多的研發和制造優化，以降低成本并提升生產效率。
盡管面臨一些挑戰，但可以肯定的是，作為一項重要的技術創新，HBM 仍然具備廣闊的前景。而在三巨頭都相繼出招之後，一場圍繞 HBM 的大決戰正式打響。
