今天小編分享的科技經驗:谷歌宣布新一代 Trillium TPU:性能提升 4.7 倍、節能 67%,歡迎閱讀。
IT 之家 5 月 15 日消息,谷歌公司在今天召開的 I / O 2024 開發者大會上,宣布了第六代數據中心 AI 芯片 Tensor 處理器單元(TPU)--Trillium,并表示将于今年晚些時候推出交付。
谷歌首席執行官桑達爾・皮查伊(Sundar Pichai)表示:" 谷歌就是為這一刻而生的。十多年來,我們一直是 GPU 的先驅。"
皮查伊表示新款 TPU 交付之後,每塊芯片的計算性能将比第五代提升 4.7 倍。谷歌是通過擴大芯片的矩陣乘法單元(MXU)和提高整體時鍾速度來實現這一目标的。此外,谷歌還将 Trillium 芯片的内存帶寬提高了一倍。
Trillium 采用了第三代 SparseCore,谷歌将其描述為 " 在高級排名和推薦工作負載中,處理常見大規模任務的專用加速器 "。該公司認為,這可以讓 Trillium TPU 更快地訓練模型,并以更低的延遲為模型提供服務。
皮查伊還将新芯片描述為谷歌迄今為止 " 最節能 " 的 TPU,這一點在人工智能芯片需求持續成倍增長的情況下尤為重要。
IT 之家翻譯皮查伊部分内容如下:" 在過去六年中,行業對 ML 計算的需求增長了 100 萬倍,大約每年增長 10 倍。如果不投資降低這些芯片的功耗需求,這種情況将難以為繼。谷歌承諾,新的 TPU 比第五代芯片節能 67%"。