今天小編分享的科技經驗:英偉達中國區首席技術官:将任務負載從CPU移至GPU,整體能耗将節省更多,歡迎閱讀。
英偉達(NVIDIA)中國區首席技術官賴俊傑表示,英偉達在全球數據中心計算問題上觀察到兩個重要趨勢:一是人們對人機互動的期望大大提高,引發了全球第二波關于大模型的投入浪潮。二是很多互聯網公司面臨着用戶需求增長、功耗越來越多的問題,特别是人工智能的大模型訪問比例增加,意味着需要更多的能耗投入。針對第二個趨勢,英偉達提出如果能更多地将任務負載從 CPU 移至 GPU,那麼能在支撐同樣多的用戶請求之同時,節省更多的能耗。(澎湃)