今天小編分享的互聯網經驗:AI基礎設施公司「基流科技」連續完成Pre A+和A輪融資,累計融資總額超億元,歡迎閱讀。
文 | 王方玉
編輯 | 蘇建勳
36 氪獲悉,清華系算力網絡與算力建維服務商「基流科技」近期完成 Pre A+ 和 A 輪融資,由招商局創投、華泰創新、星連資本、國方創新聯合投資,老股東卓源亞洲、光速光合跟投,募集資金将主要用于產品研發、市場推廣和日常運營。
基流科技的歷史投資方包括了多家戰投與國資基金,累計融資總額超億元。
基流科技成立于 2023 年 2 月,源自清華大學網絡安全實驗室,公司攻克 AI 基礎設施的分布式計算通信難題,在高速組網、集合通信、并行框架、管控調度等方面形成了一系列關鍵技術。
自成立以來,基流科技已實現從百卡、千卡到萬卡,從集群組網、調優到集群運維的更新。
截至目前,公司已支持十餘個智算集群落地,累計建設調優集群的 FP16 算力超過 40EFLOPs。公司已服務包括智譜 AI、商湯科技、數據中心、運營商、地方國企在内的多個頭部用戶。
作為推動人工智能發展的三大要素之一,算力是人工智能的 " 發動機 " 和核心驅動力,也成為繼水、電、氣、路、網之後的新型基礎設施。
今年 9 月發布的《中國綜合算力指數報告(2024)》指出,過去 20 年間,我國智能算力需求增長了百億倍,而随着 AI、具身智能等產業的快速發展,我國智算規模還将進一步急劇增長。一萬張及以上的加速卡組成的 " 萬卡集群 " 也将越來越多。
越是規模大的算力集群,網絡通信和 GPU 組件故障的概率越高,快速打造大規模且穩定的算力集群,同時又做到高性價比,是一項全球共同面對的挑戰。而這正是基流科技要實現的目标。
正如互聯網時代的巨頭思科主要解決互聯網擴展和連接問題,算力網絡服務商角色就相當于大模型時代的思科。算力網絡具有重要戰略意義,近期英偉達因收購高性能網絡公司邁絡思被市場監管總局展開反壟斷調查,GPU 的專用網絡互聯設備和高速以太網網卡需要打破封鎖。
" 人工智能對算力的需求和傳統 IT 有很大差别,因此需要重新設計網絡架構,相關技術還處于初期階段,在分布式計算框架、硬體設備甚至芯片方面還有很大的想象空間。" 基流科技創始人胡效赫對 36 氪表示。
目前國内有萬卡以上大規模集群建維技術能力的團隊很少,行業内也普遍缺乏算力集群落地經驗與标準。而基流科技是國内極少數擁有萬卡集群落地經驗的 AI 基礎設施廠商,經歷了國内算力規模從千卡到萬卡功能的更新。
團隊方面,創始人胡效赫是清華大學博士、博士後,加州伯克利大學訪問學者,在高性能網絡和高性能計算方向做了十餘年研究,其在創業前就已經落地了全國首個運營商級 Tbps 可編程網絡產品。團隊成員則源自清華、北大、北郵、北航等一線高校,阿裡、美團、中興等互聯網和設備廠商,其中多名成員有超過二十年產研經驗。
得益于賽道的爆發式增長,基流科技也在快速成長當中。據了解,2023 年公司确認收入數千萬元,2024 年預計收入将超億元。
產品方面,基流科技目前主要有三部分,算力調度優化平台、算力建設運維平台和高速互聯硬體。除了整套算力集群建設解決方案外,公司在集群管理、計算框架和高速網絡三個層次上都進行了產品化并有逐步落地,并盡可能地提高交付效率、GPU 利用率和集群穩定性。
胡效赫告訴 36 氪,目前基流科技的算力集群方案在生產環境中可以為 GPU 集群提升超 10% 的性能,幫助客戶在千卡落地中節省成本上千萬元,在萬卡落地中節省數億元。
對于更大規模的十萬卡集群建設,胡效赫坦言 " 國内還沒人知道十萬卡該怎麼構建以及如何使用,還需要繼續探索。" 而基流科技團隊已經開始投入十萬卡仿真和未來架構設計的項目研發。
此外,高速算力互聯硬體的國產化也已經在進行中。
胡效赫表示,算力網絡的核心組件網卡、線纜、交換機,預計在 2025 年将實現端到端的國產化,通過軟硬體聯合設計的方法,優化算法、工藝與供應鏈,以系統帶動芯片發展,實現硬體開放生态,軟體自主可控。
" 随着人工智能產業快速發展,未來一到兩年,國内一定會產生十萬卡集群。在戰略層面上,這是一個優質供給和需求匹配的過程。" 胡效赫表示,基流科技将繼續發力超大規模集群的組網、調優和維護,為服務國家大戰略做出貢獻。