今天小編分享的互聯網經驗:中科加禾完成數千萬元種子輪融資,聚焦編譯技術,歡迎閲讀。
文|林炜鑫
編輯|楊逍
近日,36 氪獲悉,中科加禾宣布完成數千萬元種子輪融資,由 BV 百度風投領投,晨山資本、陸石投資、奇績創壇、寒武紀、天創資本、光合基金跟投,指數資本擔任獨家财務顧問。本輪融資資金計劃用于產品研發和公司運營。
中科加禾聚焦芯片編譯與優化技術,致力于為我國大模型產業提供通用化、低成本、高性能的算力資源。
編譯器是一種計算機程式,就像一位翻譯,它能把高級編程語言翻譯成芯片可以理解并執行的機器語言。同時編譯器還要做優化,讓生成的機器代碼運行更高效。簡單來説,芯片編譯器就是程式員和芯片之間的橋梁,編譯器的質量直接影響到最終芯片的性能。
随着人工智能技術的發展,市場對 GPU 芯片和算力的需求在不斷擴大,編譯技術的作用受到更多重視。目前,英偉達在 AI 芯片市場一家獨大,為 GPU 研發了包括編譯器和編程語言在内的 CUDA 系統。
中科加禾創始人崔慧敏告訴 36 氪,近幾年國產芯片的發展迅速,為國產芯片的編譯軟體帶來了機會。從行業需求來看,AI 時代產生大量異構計算需求,并且應用場景廣泛,算子不斷更新迭代;CUDA 針對 GPU 的架構進行過特定的優化,與 GPU 架構不同的國產芯片不太可能完全移植 CUDA,為了确保芯片可用,大多數國產芯片編譯器團隊做了很多針對各自芯片的算子定制化開發工作,這直接導致了國產芯片的生态碎片化問題。
針對以上的諸多問題,崔慧敏認為,國内需要一個可以支持多種後端芯片的編譯框架。" 我們要做的事就是打造一個支持多種國產芯片編譯的工具鏈,建立一套通用化、低成本、高性能的基礎軟體。同時通過我們的軟體,能讓用户把英偉達上的應用程式無縫移植到國產芯片。" 崔慧敏説。
中科加禾現有三條產品線,包括大模型推理優化工具、CUDA 兼容編譯器和中長尾芯片定制編譯器。
大模型推理優化工具是公司現階段的主打產品線,它能支持多種 AI 芯片,通過編譯優化,使國產算力得到提升。崔慧敏介紹,大模型對芯片算力的需求很大,公司會對芯片做非常深度的優化,包括從上層到下層,每個層次都開展更深度的融合優化工作。這部分工作也得益于團隊前期的技術積累。崔慧敏説,英偉達的 A800 芯片通過這款產品來編譯優化,多卡推理速度可以達到 A100 芯片的 90% 以上。
中科加禾的核心技術是完全自研的支持多種國產芯片的虛拟指令集,采用類似 JVM 虛拟化的技術來構建跨平台的後端軟體棧。虛拟指令集的思想來源于英偉達的 PTX,PTX 在英偉達的生态中扮演着重要的位置,通過 PTX 的抽象屏蔽了不同代英偉達 GPU 的差距,同時不會對性能造成額外的影響。崔慧敏表示,研發團隊将設計針對 CPU、GPU、NPU 三大類芯片的虛拟指令集擴展,在設計編譯優化時按類别實施優化,芯片廠商再根據硬體細節精細調優。
目前,中科加禾已和國内頭部 AI 算力芯片和硬體設備廠商達成合作并開始產品研發。崔慧敏介紹,公司商業模式主要有三種:短期内将和芯片及伺服器廠商合作,幫助其快速構建軟體棧,完成商業版工具產品或算力交付。發展到中期,将以出售公司研發的工具軟體許可證為主。到長期,将和雲 / 數據中心進行合作,探索規模化擴展和復制的銷售模式。
創始人崔慧敏畢業于清華大學計算機系,是中科院計算所編譯團隊負責人,在芯片和編譯器領網域頂級會議和期刊發表論文三十多篇。核心團隊是一支以中科院計算所作為技術源頭的編譯器研發團隊,具備 20 年以上的編譯器開發經驗,曾作為核心成員主持或參與過包括龍芯、神威、寒武紀、華為昇騰等多款芯片的編譯器研發工作。
歡迎交流