今天小编分享的科技经验:加速国产GPU开发!摩尔线程开源高性能计算库MUTLASS,欢迎阅读。
快科技 11 月 12 日消息,摩尔线程宣布,正式开源高性能线性代数模板库 MUTLASS,以便开发者能够更高效地针对摩尔线程 GPU MUSA Core、Tensor Core 等单元进行编程,加速基于国产 GPU 的算子开发以及算法创新。
在此之前,摩尔线程已经相继开源 OpenCV-MUSA 计算机视觉库、MooER 音频理解大模型、vLLM-MUSA 大语言模型高速推理框架。
▼ MUTLASS 开源地址:
https://github.com/MooreThreads/mutlass
在数值计算和深度学习领網域,矩阵乘法(GEMM)及其变种,比如 FlashAttention、Convolution,是构建复杂上层应用的基石。
不够,为了追求更高的算子融合效率,或者更创新的算法,开发者们往往需要超越标准化计算接口的限制,如标准 BLAS 接口以及芯片厂商的计算库接口,以实现高性能的定制化算子。
MUTLASS(MUSA Templates for Linear Algebra Subroutines)正是为满足这一需求而设计。
作为摩尔线程专为自研 MUSA 架构优化的高性能计算库,MUTLASS 是基于开源模板库 CUTLASS 进行的 MUSA 适配和定制化开发、优化。
针对矩阵乘法及相关变种,MUTLASS 提供了一系列高性能的 C++ 模板组件,并采用了与 muDNN 库类似的分层分解及数据搬运策略,以确保性能的充分发挥。
在本次开源的版本中,摩尔线程适配了 CuTe 后端库,为其增加了第三代 MUSA 架构的 MMA 计算原语,支持 TF32/FP16/BF16/INT8 等多种数据精度,并以此为基础,初步实现了矩阵乘法、默认实例库、性能测试器及相关工具包的支持。
借助 MUTLASS,开发者们既可以灵活复用不同层级的模板组件,也可以按需修改各种模板组件的实现细节,以较低的开发成本实现定制化的高性能算子,从而在摩尔线程全功能 GPU 上充分释放性能,并尝试更多的算法创新。
摩尔线程将持续优化 MUTLASS 的性能,并不断引入新的功能。