虎科技
业界资讯 手机产品 数码产品 移动互联 软件产品 智能汽车 生活家电 关于我们

摩尔线程发布MUTLASS:助力国产GPU高性能线性代数计算,加速算子开发与算法创新

2024-11-12来源:ITBEAR编辑:瑞雪

摩尔线程近日宣布,已开源其高性能线性代数模板库MUTLASS,旨在助力开发者更高效地利用摩尔线程全功能GPU的MUSA Core与Tensor Core进行编程。此举有望加快基于国产GPU的算子开发与算法创新步伐。

MUTLASS,即MUSA Templates for Linear Algebra Subroutines,是摩尔线程专为MUSA架构打造的高性能计算库。该库基于开源模板库CUTLASS进行了MUSA适配与深度定制化开发,以优化性能。

在矩阵乘法及相关操作方面,MUTLASS提供了一系列高性能的C++模板组件。这些组件采用了与muDNN库相似的分层分解及数据搬运策略,以确保GPU性能得以充分发挥。

此次开源的版本中,摩尔线程对CuTe后端库进行了适配,增加了对第三代MUSA架构的MMA计算原语的支持。同时,该版本还支持TF32、FP16、BF16及INT8等多种数据精度,为矩阵乘法、默认实例库、性能测试器及相关工具包提供了初步支持。

开发者可通过访问MUTLASS的开源地址:https://github.com/MooreThreads/mutlass,获取该库并应用于其项目中,从而提升基于摩尔线程GPU的开发效率与性能。

摩尔线程的这一开源举措,有望推动国产GPU在高性能计算领域的应用与发展,为国内外开发者提供更多选择与可能。