Blog of work

首页
分类
标签
归档
关于

首页 CUTLASS-Cute 初步(5)：Pipeline

文章

CUTLASS-Cute 初步(5)：Pipeline

发表于 2025/02/26 更新于 2026/02/06

作者 Roderick.Huang

1 分钟阅读

GEMM Pipeline

本文由作者按照 CC BY 4.0 进行授权

分享

最近更新

CUTLASS-Cute 初步(5)：Pipeline
CUTLASS-Cute 初步(2)：Tensor & Layout Algebra
GEMM 版本1：使用 CuTe 实现一个 naive GEMM
CUTLASS-Cute 初步(1)：Layout
CUTLASS-Cute 初步(4)：Swizzle

热门标签

Cpp Linux Performance CUDA OCCT QGC Bash VTune CMake OpenCL

相关文章

GEMM 版本1：使用 CuTe 实现一个 naive GEMM

1. navie tile GEMM 代码文件：navie tile GEMM 基于分块矩阵乘法的简单实现，按照 Thread Block 将矩阵划分为多个tile进行计算，在 Thread Block内，再次将 tile 划分为多个子块，由每个线程负责计算子块。使用 Shared Memory 来缓存 tile 数据，减少全局内存访问次数。每个线程负责从全局内存中复制 ti...

CUTLASS-Cute 初步(4)：Swizzle

给定 layout 范围内，swizzle 通过列异或操作（icol = irow ^ icol），周期性的 coord 重排，映射到新的物理地址 offset。swizzle 定义了三个参数： M：以 $2^M$ 个一维坐标连续的元素为单位，将其当做一个元素； S：控制行号、列号提取的低位偏移； B：参与 XOR 的位数，即掩码位数，用于提取一维 index 中的行号、列号...

CUTLASS-Cute 初步(3)：TiledCopy 以及 TiledMMA

tiled_copy.cu：官方示例 1. Cute TiledCopy 层次化的 copy 抽象，将 Copy_Atom 分为几个可组合的层次： CopyOperation：NVidia在不同的硬件架构、不同的存储层次之间数据搬运提供了不同的指令，如 ldmatrix 和 LDS 等，还有针对Ampere架构的 cp.async 等。 Copy_Traits：和 MMA_...

CUTLASS-Cute 初步(3)：TiledCopy 以及 TiledMMA

CUTLASS-Cute 初步(4)：Swizzle

© 2026 Roderick.Huang. 保留部分权利。

本站采用 Jekyll 主题 Chirpy

热门标签

Cpp Linux Performance CUDA OCCT QGC Bash VTune CMake OpenCL

发现新版本的内容。