Ampere GPU 新特性

1. Async Copy

异步拷贝cp.async（即指令LDGSTS）支持4/8/16字节单位的拷贝，其中：

• 4/8字节单位的拷贝：L2 -> L1 -> SMEM；
• 16字节单位的拷贝(Bypass L1)：L2 -> SMEM。

明显的，16字节单位的拷贝性能最高。

另外，cp.async需要使用commit/wait指令来配合使用。

A. 资料

• 4.11. Asynchronous Data Copies：官方文档，介绍cp.async
• CUDA 11 NEW FEATURES(pdf)：Ampere 新特性介绍
• CUDA on NVIDIA GPU AMPERE MICROARCHITECTURE Taking your algorithms to the next level of performance(pdf)