面试真题

结论：GPU算子优化核心在于隐藏延迟、提高并行度和带宽利用率。关键方法：1. 内存优化：用共享内存缓存频繁数据，合并全局内存访问（连续线程访问连续地址）减少事务；2. 计算优化：循环展开、向量化指令或Tensor Core加速矩阵乘；3. 减少分支发散：避免warp内不同执行路径；4. 占用率优化：调整block大小与寄存器用量最大化活跃warp数；5. 算子融合或使用CUDA Graph降低内核启动开销。示例：矩阵乘分块用共享内存可将带宽需求降为O(N^2)。