GPU并行计算 核心观点:GPU通过数千个核心实现大规模数据并行,是AI训练的核心硬件。 📚 内容导航 名称说明链接CUDA编程线程模型、内存层次、核函数待补充并行算法归约、扫描、排序、矩阵乘法待补充性能优化占用率、带宽利用、张量核心待补充多GPU编程NCCL、MPI、模型并行、数据并行待补充 🔗 相关链接 主题链接硬件基础概览硬件基础计算机体系结构计算机体系结构AI核心理论AI核心知识体系