A行业级
CUDA 把 GPU 变成通用计算平台
熟悉的编程模型让并行算力进入开发者工具链
已核验1可追溯来源
NVIDIA 发布 CUDA,让开发者用 C 风格工具直接编写在 GPU 上运行的通用并行程序。
发生了什么
CUDA 提供编程模型、编译器、运行时和数学库,让线程、内存层次与 GPU 内核成为普通软件工程对象。随后 cuDNN 等库进一步封装了神经网络运算。
当时的行业背景
GPU 已拥有大量并行计算单元,但通用计算需要把问题改写成图形着色流程,开发门槛高,生态也不稳定。
为什么重要
深度学习需要重复执行大规模矩阵运算。CUDA 让研究者不必自己发明一套硬件和工具链,就能持续利用商品 GPU 的性能增长。
在它之前
通用 GPU 计算需要借用图形 API,应用开发困难。
在它之后
并行计算拥有稳定编程平台,并与深度学习框架共同演化。
影响
它改变了什么
对开发者
GPU 加速从特殊图形技巧变成有文档、库和调试工具支持的平台能力。
对行业
NVIDIA 的软硬件生态逐渐成为训练和推理基础设施的事实标准。
来源