AI Infra
按时间查看这条路线的关键转折。
CUDA 把 GPU 变成通用计算平台
NVIDIA 发布 CUDA,让开发者用 C 风格工具直接编写在 GPU 上运行的通用并行程序。
Google 开源 TensorFlow
Google 以 Apache 2.0 许可证发布 TensorFlow,把内部第二代机器学习系统开放给研究者和开发者。
OpenAI Five 击败 Dota 2 世界冠军
OpenAI Five 在公开比赛中以 2 比 0 击败 Dota 2 冠军战队 OG,完成五个智能体的实时协作与对抗。
神经语言模型缩放规律被量化
OpenAI 研究者系统测量语言模型损失随参数量、数据量和训练计算量变化的规律,并给出计算预算分配建议。