S范式级

AlexNet 赢得 ImageNet 竞赛

两块 GPU、120 万张训练图像和 10.9 个百分点的领先

已核验1可追溯来源
核心变化

AlexNet 在 ILSVRC 2012 将 top-5 错误率降到 15.3%,第二名为 26.2%。这个差距让深度卷积网络成为计算机视觉的新基线。

01

发生了什么

八层 AlexNet 在两块 GTX 580 GPU 上训练,使用 ReLU 加快优化,以数据增强和 Dropout 抑制过拟合。模型直接从像素学习特征,不再把特征提取与分类拆成两个独立系统。

02

当时的行业背景

ImageNet 已提供超过百万张带标签训练图像,GPU 也具备适合矩阵计算的并行能力,但主流视觉系统仍依赖人工设计的 SIFT、HOG 等特征。

03

为什么重要

结果同时验证了数据、GPU 和深层网络的组合。此后视觉研究迅速放弃大量手工特征,算力和训练数据开始与算法一起决定模型能力。

在它之前

计算机视觉主要依赖手工设计的特征提取器(如 SIFT、HOG)。

在它之后

深度学习成为计算机视觉的主流方法,GPU 成为 AI 核心硬件。

影响

它改变了什么

对开发者

改变了计算机视觉的研究范式。

对行业

引发全球科技公司对深度学习的大规模投入。

来源

原始资料

  1. 01ImageNet Classification with Deep Convolutional Neural NetworksNeurIPS · paper

试试搜索