Hinton、Yann LeCun、李飞飞谈深度学习十年：AI没有走入死胡同，“革命”仍如火如荼(3)

她解释道，“这是一种典型的开箱即用式机器学习思维方式，也对应着很高的风险。但我们在科学意义上相信自己的假设。”

但这一切仍然有待时间的检验。这些经过数十年 AI 研究发展起来的理论，直到 2012 年秋才完全证明了自己。一场重大突破，最终引发了得到公认的深度学习革命。

2012 年 10 月，Hinton 的两位博士生 Alex Krizhevsky 和 Ilya Sutskever 参加了由李飞飞组织的 ImageNet 竞赛，尝试为大规模对象检测与图像分类设计出可行的算法。师生三人凭借一篇题为《使用深度卷积神经网络实现 ImageNet 数据库分类》的论文最终胜出。该论文使用 ImageNet 数据库创建了一个名为 AlexNet 的开创性神经网络。而且事实证明，该模型在各种图像的分类方面都要比以往任何方法准确得多。

这篇令 AI 研究界赞叹不已的论文仍然站在早期突破的肩膀之上，再配合上 ImageNet 数据集和更强大的 GPU 硬件，直接开宗立派，为日后 Google Photos、Google Translate、Uber、Alexa、DALL-E 乃至 AlphaFold 翻开了历史进程的崭新一页。

此后，对 AI 技术的投资呈现出指数级增长：全球 AI 初创资金从 2011 年的 6.7 亿美元增长至 2020 年的 360 亿美元，并于 2021 年再次翻番达到 770 亿美元。

那一年，神经网络成为主流

经历了 2012 年震惊全球的 ImageNet 竞赛，媒体开始全力跟进深度学习的发展趋势。

ImageNet 竞赛次月《纽约时报》发表的文章《科学家们在深度学习项目中看到了希望》提到，“科技企业报告称，通过一种受人脑模式识别理论的启发，新型 AI 技术已经在诸多领域取得惊人进展，包括计算机视觉、语音识别乃至发现有前途的药物新分子等。”文章还补充称，“这种被称为人工神经网络，或简称为神经网络的新技术，采用与人脑相似的神经连接结构，成功推动深度学习程序在速度与准确性方面达到一个又一个新高度。”

这一年，AlexNet 并不是深度学习领域唯一的超级明星。2012 年 6 月，谷歌 X 实验室的研究人员也构建了一个由 16000 个处理节点组成的神经网络，包含 10 亿个连接。随着时间推移，它开始总结出“猫”的特征，进而准确识别出 YouTube 视频中出现的小猫形象。

与此同时，Jeffrey Dean 和吴恩达也在 Google Brain 的大规模图像识别方面取得了突破。在 2012 年的 IEEE 计算机视觉与模式识别会议上，研究人员 Dan Ciregan 等人再次显著提高了卷积神经网络在多个图像数据库上的最佳性能。