“图灵奖”，深度学习的技术突破 留言

图灵奖成立于1966年，称得上是计算机领域的诺贝尔奖。

美国计算机协会宣布，由于在神经网络研究领域作出的重要贡献，Hinton教授、LeCun教授以及Bengio教授三人成功获得“图灵奖”。Hinton教授就职于谷歌，LeCun教授任职于Facebook，而Bengio教授则与IBM和微软两家公司合作密切。

深度学习已经成为了人工智能技术领域最重要的技术之一。在最近数年中，计算机视觉、语音识别、自然语言处理和机器人取得的爆炸性进展都离不开深度学习。

Hinton最重要的贡献来自他1986年发明反向传播的论文“Learning Internal Representations by Error Propagation”以及2012年对卷积神经网络的改进。

Hinton和他的学生Alex Krizhevsky以及Ilya Sutskever通过Rectified Linear Neurons和 Dropout Regularization改进了卷积神经网络，并在著名的ImageNet评测中取得了很好的成绩，在计算机视觉领域掀起一场革命。

Bengio的贡献主要在1990年代发明的Probabilistic models of sequences。他把神经网络和概率模型（例如隐马尔可夫模型）结合在一起，并和AT&T公司合作，用新技术识别手写的支票。现代深度学习技术中的语音识别也是这些概念的扩展。

此外Bengio还于2000年还发表了论文“A Neural Probabilistic Language Model”，使用高维词向量来表征自然语言。他的团队还引入了注意力机制，让机器翻译获得突破，也成为了让深度学习处理序列的重要技术。

Yann LeCun的代表贡献之一是卷积神经网络。1980年代，LeCun发明了卷积神经网络，现在已经成为了机器学习领域的基础技术之一，也让深度学习效率更高。1980年代末期，Yan LeCun在多伦多大学和贝尔实验室工作期间，首次将卷积神经网络用于手写数字识别。

今天，卷积神经网络已经成为了业界标准技术，广泛用于计算机视觉、语音识别、语音合成、图片合成，以及自然语言处理等学术方向，以及自动驾驶、医学图片识别、语音助手、信息过滤等工业应用方向。

LeCun的第二个重要贡献是改进了反向传播算法。他提出了一个早期的反向传播算法backprop，也根据变分原理给出了一个简洁的推导。他的工作让反向传播算法更快，比如描述了两个简单的方法可以减少学习时间。

LeCun第三个贡献是拓展了神经网络的应用范围。他把神经网络变成了一个可以完成大量不同任务的计算模型。例如，在图片识别领域，他研究了如何让神经网络学习层次特征，这一方法现在已经用于很多日常的识别任务。他们还提出了可以操作结构数据（例如图数据）的深度学习架构。

 

原文始发于微信公众号（雷达通信电子战）