深度学习展望

本文原作者Yoshua Bengio,Yoshua Bengio教授(个人主页)是机器学习大神之一,尤其是在深度学习这个领域。他连同Geoff Hinton老先生以及 Yann LeCun(燕乐存)教授,缔造了2006年开始的深度学习复兴。他的研究工作主要聚焦在高级机器学习方面,致力于用其解决人工智能问题。他是仅存的几个仍然全身心投入在学术界的深度学习教授之一,好多其他教授早已投身于工业界,加入了谷歌或Facebook公司。

以下内容来自于Yoshua Bengio的最新博文,本文由格灵深瞳大美女天天翻译。

正文如下:

深度学习

人类一直梦想着创造有智能的机器。早在第一台可编程计算机问世前100多年,发明家就对如何能让由连杆和齿轮组成的设备也变得更加智能这一命题充满好奇。后来,20世纪40年代计算机领域的先驱者之一Alan Turing通过描述一个测试为计算机科学设定了目标,这个测试也就是后来被大家所熟知的图灵测试,用以衡量计算机的表现和人类行为的接近程度。(注:图灵测试一词来源于计算机科学和密码学的先驱Alan Turing写于1950年的一篇论文《计算机器与智能》。Alan Turing 1950年设计出这个测试,其内容是,如果电脑能在5分钟内回答由人类测试者提出的一系列问题,且其超过30%的回答让测试者误认为是人类所答,则电脑通过测试。)

在我学术生涯早期研究人工智能领域的时候,科学家们解决的都是一些对人类来说困难,而对计算机来说会相对简单的任务,比如大规模的数学计算。然而在最近几年,我们正在进行的一些项目都是对人类来说非常容易,或者说下意识就能解决的任务,比如语音识别和人群中的人脸识别,然而这些任务却很难让计算机理解。

真正让我感兴趣的是在人工智能领域开始有了更为复杂的探索,即让计算机获得自主学习的能力。当然我的目的并不是让计算机完全像人类一样思考,我只是想去理解那些能让实体、计算机或生物变得智能化的一些基础原则。我很久以前打过一个赌,说是如果人工智能真的能够实现的话一定是得益于实体的学习能力,因此我一直专注于构建能够学习并自行理解这个世界的计算机。

我相信此刻我们正处于人工智能甚至是计算机本身的一个历史转折点。得益于现在更为强大的计算机、可用的海量丰富数据集以及先进的算法,我们终于可以跨越一个长期以来阻碍计算机科学发展的阈值。机器学习正在从一个高度人工化的阶段向另一个更为自动化的阶段进行快速转变,前者需要我们人为地对每个项目进行设计并提取其中较好的特征,后者可以实现让计算机像孩子一样,通过不断学习获得的经验来积累内部特征,从而理解这个世界,这就是我们所说的深度学习。

深度学习

深度学习并不是一个全新的概念。事实上,在20世纪80年代我还是一个学生的时候,这是一个神经网络里的概念,也可以说是深度学习的前身,我对这个概念非常着迷并决定要在计算机科学领域开启我的学术生涯。目前深度学习真正新的进展在于,因为之前许多科学和技术进步的积累,使得我们在人工智能应用方面取得了一系列突破,比如语音识别、计算机视觉和自然语言处理等等。这也使得这个领域内涌入了一大批由研究生占据主要比例的研究者,让深度学习的研究高速发展起来。

我们能走到今天离不开两方面技术的进步,一是层次结构概念的创建,二是让电脑能自己提取特征。层次结构使得电脑能通过一些简单的概念学习进而理解复杂概念,这也是人类学习并培养他们对世界的理解的方式。当我们从过去所熟悉的事物中发现了新的观点,就会逐渐优化对世界理解的模型来不断适应,这些新事物又能帮助他们更好的与事实和数据对应起来。

例如,深度学习系统可以通过组合一些简单的概念来表示一只猫的形象,比如通过边缘的概念依次定义角落和轮廓。但是我们不需要特意教它关于中间区域的概念,它会自己学习。在这样一个视觉识别系统中,计算机可以成功在一张暹罗猫翻跟头照片中识别出猫,而不需要我们展示给系统所有猫可能具有的颜色、外形或行为。当计算机“看见”一只猫的时候,它就会“知道”这是一只猫。