飞桨PaddlePaddle深度学习实战
上QQ阅读APP看书,第一时间看更新

2.2.6 深度学习崛起的时代背景

深度学习的诞生伴随着更优化的算法、更高性能的计算能力(GPU)和更大数据集的时代背景,使得它一出现就引起了巨大的轰动。首先提到的就是算法的优化,以Hinton在2006年提出了深度信念网络并成功训练了多层神经网络为起点,后来的研究人员在这一领域不断开拓创新,提出了越来越优秀的模型,并把它应用到各个场景,具体的应用实例将在2.3节展开介绍。深度学习崛起的另一条件是强大计算能力的出现,以前提到高性能计算人们能想到的都是CPU集群,现在进行深度学习研究使用的都是GPU,使用GPU集群可以将原来一个月才能训练出的网络加速到几个小时完成,时间上的大幅缩短使得研究人员训练了大量的网络。除了硬件飞速发展为其提供了条件外,深度学习还得到了充分的燃料:大数据。相较传统的神经网络,尽管在算法上我们确实简化了深度架构的训练,但最重要的进展是我们有了成功训练这些算法所需的资源。可以说人工智能只有在数据的驱动下才能实现深度学习,不断迭代模型,变得越来越智能。因此想要持续发展深度学习技术,算法、硬件和大数据缺一不可,切不可顾此失彼。