当今,人工智能(artificialintelligence, AI)已经成为一个具有众多实际应用和活跃研究课题的领域,并且正在蓬勃发展。我们期望通过智能软件自动地处理常规劳动、理解语音或图像、帮助医学诊断和支持基础科学研究。 

        许多人工智能任务都可以通过以下方式解决:先提取一个合适的特征集,然后将这些特征提供给简单的机器学习算法。例如,对于通过声音鉴别说话者的任务来说,一个有用的特征是对其声道大小的估计。这个特征为判断说话者是男性、女性还是儿童提供了有力线索。

        深度学习(deep learning)通过其他较简单的表示来表达复杂表示,解决了表示学习中的核心问题。 

        深度学习是通向人工智能的途径之一。具体来说,它是机器学习的一种,一种能够使计算机系统从经验和数据中得到提高的技术。我们坚信机器学习可以构建出在复杂实际环境下运行的AI 系统,并且是唯一切实可行的方法。深度学习是一种特定类型的机器学习,具有强大的能力和灵活性,它将大千世界表示为嵌套的层次概念体系(由较简单概念间的联系定义复杂概念、从一般抽象概括到高级抽象表示)。 


Deep learning-引言

注:维恩图展示了深度学习是一种表示学习,也是一种机器学习,可以用于许多(但不是全部)AI方法。维恩图的每个部分包括一个 AI技术的示例。 


1.1本书面向的读者 

        为了最好地服务各类读者,我们将本书组织为三个部分。第一部分介绍基本的数学工具和机器学习的概念。第二部分介绍最成熟的深度学习算法,这些技术基本上已经得到解决。第三部分讨论某些具有展望性的想法,它们被广泛地认为是深度学习未来的研究重点。 


1.2深度学习的历史趋势 

1.2.1神经网络的众多名称和命运变迁 

        目前为止深度学习已经经历了三次发展浪潮:

  • 20 世纪40年代到 60年代深度学习的雏形出现在 控制论(cybernetics)中;
  • 20 世纪80 年代到90 年代深度学习表现为联结主义(connectionism);
  • 直到 2006 年,才真正以深度学习之名复兴。 

1.2.2与日俱增的数据量 

        基准数据集的大小如何随着时间的推移而显著增加。这种趋势是由社会日益数字化驱动的。由于我们的活动越来越多发生在计算机上,我们做什么也越来越多地被记录。由于我们的计算机越来越多地联网在一起,这些记录变得更容易集中管理,并更容易将它们整理成适于机器学习应用的数据集。 因为统计估计的主要负担(观察少量数据以在新数据上泛化)已经减轻,‘‘大数据’’时代使机器学习更加容易。 

1.2.3与日俱增的模型规模 

        20世纪 80 年代,神经网络只能取得相对较小的成功,而现在神经网络非常成功的另一个重要原因是我们现在拥有的计算资源可以运行更大的模型。联结主义的主要见解之一是,当动物的许多神经元一起工作时会变得聪明。单独神经元或小集合的神经元不是特别有用。 生物神经元不是特别稠密地连接在一起。几十年来,我们器学习模型中每个神经元的连接数量已经与哺乳动物的大脑在同一数量级上。

1.2.4与日俱增的精度、复杂度和对现实世界的冲击

        深度学习是机器学习的一种方法。在过去几十年的发展中,它大量借鉴了我们关于人脑、统计学和应用数学的知识。近年来,得益于更强大的计算机、更大的数据集和能够训练更深网络的技术,深度学习的普及性和实用性都有了极大的发展。未来几年充满了进一步提高深度学习并将它带到新领域的挑战和机遇 。





分类:

技术点:

相关文章: