第2章 神经网络与深度学习

什么是神经网络？什么是深度学习？相信同学们都有这样的疑问，接下来，让我们追根溯源地了解神经网络与深度学习在整个知识图谱中的位置。

图2-1揭示了我们要学习的课程在整个知识图谱中的位置。首先，我们需要知道的是，深度学习与机器学习都是属于计算机科学这个大范畴下的一部分。什么是计算机科学？计算机科学是系统研究信息与计算的理论基础及它们在计算机系统中如何实现与应用的实用技术的学科。它通常被形容为对那些创造、描述及转换信息的算法处理的系统研究。通俗来说，任何与计算机相关的科学技术，都是其中一部分。大家之前已经学习过不少计算机科学相关的知识，例如程序开发、计算机网络、操作系统、数据库等。

图2-1 计算机科学图示

如图2-2所示，人工智能是计算机科学中的研究领域之一。1956年，明斯基、罗切斯特和香农等计算机科学家在达特茅斯会议相聚，共同研究和探讨用机器模拟智能的一系列问题，提出了“人工智能”的概念。人工智能是对人的意识、思维的信息过程的模拟。人工智能不是人的智能，但能像人一样思考，也能超过人的智能。近年来，人工智能的研究领域越来越广泛，几乎涵盖了计算机科学的方方面面，落地的领域也非常广泛，包括人脸识别、机器视觉、自动驾驶、智能机器人等。人工智能分为强人工智能和弱人工智能，分别代表着对人类思维的模拟程度，目前的研究还多集中在弱人工智能领域。

图2-2 人工智能图示

如图2-3所示，机器学习是实现人工智能的一个重要技术。它是人工智能的核心，属于人工智能的一个分支，主要研究如何让计算机拥有像人一样的学习能力，以更好地模拟和实现人的学习行为和能力。机器学习利用计算机强大的计算能力，用大量的数据来训练，并通过各种算法从数据中学习如何完成任务。

图2-3 机器学习图示

神经网络图示参见图2-4，它是机器学习中一种重要的算法模型，是模仿生物神经网络的结构和功能的数学模型或计算模型。神经网络预先通过大量的数据对人工神经单元进行训练，后续再输入数据时，就可以得到学习后的结果。举一个简单的例子，小红、小王、小明三人是好朋友，经常相约出去玩。某次小红有事，只有小王有空，小明有多大的概率会和小王一起出去呢？如果我们预先得到大量三人出去玩耍的样本，得到一个结论：只有小红出去玩的时候，小明才更容易出去。我们用这些例子输入神经网络去刺激人工神经元，产生学习效果，这样它就可以学习到和人一样的经验。

图2-4 神经网络图示

深度学习（如图2-5所示）的概念源于人工神经网络的研究，是针对人工神经网络的深入研究。如果说神经网络是一辆车，那么深度学习就是极高的开车技术。更简单的理解，深度学习是层数很深的神经网络。深度学习为了解决神经网络层数较深时，无法训练的问题，提出了一系列新的神经结构和新的网络优化方法，如卷积神经网络CNN、循环神经网络RNN、生成对抗网络GANS等，并且带来新的激活函数、新的权重初始化方法、新的损失函数、新的防止过拟合方法等。例如下围棋的AlphaGo，就是结合了深度学习与强化学习，利用多层神经网络，来进行围棋下子的决策。

至此，我们可以了解神经网络和深度学习在整个知识图谱中的位置与它们之间的关系了。简而言之，神经网络是一种通过模拟人的大脑神经工作模式的机器学习方法，而深度学习通过优化网络结构与算法，可以将神经网络拓展到很深的层数。当然，深度学习绝不仅仅是层数很深的神经网络。

接下来，将会先从人脑神经网络触发，扩展到神经网络的概念讲解，并以两个简单的案例为大家介绍神经网络的基础知识，然后，对深度学习的基础知识进行介绍，

图2-5 深度学习