从这个定义看，神经网络就是模拟生物神经网络的数学模型。作者说“生物神经网络一般指生物的大脑神经元、细胞、触点等组成的网络，用于产生生物的意识，帮助生物进行思考和行动”。这本书的第二章《构造神经网络》，作者介绍了怎样构造神经网络。作者从怎样先构造神经网络的基本单位——神经元说起，再到怎样构造一个神经网络。
从对设计神经元的介绍看，就是对生物神经元的模拟，有“神经元的输入部分(树突)、处理部分(细胞体)和输出部分(轴突)”。作者在回顾神经网络历史的章节中还说到了对控制论影响深远的一篇文章，按他讲话就是“控制论的思想源泉之一”——《神经活动中思想内在性的逻辑演算》。从这些都可以看到人工神经网络就是人类对生物神经网络的学习和模拟。
在书中作者提到了“人工智能的终极目标”——类脑。作者说“如果我们知道了如何模拟一个大脑，那么我们能否模拟一个更强的脑，这个大脑是不是可以链接到人类世界所有的知识库去学习，并诞生几乎无的创造力？这就是类脑的作用”。他还引用了类脑计算研究中心学术委员会主任张钹院士说的“类脑计算比曼哈顿计划更有挑战性”。从作者对类脑的介绍看，还有他说的对“第三类智能”的研究看，类脑人工智能会有一定的发展。
可是否能取代人类大脑，我觉得不可能。从现在来说，人类对大脑的探索也还只是前期阶段，不管现在说什么大脑里也存在量子纠缠，还是对大脑神经元的数量到底是八百亿还是一千亿，脑科学对大脑的研究还有特别大量的工作要做。可到底能对大脑有多少了解，能制造和人脑一样的大脑，都是未知数。不能因为人工智能有了什么突破性的进展就说人工智能可以取代大脑，从目前看，还差得远呢。
人工神经网络有哪些主要分类规则，如何分类？
人工神经网络为一类似人类神经结构的并行计算模式，是“一种基于脑与神经系统研究，所启发的信息处理技术”，通常也被称为平行分布式处理模型或链接模型。其具有人脑的学习、记忆和归纳等基本特性，可以处理连续型和离散型的数据，对数据进行预测。人工神经网络模型主要考虑网络连接的拓扑结构、神经元的特征、学习规则等。目前，已有近40种神经网络模型，其中有反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等。
以下讲述常见的两种分类方法:按照网络连接的拓朴结构分类和按照网络内部的信息流向分类。1 按照网络拓朴结构分类网络的拓朴结构，即神经元之间的连接方式。按此划分，可将神经网络结构分为两大类：层次型结构和互联型结构。层次型结构的神经网络将神经元按功能和顺序的不同分为输出层、中间层（隐层）、输出层。输出层各神经元负责接收来自外界的输入信息，并传给中间各隐层神经元；隐层是神经网络的内部信息处理层，负责信息变换。
根据需要可设计为一层或多层；最后一个隐层将信息传递给输出层神经元经进一步处理后向外界输出信息处理结果。而互连型网络结构中，任意两个节点之间都可能存在连接路径，因此可以根据网络中节点的连接程度将互连型网络细分为三种情况：全互连型、局部互连型和稀疏连接型2 按照网络信息流向分类从神经网络内部信息传递方向来看，可以分为两种类型：前馈型网络和反馈型网络。
单纯前馈网络的结构与分层网络结构相同，前馈是因网络信息处理的方向是从输入层到各隐层再到输出层逐层进行而得名的。前馈型网络中前一层的输出是下一层的输入，信息的处理具有逐层传递进行的方向性，一般不存在反馈环路。因此这类网络很容易串联起来建立多层前馈网络。反馈型网络的结构与单层全互连结构网络相同。在反馈型网络中的所有节点都具有信息处理功能，而且每个节点既可以从外界接受输入，同时又可以向外界输出。
神经网络的每一层网络，有什么实际的意义吗？
这个问题涉及的是神经网络的可解释性（interpretability）问题。在训练完之后，神经网络的每一层网络都显然具有其实际的意义，只是这种意义通常很难被人类简单地理解。人类可以去尝试重复一个已经被训练的神经网络进行的计算，但这种计算的意义是不够明确的，因此通常认为神经网络的「可解释性」不强。总体上来看，深度网络较浅层的神经元提取的是一些低层次的特征，较深层的神经元提取的是一些高级别的特征。
文章TAG：神经网络 剪枝 读懂 一文
