（回顾一下我们初中学习过的生物课中神经元）。
1、单个神经元
-
：特征输入向量，其中
是偏置项；
-
：有的地方写成
，权重向量；
- 黄色圈圈：神经元，也叫做**函数。
-
：输出
2、**函数
常用的非线性**函数有sigmoid、tanh、relu等等。简要介绍下最基础的sigmoid函数(该函数我们在逻辑回归中用到过)：
形式为：
图形为：
从图形上可以直观的看出来，sigmoid函数的功能是相当于把一个数压缩至0到1之间。当z是非常大的正数时，g(z)会趋近于1，而z是非常小的负数时，则g(z)会趋近于0。
3、一组神经元
- 第一层称为输入层：因为在这一层输入特征，
- 第三层是输出层：因为它是计算结果。
- 中间层为隐藏层：因为在整个体系中，可以看见输入层的值，也可以看见输出层的值，但中间那一层的值是不知道的。实际上，除了输入层、输出层，其他层都被称之为隐藏层。如果有多个隐藏层就有多个**函数。
每一层都可能由单个或者多个神经元组成，每一层的输出将会作为下一层的输入数据。就上图而言，输入 在自身的权重影响下刺激着隐藏层的3个神经元a1、a2、a3。接着，a1、a2、a3又在自身权重的影响下成为输出层的输入，最终由输出层输出最终结果。
-
：第
层第
个单元的**函数(神经元)
-
：从第
层的控制函数的权重矩阵
如果第层有
个神经元，第
层有
个神经元，那么
就有
。理解：前面说过，每一层的输出将会作为下一层的输入数据，又因为有偏置项的存在，所以 +1 。