神经网络和误差逆传播算法（BP） (3)

如果

 = 1 

 = 1，则z = b + 

*

 + 

*

 = -30 + 20*1 + 20*1 = 10，此时，g(z)趋近于1。

    换言之，只有

和

都取1的时候，g(z)→1，判定为正样本；

或

取0的时候，g(z)→0，判定为负样本，如此达到分类的目的。

1.3 神经网络

    将下图的这种单个神经元

    组织在一起，便形成了神经网络。下图便是一个三层神经网络结构

    上图中最左边的原始输入信息称之为输入层，最右边的神经元称之为输出层（上图中输出层只有一个神经元），中间的叫隐藏层。

    啥叫输入层、输出层、隐藏层呢？

输入层（Input layer），众多神经元（Neuron）接受大量非线形输入讯息。输入的讯息称为输入向量。

输出层（Output layer），讯息在神经元链接中传输、分析、权衡，形成输出结果。输出的讯息称为输出向量。

隐藏层（Hidden layer），简称“隐层”，是输入层和输出层之间众多神经元和链接组成的各个层面。如果有多个隐藏层，则意味着多个激活函数。

    同时，每一层都可能由单个或多个神经元组成，每一层的输出将会作为下一层的输入数据。比如下图中间隐藏层来说，隐藏层的3个神经元a1、a2、a3皆各自接受来自多个不同权重的输入（因为有x1、x2、x3这三个输入，所以a1 a2 a3都会接受x1 x2 x3各自分别赋予的权重，即几个输入则几个权重），接着，a1、a2、a3又在自身各自不同权重的影响下 成为的输出层的输入，最终由输出层输出最终结果。

    上图（图引自Stanford机器学习公开课）中