人工神经网络（1）——感知层

神经网络最重要的层是感知层。它是神经网络学习的开端，代表着神经网络中某一层的数据处理方法，而不是具体指代输入层、隐藏层还是输出层（结构上的划分）。

下图显示了一个感知层神经元，它是感知层的基本单元。感知神经元接收一组数字输入信号，然后这些信号与偏置系数b、一组权重系数组合，生成输出信号y（y为单数字变量）。该层神经元参数包括偏置和权重。

感知层神经单元数学表达式

组合函数（输入函数）：

c—combination。

激活函数（输出函数）：

a—activation。

每一层神经单元的激活函数决定了神经网络代表的功能。最常见的几种激活函数如下：

1. 线性激活函数
2. 双曲正切激活函数
3. Logistic激活函数
4. 线性整流激活函数（relu）

下面分别对这几种函数进行介绍。

线性激活函数

采用线性激活函数的感知层神经单元输出即为组合输入值。

双曲正切激活函数

双曲正切激活函数是构建神经网络中最常用的激活函数之一。它是一个S型函数，取值在-1和+1之间变化。

Logistic激活函数

Logistic函数是另一种S函数。它与双曲正切非常相似，但取值范围在0到1之间。

线性整流（relu）激活函数

线性整流激活函数，也称为ReLU，是最常用的激活函数之一。