1957年科学家Frank Rosenblatt 开发了感知机这一人工神经元。感知机由两层神经元组成，输入层接收样本的特征，输出层产生样本的二进制类别。虽然现在大家主要是应用sigmoid 神经元，仍然有必要对感知机的原理进行理解以明白sigmoid由来。

工作原理

假设我们有m个样本，每个样本有n个特征，对应的输出结果y为0或1。感知机的工作原理就是输入每个样本的n个特征，并通过带权重的连接将信号传递给下一层神经元，然后将该神经元接收到的总输入值与阈值进行比较，如果大于阈值，则输出1，否则，输出0。其基本数学模型表示如下：

$y=\begin{cases} 0,     if    \sum \limits_{i=1}^{n}w_ix_i<= threshold\\1,     if    \sum \limits_{i=1}^{n}w_ix_i> threshold\end{cases}$

使用偏差代替阈值，感知机的简化方式可描述为：

$y=\begin{cases} 0,     if     w⋅x +b <= 0\\1,     if    w⋅x +b >0\end{cases}$