前馈神经网络

前馈神经网络（Feedforward Neural Network，FNN）是一种基础的人工神经网络结构，其信息流动是单向的，从输入层（input layer）通过隐藏层（hidden layers）最终流向输出层（output layer），没有反向的连接。以下是前馈神经网络的一些关键特点：

1. 层次结构：前馈神经网络由多个层次组成，每个层次包含若干个神经元（或称为节点）。每个神经元通常与其他层次的神经元相连。

2. 单向传播：信息在网络中只沿一个方向流动，从输入层开始，逐层经过隐藏层，最终到达输出层。

3. 权重和偏置：每个神经元与其他神经元的连接都有相应的权重（weights），每个神经元还有一个偏置项（bias）。权重和偏置是网络在训练过程中学习得到的参数。

4. 激活函数：在每个神经元中，输入的加权和（包括偏置）会通过一个激活函数（activation function）来生成输出。激活函数可以是非线性的，如 Sigmoid、Tanh 或 ReLU 等，它赋予了神经网络处理复杂问题的能力。

5. 训练过程：前馈神经网络通过反向传播算法（Backpropagation）进行训练。在训练过程中，网络的输出与期望的输出之间计算误差，然后通过梯度下降法或其他优化算法调整权重和偏置，以最小化误差。

6. 应用广泛：前馈神经网络可以应用于各种任务，包括分类、回归、模式识别等。

7. 简单易懂：相比于循环神经网络（RNN）或卷积神经网络（CNN），前馈神经网络的结构相对简单，易于理解和实现。

8. 局限性：由于前馈神经网络缺乏反馈连接，它们通常不能处理时间序列数据或需要内部状态的任务。

前馈神经网络是许多复杂神经网络架构的基础，如深度学习中的多层感知机（MLP）和 Transformer 模型中的前馈网络部分。尽管存在一些局限性，但它们在许多领域仍然是解决机器学习和人工智能问题的重要工具。