多层感知机

是什么

由一层或多层隐藏单元组成、信息从输入向输出前馈的网络，常交替使用全连接层和非线性。 [1]

为何出现

单个线性边界不能表示许多复杂关系；隐藏层提供可学习的中间表示。

如何工作

每层计算 $\mathbf h=\phi(\mathbf W\mathbf x+\mathbf b)$，多层复合后用损失训练。

能做什么与不能做什么

可作为分类回归基线与其他架构的部件；高维输入会带来大量全连接参数，也不自动利用空间或序列结构。

在本书中

见第12章小网络前向与反向复算。