表示学习

是什么

表示学习（representation learning）是从数据学习供后续任务使用的特征表示、而不完全依赖人工指定特征的学习范式。表示可以是向量、特征图或多层状态。[1, Abstract and §§I–II]

为何出现

同一对象的原始编码往往不便于分类、检索或生成；手工特征又难覆盖复杂变化。学习表示让训练目标塑造更适用的中间特征。

如何工作

编码器把输入映成表示，损失通过监督标签、重构、掩码或对比关系调整编码器参数；表示随后可被冻结、由探测器读取，也可随下游模型微调。

能做什么与不能做什么

它能为多个任务复用特征并减少部分手工工程；不能保证向量维度有可读语义、跨模型坐标可直接比较或新领域仍有效。表示学习可采用监督、自监督或无监督信号，不是无监督学习的同义词。

在本书中

见第11章：无监督、自监督与表示学习。