核心概念

序列到序列模型

将输入序列编码为表示,并在其条件下解码输出序列的一类模型框架。

是什么

序列到序列模型(sequence-to-sequence,seq2seq)以编码器把输入序列变成中间表示,再由解码器在该表示条件下产生输出序列。输入输出长度可不同,因而常用于翻译、摘要和转写。[1, ch. 13]

架构边界

早期常用RNN编码器—解码器,注意力让解码位置按需读取编码器状态;Transformer也可构成编码器—解码器。seq2seq描述任务框架,不规定必须使用某一种网络,也不保证生成结果忠实或事实正确。

在本书中

见第14章14.5—14.6。本页为编辑初稿,独立事实复核待完成。

本页参考来源

  1. Jurafsky D, Martin J H. Speech and Language Processing [M]. Online manuscript, 2025. Third edition online manuscript, January 12 2025 release. 定位:ch. 13. 稳定来源(访问 )。

相关概念