核心概念
Word2vec
通过局部上下文预测目标或由目标预测上下文来学习静态词向量的一组浅层神经方法。
word2vec CBOW skip-gram
是什么
Word2vec指连续词袋(CBOW)和skip-gram等学习静态词向量的方法:前者用上下文预测目标词,后者用目标词预测邻近词。原论文重点讨论架构与计算效率。[1, §§1–3]
边界
一个词表项通常对应一个静态向量,因而不能单独消解同形多义。向量几何取决于语料、窗口、目标和训练过程;接近不等于同义或事实相同,不同模型坐标也不能直接逐维比较。
在本书中
见第14章14.5。本页为编辑初稿,独立事实复核待完成。
本页参考来源
- Mikolov T, Chen K, Corrado G, Dean J. Efficient Estimation of Word Representations in Vector Space [R]. arXiv, 2013. arXiv:1301.3781v3. 定位:§§1–3. 稳定来源(访问 )。