Definition
ELMo通过将输入文本通过在大型语料库上训练的双向LSTM进行处理,生成上下文敏感的词嵌入。与Word2Vec等静态嵌入不同,ELMo通过产生不同的向量表示来捕捉一词多义现象。
Summary
来自语言模型的嵌入,一种使用双向LSTM的深度上下文词表示方法。
Key Concepts
- 上下文嵌入
- 双向LSTM
- 预训练
- 一词多义
Use Cases
- 情感分析
- 命名实体识别
- 共指消解
A comprehensive multilingual AI terminology dictionary
ELMo通过将输入文本通过在大型语料库上训练的双向LSTM进行处理,生成上下文敏感的词嵌入。与Word2Vec等静态嵌入不同,ELMo通过产生不同的向量表示来捕捉一词多义现象。
来自语言模型的嵌入,一种使用双向LSTM的深度上下文词表示方法。