Definition
ELMo genera incrustaciones de palabras sensibles al contexto procesando el texto de entrada a través de una LSTM bidireccional entrenada en un corpus grande. A diferencia de las incrustaciones estáticas como Word2Vec, ELMo captura la polisemia produciendo diferentes representaciones para la misma palabra dependiendo de su contexto.
Summary
Embeddings from Language Models, un método de representación de palabras contextualizado profundo que utiliza LSTMs bidireccionales.
Key Concepts
- Incrustaciones Contextuales
- LSTM Bidireccional
- Preentrenamiento
- Polisemia
Use Cases
- Análisis de sentimiento
- Reconocimiento de entidades nombradas
- Resolución de coreferencia