Definition
El aprendizaje predictivo implica entrenar redes neuronales para inferir puntos de datos no observados a partir de entradas observadas sin etiquetas humanas explícitas. Al resolver tareas como la predicción del siguiente token en lenguaje o la reconstrucción de imágenes enmascaradas, estos modelos capturan patrones subyacentes y estructuras latentes de los datos sin necesidad de supervisión directa.
Summary
Un enfoque autovigilado en el que los modelos aprenden representaciones prediciendo partes faltantes de los datos de entrada.
Key Concepts
- Autovigilancia
- Modelado enmascarado
- Aprendizaje de representaciones
- Datos no etiquetados
Use Cases
- Preentrenamiento de grandes modelos de lenguaje
- Tareas de inpainting (relleno) de imágenes
- Detección de anomalías en series temporales