Definition
El aprendizaje autosupervisado es una técnica en la que el algoritmo crea señales supervisivas a partir de los propios datos no etiquetados, típicamente prediciendo partes faltantes de la entrada. Cierra la brecha entre el aprendizaje no supervisado y el supervisado…
Summary
Un método de entrenamiento donde el modelo genera sus propias etiquetas a partir de los datos de entrada para aprender representaciones.
Key Concepts
- Preentrenamiento
- Modelado de Lenguaje Enmascarado
- Aprendizaje Contrastivo
- Aprendizaje de Representaciones
Use Cases
- Entrenamiento de grandes modelos de lenguaje
- Aprendizaje de representaciones de imágenes
- Sistemas de reconocimiento de voz
Code Example
| |