Definition
El aprendizaje de representaciones multimodales implica entrenar modelos para procesar e integrar información de diferentes tipos de fuentes de datos, como texto, imágenes, audio y video, en un espacio latente compartido.
Summary
Una técnica que aprende representaciones de características unificadas a partir de múltiples modalidades de datos simultáneamente.
Key Concepts
- Alineación intermodal
- Espacio latente compartido
- Fusión de características
- Codificadores específicos de modalidad
Use Cases
- Generación de descripciones de imágenes
- Recuperación de videos
- Respuesta a preguntas visuales