Definition
La ventana de contexto define el límite operativo de la memoria de un modelo de IA para una sola interacción. Determina cuánto historial de conversación previo, texto de documentos o datos de entrada puede atender el modelo para generar respuestas coherentes y relevantes.
Summary
La cantidad máxima de texto o tokens que un modelo de lenguaje puede procesar y considerar simultáneamente durante la inferencia o el entrenamiento.
Key Concepts
- Límite de Tokens
- Mecanismo de Atención
- Restricciones de Memoria
- Longitud de Entrada
Use Cases
- Resumen de documentos largos
- Mantenimiento del historial de conversación en chatbots
- Análisis de grandes bases de código