Definition
La cuantización es una técnica de optimización de modelos que reduce la precisión numérica de los parámetros de un modelo de aprendizaje automático, convirtiendo típicamente números de punto flotante de 32 bits en enteros de 8 bits. Esto permite una ejecución más rápida y un menor consumo de memoria.
Summary
Se refiere a modelos de redes neuronales cuyos pesos y activaciones se representan con números de menor precisión para reducir el tamaño y la latencia.
Key Concepts
- Compresión de modelos
- Aritmética de baja precisión
- Despliegue en el borde (Edge)
- Optimización de inferencia
Use Cases
- Aplicaciones de IA móviles
- Integración en dispositivos IoT
- Procesamiento de vídeo en tiempo real