Definition
Esta práctica implica desplegar modelos de IA entrenados directamente en hardware como teléfonos inteligentes, sensores IoT o sistemas embebidos. Al procesar los datos localmente, la inferencia en el borde reduce significativamente la latencia.
Summary
La inferencia en el borde es el proceso de ejecutar modelos de aprendizaje automático localmente en dispositivos finales de usuario, en lugar de en servidores centralizados en la nube.
Key Concepts
- Reducción de latencia
- Preservación de la privacidad
- Cuantización de modelos
- Procesamiento local
Use Cases
- Detección de objetos en tiempo real en drones autónomos
- Reconocimiento de voz en altavoces inteligentes
- Mantenimiento predictivo en sensores industriales IoT