Definition
Los ataques adversariales explotan las vulnerabilidades de las redes neuronales introduciendo ruido sutil en las entradas, como imágenes o texto, lo que provoca errores significativos en la salida del modelo. Estos ataques destacan por su capacidad para manipular decisiones críticas mediante cambios mínimos en los datos.
Summary
Un ataque adversarial es una técnica en la que se añaden pequeñas perturbaciones, a menudo imperceptibles, a los datos de entrada para engañar a los modelos de aprendizaje automático y provocar predicciones incorrectas.
Key Concepts
- Perturbación
- Robustez del modelo
- Caja blanca frente a caja negra
- Ataques de evasión
Use Cases
- Pruebas de seguridad de modelos
- Generación de ejemplos adversariales para entrenamiento
- Análisis de vulnerabilidades en sistemas de visión por computadora