Definition
Los métodos de gradiente proximal son técnicas de optimización iterativa utilizadas cuando la función de pérdida incluye un término diferenciable y suave, junto con un regularizador no diferenciable, como la norma L1. El algoritmo combina un paso de descenso de gradiente para la parte suave con un operador proximal que maneja la parte no suave, permitiendo la convergencia hacia soluciones óptimas en problemas donde el gradiente clásico no está definido o es discontinuo.
Summary
Algoritmos de optimización diseñados para minimizar funciones objetivo compuestas que contienen componentes tanto suaves como no suaves.
Key Concepts
- optimización compuesta
- operador proximal
- regularización L1
- convexidad no suave
Use Cases
- Selección de características dispersas
- Regresión Lasso
- Modelos de predicción estructurada