Definition
Este término se refiere a un conjunto de datos específico alojado en Hugging Face bajo el usuario ‘Nerfgun3’, titulado ‘Bad Prompt’. Aunque no es tan estándar como las principales pruebas de referencia, estos conjuntos de datos se utilizan a menudo para estudiar la robustez del mode…
Summary
Un conjunto de datos de nicho que probablemente contiene instrucciones adversarias, de baja calidad o intencionalmente mal formadas, utilizadas para probar la robustez o filtrar entradas ruidosas en modelos de lenguaje.
Key Concepts
- Pruebas Adversarias
- Ingeniería de Instrucciones
- Ruido de Datos
- Evaluación de Robustez
Use Cases
- Prueba de modos de fallo del modelo
- Entrenamiento de sanitizadores de entrada
- Evaluación de la sensibilidad a las instrucciones