Definition
La detección de toxicidad emplea técnicas de procesamiento del lenguaje natural para analizar las entradas de texto y asignar una puntuación de probabilidad que indique la probabilidad de contenido dañino. Estos sistemas suelen utilizar modelos supervisados entrenados en conjuntos de datos etiquetados para reconocer patrones de comportamiento tóxico.
Summary
El proceso automatizado de identificar y clasificar el lenguaje dañino o abusivo en el texto utilizando modelos de aprendizaje automático.
Key Concepts
- Clasificación de Texto
- Aprendizaje Automático
- Moderación
- PLN (NLP)
Use Cases
- Moderación automatizada de contenido
- Filtrado de chat en tiempo real
- Monitoreo de la reputación de la marca