Diccionario de Términos de IA

Definition

Este concepto aborda el problema de la ‘caja negra’ en sistemas de IA complejos proporcionando información sobre cómo los modelos llegan a predicciones específicas. Técnicas como SHAP o LIME ayudan a visualizar la importancia de las características, fomentando la transparencia y la confianza.

Summary

La explicabilidad se refiere al grado en que un humano puede comprender la causa de una decisión tomada por un modelo de IA.

Key Concepts

• Interpretabilidad
• Problema de la Caja Negra
• Confianza
• Detección de Sesgo

Use Cases

• Auditoría de algoritmos de aprobación de préstamos por equidad
• Diagnóstico de modelos de imagen médica para clínicos
• Cumplimiento normativo en evaluación de riesgos financieros

Code Example

1
2
3
4
5
6
7

import shap
import numpy as np

# Assuming model is a trained scikit-learn model
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(X_test)
shap.summary_plot(shap_values, X_test)

Related Terms

• SHAP (valores de atribución de juego)
• LIME (explicaciones locales interpretables)
• Ética de la IA (principios morales en desarrollo de IA)
• Transparencia (visibilidad del proceso de decisión)