Explainability (XAI)
Explicabilidad
En una frase
XAI: la capacidad de explicar, en términos comprensibles para personas, por qué un modelo tomó una decisión concreta.
¿Demasiado técnico? Ver explicación sencilla¿Quieres profundizar? Ver explicación técnica
Explícamelo fácil
Si un banco rechaza tu crédito por decisión de un modelo, mereces saber por qué: «ingreso insuficiente» o «historial de pagos». La explicabilidad busca dar ese tipo de razones, especialmente en decisiones que afectan a personas.
Nivel técnico
Profundizando
Métodos populares para modelos tabulares: SHAP (basado en valores de Shapley de teoría de juegos, Lundberg y Lee, 2017) y LIME (aproxima localmente el modelo con uno interpretable, Ribeiro et al., 2016). También se usan modelos intrínsecamente interpretables (árboles de decisión, modelos lineales). Advertencia: una explicación convincente no siempre es fiel al mecanismo real del modelo. Regulaciones como el Reglamento de IA de la UE incluyen obligaciones de transparencia para sistemas de alto riesgo.
¿Por qué importa?
Es clave para la confianza, la rendición de cuentas y el cumplimiento regulatorio.
¿Dónde se utiliza?
- Crédito y seguros
- Diagnóstico médico
- Recursos humanos
- Auditorías
Antes de aprender esto
Si alguno te resulta nuevo, empieza por ahí.