equidIANueva
Mide si un modelo de clasificación trata de forma distinta a distintos grupos de personas y prueba cómo mitigar el sesgo.
equidIA audita la equidad de un modelo de clasificación: concesión de préstamos, scoring, selección de personal o tarificación. Con un CSV que tenga la variable real, la predicción o la puntuación del modelo y uno o varios atributos protegidos (sexo, edad, nacionalidad…), calcula por grupo la tasa de selección, la TPR, la FPR, la precisión y el AUC, con intervalos de confianza, y las métricas de disparidad: impacto dispar con la regla de los cuatro quintos, paridad estadística, igualdad de oportunidades, probabilidades igualadas y paridad predictiva. Prueba dos mitigaciones (umbrales por grupo y reponderación) y muestra el antes y el después. El informe sirve como evidencia de la auditoría de sesgo. Todo se calcula en tu navegador: los datos no salen de tu equipo.
✦ Métricas por grupo
Con semáforo, intervalos de confianza y análisis interseccional.
✦ Mitigación
Umbrales por grupo y reponderación, con su coste en exactitud.
✦ Informe de evidencias
Listo para la auditoría de sesgo y para la clase.