El modelo es un espejo del mundo: si el mundo tiene sesgos, el modelo los aprende.
Nivel intermedio
Qué encontrará en este capítulo
14.1Caso documentado: herramienta experimental de Amazon
14.2Tipos de sesgos
14.3Detectando sesgos
14.4Mitigación de sesgos
14.5Principios de IA responsable
14.6El Reglamento de IA en la práctica
6 secciones · 2 apartados · 6 ejercicios con soluciones
Capítulo 14 de 14
Objetivos de aprendizaje del capítulo (6)
Comprender cómo los sesgos se introducen en los modelos.
Identificar los principales tipos de sesgos.
Aplicar técnicas para detectar y mitigar sesgos, definiendo y calculando métricas de equidad como la paridad demográfica y la igualdad de oportunidades (equalized odds).
Explicar por qué es matemáticamente imposible satisfacer todas las métricas de equidad a la vez y qué implica esa limitación en la práctica.
Adoptar un marco de IA responsable en sus proyectos, apoyándose en herramientas como Fairlearn, AIF360 o What-If Tool y en las técnicas de explicabilidad del Capítulo 11.
Situar sus sistemas en la pirámide de riesgo del Reglamento de IA y conocer las obligaciones y plazos que les aplican.
