La española que quiere evitar que la IA te mande al paro por error: «Los algoritmos son injustos por los sesgos de la sociedad»
En cierto sentido, la inteligencia artificial no es muy distinta de un niño. Cuando arranca su entrenamiento es como un lienzo en blanco que se enriquece con todo tipo de datos para funcionar, desde plúmbeos manuales de Física hasta desvaríos publicados en redes sociales. Gran parte de lo que sabe ha sido creado por humanos, por eso es normal que herede muchos de nuestros prejuicios y sesgos. Exactamente igual que ocurre con un menor si sus padres y profesores no se andan con ojo. La matemática y física Miren Jasone Ramírez-Ayerbe sabe que acabar con este problema es casi imposible, pero considera que, al menos, los científicos deben hacer lo posible para conseguirlo.
La sevillana e investigadora posdoctoral en la Universidad de Montreal (Canadá) trabaja en el desarrollo de modelos matemáticos para detectar cuándo un algoritmo toma decisiones injustas y explicar por qué lo hace. Un sistema que aspira a evitar que las máquinas descarten un currículum, denieguen un préstamo o perjudiquen a un colectivo por error. Su trabajo en este campo le ha permitido ser reconocida recientemente con uno de los premios Vicent Caselles que otorgan cada año la Real Sociedad Matemática Española y la Fundación BBVA.
—Para los no expertos, ¿en qué consiste tu trabajo?
—En desarrollar modelos matemáticos que permitan explicar las decisiones que toma un algoritmo de predicción. Estos sistemas pueden utilizarse para seleccionar personal en una empresa, conceder un préstamo o incluso ayudar a diagnosticar si un tumor es benigno o maligno. El problema es que, cuanto más complejos son, más difícil resulta entender qué factores están influyendo en sus decisiones. Mi trabajo consiste en calcular cuál habría tenido que ser el cambio mínimo para que el algoritmo hubiera tomado una decisión distinta. Por ejemplo, si rechaza un currículum, puedo identificar qué tendría que haber cambiado para que ese candidato hubiera sido seleccionado. Esa información también permite auditar el algoritmo y detectar si está sesgado y trata de forma injusta a determinados colectivos.