Sesgos de reconocimiento facial, racismo y control estatal: por qué el uso de datos biométricos ha sido el mayor escollo en la ley de inteligencia artificial
La Unión Europea aprobó el viernes la primera gran regulación del mundo del uso de la inteligencia artificial (IA) después de tres días de intensas negociaciones. El texto define las normas de una tecnología que parece imparable pero cuyas posibilidades y riesgos aún desconocemos y quizás ni siquiera somos capaces de imaginar. El texto, firmado por los Estados miembros y el Parlamento Europeo, todavía es provisional y debe ser ratificado por ambas partes. El punto más polémico, que supuso el retraso del acuerdo, ha sido la regulación del uso de las cámaras de reconocimiento facial (vigilancia biométrica) en espacios públicos.
El Parlamento quería que fueran prohibidas, pero los gobiernos han presionado hasta lograr que las fuerzas de seguridad puedan utilizarlas en casos justificados, como la prevención del terrorismo, secuestros o la explotación sexual, con previa autorización judicial y escrutinio independiente.
Los sistemas de reconocimiento facial, capaces de categorizar a una persona en función de sus rasgos faciales, gestos y comportamiento, llevan tiempo con nosotros. Es la misma tecnología que utilizamos en el móvil para desbloquearlo o pagar en la banca online sin tener que utilizar un código numérico. Pero la legislación de su uso público es especialmente delicada y ha abierto un gran debate ético por la posibilidad de que estos sistemas creen sesgos, y se utilicen para catalogar a una persona como conflictiva a partir de su comportamiento y características personales.
