“La inteligencia artificial amplifica injusticias sistémicas que ya deberíamos haber eliminado”

En Estados Unidos hay documentados al menos seis casos de detención ilegal, todos ellos de personas negras, por culpa de sistemas automáticos de reconocimiento facial que se equivocaron al identificar al sospechoso. En ese mismo país se abrió una investigación contra la Apple Card, una tarjeta de crédito disponible solo en EE.UU., por ofrecer menor límite de gasto a las mujeres que a los hombres con el mismo nivel de renta. En el Reino Unido, el algoritmo que determinó las notas de selectividad en plena pandemia para evitar exámenes perjudicó injustificadamente a estudiantes de centros más modestos.

“Este es el mundo que nos espera si no actuamos”, dice Toju Duke tras citar esos tres casos de discriminación algorítmica, o consecuencias indeseadas de la inteligencia artificial (IA) sobre la población. Nacida en Nigeria hace 41 años, esta británica ha trabajado una década en Google, donde fue directora en Dublín de su programa de IA responsable. Ahora se dedica a la divulgación y ha fundado una ONG, Diverse AI, para fomentar la diversidad en esa disciplina. “La explosión de la IA generativa aumentará la magnitud del impacto de esta tecnología en la sociedad”, añade la experta. En España ya lo hemos comprobado, por ejemplo, con el caso de los deepfakes pornográficos de menores de Almendralejo. Atiende a EL PAÍS tras su ponencia en Madrid de este martes en EnlightED, una conferencia mundial que aúna educación, tecnología e innovación.

En su experiencia, ¿son realmente compatibles la ética y la IA?