Nueva York regula el uso de algoritmos en los procesos de selección para evitar prejuicios raciales o sexistas

Nueva York es el banco de pruebas de leyes pioneras en EE.UU., lo que en algunos casos equivale a decir también en el resto del mundo. Entre las aprobadas recientemente, además de la que fija un sueldo mínimo para los repartidores y otra que prohíbe la discriminación laboral por razones de peso, una tercera, en vigor desde este miércoles, pone coto al uso descontrolado de la Inteligencia Artificial (IA). La nueva norma impone restricciones a la utilización de herramientas automatizadas de decisión de empleo (AEDT, en sus siglas inglesas) para impedir que el proceso de selección de personal se vea condicionado por prejuicios sexistas y raciales. Los sistemas de decisión automatizados son popularmente conocidos como algoritmos.

La ley, la primera de este tipo en el mundo, según algunos expertos, estipula que los programas informáticos de contratación basados en el aprendizaje automático o la IA deben superar una auditoría realizada por una empresa externa para demostrar que están limpios de sesgos racistas o sexistas. Una herramienta automatizada de decisión de empleo (AEDT) es un programa informático que utiliza el aprendizaje automático, el modelado estadístico, el análisis de datos o la inteligencia artificial para ayudar sustancialmente a la contratación, es decir, facilitar o agilizar la elección de la persona adecuada según el algoritmo.

Según la ley de Nueva York, los empleadores o agencias de empleo que deseen utilizar AEDT deben asegurarse de que se ha realizado una auditoría de sesgos antes de utilizar la herramienta; publicar un resumen de los resultados de la auditoría en su sitio web, y notificar a los candidatos y empleados que el programa se utilizará para evaluarlos, así como incluir instrucciones para solicitar un ajuste razonable de requisitos del puesto y capacidades personales. Asimismo, la empresa deberá publicar en su sitio web un aviso sobre el tipo y la fuente de los datos utilizados para la herramienta y la política de conservación de datos. Las empresas que utilicen software AEDT de terceros ya no pueden recurrir por ley a dichos programas si no han sido auditados.