Usar IA para la contratación parece un plan infalible. Después de todo, los humanos somos imperfectos y parciales. Sin embargo, la IA también conlleva sus propios prejuicios. Los críticos de la inteligencia artificial, que a menudo expresan abiertamente su posible desplazamiento de puestos de trabajo, han temido durante mucho tiempo que esta tecnología eliminaría puestos de trabajo de la fuerza laboral. Sorprendentemente, una nueva investigación sugiere que la IA está discriminando a candidatos calificados por motivos de género, raza y edad.
La IA tiene el potencial de nivelar el campo de juego en el reclutamiento, pero está entrenada por humanos y, por lo tanto, hereda los prejuicios humanos. Vamos a desglosarlo:
Fuentes de sesgo en la IA
En teoría, una herramienta de detección impulsada por IA es perfecta porque no puede pensar ni emitir juicios, lo que le permite tomar decisiones objetivas. Sin embargo, a medida que ha aumentado la adopción de la IA, también se han reportado incidentes de parcialidad. Aquí hay algunos ejemplos de 2023:
- En junio, Bloomberg informó que un análisis de 5,000 imágenes generadas por Difusión estable reforzó estereotipos raciales y de género peores que los que se encuentran en el mundo real. Los trabajos bien remunerados estuvieron representados consistentemente por sujetos con tonos de piel más claros, mientras que los trabajos peor remunerados se asociaron con tonos de piel más oscuros. También se observaron estereotipos de género: los cajeros y trabajadores sociales estaban representados en gran medida por mujeres, mientras que los políticos e ingenieros eran en su mayoría hombres.
- Un portavoz de StabilityAI, que ejecuta Stable Diffusion, reconoció que todos los modelos de IA tienen sesgos basados en los conjuntos de datos en los que están entrenados. Esto pone de relieve el problema central: los conjuntos de datos defectuosos conducen a modelos defectuosos.
- Workday, una empresa de software de sistemas que ofrece soluciones financieras y de recursos humanos, se enfrenta a una demanda colectiva encabezada por Derek Mobley. Alega que su herramienta de detección de IA discrimina a los solicitantes mayores, negros y discapacitados. A pesar de cumplir con las calificaciones laborales, Mobley, un hombre negro de 40 años con ansiedad y depresión, ha sido rechazado de aproximadamente 100 puestos desde 2018. Representa a un número no revelado de personas que denuncian una discriminación similar.
Estos ejemplos ilustran que las herramientas de IA entrenadas con datos con disparidades culturales, raciales y de género reflejarán esos sesgos, perpetuando los mismos problemas que las empresas pretenden eliminar.
Respuesta del gobierno al sesgo de reclutamiento de IA
Inicialmente, la respuesta gubernamental al sesgo de reclutamiento de IA fue limitada. Sin embargo, desde entonces se han adoptado varias medidas legislativas:
- En 2019, Illinois aprobó un proyecto de ley que exige que los empleadores notifiquen a los candidatos sobre el análisis de IA durante las entrevistas en video.
- Maryland siguió con la prohibición del uso del reconocimiento facial durante las entrevistas previas al empleo sin el consentimiento del solicitante.
- En 2021, la Comisión de Igualdad de Oportunidades en el Empleo (EEOC) lanzó la “Iniciativa de Inteligencia Artificial y Equidad Algorítmica” monitorear y evaluar la tecnología de inteligencia artificial en las prácticas de contratación.
- Ese mismo año, el Ayuntamiento de Nueva York aprobó una ley que exige que los empleadores que utilicen tecnología de inteligencia artificial la revelen a los solicitantes y se sometan a controles anuales de auditoría de prejuicios, cuya aplicación comenzará en julio de 2023. Sin embargo, los críticos argumentan que la ley no es lo suficientemente específica y carece de disposiciones para Discriminación por edad y discapacidad.
El Departamento de Justicia de EE. UU. y la EEOC también publicaron una guía conjunta que aconseja a los empleadores contra la “confianza ciega en la IA” para evitar violaciones de los derechos civiles. Recientemente, la EEOC llevó a cabo audiencias con expertos para discutir los posibles beneficios y daños de la IA en el lugar de trabajo.
El futuro de la IA en la contratación
Muchas empresas estadounidenses han integrado la IA en sus procesos de contratación. Un estudio de 2022 realizado por SHRM descubrió que el 79% de las empresas utilizaban la automatización y/o la inteligencia artificial para el reclutamiento y la contratación. Las organizaciones deben anticipar una mayor supervisión en sus prácticas de contratación. Se espera que la ley de Nueva York influya en otros estados; según se informa, California, Nueva Jersey, Vermont y Nueva York están trabajando en sus propias regulaciones sobre IA.
Las empresas que utilizan muchos recursos como Amazon pueden desarrollar, capacitar y probar sus herramientas para obtener mejores resultados. Sin embargo, las empresas que compran herramientas de proveedores externos enfrentan mayores riesgos de parcialidad y violaciones de los derechos civiles. Los procesos exhaustivos de investigación y auditoría son cruciales para las empresas que utilizan la tecnología de inteligencia artificial con fines laborales.
¿La comida para llevar para las empresas? Pronto, no será suficiente decir: “No fuimos nosotros, lo hizo la IA”. Las empresas deben planificar para la humanidad en ambos lados de su nuevo software de contratación de IA.
