La IA puede ser más sesgada que los humanos al contratar personal
Un estudio académico revela que modelos avanzados de inteligencia artificial no solo reproducen prejuicios existentes, sino que también pueden desarrollar nuevos sesgos al evaluar candidatos laborales, un desafío creciente para empresas que automatizan procesos de selección.
La inteligencia artificial se ha convertido en una herramienta cada vez más utilizada para filtrar currículums, evaluar postulantes e incluso participar en entrevistas de trabajo. Sin embargo, una nueva investigación advierte que estos sistemas podrían ser más propensos que las personas a desarrollar sesgos al momento de contratar, incluso cuando los candidatos poseen las mismas capacidades y probabilidades de éxito.
El estudio analizó el comportamiento de modelos de lenguaje como ChatGPT, Claude y Gemini mediante una simulación de contratación laboral. Los investigadores descubrieron que, tras observar algunos resultados iniciales, los sistemas comenzaron a asociar determinados grupos con ciertos empleos, generando patrones de segregación similares a los estereotipos humanos, pero con una intensidad significativamente mayor.
La información fue publicada por MIT Technology Review el 20 de julio de 2026 y se basa en una investigación desarrollada por especialistas de la Universidad de Princeton y la Universidad de Chicago, cuyos resultados fueron presentados durante la Conferencia Internacional sobre Aprendizaje Automático (ICML) realizada en Seúl.
Revisa el documento
Bai.Costly-Exploration-Produces-Stereotypes-with-Dimensions-of-Warmth-and-Competence.pdf
Durante el experimento, los modelos debían seleccionar candidatos pertenecientes a grupos étnicos ficticios para distintos cargos profesionales. Aunque todos los postulantes tenían exactamente las mismas probabilidades de éxito, las IA comenzaron a generalizar a partir de experiencias limitadas, asignando determinados perfiles a ocupaciones específicas y evitando otros puestos para ellos.
Los investigadores observaron que los modelos más avanzados, especialmente aquellos con mayores capacidades de razonamiento, mostraron niveles de sesgo aún más elevados. En algunos casos, las puntuaciones obtenidas estuvieron cerca del máximo nivel de segregación posible dentro de la metodología utilizada.
Según Ryan Liu, estudiante de doctorado de Princeton y coautor del estudio, los grandes modelos de lenguaje están optimizados para identificar patrones y generar conclusiones rápidas a partir de pocos datos. Esa característica, que resulta útil para resolver problemas matemáticos o de programación, puede convertirse en un riesgo cuando se aplica a decisiones sociales complejas como la contratación de personas.
Los expertos también advirtieron que las nuevas funciones de memoria y personalización incorporadas en los chatbots podrían amplificar este fenómeno. Al recordar interacciones previas, los sistemas podrían reforzar determinadas asociaciones y generar decisiones cada vez más influenciadas por experiencias pasadas.
La investigación encontró, además, que los sesgos disminuyen cuando los modelos reciben información individual relevante sobre cada persona, como edad, formación o experiencia. En contraste, cuando se incorporan datos irrelevantes, las tendencias a clasificar y segmentar grupos reaparecen con mayor fuerza.
Los autores concluyen que el desafío no consiste únicamente en evitar que la IA aprenda prejuicios humanos, sino también en prevenir que genere nuevos sesgos a partir de sus propias experiencias. A medida que estas tecnologías participan en decisiones relacionadas con empleo, créditos o procesos judiciales, la necesidad de mecanismos de supervisión y criterios éticos se vuelve cada vez más urgente.
Comparte en tus redes sociales