Buscador
Ver revista digital
Играйте на реальные деньги в Vavada casino. Лучшие слоты, бонусы и гарантированные выигрыши ждут вас!
Recursos Humanos

Estos son los riesgos de contratar personal usando Inteligencia Artificial

23-01-2025, 8:20:00 AM Por:
Estos son los riesgos de contratar personal usando Inteligencia Artificial
© Hecho con IA a través de Midjourney

Los algoritmos han sido entrenados con datos que pueden profundizar algunos patrones y brechas de la fuerza laboral, sesgando los resultados.

El uso de la Inteligencia Artificial (IA) en los procesos de contratación de talento permite a los reclutadores trabajar con mayor eficiencia y rapidez, aunque -al mismo tiempo- las áreas de Recursos Humanos deben considerar que existen algunos riesgos, sobre todo en materia de protección de datos y posibles sesgos que pueden ser discriminatorios.

De acuerdo con la Recomendación sobre la Ética de la Inteligencia Artificial emitida por la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), todas las organizaciones pueden aprovechar las ventajas de la IA, pero también deben “minimizar los riesgos relacionados con el desarrollo, la adopción y el despliegue” de esta tecnología.

Esta institución apunta que el uso ético de la IA incluye disminuir la brecha crítica que existe en materia de género, “para ayudar a abordar los sesgos y estereotipos en los algoritmos”.

Los Grandes Modelos de Lenguaje (LLM, por sus siglas en inglés) han sido entrenados con datos históricos, demográficos y estadísticos que pueden repetir y profundizar algunos patrones de la fuerza laboral, ocasionando que se eliminen de la selección de personal perfiles que no se ubican en los grupos mayoritarios.

Por ejemplo, cuando un hospital busca un médico, o una constructora requiere un ingeniero, se entiende que estos pueden ser hombres o mujeres, pero es usual que en algunos países y regiones haya más hombres de esas profesiones.

Por ende, si la plataforma que se utiliza para el reclutamiento no se programa de manera específica para elegir candidatos sin distinguir su género, los algoritmos seleccionarán con base en la información demográfica general, repitiendo los sesgos existentes. Es decir, se elegirán solo candidatos masculinos.

Para evitar este tipo de desviaciones con las que un departamento de Recursos Humanos puede actuar de manera discriminatoria, aunque esa no sea su intención, se recomienda llevar a cabo una revisión previa de los datos que alimentaron a los algoritmos.

En ese tenor, el personal de reclutamiento debe entender el funcionamiento de la IA, lo que incluye saber cuál es la información que se utilizó para entrenar al programa de selección, pues las respuestas de la Inteligencia Artificial dependen del tipo de datos introducidos en esta.

Asimismo, para reducir los sesgos hay que utilizar información que sea representativa de todos los sectores de la sociedad y, por supuesto, también debe haber revisiones humanas de los resultados, pues estos no son infalibles.

Perfiles anónimos

La Recomendación de la UNESCO destaca la importancia de “la gobernanza de los datos”, que sirve para promover una mejor comprensión del desarrollo de algoritmos seguros y equitativos.

Esta organización apunta que los Estados deben establecer “salvaguardas adecuadas para el tratamiento de datos sensibles”, sobre todo cuando la IA se utiliza en áreas de reclutamiento de trabajadores.

De hecho, la utilización ética de la Inteligencia Artificial para la selección de personal, incluye seguir los siguientes pasos:

Currículums anónimos

Los perfiles que debe analizar la IA no deben mostrar el nombre del aspirante, ya que este es un dato que revela su género.

Lo mismo sucede con las fotos, pues con estas se puede inferir -además del género- la edad, el color de la piel, y la apariencia general de las personas.

El domicilio del candidato y su fecha de nacimiento también deben excluirse, con el fin de evitar desviaciones con base en el nivel socioeconómico y el grupo etario al que se pertenece.  

Antecedentes innecesarios

Al alimentar el programa de IA deben ocultarse los nombres de las empresas que forman parte de la experiencia laboral de los solicitantes.

Es mejor que este tipo de plataformas elijan con base en las descripciones de las responsabilidades, los logros alcanzados, y el tipo de trabajo que se realizaba.

La identificación de las instituciones educativas en las que se ha estudiado también es un dato que suele sesgar la selección de personal, por lo que el programa informático solo debe conocer la profesión del solicitante, y no las escuelas específicas de las que egresó.

Evaluar competencias

Las instrucciones que se le den a la IA deben centrarse en la evaluación de las habilidades y competencias de quienes están buscando ocupar una plaza vacante.

Para lograr esto, hay que contar con programas especializados en reclutamiento, cuyos algoritmos permiten anonimizar la información que se le proporciona.

Reglamentación pendiente

En México, la reglamentación de la Inteligencia Artificial es solo un proyecto. Si bien en los últimos dos años en el Senado de la República se presentaron al menos tres iniciativas en materia de ciberseguridad e IA, estas quedaron pendientes de ser dictaminadas en las comisiones de esa soberanía.

Al respecto, la UNESCO está desarrollando dos herramientas para que los gobiernos de los países miembros de esa organización puedan identificar cuál es la situación de sus naciones en relación con los parámetros éticos que deben observarse en el uso de la IA.

Debido a que cada país se encuentra en diferentes niveles de preparación en el desarrollo, adopción y uso de las tecnologías de Inteligencia Artificial, el objetivo de la institución es “ayudar a los gobiernos a afinar los mecanismos de regulación”.

Como en nuestro país aún no hay normas jurídicas que regulen el uso de la IA, las recomendaciones de la UNESCO sobre el uso ético de esta tecnología pueden ser aplicadas por las empresas en sus procesos de contratación de personal.

De igual forma, los lineamientos éticos de esa institución son una oportunidad para que los legisladores mexicanos los incluyan en la urgente y necesaria legislación que se requiere en materia de Inteligencia Artificial.

MÁS NOTICIAS:

autor Periodista y abogada, especialista en análisis jurídico y de derechos humanos. Ha sido reportera, conductora de radio y editora.

Comentarios