Reflexiones personales sobre cuestiones éticas del reclutamiento por IA
por Pablo G. Berman
La Inteligencia Artificial es una extraordinaria herramienta que se encuentra en pleno proceso de transformación de los procesos de reclutamiento y selección.
Puede leer cientos de CV en segundos, identificar competencias, comparar experiencias, establecer rankings y ayudar a detectar candidatos que probablemente hubieran pasado inadvertidos en una búsqueda tradicional.
Pero existe una pregunta que quizás nos estamos formulando con menor frecuencia:
¿Qué debería poder decidir una IA?
Probablemente aquí se encuentre una de las fronteras éticas más importantes: una IA puede ayudarnos a identificar conocimientos, comparar antecedentes profesionales, ordenar información o detectar coincidencias entre un CV y los requisitos de una posición.
Pero resulta mucho más discutible permitirle inferir personalidad, honestidad, inteligencia, estabilidad emocional o potencial profesional analizando una fotografía, una voz, un acento o los movimientos de una persona durante una entrevista.
Asimismo, una IA difícilmente pueda comprender cabalmente el interés de una persona por ingresar a una empresa o, incluso, algo que quienes trabajamos en reclutamiento conocemos muy bien: no solo seleccionamos candidatos; muchas veces también debemos saber “venderles” una oportunidad profesional e incluso la empresa como marca empleadora.
¿Quién controla al algoritmo?
Supongamos que una persona es descartada automáticamente de varios procesos de selección en la misma empresa. Pero nunca tuvo una entrevista ni conoció a ningún reclutador. Más aún, nunca supo el motivo de su rechazo.
Si quisiera conocer por qué alguna variable dentro de un algoritmo reduce sistemáticamente su puntuación y, con ello, sus posibilidades de incorporación, ¿debería tener derecho a saberlo? ¿Debería poder solicitar que una persona revise esa decisión?
En lo personal, creo que la respuesta es afirmativa. ¿Por qué? La intervención humana no debería desaparecer precisamente en aquellas decisiones que afectan directamente la vida de otros seres humanos.
¿Cuál sería la responsabilidad del programador?
Hay otra cuestión de la que se habla bastante menos: ¿Qué sucede cuando quien desarrolla el sistema recibe instrucciones éticamente cuestionables?
Imaginemos que una empresa solicita: «Queremos que el sistema descarte automáticamente candidatos mayores de 55 años porque estadísticamente permanecen menos tiempo en nuestra organización.»
El programador puede hacerlo… pero ¿debería hacerlo? ¿Es suficiente ampararse en la frase: “Yo solamente programé lo que me pidieron”?
Quienes diseñan sistemas de Inteligencia Artificial están incorporando criterios que posteriormente pueden afectar oportunidades laborales, carreras profesionales y, finalmente, personas. Por eso también deberían existir límites profesionales sobre aquello que están dispuestos a programar.
¿Herramienta o panacea?
Aclaremos que no creo que debamos temer a la Inteligencia Artificial en selección. Al contrario: bien utilizada puede ayudarnos a reducir errores, ampliar nuestra capacidad de búsqueda e incluso descubrir algunos de nuestros propios sesgos.
Pero quizás exista un principio que convendría preservar y es que la Inteligencia Artificial puede ayudarnos a evaluar la adecuación de una persona a un puesto. Pero no podemos permitir que sea ella quien decida el valor de esa persona. Es un asistente, no el reclutador en sí.
Detrás de cada CV que el algoritmo acepta o descarta sigue existiendo algo que ninguna tecnología debería hacernos olvidar:
Hay una persona esperando una oportunidad.