Francisco Balboa es director de Recursos Humanos en Alannia Resorts, jurista y docente universitario, con alrededor de tres décadas de experiencia en dirección estratégica de personas y relaciones laborales y GRC. Profesor de Derecho del Trabajo y de la Seguridad Social en la Escuela de Relaciones Laborales y ponente en el Máster en Dirección y Gestión de Recursos Humanos de la Universidad de Alicante, prepara una tesis doctoral sobre inteligencia artificial y gestión de personas centrada en el uso responsable, la gobernanza y la supervisión humana. En la jornada «Aprender a transformar el talento», celebrada en Elda, presentó la ponencia «La empresa aumentada: cómo la IA agéntica transforma el talento, la productividad y la responsabilidad». Se declara partidario de la digitalización, pero no deja de avisar: la IA responde por probabilidad, abre puertas nuevas al fraude y viene con un marco legal exigente que los departamentos de personas no pueden pasar por alto.

Usted repite una advertencia: «cuidado con lo que hacéis». ¿Por qué?

—Porque la IA da respuestas probabilísticas. Hace muchos años, en una formación sobre análisis del perfil personal, el formador nos decía que aquella respuesta requería la acción humana porque tenía una fiabilidad de entre el 50% y el 60%. Hoy cualquier modelo de lenguaje hace lo mismo: te dice lo que quieres oír, y si le insistes y le dices que no, te da la respuesta contraria, porque entiende que no ha acertado.

—En el trabajo me encontré con una persona que me presentaba una cuestión jurídica con una captura de pantalla de lo que le había dicho una IA. La IA se había inventado un artículo del convenio colectivo proponiendo además una decisión sobre un contrato de trabajo contraria a la doctrina del Tribunal Supremo. Y en relaciones laborales nos guiamos por lo que dice el Tribunal Supremo, por lo que dice la verdadera norma. Si esa persona hubiera actuado según esa respuesta, era muy probable que su decisión terminara en una demanda. Lo mismo está ocurriendo con muchos abogados que están siendo sancionados por citar en sus demandas o recursos sentencias que no existen y que son fruto de las “alucinaciones” de los modelos de IA.

¿Se usa la IA en las empresas más de lo que se reconoce?

—Pregunté en la sala si había alguien cuya empresa no utilizara IA, y nadie levantó la mano. Ahí está la respuesta, es la IA en la sombra. Ahora bien, ¿es un modelo pagado por la empresa? Esa es otra cuestión. Hay muchas personas que se conectan con su ordenador personal y utilizan la IA en su día a día.

—Otro de los riesgos es utilizar agentes de IA con acceso a carpetas con datos personales. En mi caso, tengo un portátil que uso para trabajar con IA no conectado con ningún otro equipo y en el que no hay absolutamente ningún dato personal.

—Os invito a hacer una prueba: preguntadle a cualquier IA «dime quién soy yo». Os hará un análisis de vuestros perfiles personales, similares a los que utilizamos en RRHH en procesos de selección o promoción. Con errores, pero os lo hará.

Usted mismo admitió que su presentación estaba hecha con IA.

—Sí, y me parece que hay que decirlo. La he hecho con Claude y también he utilizado NotebookLM. Me llevó 5 minutos crearla con el LLM pero todo un fin de semana para corregir errores; de hecho, la primera versión no tenía en cuenta los últimos cambios normativos. Y otra cosa: ya empezamos a parecernos todos demasiado. Cuando asistes a muchas ponencias te das cuenta de qué presentación se ha hecho con estas herramientas: el formato es el mismo, los colores son los mismos.

¿Qué precedentes deberían tener presentes los responsables de selección?

—El caso de Amazon. La compañía diseñó un programa de selección con un algoritmo que terminaba seleccionando solo a hombres, porque así era su histórico. Y hoy existen demandas millonarias en Estados Unidos contra proveedores de software de recursos humanos y compañías por el uso de algoritmos que provocan sesgos discriminatorios.

—También es importante saber que hay cada vez más candidatos que utilizan la IA: primero, para responder a la oferta y descubrir exactamente lo que pide; y, después, para intentar influir en la propia herramienta de selección. Nos ponemos muy contentos porque llegan más candidatos con “perfiles adecuados”, pero es fundamental saber lo que hay detrás.

¿A qué se refiere con influir en la herramienta?

—A la inyección de instrucciones ocultas. Hice una práctica en clase con mis alumnos. Les pedí que no la hicieran con IA, pero en el enunciado introduje un texto oculto. ¿Sabéis qué pasó? Todas las prácticas que se habían hecho con IA incorporaban ese texto. Ellos no se dieron cuenta de la instrucción, porque estaba oculta. Los trabajos eran muy parecidos, en lo correcto y en lo que no, e incluso hubo dos iguales.

—Ahora imaginad que soy un candidato y sé que la empresa va a tramitar mi currículum con una IA. Puedo ocultar una instrucción para que me sitúe en el nivel más alto del proceso de scoring de la herramienta.  Sería poco ético, claro, pero está ocurriendo. En realidad, ocurre que en ese proceso de selección, una máquina está jugando contra otra.

—Hace unos días recibí una convocatoria de reunión que, aparentemente, me enviaba David, el organizador de esta jornada, para preparar la sesión. Él no me había convocado. Es posible que su agente de IA lanzara esa convocatoria sin que él lo supiera. Me pasé dos días revisando aquel correo por si tenía algo oculto. De todos los riesgos, este es de los que más me preocupan.

Y con los agentes, que actúan por su cuenta, el riesgo crece.

—Sí. Este verano conocimos el caso de una empresa en la que un agente de IA borró toda la base de datos de clientes en cuestión de segundos. Les damos permisos y hacen cosas que no deberían. Hay que limitar mucho lo que puede hacer un agente, sobre todo las acciones irreversibles. El primer principio es muy claro: supervisión humana desde el diseño para evitar lo irreversible. Y después, control de accesos, límites y autorización.

¿Qué límites marca la normativa europea a la gestión de personas con IA?

—Hay líneas muy claras. En el ámbito laboral no se pueden inferir emociones ni comportamientos: no puedo usar la IA para concluir si una persona es sensible o cómo se comporta bajo estrés. Ese perfilado está directamente prohibido por el Reglamento Europeo de Inteligencia Artificial (RIA). Cuestión distinta es que haya empresas, sobre todo fuera de Europa, que lo sigan haciendo.

—Además, no hay una sola norma. El RIA confluye con el Reglamento General de Protección de Datos, que se aplica desde 2018, y con nuestra Ley Orgánica de Protección de Datos de ese mismo año, que nos obliga a cumplir determinadas exigencias cuando tratamos datos de personas y, sobre todo, datos especialmente protegidos: salud, afiliación sindical, igualdad entre mujeres y hombres, orientación sexual o identidad de género. Y por otra parte, tenemos las guías de la Agencia Española de Protección de Datos, relativas al uso de algoritmos en las relaciones laborales o el uso de biometría.

—Y la llamada «ley Rider», de 2021, modificó el Estatuto de los Trabajadores para obligar a las empresas a informar a la representación legal de los trabajadores del uso de cualquier algoritmo o sistema que incida en decisiones como la selección o la evaluación del desempeño, incluidos los parámetros en los que se basa. Las sanciones pueden ser muy elevadas tanto en materia de  protección de datos, con posibilidad de sanciones millonarias hasta 20 millones de euros; o en el reglamento de IA, hasta un porcentaje significativo de la facturación.

Muchos piensan que tanta regulación frena la innovación.

—Puede ser. Pero ¿de qué innovación estamos hablando? Yo estoy a favor de la digitalización. Lo que ocurre es que, en Recursos Humanos, debemos cumplir con la supervisión humana que exigen el RIA y el RGPD. Y el control humano no es que alguien le dé un «me gusta» a la respuesta del algoritmo, como en las redes sociales. La gobernanza significa que hay una persona que revisa de verdad el trabajo que está haciendo una IA.

—También ha habido presión. Desde Estados Unidos se ha cuestionado la regulación europea, y en Europa se han relajado algunos aspectos y se han retrasado plazos: las obligaciones que afectan a los sistemas de alto riesgo en recursos humanos se han aplazado hasta 2027. Lo bueno es que nos da algo más de tiempo para hacer las cosas bien. Y, por mucho que se diga, Estados Unidos es probablemente el país que más ha regulado la IA, a través de sus estados; China también lo ha hecho.

El Reglamento obliga también a formar a las plantillas. ¿Basta con un curso?

—No. Estar formado en el uso de la IA no es ir a un curso, estar allí y recibir un diploma que certifica que has asistido. Estar formado es ser capaz de explicarle a otra persona lo que necesita saber para usarla profesionalmente. Y la supervisión humana debe recaer en personas competentes y con autoridad. Cuando digo competentes me refiero a personas realmente formadas: no basta con recibir información.

—Muchas veces no se hace porque «total, no pasa nada». Hasta que un día pasa, y la sanción es grande. Google, Meta y otras compañías están pagando constantemente sanciones millonarias en Europa.

¿Quién responde cuando algo sale mal?

—Ese es otro problema. ¿Quién compra el software? ¿La empresa, una persona física, un tercero que lo ha desarrollado? Nos vamos a meter en una maraña judicial tremenda para aclarar de quién es la responsabilidad. No sé si la IA sustituirá a las personas dentro de tres, cinco o cincuenta años, pero esto sí va a ocurrir, porque la regulación ya está aquí.

¿Qué principios recomienda a una empresa que quiera hacer las cosas bien?

—Lo primero, supervisión humana, “human in the loop”, antes de lo irreversible. Luego, privacidad desde el diseño, es decir, no cuando ya tengo la aplicación, sino cuando estoy pensando lo que quiero hacer. Datos bajo contrato: mucho cuidado con lo que contratamos y con lo que pagamos, porque se le puede exigir al proveedor responsabilidad si ha cedido nuestros datos. Separar entornos y usar los datos mínimos, anonimización y pseudonimización. Y gobernanza, con el delegado de protección de datos, interno o externo, y con muchísimo cuidado con los proveedores de fuera de Europa.

—Y no nos fiemos. Que la IA nos ayude no quiere decir que debamos creernos todo lo que dice. Por ello, es importante de una parte, la alfabetización a la que se refiere el RIA y de otra, el conocimiento y la competencia en la materia sobre la que está actuando el agente o el algoritmo.

Desde el público se le preguntó por las plataformas de empleo que llevan años filtrando candidatos con algoritmos.

—Las plataformas de empleo siempre han utilizado filtros o lo que en RRHH llamamos “killer questions”. Es decir, son filtros que pueden crear un sesgo. El problema viene cuando ciertos datos nos preocupan al darnos de alta en esta plataformas, pero la realidad es que, por el contrario, cuando usamos una APP de redes sociales, aceptamos expresamente un contrato y les estamos regalando nuestras vidas completas. Pregunté en la sala quién se había leído alguna vez las condiciones de uso y solo dos personas levantaron la mano. Antes de darle a «aceptar» a todo, conviene leer y saber qué estamos firmando.

¿Cuál es la idea con la que debería quedarse un profesional de Recursos Humanos?

—Que tiene que haber supervisión humana, ejercida por personas competentes y con autoridad, y que hay que informar a los trabajadores desde el inicio, antes de implantar el sistema. Los departamentos de Recursos Humanos van a tener que dedicarse a cumplir todo lo que la normativa nos va a obligar a hacer, que ahora es muchísimo más. El lado bueno, para los que nos dedicamos al derecho, es que las empresas van a necesitar mucho asesoramiento.