Inteligencia artificial
Trabajo presenta una herramienta para controlar los algoritmos en entornos laborales

Este viernes 10 de junio en un acto organizado por el Ministerio de Trabajo y presidido por Yolanda Díaz se ha presentado la 'Guía de información algorítmica' en el Palacio de Zurbano en el céntrico barrio de Almagro, en Madrid. Se trata de un documento pionero en todo el mundo cuya mayor fortaleza reside en facilitar la capacidad de acceder a las funciones de los algoritmos que usan las empresas por parte de trabajadores y sindicatos sin la necesidad de que estos tengan un conocimiento específico en informática. ¿Cómo? Preguntando.

“Hay otros trabajos previos que se centran más en auditoría algorítmica. En este caso queríamos en una herramienta que generase información accesible. Nos hemos centrado en preguntar sobre los parámetros que usan los algoritmos y las variables en las que se basan. Si tras estas preguntas el algoritmo es plenamente legal, se puede implementar, si no, se abre un espacio para que sindicatos y trabajadores puedan seguir preguntando”, señala Gemma Galdón, directora de Eticas Consulting y coordinadora del equipo multidisciplinar de investigadoras independientes que han desarrollado el informe y la herramienta solicitada por Trabajo.

Virginia Eubanks, autora de La automatización de la desigualdad y Nick Srnicek, autor de Capitalismo de plataformas y uno de los padres del aceleracionismo han intervenido a través de sendos vídeos en los que han señalado la importancia de esta guía y han agradecido al equipo su trabajo en la dirección del control de estas herramientas

Desde noviembre de 2021 un equipo de personas expertas nombradas por el Ministerio ha elaborado un informe que detalla los usos que ya existen de algoritmos que están mediando en las relaciones laborales. Entre las que destacan los procesos de selección y búsqueda de perfiles, pero también la evaluación constante y el control en el ámbito laboral. Hace un año, en El Salto ya informamos sobre la publicación de otro informe similar. No estamos hablando solo de compañías basadas en plataformas digitales como Glovo, Uber o Deliveroo, la implementación algorítmica ya es una realidad en muchas empresas de lo que consideramos trabajo tradicional, como el sector de la atención telefónica al público o la venta al por menor.

En segundo lugar, el informe detalla la legislación vigente en base al Reglamento General de Protección de Datos de la Unión Europea (RGPD) y su artículo 88 que se refiere al “procesamiento de datos en contesto de empleo” y realiza un seguimiento de casos de denuncias contra algoritmos en entornos europeos y de Estados Unidos.Un ejemplo es el fallo de la Corte de Bolonia que en 2021 falló contra Deliveroo ya que su algoritmo, conocido como 'Frank', despedía a trabajadores en base a una puntuación condicionada a la “disponibilidad horaria” sin atender a las razones de esta disponibilidad que podían estar protegidas por la ley, como el caso de enfermedad.

Una medida pionera en todo el mundo

“Somos pioneras. La academia está observando de cerca nuestro trabajo. Por eso tenemos la responsabilidad de ser útiles. Suele haber una tendencia a sobrevalorar los impactos del futuro e infravalorar los impactos que la tecnología ya está teniendo en el presente, no podemos caer en esto”, señala Galdón, aludiendo explícitamente a todos esos artículos que encontramos que hablan sobre derechos de los robots o hacerles pagar impuestos.

Virginia Eubanks, autora de La automatización de la desigualdad y Nick Srnicek, autor de Capitalismo de plataformas y uno de los padres del aceleracionismo han intervenido a través de sendos vídeos en los que han señalado la importancia de esta guía y han agradecido al equipo su trabajo en la dirección del control de estas herramientas.

Díaz ha señalado que el espíritu que motiva la relación del Estado con estos algoritmos es la del “anhelo de libertad”, en tanto y cuanto estas herramientas nos sirvan para liberarnos de jornadas y fatigas excesivas cuando hablamos del ámbito laboral y no lo contrario. “El uso de los algoritmos persigue nuestras vidas privadas y laborales. Ya planifican nuestros deseos y no puede haber mayor invasión. La decisión de la salida de la cárcel de un reo o la posibilidad de una ayuda social ya están determinadas por algoritmos. El Estado tiene que estar a la altura. Estas máquinas no son perfectas, tienen fallos y tenemos que corregir las perversidades que provocan”, añadió.

Muñoz Ruíz alude también a los posibles riesgos laborales que puedan estar entrañando estas máquinas regidas por la matemática, que no están siendo tenidos en consideración. “Igual que la empresa tiene que evaluar los riesgos de introducir cierto tipo de máquinas, sucede lo mismo con estos algoritmos que puedan estar afectando directamente a la salud mental de los trabajadores”

Para Ana B. Muñoz Ruíz, profesora de Derecho del Trabajo y de la Seguridad Social de la Carlos III, este es uno de los primeros pasos ante los ratos que plantea el presente. “Nos hemos anticipado a Europa, que está trabajando en una regulación en profundidad de estas plataformas. Un siguiente reto podría ser profundizar en el control de las auditorías, cómo verificar que las empresas cumplen realmente estos requisitos legales. Tenemos por delante también la regulación de sistemas biométricos, como el reconocimiento facial o de emociones. En esta guía nos hemos centrado mucho en el marco de la protección de datos”.

Una guía para aplicar la ley vigente

Para Adrián Todolí Signes, uno de los expertos que ha participado en la elaboración del documento, profesor de Derecho del Trabajo y la Seguridad Social en la Universitat de València, “la legislación no debe prohibir, sino regular”. Como ejemplo señala la cantidad de muertes que se daban en las primeras fábricas del siglo XIX, que no provocaron la prohibición de las mismas sino la entrada de regulaciones en materia de seguridad y prevención de riesgos.

De hecho, Muñoz Ruíz alude también a los posibles riesgos laborales que puedan estar entrañando estas máquinas regidas por la matemática, que no están siendo tenidos en consideración. “Igual que la empresa tiene que evaluar los riesgos de introducir cierto tipo de máquinas, sucede lo mismo con estos algoritmos que puedan estar afectando directamente a la salud mental de los trabajadores”.

En este sentido Anna Ginès y Fabrellas, doctora en Derecho y lincenciada en Economía, parte del equipo, no duda al afirmar que “hay una relación clara entre el uso actual de los algoritmos y la precariedad. En un primer punto, cuando estos entran a sustituir a las relaciones laborales, como en el caso de los riders. En un segundo plano, cuando estos regulan tu puntuación en una empresa, tu salario y te sientes vulnerable ante ello sin saber cómo funciona ese sistema de puntos. Si el algoritmo es opaco, genera precariedad. Lo hemos analizado tanto en plataformas digitales como en empresas tradicionales”.

“Esta guía puede ayudar a evitar complejidades innecesarias y artificiales que usan para subir el precio”, señala Sánchez Monedero y narra un caso de una investigación académica que demostraba que un algoritmo de dos variables sacaba los mismos resultados que uno de 38

“Ya existen regulaciones vigentes, como la 'ley rider' (modificación del artículo 64 del Estatuto de los Trabajadores para pedir transparencia algorítmica) o la RGPD. Hemos hecho un esfuerzo para interpretar estas normas y que se puedan usar a nivel tanto sindical como individual”, puntualiza Todolí, poniendo el foco en el hecho de que esta guía nos ayuda a forzar que se aplique una legislatura que ya existe.

Para ello se han basado en la aplicación del principio de proporcionalidad. Según ha ejemplificado el profesor de Derecho, por un lado la legislación indica que la contabilidad de las empresas es secreta, pero también asegura que los sindicatos puedan acceder a esta información y, según este principio, la segunda parte prima a la primera. Obviamente respetando el secreto ante terceros. Y esta es la misma fórmula que esta guía propone para enfrentar los secretos en los algorítmicos.

Muchos de los algoritmos que se aplican en empresas de la UE están desarrollados y han sido aplicados en Estados Unidos, donde la legislación laboral vigente es muy diferente, como tantas otras. “Igual que hay protocolos sanitarios que no permiten que entre pollo hormonado de EEUU por no cumplir la normativa sanitaria, debería ocurrir lo mismo con estos algoritmos”, resume Javier Sánchez Monedero, doctor en Informática y otro de los expertos que han desarrollado el informe y la guía.

Una guía también para las empresas

Existe una tendencia en el mercado de estos sistemas de computación matemática a complejizar artificialmente, o dar una sensación de ello, para aumentar su precio en el mercado. “Esta guía puede ayudar a evitar complejidades innecesarias y artificiales que usan para subir el precio”, señala Sánchez Monedero y narra un caso de una investigación académica que demostraba que un algoritmo de dos variables sacaba los mismos resultados que uno de 38. Al estar obligados a describir las variables que usa el algoritmo a las empresas que quieran comprarlo, los diseñadores tendrán que optar por variables que puedan ser descriptibles para sus clientes.

Para Sánchez Monedero, cuando muchas empresas vean como funcionan realmente los sistemas que pagan para “encontrar talentos” optarán por invertir ese dinero en otro sitio.