¿Te controla un algoritmo? Litigiosidad, sesgos y discriminación en la era de la Inteligencia Artificial
La gestión algorítmica ya no es exclusiva de las plataformas de reparto («Gig Economy»). Ha entrado en la oficina tradicional. Este informe analiza cómo el software de productividad está generando una nueva ola de demandas por discriminación indirecta, vulneración de derechos fundamentales y la falta de transparencia de la «Caja Negra»
EL PROBLEMA JURÍDICO Y EL CONTEXTO
La supervisión empresarial (facultad de dirección y control, Art. 20.3 ET en España) ha mutado. Ya no se trata de un supervisor observando el trabajo, sino de sistemas de Inteligencia Artificial (IA) que monitorean en tiempo real:
- Pulsaciones de teclas y movimientos del ratón
- Análisis de sentimientos en correos electrónicos y chats (Slack/Teams)
- Reconocimiento facial y de atención a través de la webcam
El litigio surge cuando estos datos no solo «informan», sino que ejecutan consecuencias jurídicas automáticas: sanciones, denegación de bonus, asignación de peores turnos o despidos.
Los tribunales están empezando a entender que el algoritmo no es neutral, como se pone de manifiesto en las siguientes 2 situaciones:
A. El Sesgo de los Datos Históricos (Training Data Bias)
Si una IA se entrena con datos de productividad de los últimos 10 años de una empresa donde los hombres, culturalmente, hacían más horas extras presenciales que las mujeres (debido a la carga de cuidados), el algoritmo aprenderá que «Alta Productividad = Patrón Masculino».
-
- Consecuencia: Cualquier desviación de ese patrón (ej. salir a tu hora para recoger a los niños) es penalizada por el software, creando una discriminación indirecta por razón de sexo.
B. Las Variables «Proxy»
La ley prohíbe discriminar por raza o religión. El algoritmo no usa la variable «raza», pero puede usar el «Código Postal» o la «Gramática en correos electrónicos».
-
- Consecuencia: Si el algoritmo penaliza a trabajadores que viven lejos (por riesgo de impuntualidad), y esos barrios son mayoritariamente de inmigrantes, se produce un sesgo racista automatizado
¿CÓMO SE ESTÁN TRASLADANDO ESTOS PROBLEMAS A LOS TRIBUNALES?
Desde 2024 se han empezado a observar los primeros casos de demandas en juzgados contra los algoritmos. A continuación indicamos algunas de las casuísticas más comunes:
CASO 1: Discriminación por Discapacidad y «Ritmos de Trabajo»
- Conflicto: Las herramientas de productividad establecen un «estándar medio» de velocidad (tecleo, gestión de tickets).
- Litigio: Trabajadores con discapacidades motoras o cognitivas que requieren adaptaciones de puesto demandan porque el algoritmo los marca constantemente como «Bajo Rendimiento».
- Argumento Jurídico: El software no contempla los Ajustes Razonables. El despido objetivo por ineptitud sobrevenida basado únicamente en métricas de IA es nulo si el algoritmo no fue calibrado para la capacidad del trabajador.
CASO 2: El Derecho a la Desconexión vs. «Disponibilidad Algorítmica»
- Conflicto:Algoritmos de asignación de tareas (comunes en consultoría y logística) que premian con mejores proyectos a quienes responden más rápido, incluso fuera de horario.
- Litigio:Se demanda por vulneración del derecho a la desconexión digital y conciliación.
- Jurisprudencia:Los tribunales están fallando que si el algoritmo «premia» la hiperconectividad, la empresa está, de facto, obligando a trabajar fuera de jornada, lo cual es sancionable y genera horas extras no retribuidas.
CASO 3: La Opacidad de la «Caja Negra» (Libertad Sindical)
- El Conflicto: Sindicatos solicitan conocer los parámetros que deciden los bonus anuales. La empresa se niega alegando «Secreto Comercial» y Propiedad Intelectual del software.
- El Litigio: Conflicto entre Propiedad Intelectual y Derechos Laborales.
- Resolución: En Europa, la tendencia (reforzada por la Ley Rider y la Ley de IA de la UE) es clara: La transparencia laboral prevalece. Los representantes de los trabajadores tienen derecho a entender la lógica (no necesariamente el código fuente, pero sí los pesos de las variables) que afecta a las condiciones de trabajo.
Prueba en la Era Digital
Desafíos de la Carga de la Prueba
En la era digital, demostrar que un algoritmo perjudica a grupos protegidos es un desafío significativo. La carga de la prueba se ha invertido, requiriendo que las empresas demuestren la neutralidad de sus sistemas. Esto es crucial cuando un trabajador presenta indicios de discriminación algorítmica, especialmente en casos que involucran a mujeres o personas mayores de 50 años.
Los tribunales están comenzando a exigir peritajes algorítmicos para evaluar la equidad de los sistemas utilizados. Este enfoque no solo protege a los trabajadores, sino que también obliga a las empresas a ser más transparentes y responsables en el diseño y la implementación de sus algoritmos.
Guía de Cumplimiento: ¿Cómo evitar el litigio?
La solución no es prohibir la IA, sino gobernarla. La colaboración humano-máquina, basada en la transparencia, es el camino hacia el cumplimiento legal.
Para las empresas que deseen utilizar People Analytics sin acabar en los tribunales, el marco legal de 2026 exige cumplir los siguientes preceptos:
-
Human-in-the-loop (Supervisión Humana): Prohibición de decisiones automatizadas que tengan efectos jurídicos significativos sin intervención humana real (Art. 22 RGPD). El humano no puede ser solo un «sellador» de la decisión de la IA; debe tener capacidad crítica.
- Evaluaciones de Impacto (DPIA): Antes de implantar un software de monitoreo, es obligatorio evaluar su impacto en los derechos fundamentales y la privacidad.
-
Información Previa: El trabajador debe saber qué se mide, cómo se mide y para qué se mide.