Cuando un algoritmo decide que no llegues a la entrevista, ¿quién responde?
El caso de Derek Mobley contra Workday plantea una pregunta que va mucho más allá del sesgo algorítmico: quién asume la responsabilidad cuando una herramienta de inteligencia artificial interviene en las decisiones de contratación.
OPINIÓN
Un hombre negro, mayor de 40 años y con una discapacidad solicitó más de 80 empleos a través de Workday.
Fue rechazado en todos.
Su nombre es Derek Mobley y ahora su caso contra Workday se está convirtiendo en una de las discusiones legales más importantes sobre IA y recruitment.
No porque alguien haya demostrado que Workday creó una herramienta «para discriminar».
No es eso lo que se está discutiendo.
La pregunta es más incómoda:
Si una plataforma puntúa, ordena o filtra candidatos antes de que un recruiter vea su CV, ¿tiene la misma responsabilidad que tendría una persona haciendo ese trabajo?
Y, si el sistema produce un impacto desproporcionado sobre personas por edad, raza o discapacidad, ¿quién responde?
¿La empresa que contrata?
¿El proveedor de la tecnología?
¿Los dos?
El problema no es solo técnico. Es de responsabilidad.
Mobley sostiene que las herramientas de selección de Workday lo descartaron antes de que una persona pudiera revisar su candidatura.
El caso avanza sobre alegaciones de discriminación por edad, raza y discapacidad. Un juez ya permitió que partes centrales de la demanda siguieran adelante, y en 2025 autorizó condicionalmente una acción colectiva bajo la ley estadounidense de discriminación por edad.
Eso no significa que Workday haya sido declarado culpable.
Tampoco significa que toda automatización en selección sea ilegal.
Pero sí deja algo muy claro: una empresa no puede esconderse detrás de un algoritmo y decir «la herramienta decidió».
Porque alguien eligió implementar esa herramienta.
Alguien definió cómo se usaba.
Alguien aceptó qué señales servían para priorizar o descartar a una persona.
Y alguien debería poder explicar qué pasó.
La IA no tiene que «querer discriminar» para discriminar
Este es uno de los errores más comunes cuando hablamos de sesgo algorítmico.
Mucha gente imagina que un sistema tendría que recibir una instrucción explícita como:
«Descarta a personas mayores».
«Penaliza a candidatos con discapacidad».
«No avances a ciertos perfiles».
En la práctica, no funciona así.
Un modelo puede aprender patrones históricos de contratación.
Y esos patrones pueden estar cargados de decisiones humanas tomadas durante años.
Por ejemplo:
Empresas que contrataron más a perfiles jóvenes para determinados roles.
Trayectorias profesionales no lineales penalizadas por el sistema.
CVs con interrupciones laborales que se interpretan como una señal negativa.
Variables que parecen neutrales, pero terminan funcionando como sustitutos de edad, origen, género, discapacidad o clase social.
Datos de rendimiento que reflejan culturas internas sesgadas.
La tecnología puede convertir una preferencia humana poco cuestionada en una regla que se aplica miles de veces.
Rápido.
A escala.
Y sin que nadie mire demasiado.
Ese es el verdadero riesgo.
Automatizar no es el problema. Automatizar sin supervisión sí.
No estoy en contra de la automatización en recruitment.
Sería absurdo.
Los equipos reciben volúmenes imposibles de gestionar de forma manual. La IA puede ayudar a organizar información, reducir tareas repetitivas, resumir entrevistas, priorizar seguimiento, detectar cuellos de botella y mejorar la experiencia de candidatos.
En Workfully lo vemos todos los días.
La tecnología puede quitar muchísimo trabajo operativo. Y eso es positivo cuando permite que recruiters y hiring managers dediquen más tiempo a evaluar, conversar y tomar mejores decisiones.
Pero hay una diferencia enorme entre usar IA para apoyar un proceso y usarla para decidir quién merece ser visto.
Cuando una herramienta filtra a una persona antes de que un humano llegue a conocer su experiencia, deja de ser solo una herramienta de productividad.
Se convierte en parte de una decisión de empleo.
Y esa decisión tiene consecuencias reales.
Para la persona que no consigue una entrevista.
Para la empresa que pierde talento.
Y para un mercado laboral que puede terminar reproduciendo los mismos sesgos de siempre, pero ahora con una interfaz más bonita.
El CV ya no es suficiente. Pero el algoritmo tampoco.
Hace poco escribía sobre cómo la IA está haciendo que cada vez más candidatos parezcan perfectos en papel.
Un CV puede estar optimizado.
Una carta puede estar escrita por IA.
Las respuestas pueden tener todas las palabras clave correctas.
Pero una candidatura impecable no siempre representa capacidad real.
Y lo contrario también es cierto: una trayectoria imperfecta no significa falta de potencial.
Por eso me preocupa que sigamos buscando una respuesta automática a una pregunta que requiere contexto.
Un algoritmo puede detectar coincidencias.
Pero no siempre entiende por qué una persona cambió de sector.
Por qué tuvo una pausa en su carrera.
Qué significa haber construido algo desde cero.
Qué aprendió alguien cuidando a un familiar, emigrando, fracasando o empezando de nuevo.
La contratación no debería consistir en encontrar al perfil que más se parece a quienes ya fueron contratados antes.
Debería consistir en entender quién puede hacer bien el trabajo que viene.
La regulación llega, pero las empresas no deberían esperar
En Europa, los sistemas de IA usados para recruitment se consideran de alto riesgo bajo el marco del AI Act.
Tiene sentido.
Estamos hablando de acceso al empleo. De oportunidades económicas. De decisiones que afectan la vida de las personas.
Pero no hace falta esperar a que una auditoría, una demanda o una regulación obligue a una empresa a hacer lo básico.
Si utilizas IA en selección, estas son algunas preguntas que deberías poder responder hoy:
¿Qué parte del proceso está automatizada?
¿Qué perfiles pueden ser descartados sin revisión humana?
¿Qué datos utiliza el sistema para recomendar, puntuar o filtrar?
¿Se ha evaluado si genera impactos distintos según edad, género, discapacidad, origen o raza?
¿Existe una forma real de que un candidato pida una revisión humana?
¿Puede el equipo explicar por qué alguien fue descartado?
¿Qué responsabilidad tiene el proveedor y cuál mantiene la empresa?
Y hay una pregunta adicional para quienes vendemos tecnología a HR:
¿Estamos construyendo productos que ayudan a tomar mejores decisiones o productos que simplemente hacen más rápido el descarte?
No es lo mismo.
La responsabilidad no desaparece porque el proveedor sea externo
El caso de Workday es relevante precisamente por esto.
Durante años, muchas empresas han tratado el software de HR como si fuera neutral.
Como si el riesgo estuviera solo en cómo lo usa el cliente.
Pero si un proveedor diseña, vende y mantiene sistemas que intervienen en decisiones de contratación, es razonable preguntarse qué controles ha implementado, qué pruebas realizó y qué información entrega a sus clientes.
A la vez, el empleador tampoco puede delegar por completo su responsabilidad.
No basta con decir: «Nuestro proveedor es conocido, así que asumimos que todo funciona bien».
La responsabilidad debe compartirse de forma clara.
El proveedor tiene que demostrar cómo funciona su producto, qué límites tiene y cómo evalúa sus riesgos.
La empresa tiene que entender qué está comprando, cómo lo configura y qué impacto tiene en sus candidatos.
Y el candidato merece saber cuándo una decisión relevante fue influida por una máquina.
El futuro no puede ser una caja negra más rápida
La IA puede hacer que recruitment sea más eficiente.
También puede hacer que sea más opaco.
Depende de cómo la diseñemos.
No necesitamos volver a procesos lentos, manuales e imposibles de escalar.
Pero tampoco podemos aceptar que una persona quede fuera de una oportunidad laboral sin saber si fue descartada por su experiencia, por una mala coincidencia de palabras clave o por un patrón histórico que nadie se molestó en cuestionar.
El caso de Derek Mobley no trata solo de Workday.
Trata de una pregunta que todas las empresas de HR y tecnología tendremos que responder:
Cuando una herramienta influye en quién consigue una oportunidad, ¿estamos preparados para asumir la responsabilidad de esa decisión?
Porque la IA no elimina el juicio humano.
Solo revela dónde decidimos ponerlo.
Nota de contexto: el caso es Mobley v. Workday, Inc. La demanda plantea alegaciones; no existe una sentencia final que declare responsabilidad de Workday.