Cuando un Algoritmo, no una Persona, Toma la Decisión en tu Contra

Si una herramienta automatizada filtra candidatos a un empleo, fija el precio de un seguro, puntúa una solicitud de préstamo o marca a un inquilino, la ley antidiscriminación aplicable suele ser la misma que se aplicaría a una persona que tomara esa decisión: el Título VII de la Ley de Derechos Civiles de 1964 para el empleo, la Ley de Igualdad de Oportunidades de Crédito (ECOA) para el crédito, y la Ley de Vivienda Justa (Fair Housing Act) para la vivienda, entre otras. El hecho de que el algoritmo de un proveedor — y no un responsable de contratación — haya producido la decisión adversa no exime al empleador o al prestamista de cumplir estas leyes; simplemente puede hacer que la discriminación sea más difícil de detectar, porque un modelo de puntuación aparentemente neutral puede seguir produciendo un efecto discriminatorio sobre un grupo protegido (impacto desproporcionado o "disparate impact").

En mayo de 2023, la EEOC publicó una guía técnica que trataba las herramientas algorítmicas de contratación como un "procedimiento de selección" del Título VII, sujeto al mismo análisis de impacto adverso que cualquier otra prueba. Ese documento de orientación concreto fue retirado del sitio web de la EEOC en enero de 2025 tras un cambio en la dirección de la agencia. Retirar un documento de orientación no deroga la ley subyacente — el Título VII, la ADA y la ADEA siguen aplicándose a las decisiones de empleo impulsadas por IA —, pero sí significa que actualmente hay menos orientación formal de la agencia federal sobre cómo se aplican esas leyes específicamente a las herramientas algorítmicas. [verificar la posición actual publicada por la EEOC antes de basarte en cualquier estándar específico de contratación por IA como orientación federal oficial]

En el caso de las decisiones de crédito, el Reglamento B (Regulation B, que implementa la ECOA) ya exige que el acreedor entregue un aviso de acción adversa específico y preciso cuando deniega el crédito — incluso cuando la decisión la tomó un modelo de aprendizaje automático. Un prestamista que utiliza un algoritmo opaco no puede omitir este aviso ni dar una razón vaga; por lo general, sigue siendo necesario revelar los factores concretos que realmente influyeron en la decisión. [verificar cómo describe los motivos el aviso de acción adversa de tu prestamista concreto, y si realmente parece reflejar los factores reales de decisión del modelo]

La Ley Local 144 de la ciudad de Nueva York (con aplicación efectiva desde julio de 2023) exige que los empleadores que utilizan una "herramienta automatizada de decisión de empleo" con candidatos o empleados de NYC sometan esa herramienta a una auditoría de sesgo independiente en el último año, publiquen un resumen de los resultados de la auditoría y avisen a los candidatos con antelación, dándoles derecho a solicitar un proceso alternativo. Se trata actualmente de una de las normas de transparencia específicas sobre IA más concretas y exigibles de EE. UU., con sanciones civiles por incumplimiento. [verificar los importes actuales de las sanciones y la postura de aplicación, ya que pueden actualizarse]

Colorado aprobó una amplia Ley de IA (SB 24-205) dirigida a la discriminación algorítmica en decisiones de "alto riesgo", pero su fecha de entrada en vigor fue aplazada dos veces por la legislatura y posteriormente fue sustituida por completo por una ley más limitada (SB 26-189, firmada en mayo de 2026) que adopta un enfoque de divulgación y transparencia en lugar del marco original de deber de cuidado y evaluación de impacto, vigente desde el 1 de enero de 2027. Este es un claro ejemplo de la rapidez con la que evoluciona esta materia — no asumas que las normas anunciadas originalmente para la Ley de IA de Colorado son las que realmente están en vigor. [verificar directamente la ley de IA vigente en Colorado y su fecha de entrada en vigor antes de basarte en ella]

En la UE, la Ley de IA (Reglamento (UE) 2024/1689) clasifica como "de alto riesgo" a los sistemas de IA utilizados en la contratación, la selección de candidatos y la identificación biométrica, lo que conlleva obligaciones como la gestión de riesgos y la supervisión humana. Tras un acuerdo de simplificación ("omnibus") de 2026, esas obligaciones de alto riesgo para la mayoría de dichos sistemas se aplazaron al 2 de diciembre de 2027, mientras que normas de transparencia más limitadas (como el etiquetado de contenido generado por IA) siguen entrando en vigor en agosto de 2026. [verificar el calendario de cumplimiento vigente de la Ley de IA de la UE antes de asumir que una obligación concreta ya está activa]

Los casos en los que puedes mostrar un patrón claro y documentado — una auditoría de sesgo que revele una disparidad, o un motivo de rechazo claramente discriminatorio en un aviso de acción adversa — tienen una base mucho más sólida que la mera sospecha de que "el algoritmo parecía injusto", algo difícil de probar sin datos subyacentes.

La Ley Local 144 de NYC ha impulsado una transparencia real (resúmenes publicados de auditorías de sesgo), pero las evaluaciones de supervisión han detectado un cumplimiento desigual entre empleadores — una auditoría ausente o de baja calidad ya merece por sí misma ser señalada, pero no asumas que todo empleador que usa una herramienta automatizada ha cumplido realmente.

Se trata de un área del derecho realmente inestable, con normas que cambian año tras año (como muestran los ejemplos de Colorado y la UE anteriores) — esta página puede ayudarte a identificar la reclamación y el proceso subyacentes correctos, pero no puede predecir cómo tratará una agencia o un tribunal concretos a una herramienta algorítmica específica.