Quand un algorithme, et non une personne, prend la décision contre vous

Lorsqu’un outil automatisé sélectionne des candidats à l’embauche, tarife une assurance, note une demande de prêt ou signale un locataire, la loi anti-discrimination sous-jacente est en général la même que celle qui s’appliquerait à une décision humaine : le Title VII du Civil Rights Act de 1964 pour l’emploi, l’Equal Credit Opportunity Act (ECOA) pour le crédit, et le Fair Housing Act pour le logement, entre autres. Le fait que l’algorithme d’un prestataire — et non un responsable du recrutement — ait produit la décision défavorable n’exonère pas l’employeur ou le prêteur de ces lois ; cela rend simplement la discrimination plus difficile à détecter, car un modèle de notation en apparence neutre peut tout de même produire un effet discriminatoire sur un groupe protégé (impact disproportionné).

En mai 2023, l’EEOC a publié une directive technique traitant les outils d’embauche algorithmiques comme une « procédure de sélection » au sens du Title VII, soumise à la même analyse d’impact défavorable que tout autre test. Ce document spécifique a été retiré du site de l’EEOC en janvier 2025, à la suite d’un changement de direction à l’agence. Le retrait d’une directive n’abroge pas la loi sous-jacente — le Title VII, l’ADA et l’ADEA continuent de s’appliquer aux décisions d’emploi pilotées par l’IA — mais cela signifie qu’il existe actuellement moins de directives fédérales formelles sur la manière dont ces lois s’appliquent spécifiquement aux outils algorithmiques. verify la position actuellement publiée par l’EEOC avant de s’appuyer sur une norme spécifique en matière d’embauche par IA comme directive fédérale officielle

Pour les décisions de crédit, la Regulation B (qui met en œuvre l’ECOA) impose déjà à un créancier de fournir un avis de refus de crédit spécifique et exact lorsqu’il refuse un crédit — y compris lorsque c’est un modèle d’apprentissage automatique qui a motivé la décision. Un prêteur utilisant un algorithme opaque ne peut pas se dispenser de cet avis ni donner une raison vague ; les facteurs spécifiques ayant réellement influencé la décision doivent en général tout de même être divulgués. verify la manière dont l’avis de refus de votre prêteur décrit les raisons, et si celui-ci reflète réellement les facteurs de décision du modèle

La Local Law 144 de la ville de New York (en application effective depuis juillet 2023) impose aux employeurs utilisant un « outil de décision d’emploi automatisé » sur des candidats ou salariés new-yorkais de faire auditer l’outil de manière indépendante au cours de l’année écoulée, de publier un résumé des résultats de l’audit, et d’informer les candidats à l’avance en leur donnant le droit de demander un processus alternatif. Il s’agit actuellement de l’une des règles de transparence spécifiques à l’IA les plus concrètes et les plus applicables aux États-Unis, avec des sanctions civiles en cas de non-conformité. verify les montants actuels des sanctions et la posture d’application, car ceux-ci peuvent être mis à jour

Le Colorado a adopté une loi large sur l’IA (SB 24-205) visant la discrimination algorithmique dans les décisions à « haut risque », mais sa date d’entrée en vigueur a été repoussée deux fois par le législateur, puis elle a été entièrement remplacée par une loi plus restreinte (SB 26-189, signée en mai 2026) qui adopte une approche de divulgation et de transparence plutôt que le cadre original de devoir de vigilance et d’évaluation d’impact, avec effet au 1er janvier 2027. C’est un exemple clair de la rapidité avec laquelle ce domaine évolue — ne présumez pas que les règles initialement annoncées de l’AI Act du Colorado sont celles réellement en vigueur. verify directement la loi actuelle sur l’IA du Colorado et sa date d’entrée en vigueur avant de vous y fier

Dans l’UE, l’AI Act (règlement (UE) 2024/1689) classe les systèmes d’IA utilisés pour le recrutement, la présélection des candidats et l’identification biométrique comme « à haut risque », entraînant des obligations telles que la gestion des risques et la supervision humaine. À la suite d’un accord de simplification (« omnibus ») en 2026, ces obligations à haut risque pour la plupart de ces systèmes ont été reportées au 2 décembre 2027, tandis que des règles de transparence plus restreintes (comme l’étiquetage du contenu généré par IA) entrent tout de même en vigueur en août 2026. verify le calendrier de conformité actuel de l’AI Act de l’UE avant de présumer qu’une obligation spécifique est déjà active

Les dossiers où vous pouvez démontrer un schéma clair et documenté — un audit des biais révélant une disparité, ou une raison de refus clairement discriminatoire dans un avis de décision défavorable — reposent sur une base bien plus solide qu’un simple soupçon que « l’algorithme semblait injuste », difficile à prouver sans données sous-jacentes.

La Local Law 144 de New York a favorisé une véritable transparence (résumés d’audits des biais publiés), mais des évaluations de contrôle ont constaté une conformité inégale selon les employeurs — un audit manquant ou de mauvaise qualité mérite en soi d’être signalé, mais ne présumez pas que chaque employeur utilisant un outil automatisé s’est réellement conformé à la loi.

Il s’agit d’un domaine juridique véritablement instable, dont les règles changent d’année en année (comme le montrent les exemples du Colorado et de l’UE ci-dessus) — cette page peut vous aider à identifier la bonne réclamation sous-jacente et la bonne procédure, mais elle ne peut pas prédire comment une agence ou un tribunal en particulier traitera un outil algorithmique donné.