Když rozhodnutí proti vám neudělá člověk, ale algoritmus

Pokud automatizovaný nástroj prověřuje uchazeče o zaměstnání, stanovuje cenu pojištění, hodnotí žádost o úvěr nebo označuje nájemníka, uplatňuje se v zásadě stejné antidiskriminační právo, jaké by platilo pro lidského rozhodovatele: mimo jiné hlava VII zákona o občanských právech z roku 1964 (Title VII of the Civil Rights Act of 1964) pro zaměstnávání, zákon o rovných úvěrových příležitostech (Equal Credit Opportunity Act, ECOA) pro úvěry a zákon o spravedlivém bydlení (Fair Housing Act) pro bydlení. Skutečnost, že nepříznivé rozhodnutí vytvořil algoritmus dodavatele — nikoli náborový manažer — nezprošťuje zaměstnavatele ani věřitele povinností podle těchto zákonů; může jen ztížit odhalení diskriminace, protože zdánlivě neutrální hodnotící model může přesto mít diskriminační dopad na chráněnou skupinu (nepřímá diskriminace, disparate impact).

V květnu 2023 zveřejnil EEOC technický pokyn, který zacházel s algoritmickými náborovými nástroji jako s „výběrovým postupem“ podle Title VII, podléhajícím stejné analýze nepříznivého dopadu jako jakýkoli jiný test. Tento konkrétní dokument s pokyny byl v lednu 2025 odstraněn z webu EEOC po změně vedení agentury. Odstranění dokumentu s pokyny neruší samotný zákon — Title VII, ADA a ADEA se na rozhodnutí o zaměstnání řízená pomocí AI stále vztahují — znamená to ale, že v současnosti existuje méně formálních federálních pokynů k tomu, jak se tyto zákony konkrétně uplatňují na algoritmické nástroje. verify the EEOC’s current published position before relying on any specific AI-hiring standard as official federal guidance

U úvěrových rozhodnutí už Regulation B (prováděcí předpis k ECOA) vyžaduje, aby věřitel při zamítnutí úvěru poskytl konkrétní a přesné oznámení o nepříznivém rozhodnutí (adverse-action notice) — a to i v případě, že rozhodnutí řídil model strojového učení. Věřitel používající neprůhledný algoritmus se tomuto oznámení nemůže vyhnout ani uvést vágní důvod; konkrétní faktory, které rozhodnutí skutečně ovlivnily, je obecně stále třeba uvést. verify how your specific lender’s adverse-action notice describes the reasons, and whether it appears to actually reflect the model’s real decision factors

Newyorský zákon Local Law 144 (vynucovaný od července 2023) vyžaduje, aby zaměstnavatelé používající „automatizovaný nástroj pro rozhodování o zaměstnání“ na newyorské uchazeče nebo zaměstnance nechali nástroj v uplynulém roce nezávisle prověřit auditem zaujatosti, zveřejnili shrnutí výsledků auditu a poskytli uchazečům předchozí oznámení s právem požádat o alternativní proces. Jde v současnosti o jedno z nejkonkrétnějších a vymahatelných pravidel transparentnosti specifických pro AI v USA, s občanskoprávními sankcemi za nedodržení. verify current penalty amounts and enforcement posture, as these can be updated

Colorado přijalo rozsáhlý zákon o AI (SB 24-205) zaměřený na algoritmickou diskriminaci u „vysoce rizikových“ rozhodnutí, jeho účinnost však zákonodárný sbor dvakrát odložil a nakonec byl zcela nahrazen užším zákonem (SB 26-189, podepsán v květnu 2026), který místo původního rámce povinné péče a posuzování dopadů volí přístup založený na zveřejňování informací a transparentnosti, s účinností od 1. ledna 2027. Jde o jasný příklad toho, jak rychle se tato oblast vyvíjí — nepředpokládejte, že v praxi platí původně oznámená pravidla coloradského zákona o AI. verify Colorado’s current AI law and effective date directly before relying on it

V EU nařízení o umělé inteligenci (AI Act, nařízení (EU) 2024/1689) klasifikuje systémy AI používané při náboru, prověřování uchazečů a biometrické identifikaci jako „vysoce rizikové“, s povinnostmi jako řízení rizik a lidský dohled. Po zjednodušující dohodě „omnibus“ z roku 2026 byly tyto vysoce rizikové povinnosti pro většinu takových systémů odloženy na 2. prosince 2027, zatímco užší pravidla transparentnosti (například označování obsahu vytvořeného AI) nabývají účinnosti již v srpnu 2026. verify the current EU AI Act compliance calendar before assuming any specific obligation is already active

Případy, kde dokážete prokázat jasný, zdokumentovaný vzorec — audit zaujatosti prokazující nerovnost nebo jasně diskriminační důvod zamítnutí v oznámení o nepříznivém rozhodnutí — stojí na mnohem pevnějším základě než pouhé podezření, že „algoritmus se zdál nespravedlivý“, což je bez podkladových dat obtížné prokázat.

Newyorský zákon Local Law 144 přispěl ke skutečné transparentnosti (zveřejněná shrnutí auditů zaujatosti), kontrolní hodnocení ale zjistila nejednotné dodržování napříč zaměstnavateli — chybějící nebo nekvalitní audit sám o sobě stojí za upozornění, ale nepředpokládejte, že každý zaměstnavatel používající automatizovaný nástroj skutečně splnil požadavky.

Jde o skutečně neustálenou oblast práva, jejíž pravidla se rok od roku mění (jak ukazují výše uvedené příklady Colorada a EU) — tato stránka vám může pomoci určit správný základní nárok a postup, nemůže však předpovědět, jak konkrétní agentura nebo soud posoudí konkrétní algoritmický nástroj.