Gdy decyzję przeciwko Tobie podejmuje algorytm, a nie człowiek

Jeśli zautomatyzowane narzędzie weryfikuje kandydatów do pracy, wycenia ubezpieczenie, ocenia wniosek kredytowy lub oznacza najemcę, obowiązujące prawo antydyskryminacyjne jest co do zasady takie samo, jakie miałoby zastosowanie do decyzji podjętej przez człowieka: Tytuł VII Ustawy o Prawach Obywatelskich z 1964 roku dla zatrudnienia, Ustawa o Równych Szansach Kredytowych (ECOA) dla kredytu oraz Ustawa o Sprawiedliwym Mieszkalnictwie (Fair Housing Act) dla mieszkalnictwa, między innymi. Fakt, że to algorytm dostawcy — a nie kierownik ds. rekrutacji — wydał niekorzystną decyzję, nie zwalnia pracodawcy ani kredytodawcy z obowiązywania tych przepisów; może to jedynie utrudnić wykrycie dyskryminacji, ponieważ pozornie neutralny model oceniający nadal może wywoływać dyskryminujący skutek wobec grupy chronionej (dyskryminacja pośrednia, ang. disparate impact).

W maju 2023 roku EEOC opublikowała wytyczne techniczne traktujące algorytmiczne narzędzia rekrutacyjne jako „procedurę selekcji" w rozumieniu Tytułu VII, podlegającą tej samej analizie niekorzystnego wpływu, co każdy inny test. Ten konkretny dokument z wytycznymi został usunięty ze strony internetowej EEOC w styczniu 2025 roku po zmianie kierownictwa agencji. Usunięcie dokumentu z wytycznymi nie uchyla obowiązującej ustawy — Tytuł VII, ADA i ADEA nadal mają zastosowanie do decyzji zatrudnieniowych podejmowanych przez AI — ale oznacza to, że obecnie istnieje mniej formalnych wytycznych federalnej agencji dotyczących tego, jak te przepisy stosują się konkretnie do narzędzi algorytmicznych. [zweryfikuj aktualne oficjalne stanowisko EEOC, zanim oprzesz się na jakimkolwiek konkretnym standardzie dotyczącym rekrutacji przez AI jako oficjalnych wytycznych federalnych]

W przypadku decyzji kredytowych Regulacja B (która wdraża ECOA) już teraz wymaga od kredytodawcy przekazania konkretnego, dokładnego zawiadomienia o niekorzystnej decyzji, gdy odmawia udzielenia kredytu — w tym gdy decyzję podjął model uczenia maszynowego. Kredytodawca korzystający z nieprzejrzystego algorytmu nie może pominąć tego zawiadomienia ani podać niejasnego powodu; konkretne czynniki, które faktycznie wpłynęły na decyzję, co do zasady nadal muszą zostać ujawnione. [zweryfikuj, jak zawiadomienie o niekorzystnej decyzji Twojego konkretnego kredytodawcy opisuje powody i czy wydaje się faktycznie odzwierciedlać rzeczywiste czynniki decyzyjne modelu]

Lokalne Prawo NYC 144 (obowiązujące egzekwowanie od lipca 2023 r.) wymaga od pracodawców korzystających z „zautomatyzowanego narzędzia do podejmowania decyzji o zatrudnieniu" wobec kandydatów lub pracowników w Nowym Jorku przeprowadzenia niezależnego audytu stronniczości w ciągu ostatniego roku, opublikowania podsumowania wyników audytu oraz udzielenia kandydatom uprzedniego zawiadomienia z prawem do żądania alternatywnego procesu. To obecnie jeden z najbardziej konkretnych, egzekwowalnych przepisów dotyczących przejrzystości AI w USA, z karami cywilnymi za nieprzestrzeganie. [zweryfikuj aktualne kwoty kar i sposób egzekwowania, ponieważ mogą one ulec aktualizacji]

Kolorado uchwaliło szeroko zakrojoną Ustawę o AI (SB 24-205) mającą na celu zwalczanie dyskryminacji algorytmicznej w decyzjach „wysokiego ryzyka", ale jej data wejścia w życie została dwukrotnie przesunięta przez ustawodawcę, a następnie została ona całkowicie zastąpiona węższą ustawą (SB 26-189, podpisaną w maju 2026 r.), która przyjmuje podejście oparte na ujawnianiu informacji i przejrzystości zamiast pierwotnych ram należytej staranności i oceny wpływu, wchodzącą w życie 1 stycznia 2027 roku. To wyraźny przykład tego, jak szybko zmienia się ta dziedzina — nie zakładaj, że pierwotnie ogłoszone przepisy Ustawy o AI Kolorado to te faktycznie obowiązujące. [zweryfikuj aktualną ustawę o AI Kolorado i datę jej wejścia w życie bezpośrednio przed poleganiem na niej]

W UE Ustawa o AI (Rozporządzenie (UE) 2024/1689) klasyfikuje systemy AI stosowane w rekrutacji, weryfikacji kandydatów i identyfikacji biometrycznej jako „wysokiego ryzyka", co wiąże się z obowiązkami takimi jak zarządzanie ryzykiem i nadzór ludzki. Po porozumieniu upraszczającym z 2026 roku („omnibus") te obowiązki wysokiego ryzyka dla większości takich systemów zostały odroczone do 2 grudnia 2027 roku, podczas gdy węższe przepisy dotyczące przejrzystości (takie jak oznaczanie treści generowanych przez AI) nadal wchodzą w życie w sierpniu 2026 roku. [zweryfikuj aktualny harmonogram zgodności z Ustawą UE o AI, zanim założysz, że jakikolwiek konkretny obowiązek już obowiązuje]

Sprawy, w których możesz wykazać wyraźny, udokumentowany wzorzec — audyt stronniczości wykazujący dysproporcję lub wyraźnie dyskryminujący powód odrzucenia w zawiadomieniu o niekorzystnej decyzji — mają znacznie mocniejszą podstawę niż podejrzenie, że „algorytm wydawał się niesprawiedliwy", co trudno udowodnić bez danych źródłowych.

Lokalne Prawo NYC 144 wymusiło rzeczywistą przejrzystość (opublikowane podsumowania audytów stronniczości), ale oceny nadzorcze wykazały niespójne przestrzeganie przepisów wśród pracodawców — brakujący lub niskiej jakości audyt sam w sobie jest wart zgłoszenia, ale nie zakładaj, że każdy pracodawca korzystający z zautomatyzowanego narzędzia faktycznie się dostosował.

To dziedzina prawa, która wciąż się kształtuje, z zasadami zmieniającymi się z roku na rok (jak pokazują przykłady Kolorado i UE powyżej) — ta strona może pomóc Ci zidentyfikować właściwe roszczenie bazowe i proces, ale nie może przewidzieć, jak konkretna agencja lub sąd potraktuje konkretne narzędzie algorytmiczne.