Quando è un algoritmo, non una persona, a prendere la decisione contro di te

Se uno strumento automatizzato seleziona candidati per un lavoro, fissa il prezzo di un'assicurazione, valuta una domanda di prestito o segnala un inquilino, la legge antidiscriminazione sottostante è generalmente la stessa che si applicherebbe a un decisore umano: il Title VII del Civil Rights Act del 1964 per l'impiego, l'Equal Credit Opportunity Act (ECOA) per il credito e il Fair Housing Act per l'alloggio, tra le altre. Il fatto che sia stato l'algoritmo di un fornitore — non un responsabile delle assunzioni — a produrre la decisione sfavorevole non esonera il datore di lavoro o il finanziatore da queste leggi; può semplicemente rendere la discriminazione più difficile da individuare, perché un modello di punteggio apparentemente neutro può comunque produrre un effetto discriminatorio su un gruppo protetto (impatto sproporzionato).

Nel maggio 2023, l'EEOC ha pubblicato una guida tecnica che trattava gli strumenti algoritmici di assunzione come una "procedura di selezione" ai sensi del Title VII, soggetta alla stessa analisi dell'impatto avverso di qualsiasi altro test. Quel documento di guida specifico è stato rimosso dal sito web dell'EEOC nel gennaio 2025, a seguito di un cambio nella leadership dell'agenzia. Rimuovere un documento di guida non abroga la legge sottostante — il Title VII, l'ADA e l'ADEA continuano ad applicarsi alle decisioni di impiego guidate dall'IA — ma significa che attualmente c'è meno guida formale da parte dell'agenzia federale su come queste leggi si applicano specificamente agli strumenti algoritmici. verify la posizione attualmente pubblicata dall'EEOC prima di fare affidamento su uno standard specifico per l'IA nelle assunzioni come guida federale ufficiale

Per le decisioni di credito, la Regulation B (che attua l'ECOA) richiede già a un finanziatore di fornire un avviso di azione avversa specifico e accurato quando nega il credito — anche quando è stato un modello di machine learning a guidare la decisione. Un finanziatore che utilizza un algoritmo opaco non può saltare questo avviso o dare una motivazione vaga; i fattori specifici che hanno effettivamente influenzato la decisione devono generalmente essere comunque divulgati. verify come l'avviso di azione avversa del tuo specifico finanziatore descrive le motivazioni, e se sembra riflettere davvero i reali fattori decisionali del modello

La Local Law 144 di New York City (in vigore dal luglio 2023) richiede ai datori di lavoro che utilizzano uno "strumento automatizzato di decisione sull'impiego" su candidati o dipendenti di NYC di far sottoporre lo strumento a un audit indipendente sui pregiudizi entro l'anno precedente, pubblicare una sintesi dei risultati dell'audit e dare ai candidati un preavviso con il diritto di richiedere un processo alternativo. Si tratta attualmente di una delle regole di trasparenza specifiche sull'IA più concrete ed applicabili negli Stati Uniti, con sanzioni civili per la non conformità. verify gli importi attuali delle sanzioni e la postura di applicazione, poiché possono essere aggiornati

Il Colorado ha approvato un ampio AI Act (SB 24-205) volto a contrastare la discriminazione algoritmica nelle decisioni "ad alto rischio", ma la sua data di entrata in vigore è stata rinviata due volte dal legislatore ed è stata poi interamente sostituita da una legge più circoscritta (SB 26-189, firmata a maggio 2026) che adotta un approccio di divulgazione e trasparenza invece del quadro originale basato su dovere di diligenza e valutazione d'impatto, efficace dal 1° gennaio 2027. È un chiaro esempio di quanto velocemente si muova quest'area — non dare per scontato che le regole del Colorado AI Act originariamente annunciate siano quelle effettivamente in vigore. verify direttamente la legge sull'IA del Colorado attualmente vigente e la sua data di entrata in vigore prima di farvi affidamento

Nell'UE, l'AI Act (Regolamento (UE) 2024/1689) classifica i sistemi di IA utilizzati per il reclutamento, la selezione dei candidati e l'identificazione biometrica come "ad alto rischio", con obblighi come la gestione del rischio e la supervisione umana. A seguito di un accordo di semplificazione ("omnibus") del 2026, questi obblighi per i sistemi ad alto rischio sono stati rinviati per la maggior parte di tali sistemi al 2 dicembre 2027, mentre regole di trasparenza più circoscritte (come l'etichettatura dei contenuti generati dall'IA) entrano comunque in vigore ad agosto 2026. verify il calendario attuale di conformità dell'EU AI Act prima di dare per scontato che un obbligo specifico sia già attivo

I casi in cui puoi dimostrare uno schema chiaro e documentato — un audit sui pregiudizi che mostra una disparità, o una motivazione di rifiuto chiaramente discriminatoria in un avviso di azione avversa — hanno una base molto più solida rispetto al semplice sospetto che "l'algoritmo sembrava ingiusto", difficile da provare senza i dati sottostanti.

La Local Law 144 di NYC ha portato a una reale trasparenza (sintesi di audit sui pregiudizi pubblicate) ma le valutazioni di supervisione hanno riscontrato una conformità incoerente tra i datori di lavoro — un audit mancante o di scarsa qualità merita di per sé attenzione, ma non dare per scontato che ogni datore di lavoro che usa uno strumento automatizzato si sia effettivamente conformato.

Questa è un'area del diritto genuinamente in via di definizione, con regole che cambiano anno dopo anno (come mostrano gli esempi del Colorado e dell'UE sopra) — questa pagina può aiutarti a individuare la giusta rivendicazione e procedura sottostante, ma non può prevedere come una specifica agenzia o un tribunale tratterà uno specifico strumento algoritmico.