Wenn ein Algorithmus, nicht ein Mensch, die Entscheidung gegen Sie trifft

Wenn ein automatisiertes Tool Bewerber screent, Versicherungen bepreist, einen Kreditantrag bewertet oder einen Mieter markiert, gilt in der Regel dasselbe Antidiskriminierungsrecht wie bei einer menschlichen Entscheidung: der Title VII des Civil Rights Act von 1964 für Beschäftigung, der Equal Credit Opportunity Act (ECOA) für Kredite und der Fair Housing Act für Wohnraum, unter anderem. Dass der Algorithmus eines Anbieters — nicht ein Personalverantwortlicher — die nachteilige Entscheidung getroffen hat, befreit den Arbeitgeber oder Kreditgeber nicht von diesen Gesetzen; es kann die Diskriminierung nur schwerer erkennbar machen, weil ein oberflächlich neutrales Bewertungsmodell trotzdem eine diskriminierende Wirkung auf eine geschützte Gruppe haben kann (disparate impact).

Im Mai 2023 veröffentlichte die EEOC technische Leitlinien, die algorithmische Einstellungstools als „Auswahlverfahren" im Sinne von Title VII behandelten, das derselben Analyse auf nachteilige Auswirkungen unterliegt wie jeder andere Test. Dieses konkrete Leitliniendokument wurde im Januar 2025 nach einem Führungswechsel bei der Behörde von der EEOC-Website entfernt. Die Entfernung eines Leitliniendokuments hebt das zugrunde liegende Gesetz nicht auf — Title VII, der ADA und der ADEA gelten weiterhin für KI-gestützte Beschäftigungsentscheidungen — bedeutet aber, dass es derzeit weniger formale Leitlinien der Bundesbehörde dazu gibt, wie diese Gesetze konkret auf algorithmische Tools angewendet werden. verify die aktuelle veröffentlichte Position der EEOC, bevor Sie sich auf einen bestimmten KI-Einstellungsstandard als offizielle Bundesleitlinie verlassen

Bei Kreditentscheidungen verlangt Regulation B (die den ECOA umsetzt) bereits, dass ein Kreditgeber bei Ablehnung eines Kredits eine konkrete, zutreffende Mitteilung über die nachteilige Entscheidung gibt — auch wenn ein Machine-Learning-Modell die Entscheidung getroffen hat. Ein Kreditgeber, der einen undurchsichtigen Algorithmus einsetzt, darf diese Mitteilung nicht auslassen oder eine vage Begründung geben; die konkreten Faktoren, die die Entscheidung tatsächlich beeinflusst haben, müssen in der Regel weiterhin offengelegt werden. verify, wie Ihr konkreter Kreditgeber die Gründe in der Mitteilung über die nachteilige Entscheidung beschreibt und ob sie tatsächlich die realen Entscheidungsfaktoren des Modells widerspiegeln

Das New Yorker Local Law 144 (seit Juli 2023 durchgesetzt) verlangt von Arbeitgebern, die ein „automatisiertes Beschäftigungsentscheidungstool" bei NYC-Bewerbern oder -Beschäftigten einsetzen, das Tool innerhalb des letzten Jahres unabhängig auf Bias prüfen zu lassen, eine Zusammenfassung der Prüfergebnisse zu veröffentlichen und Bewerbern vorab mit dem Recht auf ein alternatives Verfahren Bescheid zu geben. Das ist derzeit eine der konkretesten, durchsetzbaren KI-spezifischen Transparenzregeln in den USA, mit Bußgeldern bei Nichteinhaltung. verify die aktuellen Bußgeldhöhen und die Durchsetzungspraxis, da diese aktualisiert werden können

Colorado verabschiedete ein umfassendes KI-Gesetz (SB 24-205) gegen algorithmische Diskriminierung bei „Hochrisiko"-Entscheidungen, dessen Inkrafttreten aber zweimal vom Gesetzgeber verschoben und das anschließend vollständig durch ein engeres Gesetz (SB 26-189, unterzeichnet Mai 2026) ersetzt wurde, das statt des ursprünglichen Sorgfaltspflicht- und Folgenabschätzungsrahmens einen Offenlegungs- und Transparenzansatz verfolgt und zum 1. Januar 2027 in Kraft tritt. Das ist ein klares Beispiel dafür, wie schnell sich dieser Bereich bewegt — gehen Sie nicht davon aus, dass die ursprünglich angekündigten Regeln des Colorado AI Act tatsächlich in Kraft sind. verify das aktuelle KI-Gesetz Colorados und dessen Inkrafttretensdatum, bevor Sie sich darauf verlassen

In der EU stuft der AI Act (Verordnung (EU) 2024/1689) KI-Systeme, die bei Rekrutierung, Bewerber-Screening und biometrischer Identifizierung eingesetzt werden, als „hochriskant" ein, mit Pflichten wie Risikomanagement und menschlicher Aufsicht. Nach einer Vereinbarung zur Vereinfachung („Omnibus") von 2026 wurden diese Hochrisiko-Pflichten für die meisten solcher Systeme auf den 2. Dezember 2027 verschoben, während engere Transparenzregeln (etwa die Kennzeichnung KI-generierter Inhalte) bereits im August 2026 in Kraft treten. verify den aktuellen Zeitplan zur Einhaltung des EU AI Act, bevor Sie annehmen, dass eine bestimmte Pflicht bereits gilt

Fälle, in denen Sie ein klares, dokumentiertes Muster zeigen können — ein Bias-Audit, das eine Disparität zeigt, oder eine eindeutig diskriminierende Ablehnungsbegründung in einer Mitteilung über die nachteilige Entscheidung —, stehen deutlich stärker als der bloße Verdacht, „der Algorithmus wirkte unfair", der ohne zugrunde liegende Daten schwer zu beweisen ist.

NYCs Local Law 144 hat für echte Transparenz gesorgt (veröffentlichte Bias-Audit-Zusammenfassungen), aber Aufsichtsprüfungen haben eine uneinheitliche Einhaltung durch Arbeitgeber festgestellt — ein fehlendes oder minderwertiges Audit ist selbst schon einen Hinweis wert, aber gehen Sie nicht davon aus, dass jeder Arbeitgeber, der ein automatisiertes Tool einsetzt, tatsächlich konform ist.

Dies ist ein wirklich unklares Rechtsgebiet mit Regeln, die sich Jahr für Jahr ändern (wie die Beispiele Colorado und EU oben zeigen) — diese Seite kann Ihnen helfen, den richtigen zugrunde liegenden Anspruch und das richtige Verfahren zu bestimmen, kann aber nicht vorhersagen, wie eine bestimmte Behörde oder ein Gericht ein bestimmtes algorithmisches Tool behandeln wird.