KI-Governance Deutschland 2025: AI Act Umsetzung und Ihre Rechte

Aktualisiert: November 2025

EU AI Act: Zeitplan und Stand 2025

Der AI Act ist das weltweit erste umfassende KI-Gesetz:

| Datum | Was gilt | |-------|----------| | 1. August 2024 | AI Act in Kraft getreten | | 2. Februar 2025 | Verbotene KI + KI-Kompetenz | | 2. August 2025 | Governance + GPAI-Regeln + Sanktionen | | 2. August 2026 | Vollstaendige Anwendung |

---

Deutsche Umsetzung: Aktueller Stand

Bundesnetzagentur als Aufsichtsbehoerde

Laut BMDS:

| Behoerde | Funktion | |----------|----------| | Bundesnetzagentur | Marktueberwachungsbehoerde | | DAkkS | Notifizierende Behoerde | | AI Service Desk | Seit Juli 2025 aktiv |

AI Service Desk der Bundesnetzagentur

Seit Juli 2025 bietet die Bundesnetzagentur:

| Service | Beschreibung | |---------|--------------| | Selbsteinschaetzungs-Tool | Risikoklassifizierung | | Informationsportal | Umfassende KI-Infos | | Kontaktfunktion | Fragen stellen | | Schulungsangebote | Kostenlos |

Verzoegerung KIMUG

| Problem | Status | |---------|--------| | Regierungsbildung | Deadline 2. August 2025 nicht eingehalten | | Laender-Stellungnahme | Ab 12. September 2025 | | Vollstaendige Umsetzung | Noch ausstehend |

---

Sanktionen bei Verstoessen (ab August 2025)

Bussgelder nach AI Act

Laut SRD Rechtsanwaelte:

| Verstoss | Hoechststrafe | |----------|---------------| | Verbotene KI betreiben | 35 Mio. EUR oder 7% Umsatz | | Andere Pflichtverletzungen | 15 Mio. EUR oder 3% Umsatz | | Falsche Angaben an Behoerden | 7,5 Mio. EUR oder 1% Umsatz |

Wichtig: Bei Konzernen gilt der weltweite Jahresumsatz!

---

Verbotene KI-Systeme (seit Februar 2025)

Was ist jetzt illegal?

Laut Haufe:

| Verbot | Beispiele | |--------|-----------| | Social Scoring | Bewertung von Buergern durch Behoerden | | Verhaltensmanipulation | Unterbewusste Beeinflussung | | Schwaechen ausnutzen | Alter, Behinderung, wirtschaftliche Lage | | Biometrische Echtzeit-Ueberwachung | In oeffentlichen Raeumen | | Emotionserkennung | Am Arbeitsplatz und in Schulen | | Biometrische Kategorisierung | Nach sensiblen Merkmalen |

Ausnahmen bei Biometrie

| Erlaubt unter strengen Bedingungen | Voraussetzungen | |------------------------------------|-----------------| | Terrorismusbekaempfung | Richterlicher Beschluss | | Vermisste Personen | Akute Gefahr | | Schwere Straftaten | Einzelfallpruefung |

---

Hochrisiko-KI: Strenge Regeln

Betroffene Bereiche

Gemaess AlgorithmWatch:

| Bereich | Beispiele | |---------|-----------| | Biometrik | Gesichtserkennung, Fingerabdruck | | Kritische Infrastruktur | Strom, Wasser, Verkehr | | Bildung | Zugang, Noten, Pruefungen | | Beschaeftigung | Bewerbungsscreening, Leistungsbewertung | | Oeffentliche Dienste | Sozialleistungen, Kredite | | Strafverfolgung | Profiling, Beweisbewertung | | Migration | Visum, Asyl, Grenzkontrolle | | Rechtspflege | Richterliche Unterstuetzung | | Demokratie | Wahlen, Abstimmungen |

Pflichten fuer Hochrisiko-KI

| Pflicht | Beschreibung | |---------|--------------| | Risikomanagement | Kontinuierliche Bewertung | | Datenqualitaet | Repraesentative Trainingsdaten | | Dokumentation | Technische Unterlagen | | Transparenz | Informationspflicht | | Menschliche Aufsicht | Human-in-the-loop | | Robustheit | Sicherheit und Genauigkeit |

---

KI-Kompetenz-Pflicht (seit Februar 2025)

Was Unternehmen tun muessen

Laut IHK Muenchen:

| Pflicht | Umsetzung | |---------|-----------| | Schulungen | Alle Mitarbeiter mit KI-Kontakt | | Dokumentation | Nachweisbare KI-Kompetenz | | Aktualisierung | Bei neuen Systemen | | Fuehrungskraefte | Besondere Verantwortung |

Inhalte der KI-Kompetenz

| Thema | Was zu wissen ist | |-------|-------------------| | Grundlagen KI | Wie funktioniert KI? | | Risiken | Bias, Fehler, Grenzen | | Rechte | DSGVO, AI Act | | Verantwortung | Eigene Rolle |

---

GPAI (General Purpose AI) ab August 2025

ChatGPT, Claude & Co. reguliert

Laut Deloitte Legal:

| GPAI-Kategorie | Pflichten | |----------------|-----------| | Alle GPAI | Dokumentation, Urheberrecht, Transparenz | | Systemrisiko | Risikobewertung, Red Teaming, Monitoring |

Systemrisiko-Kriterien

| Kriterium | Schwellenwert | |-----------|---------------| | Rechenleistung Training | >10²⁵ FLOPS | | Nutzerzahl | EU-Kommission-Bewertung | | Faehigkeiten | Komplexe Aufgaben |

---

Rechte der Betroffenen

Was Buerger tun koennen

| Recht | Grundlage | |-------|-----------| | Erklaerung | Warum diese Entscheidung? | | Beschwerde | Bei Bundesnetzagentur | | Menschliche Pruefung | Bei automatisierten Entscheidungen | | Transparenz | Wissen, dass KI eingesetzt wird |

Kennzeichnungspflichten

| KI-System | Kennzeichnung | |-----------|---------------| | Chatbots | "Sie sprechen mit einer KI" | | Deepfakes | Kuenstlich generiert markieren | | Biometrik | Hinweis auf Datenerhebung | | Emotionserkennung | Verboten (ausser Sicherheit) |

---

Governance-Struktur EU

Aufsichtsorgane

| Organ | Funktion | |-------|----------| | European AI Office | Zentrale Koordinierung | | AI Board | Mitgliedstaaten-Vertretung | | Scientific Panel | Wissenschaftliche Beratung | | Advisory Forum | Stakeholder-Einbindung |

---

Demokratische Kontrolle staerken

Zivilgesellschaftliche Organisationen

| Organisation | Fokus | Link | |--------------|-------|------| | AlgorithmWatch | Algorithmen beobachten | algorithmwatch.org | | Digitale Gesellschaft | Digitale Rechte | digitalegesellschaft.de | | CCC | Sicherheit + Freiheit | ccc.de | | netzpolitik.org | Journalismus | netzpolitik.org |

Aktuelle Initiativen

| Initiative | Ziel | |------------|------| | Algorithmus-Monitoring | Pruefung oeffentlicher KI | | Buergerraete | Beteiligung an KI-Entscheidungen | | Open Source KI | Transparente Alternativen | | Datensouveraenitaet | Kontrolle eigener Daten |

---

Checkliste: Was Sie tun koennen

• •✅ Fragen Sie nach: Wird KI bei Entscheidungen ueber Sie verwendet?
• •✅ Fordern Sie Erklaerungen: Wie kam die Entscheidung zustande?
• •✅ Beschweren Sie sich: Bei der Bundesnetzagentur oder BfDI
• •✅ Informieren Sie sich: AI Service Desk nutzen
• •✅ Engagieren Sie sich: Zivilgesellschaftliche Organisationen

---

Ressourcen

| Ressource | Link | |-----------|------| | EU AI Act Volltext | ai-act-law.eu/de | | Bundesnetzagentur KI | bundesnetzagentur.de | | BfDI Datenschutz | bfdi.bund.de | | BMDS KI-Gesetz | bmds.bund.de | | AlgorithmWatch | algorithmwatch.org |

---

KI-Governance ist zu wichtig, um sie allein Unternehmen zu ueberlassen. Nutzen Sie Ihre Rechte - fordern Sie Transparenz und Erklaerungen!