KI-Kompetenz nach EU AI Act
4 dokumentierte Fälle · Quellen verlinkt
OpenAI / ChatGPT
15 Mio €Italien (Garante) · 12/2024
Rechtswidrige Datenverarbeitung (Trainingsdaten ohne Rechtsgrundlage), fehlende Transparenz und mangelhafter Jugendschutz. Zusätzlich verpflichtende Aufklärungs-Kampagne in Italien.
Was die Schulung verhindert oder mildert
DSGVO ist bei KI-Tools voll anwendbar. Mitarbeitende, die KI mit personenbezogenen Daten füttern, brauchen klare Spielregeln — Art. 4 KI-VO (KI-Literacy) ist seit 02.02.2025 Pflicht.
Quelle: Datenschutzticker — Garante 12/2024 ↗Clearview AI
> 90 Mio € kumuliertNiederlande + IT + FR + UK · 2022–2024
Milliarden öffentlicher Gesichtsbilder gescraped, ohne Einwilligung an Behörden weltweit verkauft. Kumuliert über 90 Mio € Strafen — niederländische DPA allein 30,5 Mio € (09/2024). Genau das ist nach AI-Act Art. 5 ausdrücklich verboten.
Was die Schulung verhindert oder mildert
Auch ohne aktive AI-Act-Aufsicht 2026 wird via DSGVO bereits hart durchgegriffen. KI-Anbieter und -Nutzer müssen die Risikoklassen und die roten Linien des AI Acts kennen.
Quelle: EDPB — Clearview NL 2024 ↗DPD-Chatbot
Reputationsschaden + Stilllegung des ChatbotsUK · 2024
Customer-Service-Chatbot wurde durch gezielte Prompts dazu gebracht, beleidigende Aussagen über den eigenen Arbeitgeber zu machen. Screenshots gingen viral.
Was die Schulung verhindert oder mildert
KI-Halluzinationen und Manipulierbarkeit (Prompt Injection) müssen jedem Mitarbeitenden mit KI-Kundenkontakt bekannt sein.
Amazon Recruiting Bias
Tool-Stilllegung, juristische FolgekostenUSA · 2018 (intern)
KI-gestütztes Bewerber-Screening hat systematisch Frauen benachteiligt — trainiert mit historischen Daten aus männlich dominierten Tech-Stellen. Tool wurde eingestellt.
Was die Schulung verhindert oder mildert
AI-Bias ist nicht abstrakt, sondern operativ. HR und Recruiting müssen die Risiken automatisierter Einzelentscheidungen nach Art. 22 DSGVO + AI-Act Annex III kennen.