EU AI Act
EU-Verordnung zur Regulierung von Künstlicher Intelligenz — das weltweit erste umfassende KI-Gesetz mit risikobasierten Anforderungen.
Der EU AI Act (Verordnung (EU) 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Seit August 2024 in Kraft, wird er gestaffelt bis 2027 umgesetzt. Die Verordnung verfolgt einen risikobasierten Ansatz: Je höher das Risiko eines KI-Systems für Grundrechte und Sicherheit, desto strenger die Anforderungen. Für deutsche Unternehmen, die LLM-basierte Anwendungen oder andere KI-Systeme einsetzen, schafft der EU AI Act erstmals verbindliche Leitplanken — von Transparenzpflichten bis hin zu umfassenden Konformitätsbewertungen.
Risikoklassen
Der EU AI Act unterscheidet vier Risikostufen, die bestimmen, welche Pflichten Anbieter und Betreiber treffen. In der Praxis entscheidet die Klassifizierung darüber, ob ein KI-System frei einsetzbar ist oder umfangreiche Dokumentation und Prüfverfahren durchlaufen muss.
| Risikostufe | Regulierung | Beispiele |
|---|---|---|
| Unakzeptabel | Vollständig verboten | Social Scoring, manipulative Techniken, biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum (mit eng begrenzten Ausnahmen für Strafverfolgung), Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen |
| Hoch | Konformitätsbewertung, Risikomanagement, Logging, menschliche Aufsicht | KI in Personalauswahl (HR), Kreditscoring, kritische Infrastruktur, Strafverfolgung, Emotionserkennung in anderen Kontexten |
| Begrenzt | Transparenzpflichten | Chatbots (Kennzeichnung als KI), Deepfake-Generatoren |
| Minimal | Keine spezifischen Pflichten | Spam-Filter, KI-gestützte Suchfunktionen, Empfehlungssysteme |
General-Purpose-AI-Modelle (GPAI) wie große Sprachmodelle bilden eine eigene Kategorie mit gestuften Transparenz- und Sicherheitsanforderungen — unabhängig davon, in welche Risikostufe die darauf aufbauende Anwendung fällt.
Pflichten für Betreiber
Die Verordnung unterscheidet klar zwischen Anbietern (die KI-Systeme entwickeln oder in Verkehr bringen) und Betreibern (die KI-Systeme im eigenen Geschäftsbetrieb einsetzen). Für Betreiber von Hochrisiko-KI-Systemen gelten in der Praxis folgende Kernpflichten:
Betreiber müssen sicherstellen, dass die menschliche Aufsicht durch qualifiziertes Personal erfolgt, das die Fähigkeiten und Grenzen des Systems versteht. Eingabedaten müssen dem Verwendungszweck entsprechen und hinreichend repräsentativ sein. Automatisch erzeugte Protokolle (Logs) sind mindestens sechs Monate aufzubewahren. Zudem müssen Betreiber eine Datenschutz-Folgenabschätzung durchführen, wenn personenbezogene Daten verarbeitet werden — hier greifen die Anforderungen der DSGVO direkt.
Auch der Umgang mit Shadow AI wird relevant: Wenn Mitarbeitende eigenständig KI-Tools einsetzen, die als Hochrisiko-System einzustufen wären, haftet das Unternehmen als Betreiber. Technische Guardrails und klare Nutzungsrichtlinien sind daher nicht optional, sondern regulatorisch geboten.
Zeitplan
Die Umsetzung erfolgt gestaffelt, um Unternehmen und Behörden Vorbereitungszeit zu geben. Die wesentlichen Meilensteine im Überblick:
| Datum | Was gilt ab dann |
|---|---|
| Februar 2025 | Verbote für inakzeptable KI-Praktiken greifen |
| August 2025 | Transparenzpflichten für GPAI-Modelle; Governance-Strukturen müssen stehen |
| August 2026 | Volle Anforderungen für Hochrisiko-KI-Systeme inkl. Konformitätsbewertung |
| August 2027 | Anforderungen für KI in regulierten Produkten (Medizintechnik, Automotive, Maschinenbau) |
Bußgelder
Die Sanktionen orientieren sich am Schweregrad des Verstoßes und folgen einer dreistufigen Logik, die an die Bußgeldstruktur der DSGVO angelehnt ist. Für KMU und Start-ups gelten verhältnismäßig niedrigere Obergrenzen.
| Verstoß | Höchststrafe | Umsatzanteil |
|---|---|---|
| Verbotene KI-Praktiken | 35 Mio. EUR | 7 % des weltweiten Jahresumsatzes |
| Verstöße gegen Betreiber-/Anbieterpflichten | 15 Mio. EUR | 3 % des weltweiten Jahresumsatzes |
| Falsche oder unvollständige Angaben gegenüber Behörden | 7,5 Mio. EUR | 1 % des weltweiten Jahresumsatzes |
Es gilt jeweils der höhere Betrag. Nationale Marktüberwachungsbehörden — in Deutschland die Bundesnetzagentur — setzen die Bußgelder durch.
Zusammenspiel mit DSGVO und NIS2
Der EU AI Act steht nicht isoliert, sondern ergänzt bestehende Regulierung. Die DSGVO bleibt die primäre Rechtsgrundlage für den Schutz personenbezogener Daten — auch wenn diese von KI-Systemen verarbeitet werden. In der Praxis bedeutet das: Wer ein Hochrisiko-KI-System betreibt, muss sowohl die Anforderungen des AI Acts (Risikomanagement, Logging, menschliche Aufsicht) als auch die der DSGVO (Rechtsgrundlage, Betroffenenrechte, Datenschutz-Folgenabschätzung) parallel erfüllen. Besondere Aufmerksamkeit verdienen dabei Risiken wie Halluzination und Prompt Injection, die zu fehlerhaften Entscheidungen oder Datenlecks führen können.
Auch die NIS2-Richtlinie berührt KI-Systeme, sofern diese in kritischen Infrastrukturen oder bei wesentlichen Einrichtungen eingesetzt werden. Unternehmen, die unter NIS2 fallen und gleichzeitig Hochrisiko-KI betreiben, unterliegen damit einem doppelten Compliance-Rahmen mit überlappenden Anforderungen an Risikomanagement und Incident Reporting.
Relevanz für KMUs
Kleine und mittlere Unternehmen sind vom EU AI Act nicht ausgenommen, profitieren aber von Erleichterungen: niedrigere Bußgeld-Obergrenzen, vereinfachte Dokumentationspflichten und regulatorische Sandboxes zum Testen von KI-Systemen. In der Praxis betrifft die Verordnung KMUs vor allem in zwei Szenarien. Erstens als Betreiber von Hochrisiko-KI — etwa wenn KI-gestützte Tools im Bewerbungsprozess oder in der Kreditvergabe eingesetzt werden. Zweitens als Nutzer von GPAI-basierten Diensten, bei denen Transparenzpflichten greifen und der Einsatz gegenüber betroffenen Personen offenzulegen ist.
Der pragmatische erste Schritt für KMUs: eine Bestandsaufnahme aller eingesetzten KI-Systeme, deren Klassifizierung nach Risikostufe und die Ableitung konkreter Handlungsbedarfe — idealerweise eingebettet in ein bestehendes Informationssicherheits- oder Datenschutz-Managementsystem.