Was die KI-Verordnung verlangt

Kapitel 01 klärt, was ein KI-System im Sinne des Gesetzes ist, und sagt dann einen Satz, der offenbleibt: An der Bestimmung hängen Pflichten, und welche gelten, richtet sich nach der Risikoklasse. Welche Klassen es gibt, steht dort nicht. Dieses Kapitel nennt sie.

Vorweg, was hier nicht steht: Das ist eine Einordnung und keine Rechtsberatung. Wer eine verbindliche Auskunft für den eigenen Fall braucht, holt sie sich bei jemandem, der dafür haftet.

Vier Stufen, und die Technik entscheidet keine davon

Die Kommission fasst den Aufbau in einem Satz zusammen: The AI Act defines 4 levels of risk for AI systems (externe Seite, digital-strategy.ec.europa.eu). Von oben nach unten sind das: unannehmbares Risiko, hohes Risiko, Transparenzrisiko, minimales Risiko.

Zwischen den Stufen entscheidet die Verwendung. Das Verfahren bleibt dabei außer Betracht: Dasselbe Modell kann in einer Anwendung minimal und in der nächsten hochriskant sein.

Die oberste Stufe ist ein Verbot:

All AI systems considered a clear threat to the safety, livelihoods and rights of people are banned. The AI Act prohibits nine practices (externe Seite, digital-strategy.ec.europa.eu)

Acht davon gelten seit Februar 2025. Die neunte hat die Änderungsverordnung vom Sommer 2026 eingefügt, in zwei Buchstaben: Systeme, die intime Darstellungen einer bestimmbaren Person ohne deren ausdrückliche Zustimmung erzeugen, und Systeme, die Missbrauchsdarstellungen von Kindern erzeugen. Beide gelten ab dem 2. Dezember 2026 (Beleg (externe Seite, eur-lex.europa.eu), Artikel 5 und 113). Welche Verbote die biometrischen Verfahren betreffen, steht in Kapitel 05.

Die zweite Stufe ist die, an der die eigentliche Arbeit hängt:

AI use cases that can pose serious risks to health, safety or fundamental rights are classified as high-risk. (externe Seite, digital-strategy.ec.europa.eu)

Auch hier ist von Anwendungsfällen die Rede. Technik kommt darin nicht vor. Wie eine solche Einstufung im Einzelfall aussieht, zeigt Kapitel 04 an einem Klassifikator.

Die dritte Stufe verlangt, dass Menschen erkennen können, womit sie es zu tun haben. Sie steht ausführlich in Grundkurs, Kapitel 14 und in Conversational AI, Kapitel 09.

Die unterste Stufe ist die größte

Der Satz, der am seltensten zitiert wird, steht auf derselben Seite:

The AI Act does not introduce rules for AI that is deemed minimal or no risk. The vast majority of AI systems currently used in the EU fall into this category. (externe Seite, digital-strategy.ec.europa.eu)

Für die meisten Anwendungen endet die Prüfung damit. Ein Rechtschreibprogramm, ein Spamfilter, eine Empfehlung im Warenkorb: keine Stufe, keine Pflicht aus dieser Verordnung, kein Artikel, den jemand aufschlagen muss.

Das ist die nützlichste Auskunft dieses Kapitels für den Alltag. Wer prüft, prüft von unten: Fällt der Fall in eine der oberen drei Stufen? Meistens ist die Antwort nein.

Die eine Pflicht, die alle trifft

Eine Regel steht quer zu den Stufen und gilt unabhängig davon, wo ein System einsortiert ist: Artikel 4, die KI-Kompetenz. Betreiber ist, wer ein KI-System einsetzt. Das trifft also jedes Unternehmen, in dem jemand ein Sprachmodell für die Arbeit benutzt, und es gilt seit dem 2. Februar 2025. Die Kommission zählt die Regel zu den ersten, die überhaupt anwendbar wurden: These include the AI system definition, AI literacy, and a very limited number of prohibited AI use cases that pose unacceptable risks in the EU (externe Seite, digital-strategy.ec.europa.eu).

Der Wortlaut ist seit dem 27. Juli 2026 ein anderer. In der ursprünglichen Fassung verlangte der Artikel, die Anbieter und Betreiber

ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen (externe Seite, eur-lex.europa.eu)

Die Änderungsverordnung hat ihn neu gefasst. Verlangt sind seither Maßnahmen, um die Entwicklung der KI-Kompetenz des Personals zu unterstützen, und der Artikel sagt ausdrücklich, was er nicht verlangt:

Diese Verpflichtung verpflichtet Anbieter oder Betreiber nicht, für irgendeine Person ein bestimmtes Niveau an KI-Kompetenz zu garantieren. (externe Seite, eur-lex.europa.eu)

Die Umstände, die dabei zählen, stehen weiter im Text: Vorkenntnisse, Ausbildung, der Zusammenhang, in dem die Systeme eingesetzt werden, und seither auch die Personen, bei denen sie eingesetzt werden. Wie man die Pflicht erfüllt, will die Kommission an Beispielen zeigen:

Zu diesem Zweck veröffentlicht die Kommission praktische Beispiele dafür, wie diese Verpflichtung erfüllt wird auf der in Artikel 62 Absatz 3 Buchstabe b genannten zentralen Informationsplattform. (externe Seite, eur-lex.europa.eu)

Wer die Pflicht nach einer Darstellung von vor dem Sommer 2026 einschätzt, schätzt sie strenger ein, als sie heute im Gesetz steht.

Sieben Daten, und keines davon steht für die ganze Verordnung

Wer sagt, die KI-Verordnung gelte seit einem bestimmten Tag, sagt die halbe Sache: Sie wird gestaffelt anwendbar, und seit der Änderungsverordnung vom Sommer 2026 in mehr Schritten als davor.

Datum	Was greift
01.08.2024	Inkrafttreten
02.02.2025	Begriffsbestimmung, KI-Kompetenz, acht der neun Verbote
02.08.2025	Pflichten für Modelle mit allgemeinem Verwendungszweck
02.08.2026	Transparenzpflichten; wer ein erzeugendes System vorher in Verkehr gebracht hat, hat für die maschinenlesbare Kennzeichnung bis zum 02.12.2026 Zeit
02.12.2026	das neunte Verbot
02.12.2027	Pflichten für Hochrisiko-Systeme aus der Bereichsliste (Anhang III)
02.08.2028	Pflichten für Hochrisiko-Systeme in Produkten (Anhang I)

Die Frist für die Kennzeichnung steht in Artikel 111:

Anbieter von KI-Systemen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, die vor dem 2. August 2026 in Verkehr gebracht wurden, treffen die erforderlichen Maßnahmen, um Artikel 50 Absatz 2 bis zum 2. Dezember 2026 nachzukommen. (externe Seite, eur-lex.europa.eu)

Die beiden Hochrisiko-Termine stehen in Artikel 113, und es sind zwei, weil die Verordnung zwei Wege in die Hochrisiko-Stufe kennt: über die Liste der Bereiche und über ein Produkt, das ohnehin einer Prüfung unterliegt.

2. Dezember 2027 in Bezug auf KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind, und (externe Seite, eur-lex.europa.eu)

2. August 2028 in Bezug auf KI-Systeme, die gemäß Artikel 6 Absatz 1 und Anhang I als hochriskant eingestuft sind; (externe Seite, eur-lex.europa.eu)

Die Kommission nennt auf ihrer Übersichtsseite den ersten davon (Starting on 2 December 2027, high-risk AI systems will be subject to strict obligations before they can be put on the market (externe Seite, digital-strategy.ec.europa.eu)) und den Termin für die Modelle (The AI Act rules on GPAI became effective in August 2025. (externe Seite, digital-strategy.ec.europa.eu)).

Die beiden letzten Termine sind nicht die ursprünglichen. Die Änderungsverordnung hat den Zeitplan gestreckt (Beleg (externe Seite, eur-lex.europa.eu)), und sie hat mit Artikel 4 zugleich eine Pflicht abgeschwächt, die schon galt. Wer ein Datum oder einen Wortlaut aus einer älteren Darstellung übernimmt, übernimmt möglicherweise den Stand davor.

Was in dieser Verordnung nicht steht

Sie regelt, unter welchen Bedingungen ein KI-System in der Union in Verkehr gebracht und betrieben werden darf. Drei Fragen beantwortet sie nicht:

Ob Sie diese Daten verarbeiten dürfen. Das entscheidet das Datenschutzrecht, und es gilt daneben weiter.

Wem gehört, was ein Modell aus fremdem Material gelernt hat. Das Urheberrecht ist ein eigenes Gebiet.

Wer haftet, wenn etwas schiefgeht. Auch das steht anderswo.

Die KI-Verordnung ersetzt keines dieser Gebiete. Sie kommt dazu.

Woran Sie Ihre Stufe festmachen

Fragen Sie nach der Verwendung, nicht nach der Technik. Die Stufe hängt daran, wofür ein System eingesetzt wird und wen die Entscheidung trifft.

Prüfen Sie von unten. Die überwiegende Mehrheit der Anwendungen liegt in der untersten Stufe, und dort führt die Verordnung keine Regeln ein.

Klären Sie Ihre Rolle. Anbieter und Betreiber haben verschiedene Pflichten, und wer ein zugekauftes System verändert, kann selbst zum Anbieter werden.

Nennen Sie zu jedem Datum, was an ihm greift. Ein Termin ohne die zugehörige Pflicht ist eine halbe Auskunft, und der Zeitplan ist schon einmal verschoben worden. Dasselbe gilt für einen Wortlaut: Artikel 4 hat seit dem Sommer 2026 einen anderen.

Die vier Stufen aus dem Überblick sind die Ordnung, nach der die Verordnung gebaut ist. Wer sie anwenden will, braucht drei weitere Dinge: woran die Einstufung im Einzelfall hängt, was an einer Stufe konkret hängt, und welche Regeln quer dazu stehen.

Die Einstufung hängt an der Zweckbestimmung

Dieselbe Technik landet in verschiedenen Stufen, je nachdem, wofür sie eingesetzt wird. Ein Sprachmodell, das Produktbeschreibungen formuliert, liegt in der untersten Stufe. Dasselbe Modell, das Bewerbungen vorsortiert, liegt in der Hochrisiko-Stufe, weil der Bereich Beschäftigung dazugehört.

Das ist der Grund, warum in den Rechtstexten von Anwendungsfällen die Rede ist. Verfahren stehen dort nicht. Die Kommission ordnet die Systeme in different risk categories, including prohibited, high-risk, and those subject to transparency obligations (externe Seite, digital-strategy.ec.europa.eu) ein, und die Zuordnung ergibt sich aus der Verwendung.

Für den Alltag folgt daraus eine Reihenfolge beim Prüfen. Zuerst die Frage, was das System im eigenen Haus tut, dann die Frage, wer von seinen Ausgaben betroffen ist, und erst dann der Blick in die Liste der Bereiche.

Was an einem Hochrisiko-System hängt

Hier liegt die Zusage, die Kapitel 01 gibt und offenlässt. Die Anforderungen, die ab Dezember 2027 und für Systeme in Produkten ab August 2028 vor dem Inverkehrbringen erfüllt sein müssen, sind sieben:

Ein Risikomanagement, das über die Lebensdauer des Systems läuft.

Datenqualität. Die Kommission nennt als Anforderung high-quality of the datasets feeding the system to minimise risks of discriminatory outcomes (externe Seite, digital-strategy.ec.europa.eu). Was daran schwierig ist, steht in Kapitel 04: Verzerrungen im Material übernimmt das Verfahren.

Protokollierung, also logging of activity to ensure traceability of results (externe Seite, digital-strategy.ec.europa.eu). Nachvollziehbarkeit meint hier die Aufzeichnung des Betriebs. Die Erklärbarkeit einer einzelnen Ausgabe ist eine andere Frage, und warum, steht in Kapitel 03.

Technische Unterlagen, aus denen eine Behörde die Einhaltung beurteilen kann.

Information an den Betreiber, damit er das System bestimmungsgemäß einsetzen kann.

Menschliche Aufsicht, mit appropriate human oversight measures (externe Seite, digital-strategy.ec.europa.eu).

Genauigkeit, Robustheit und Cybersicherheit auf hohem Niveau.

Vier dieser sieben stehen wörtlich in der Zusage aus dem Nachbarkapitel: Daten, Protokollierung, Aufsicht und Kennzeichnung. Die Kennzeichnung gehört dabei zur dritten Stufe und trifft auch Systeme, die keine Hochrisiko-Systeme sind: when using AI systems such as chatbots, humans should be made aware that they are interacting with a machine so they can take an informed decision. (externe Seite, digital-strategy.ec.europa.eu)

Konformitätsbewertung, und das Zeichen an der Ware

An dieser Stelle wird sichtbar, in welcher Rechtsfamilie die Verordnung steht. Ein Hochrisiko-System kommt auf den Markt wie eine Bohrmaschine: Der Anbieter prüft die Einhaltung, stellt eine Konformitätserklärung aus und bringt ein Zeichen an.

Die CE-Kennzeichnung wird gut sichtbar, leserlich und dauerhaft an Hochrisiko-KI-Systemen angebracht. (externe Seite, eur-lex.europa.eu)

Dasselbe Zeichen, das an Spielzeug und Waschmaschinen klebt. Die Verordnung ist Produktsicherheitsrecht, und daraus folgt ihre ganze Bauform: Anforderungen an das Produkt, ein Verfahren zum Nachweis, ein Zeichen als Ergebnis, eine Marktaufsicht dahinter.

Was nach dem Inverkehrbringen passiert, verteilt sich auf drei Rollen:

Once an AI system is on the market, authorities are in charge of market surveillance, deployers ensure human oversight and monitoring, and providers have a post-market monitoring system in place. (externe Seite, digital-strategy.ec.europa.eu)

In Deutschland ist die Bundesnetzagentur für die Marktüberwachung zuständig (Beleg (externe Seite, bundesnetzagentur.de)).

Die zweite Achse: Modelle mit allgemeinem Verwendungszweck

Ein Modell hat keine Risikoklasse. Ein System hat eine. Das klingt nach Wortklauberei und ist die wichtigste Unterscheidung dieses Kapitels: Die vier Stufen gelten für KI-Systeme, also für Anwendungen mit einem Zweck. Sprachmodelle, die für vieles taugen, liegen auf einer eigenen Achse.

Für sie gelten eigene Pflichten, seit August 2025. Und innerhalb dieser Achse gibt es eine zweite Stufe:

Some of these models could carry systemic risks if they are very capable or widely used. (externe Seite, digital-strategy.ec.europa.eu)

Wo die Schwelle dafür liegt und woran sie gemessen wird, steht in Kapitel 02.

Der Verhaltenskodex als Abkürzung

Für die Pflichten auf dieser zweiten Achse gibt es ein Angebot der Kommission:

The General-Purpose AI (GPAI) code of practice is a voluntary tool, prepared by independent experts in a multi-stakeholder process, designed to help industry comply with the AI Act’s obligations for providers of general-purpose AI models. (externe Seite, digital-strategy.ec.europa.eu)

Freiwillig, und trotzdem mit Wirkung: AI model providers who voluntarily sign it can show they comply with the AI Act by adhering to the code. (externe Seite, digital-strategy.ec.europa.eu) Wer unterzeichnet, führt den Nachweis über den Kodex statt auf eigenem Weg.

Der Kodex hat drei getrennt verfasste Kapitel, und sie richten sich an verschiedene Adressaten: The Chapters on Transparency and Copyright offer all providers of general-purpose AI models a way to demonstrate compliance with their obligations under Article 53 AI Act. (externe Seite, digital-strategy.ec.europa.eu) Das dritte Kapitel zur Sicherheit gilt nur den wenigen Modellen mit systemischem Risiko. Was diese Häuser heute freiwillig veröffentlichen und wie sich das von der Dokumentation für die Behörde unterscheidet, steht in Beurteilen und Einordnen, Kapitel 07.

Veröffentlicht wurde er am July 10, 2025 (externe Seite, digital-strategy.ec.europa.eu), also drei Wochen vor dem Termin, an dem die Pflichten griffen.

Wo das Datenschutzrecht danebensteht

Zwei Gesetze, zwei Fragen. Die KI-Verordnung fragt, ob ein System in Verkehr gebracht und betrieben werden darf. Das Datenschutzrecht fragt, ob bestimmte Daten dafür verarbeitet werden dürfen.

Die Verordnung sagt das an mehreren Stellen selbst und lässt das Datenschutzrecht ausdrücklich unberührt (Beleg (externe Seite, eur-lex.europa.eu)). Beide Prüfungen sind also zu führen, und eine bestandene ersetzt die andere nicht.

Praktisch heißt das: Ein System in der untersten Risikostufe kann datenschutzrechtlich trotzdem unzulässig sein. Was Anbieter über den Umgang mit Eingaben zusagen, steht in Beurteilen und Einordnen, Kapitel 01.

Was daraus für die Praxis folgt

Die Stufe ergibt sich aus dem Einsatzzweck, und der kann sich ändern, ohne dass jemand die Technik anfasst.

Die Rolle entscheidet, welche Pflichten treffen. Anbieter, Betreiber, Einführer und Händler haben verschiedene, und die Zuordnung ist nicht immer die erwartete.

Ein Modell und ein System sind zwei Gegenstände. Wer beides in einen Satz packt, verwechselt zwei Regelwerke.

Die Termine gehören zur Auskunft. Die Hochrisiko-Pflichten greifen erst Ende 2027, für Systeme in Produkten im August 2028; die Pflicht zur KI-Kompetenz gilt seit Februar 2025, seit dem Sommer 2026 in abgeschwächter Fassung.

Produktsicherheitsrecht, und was daraus folgt

Die Einordnung in diese Rechtsfamilie erklärt mehr als jede Einzelregel. Wer ein Produkt in der Union in Verkehr bringt, hält Anforderungen ein, weist das nach und bringt ein Zeichen an; eine Behörde prüft im Markt nach. Genau dieses Muster liegt der KI-Verordnung zugrunde.

Daraus folgt dreierlei, und alles drei überrascht regelmäßig.

Der Adressat ist die Lieferkette, nicht die Technik. Pflichten treffen Anbieter, Einführer, Händler und Betreiber. Ein Forschungsprototyp, der nie in Verkehr kommt, fällt weitgehend heraus. Dieselbe Rechtsfamilie erklärt auch, warum neben der KI-Verordnung ein zweites Gesetz für Maschinen mit lernenden Modellen steht; es steht in Kapitel 14.

Die Prüfung ist überwiegend eine Selbsterklärung. Für die meisten Hochrisiko-Fälle bewertet der Anbieter selbst und stellt die Konformitätserklärung aus. Eine unabhängige Stelle kommt nur in bestimmten Fällen dazu.

Der Hebel ist die Konformitätsvermutung. Wer eine harmonisierte Norm einhält, gilt als konform. Das ist der Punkt, an dem ein technischer Standard Rechtswirkung bekommt.

Und hier liegt der Zustand, den man kennen muss: Die Normen zur KI-Verordnung sind noch nicht fertig. Die Verordnung rechnet damit ausdrücklich und sieht einen Ausweichweg vor:

Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sollten darüber hinaus in der Lage sein, die Konformität mit angemessenen alternativen Mitteln nachzuweisen, wenn Praxisleitfäden oder harmonisierte Normen nicht verfügbar sind (externe Seite, eur-lex.europa.eu)

Der wichtigste Hebel der ganzen Bauform steht damit derzeit leer, und der Verhaltenskodex aus der Ebene davor ist die Zwischenlösung dafür.

Der Grenzfall: wer als Anbieter gilt

Die Rollenverteilung sieht klar aus und hat eine Stelle, an der sie kippt. Artikel 25 zählt die Fälle auf:

In den folgenden Fällen gelten Händler, Einführer, Betreiber oder sonstige Dritte als Anbieter eines Hochrisiko-KI-Systems für die Zwecke dieser Verordnung und unterliegen den Anbieterpflichten (externe Seite, eur-lex.europa.eu)

Drei Fälle stehen dort. Wer ein System unter eigenem Namen weitergibt, wer es wesentlich verändert, und wer seine Zweckbestimmung so ändert, dass es dadurch zu einem Hochrisiko-System wird.

Der dritte ist der praktisch heikle. Ein zugekauftes Sprachmodell in einer harmlosen Anwendung liegt in der untersten Stufe. Wird dieselbe Installation auf die Vorauswahl von Bewerbungen umgestellt, ist die Anwendung hochriskant, und die Pflichten treffen den, der umgestellt hat.

Es fällt niemandem auf, weil nichts installiert wird. Eine geänderte Zweckbestimmung ist eine Entscheidung im Fachbereich. Im Rechenzentrum fällt sie nicht.

Reallabore, und was sie tatsächlich anbieten

Für Anbieter, die ein System entwickeln und die Rechtslage unsicher finden, sieht die Verordnung einen kontrollierten Rahmen unter behördlicher Aufsicht vor. Die Erwartung daran ist regelmäßig zu hoch:

Die KI-Reallabore lassen die Aufsichts- oder Abhilfebefugnisse der die Reallabore beaufsichtigenden zuständigen Behörden, einschließlich auf regionaler oder lokaler Ebene, unberührt. (externe Seite, eur-lex.europa.eu)

Ein Reallabor nimmt also keine Pflicht weg. Was es wegnimmt, ist Unsicherheit: Zugang zu einer Behörde, die den Fall kennt, und eine Begleitung während der Entwicklung. Wer damit einen Freibrief erwartet, liest den Text falsch.

Was daraus nicht folgt

Aus einer Einstufung in die unterste Stufe folgt keine Erlaubnis. Datenschutzrecht, Urheberrecht und Arbeitsrecht gelten daneben weiter, und jedes davon kann denselben Fall verbieten.

Aus dem CE-Zeichen folgt keine geprüfte Qualität. Es sagt, dass der Anbieter die Konformität erklärt hat. Was ein Prüfergebnis über ein System aussagt und was nicht, steht in Beurteilen und Einordnen, Kapitel 04.

Aus einer verschobenen Frist folgt keine Entwarnung. Die Pflicht zur KI-Kompetenz und acht der neun Verbote gelten seit Februar 2025, unabhängig von allem, was 2027 und 2028 dazukommt.

Aus der Rolle im Vertrag folgt nicht die Rolle im Gesetz. Wer ein System umwidmet, wird zum Anbieter, auch wenn im Vertrag etwas anderes steht.

Aus diesem Kapitel folgt keine Rechtsauskunft. Es ordnet ein, wie das Regelwerk gebaut ist. Für den eigenen Fall entscheidet der Wortlaut, und den liest jemand, der dafür einsteht.