Wen die Kenn­zeich­nungs­pflicht für KI-Texte trifft

„Kenn­zeich­nungs­pflicht für KI-Inhalte gilt ab Sonntag“ stand Ende Juli 2026 in vielen Überschriften. Der Satz beschreibt eine Regel, die es so nicht gibt. Was tatsächlich für KI-Texte gilt, hängt an vier Fragen.

Gemeint ist Artikel 50 der KI-Verordnung (externe Seite, eur-lex.europa.eu), anwendbar seit dem 2. August 2026. Dreizehn Tage vorher hat die Kommission den Inhalt ihrer Leitlinien (externe Seite, digital-strategy.ec.europa.eu) dazu gebilligt, 51 Seiten mit Randnummern und Beispielen in beide Richtungen. Die förmliche Mitteilung folgte am 5. November 2026 mit demselben Inhalt, seither gibt es auch eine deutsche Fassung. Sie sind nicht bindend, aber sie geben der Aufsicht praktische Orientierung. Die verbindliche Auslegung liegt letztlich beim Gerichtshof der Europäischen Union [5]. Die Randnummern in diesem Text beziehen sich auf die Leitlinien.

Dieser Artikel geht die vier Fragen der Reihe nach durch. Die Reihenfolge zählt: Wer bei Frage eins schon herausfällt, muss die anderen drei nicht beantworten.

Frage 1: Anbieter oder Betreiber?

Für diese Frage unterscheidet die Verordnung Anbieter und Betreiber. Eine Organisation kann beide Rollen übernehmen. Weitere Rollen wie Einführer und Händler kommen je nach Lieferkette dazu.

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen auf den Markt bringt, entgeltlich oder nicht. Anbieter müssen erzeugte Inhalte maschinenlesbar markieren und dafür sorgen, dass die Markierung auch gefunden werden kann. Das sind zwei Pflichten: Ein Wasserzeichen ohne verfügbares Erken­nungs­werk­zeug erfüllt Artikel 50 Absatz 2 nicht [70, 75].

Betreiber ist, wer ein System unter eigener Verantwortung benutzt. Bei erzeugten Inhalten betrifft die Offenlegung nach Absatz 4 Deepfakes und bestimmte Texte. Daneben verpflichtet Absatz 3 Betreiber von Emotionserkennung und biometrischer Kategorisierung, die betroffenen Personen zu informieren.

Wer ein fertiges System in seine Abläufe einbindet und es ohne Änderungen oder zusätzliche Bausteine nutzt, ist Betreiber. Die Mar­kie­rungs­pflicht liegt dann beim Anbieter des Systems. Wer selbst ein System baut, etwa einen Chatbot auf einem fremden Modell, und es unter eigenem Namen in Betrieb nimmt, ist Anbieter. Das gilt auch, wenn er es nur selbst benutzt. Anbieter wird auch, wer ein zugekauftes System mit eigenen Daten weitertrainiert und unter eigenem Namen in Betrieb nimmt [11].

Eine Rolle fällt ganz heraus: Wer fremde Inhalte nur verbreitet, etwa als Hosting-Anbieter oder Plattform, ist kein Betreiber [16]. Die Leitlinien ermutigen solche Beteiligten, vorhandene Markierungen zu erhalten, verpflichten sie aber nicht dazu.

Für Privatpersonen gibt es eine weitere Tür. Artikel 2 Absatz 10 nimmt aus, wer ein System „im Rahmen einer rein persönlichen, nicht beruflichen Tätigkeit“ nutzt. Die Leitlinien legen das eng aus [19]: „rein persönlich“ qualifiziert „nicht beruflich“, beides muss zutreffen, und beruflich ist jede Tätigkeit, die regelmäßig einen wirtschaftlichen Vorteil bringt oder sonst in eine berufliche Betätigung eingebunden ist. Ein Unternehmen kann sich darauf nie berufen.

Frage 2: Was für ein Inhalt ist es?

Die Offen­le­gungs­pflicht für erzeugte Inhalte nach Artikel 50 Absatz 4 erfasst zwei Arten von Inhalten.

Bilder, Ton und Video fallen darunter, wenn sie ein Deepfake sind. Der Begriff ist definiert, und die Definition ist enger als der Sprachgebrauch. Vier Kriterien müssen zusammen erfüllt sein [113]: merkliche Ähnlichkeit mit einem Vorbild, ein Vorbild, das existiert oder plausibel existieren könnte, eine Person, ein Objekt, ein Ort, ein Lebewesen oder ein Ereignis, und der falsche Anschein von Echtheit. Ausdrücklich draußen sind Darstellungen, die Naturgesetze verletzen. Die Leitlinien nennen fliegende Menschen ohne Hilfsmittel, Drachen und Auto fahrende Elefanten.

Draußen sind ebenfalls zwei Fälle, die in der Praxis häufig vorkommen. Wenn das Publikum im gegebenen Zusammenhang gar keine Echtheit erwartet, fehlt das vierte Kriterium; die Leitlinien nennen Hintergründe und Spezialeffekte in der Filmproduktion [114]. Und geringfügige Bearbeitung bleibt geringfügig: Farbkorrektur, Rausch­un­ter­drü­ckung, Zuschnitt, Hin­ter­grund­an­pas­sung aus gestalterischen Gründen [116]. Schematische Zeichnungen, Diagramme und Illustrationen scheitern ohnehin schon am ersten Kriterium.

Text fällt darunter, wenn er die Bedingungen aus Frage 3 erfüllt. Alles andere fällt aus dieser Textpflicht heraus. Die Leitlinien nennen etwa Fantasy-Romane, interne Mitteilungen und Pro­dukt­be­schrei­bungen ohne Aussagen zu Gesundheit, Ver­brau­cher­si­cher­heit oder Nachhaltigkeit [131].

Frage 3: Veröffentlicht, informierend, von öffentlichem Interesse?

Artikel 50 der KI-Verordnung (externe Seite, eur-lex.europa.eu) richtet sich an den, der ein KI-System einsetzt, das Texte schreibt oder umschreibt. Er muss angeben, dass ein Text maschinell entstanden oder verändert ist, aber nur, wenn dieser Text erscheint, um die Allgemeinheit über Dinge zu unterrichten, an denen ein öffentliches Interesse besteht. Die Leitlinien zerlegen das in drei Merkmale [131], und alle drei müssen zutreffen.

Veröffentlicht heißt zugänglich für eine unbestimmte, größere Zahl von Lesern, die einander nichts angehen, entgeltlich oder nicht. Private Korrespondenz fällt heraus, ebenso kleine, geschlossene private Gruppen und interne Texte im Firmennetz.

Die Öffentlichkeit informieren heißt, Kenntnisse, Meinungen oder Tatsachen vermitteln. Kurze Texte, die inhaltlich nichts davon tun, sind keine Information in diesem Sinn.

Von öffentlichem Interesse reicht nach den Leitlinien über Politik hinaus: Politik und demokratische Prozesse, Verwaltung und öffentliche Leistungen, Justiz, Grundrechte, öffentliche Sicherheit, Gesundheit, Umwelt, Ver­brau­cher­si­cher­heit, und dazu jede wirtschaftliche, finanzielle, politische, wissenschaftliche oder kulturelle Entwicklung, die Gegenstand öffentlicher Debatte sein kann.

Wie weit das reicht, zeigen die Beispiele der Kommission besser als jede Zusammenfassung. Erfasst sind unter anderem eine KI-erzeugte Zusammenfassung eines Zeitungsartikels über einen Ratsbeschluss, KI-bearbeitete Teile eines Lifestyle-Artikels über die Wirkung von Diäten, KI-bearbeitete Unter­neh­mens­be­richte mit Angaben für Anleger und eine automatisch erzeugte Unwetterwarnung eines Wetterdienstes in sozialen Netzwerken.

Nicht erfasst sind KI-erzeugte Fantasy-Romane, KI-bearbeitete Werbung und Pro­dukt­be­schrei­bungen, solange sie keine Aussagen zu Gesundheit, Ver­brau­cher­si­cher­heit oder Nachhaltigkeit treffen, eine Zusammenfassung, die nur der Fragende selbst zu sehen bekommt, und eine KI-bearbeitete Mandantenberatung.

Ein KI-erzeugter Nach­hal­tig­keits­be­richt kann damit erfasst sein. Eine Pro­dukt­be­schrei­bung mit Nachhaltigkeits- oder Gesund­heits­ver­spre­chen kann dieselbe Grenze überschreiten. Über die Zuordnung entscheidet der Zweck des Textes. Der Aufwand, der in ihm steckt, spielt keine Rolle.

Frage 4: Greift die Ausnahme?

Auch ein erfasster Text kann von der Kennzeichnung ausgenommen sein. Nach der Verordnung (externe Seite, eur-lex.europa.eu) entfällt die Pflicht, wenn ein Mensch den maschinell erzeugten Text geprüft oder redigiert hat und zugleich jemand, ein Mensch oder ein Unternehmen, für die Veröffentlichung redaktionell geradesteht. Zwei Bedingungen, beide nötig [133].

Die Prüfung muss inhaltlich sein. Die Leitlinien verlangen eine bewusste Befassung mit der Substanz durch eine Person mit einschlägiger Sachkenntnis, und sie nennen die Faktenprüfung ausdrücklich als Min­dest­an­for­de­rung [134]. Nicht ausreichend sind Rechtschreib- und Gram­ma­tik­kon­trolle, das bloße Vorhandensein einer Redak­ti­ons­richt­linie, eine automatisierte Prüfung und eine flüchtige Freigabe ohne inhaltliche Befassung [135]. Ein Freigabeknopf, den jemand drückt, ohne den Text gelesen zu haben, ist genau der Fall, der nicht zählt.

Die Verantwortung muss benannt und auffindbar sein. Bei einer natürlichen oder juristischen Person liegt die letztliche Verantwortung für die Veröffentlichung, und wer das ist, soll an leicht auffindbarer Stelle öffentlich stehen [138]. Die Leitlinien nennen die rechtlichen Angaben der Seite ausdrücklich als geeigneten Ort. In Deutschland kann das Impressum diese Angaben enthalten.

Die Kommission nennt auch hier Beispiele. Ausreichend ist ein redaktionell kontrollierter Zeitungsartikel, ein wis­sen­schaft­li­cher Blog mit interner Begutachtung, eine von einer Behörde freigegebene Warnmeldung, ein Nach­hal­tig­keits­be­richt nach fachlicher Prüfung, eine KI-Übersetzung mit anschließender menschlicher Kontrolle. Nicht ausreichend ist eine Seite, auf der KI-erzeugte Artikel ohne bewusste Prüfung erscheinen, ein Text, den eine zweite KI geprüft hat und ein Mensch nur überflogen, und ein selbstverlegtes Buch ohne jede Prüfung.

Die Bedingung, an der die Ausnahme später zerbricht

Eine Grenze steht in Randnummer 136: Wird ein KI-System benutzt, um Inhalte nach der redaktionellen Freigabe zu ändern, zu ergänzen oder umzuformulieren, gilt das Ergebnis als KI-erzeugt, und jeder substanzielle KI-Eingriff nach der Prüfung lässt die Ausnahme entfallen.

Das trifft eine Bauform, die gerade überall entsteht: der Agent, der nachts Texte überarbeitet, Überschriften optimiert, Zusammenfassungen nachzieht oder für andere Kanäle umschreibt. Die redaktionelle Prüfung muss nach solchen substanziellen Änderungen stattfinden. Geht das Ergebnis ohne neue Prüfung online, entfällt die Ausnahme.

Wer solche Abläufe baut, braucht deshalb eine klare Grenze im System und nicht nur im Ablaufdiagramm: Nach substanziellen automatischen Änderungen muss vor der Veröffentlichung erneut geprüft werden. Wie das an einer kleinen Seite aussieht, steht unter Wie diese Seite entsteht.

Was für ältere Texte und Systeme gilt

Texte, die vor dem 2. August 2026 erzeugt und veröffentlicht wurden, müssen nicht rückwirkend gekennzeichnet werden. Texte, die vorher erzeugt, aber am oder nach diesem Tag veröffentlicht werden, unterliegen bei erfüllten Voraussetzungen der Pflicht. Die redaktionelle Ausnahme gilt auch hier [154]. Wer im Juli einen Vorrat an Texten angelegt hat und ihn im Herbst ausspielt, fällt in die zweite Gruppe.

Für vorhandene unmarkierte Deepfakes empfehlen die Leitlinien eine nachträgliche Kennzeichnung. Unver­hält­nis­mä­ßigen Aufwand wie das Prüfen ganzer Archive oder das Ändern bereits gedruckter Verpackungen erwarten sie dafür nicht. Diese Empfehlung bezieht sich auf Deepfakes [154].

Eine zweite Frist betrifft nur Anbieter. Die Ände­rungs­ver­ord­nung (externe Seite, eur-lex.europa.eu) gibt für die Mar­kie­rungs­pflicht nach Artikel 50 Absatz 2 eine Übergangszeit bis zum 2. Dezember 2026, aber nur für Systeme, die vor dem 2. August 2026 auf dem Markt waren [153]. Die Infor­ma­ti­ons­pflicht bei direkter Interaktion gilt auch für diese Systeme sofort.

Wenn die Pflicht greift: Form und Ort

Die Offenlegung muss für Menschen wahrnehmbar sein, ohne technische Hilfsmittel und ohne gesonderte Handlung, spätestens beim ersten Kontakt [132]. Der freiwillige Verhaltenskodex (externe Seite, digital-strategy.ec.europa.eu) wird konkreter und stellt einen frei verwendbaren EU-Icon-Satz bereit, dessen Hauptelement das Kürzel „AI“ ist. Bei Text soll die Kennzeichnung oben am Text stehen, nahe der Überschrift oder im Impressumsblock am Textanfang; gekennzeichnet werden darf auch nur der erzeugte Teil.

Daraus folgt ein häufiger Fehler: Ein Hinweis in der Fußzeile der Seite erfüllt die Anforderung nicht. Er steht nicht am Text und ist beim ersten Kontakt nicht sichtbar.

Der Kodex ist freiwillig. Wer ihn unterzeichnet, kann damit die Erfüllung nachweisen. Wer nicht unterzeichnet, muss sie anders belegen.

Was passiert, wenn niemand es tut

Der Bußgeldrahmen liegt bei bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, was höher ist. Bei kleinen und mittleren Unternehmen gilt der niedrigere der beiden Werte [152]. Jede natürliche oder juristische Person mit Anhaltspunkten kann eine Beschwerde einlegen [151].

In Deutschland bietet die Bundesnetzagentur eine zentrale Beschwerdestelle (externe Seite, bundesnetzagentur.de). Sie bearbeitet den Fall selbst oder leitet ihn an die zuständige Behörde weiter. Für bestimmte KI-Systeme unter Aufsicht der Kommission verweist sie auf deren Service Desk.

Die Zahl ist nicht die interessante Größe. Interessanter ist, dass die Beschwerde niemanden voraussetzt, der geschädigt wurde.

Was zu tun bleibt

Wer nach diesen vier Fragen betroffen ist und die Ausnahme nutzen will, braucht eine inhaltliche Prüfung und redaktionelle Verantwortung.

Eine benannte verantwortliche Person oder Funktion, öffentlich auffindbar. Das Impressum kann diese Angaben enthalten.

Eine inhaltliche Prüfung, die Faktenprüfung einschließt. Eine Richtlinie im Ordner reicht dafür ausdrücklich nicht [135]. Der Verhaltenskodex (externe Seite, digital-strategy.ec.europa.eu), Abschnitt 2, Verpflichtung 4, verlangt geeignete Abläufe mit benannter Verantwortung und zugeordneten Ressourcen. Er verlangt ausdrücklich keine Dokumentation jeder einzelnen Textprüfung.

Nach der Freigabe muss außerdem klar sein, was bei substanziellen KI-Eingriffen geschieht: Der veränderte Text wird erneut inhaltlich geprüft oder gekennzeichnet [136]. Eine bloß formale Korrektur ist damit nicht automatisch gleichzusetzen.

Wer aus dieser Textpflicht herausfällt, braucht dafür keine Kennzeichnung. Andere Pflichten der KI-Verordnung und anderer Gesetze bleiben bestehen. Die Einordnung der übrigen Pflichten erklärt KI jenseits der Sprachmodelle, Kapitel 12.

Was dieser Text nicht ist

Eine Einordnung, keine Rechtsberatung. Er beruht auf dem Verordnungstext, den Leitlinien der Kommission in der Fassung vom 5. November 2026 und dem Verhaltenskodex vom 10. Juni 2026, alle im Quel­len­ver­zeichnis mit Prüfdatum. Die Leitlinien bezeichnen sich selbst als erste Auslegung und kündigen eine Überarbeitung an, sobald Erfahrungen aus der Aufsicht und Entscheidungen der Gerichte vorliegen [155]. Wer eine belastbare Einschätzung für den eigenen Fall braucht, holt sie bei jemandem, der dafür haftet.