NachschlagenGlossarRecht
Recht
Begriffe mit einer Legaldefinition, an der Pflichten hängen. Hier weicht die Alltagsbedeutung ab, und das steht bei jedem Eintrag dabei.
14 Begriffe14 mit Kapitelverweis38 Zweitwörter im Indexalle 214 im Verzeichnis
Anbieter
Rechtsbegriff der KI-Verordnung: wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen bereitstellt.
Die Verordnung teilt alle Beteiligten in Rollen ein, und an der Rolle hängen die Pflichten. Anbieter ist, wer ein System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt, entgeltlich oder unentgeltlich. Wer auf einem fremden Modell ein eigenes System baut, etwa einen Chatbot, und es unter eigenem Namen bereitstellt oder selbst in Betrieb nimmt, ist Anbieter dieses Systems, auch ohne ein einziges Gewicht selbst trainiert zu haben. Die Verordnung nennt ihn dann nachgelagerten Anbieter (Artikel 3 Nummer 68), auch wenn das Modell über eine Schnittstelle von einer anderen Stelle kommt. Wer ein fertiges System nur in seine Abläufe einbindet und ohne Änderungen nutzt, bleibt Betreiber. Beide Rollen gleichzeitig zu haben ist der Normalfall, sobald ein Unternehmen ein eigenes System baut und selbst benutzt.
auchProvider · KI-Anbieter · Anbieterpflichten · nachgelagerter Anbieter
Kapitel 09 · Was die Stimme noch beweistKapitel 06 · Vier Wege zum selben ModellBeitrag · Wen die Kennzeichnungspflicht für KI-Texte trifftVerordnung (EU) 2024/1689 über künstliche IntelligenzGuidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of the AI ActVerordnung (EU) 2024/1689, konsolidierte Fassung vom 27.07.20262024 · Die KI-Verordnung tritt in Kraftsiehe Betreibersiehe Deepfake
Auftragsverarbeitung
Ein Anbieter verarbeitet personenbezogene Daten im Auftrag und nach Weisung. Die Verantwortung bleibt beim Auftraggeber.
Der Begriff kommt aus dem Datenschutzrecht und ordnet die Rollen: Wer entscheidet, wozu Daten verarbeitet werden, ist verantwortlich; wer nur ausführt, ist Auftragsverarbeiter. Wer ein Sprachmodell über eine Schnittstelle nutzt, ist meist der Verantwortliche und bleibt es auch. Praktisch hängt daran, ob eine Eingabe zum Training verwendet werden darf, wie lange sie gespeichert wird und in welchem Land sie liegt. Die Voreinstellungen dazu unterscheiden sich je Anbieter und je Kontoart.
auchAuftragsverarbeiter · AVV · Data Processing Agreement
Kapitel 01 · Wo Modelle betrieben werdenKapitel 08 · Wo die Daten liegen und wie langeOpenAI, How your data is used to improve model performanceAnthropic, Is my data used for model training? (Commercial Customers)siehe Betreibersiehe Anbieter
Betreiber
Rechtsbegriff der KI-Verordnung: wer ein KI-System in eigener Verantwortung beruflich verwendet.
Die Ausnahme steht in der Definition selbst: Wer ein System im Rahmen einer rein persönlichen und nicht beruflichen Tätigkeit verwendet, ist kein Betreiber. Beide Merkmale müssen zutreffen, und wer daraus regelmäßig wirtschaftlichen Nutzen zieht, handelt beruflich. Befreit ist außerdem nur der Verwender: Der Anbieter des Systems muss seine Ausgaben weiterhin maschinenlesbar markieren, auch wenn damit eine Weihnachtskarte entsteht. Wer fremde Inhalte lediglich weiterverbreitet oder überträgt, etwa eine Plattform oder ein Sender, ist nach den Leitlinien der Kommission ebenfalls kein Betreiber.
auchDeployer · Betreiberpflichten · Verwender
Kapitel 09 · Was die Stimme noch beweistBeitrag · Wen die Kennzeichnungspflicht für KI-Texte trifftVerordnung (EU) 2024/1689 über künstliche IntelligenzGuidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of the AI Act2026 · Die Transparenzstufe greift2024 · Die KI-Verordnung tritt in Kraftsiehe Anbietersiehe Deepfake
CLOUD Act
US-Gesetz von 2018: Ein Anbieter unter US-Zuständigkeit muss Kundendaten auf Anordnung herausgeben, auch wenn sie außerhalb der USA liegen.
Das Gesetz fügte am 23.03.2018 die Vorschrift 18 U.S.C. § 2713 ins US-Recht ein. Sie gilt für Daten, die ein Anbieter besitzt, verwahrt oder kontrolliert, gleich wo sie gespeichert sind. Ein Rechenzentrum in der EU ändert daran nichts, solange der Anbieter US-Gerichten untersteht. Anfechten kann er eine Anordnung förmlich nur, wenn die USA mit dem Staat des Kunden ein Abkommen nach demselben Gesetz geschlossen haben. Solche Abkommen gibt es laut US-Justizministerium mit dem Vereinigten Königreich und Australien, mit der EU liefen nach dem letzten Stand der Seite von 2023 Verhandlungen.
Kapitel 06 · Vier Wege zum selben Modell18 U.S.C. § 2713, Required preservation and disclosure of communications and records18 U.S.C. § 2703, Required disclosure of customer communications or recordsU.S. Department of Justice, CLOUD Act Resourcessiehe Datenresidenzsiehe Auftragsverarbeitung
Datenresidenz
Die Zusage eines Anbieters, Daten in einem bestimmten Gebiet zu speichern und auf Wunsch auch dort zu verarbeiten, etwa in der EU.
Bei den großen Anbietern sind das meist zwei Einstellungen, eine für den Speicherort und eine für den Ort, an dem gerechnet wird. Wer nur den Speicherort festlegt, hat damit noch keinen Rechenort. Das Gebiet heißt bei jedem Anbieter anders und umfasst andere Länder: Open
AI nennt seine Region Europa samt EWR und Schweiz, Googles Endpunkt für die EU umfasst nur deren Mitgliedstaaten. Anthropic bietet an der eigenen Schnittstelle als festen Ort bisher nur die USA an. Für Daten in Europa gilt dazu weiter das Recht, unter dem der Anbieter steht. auchData Residency · Datenresidenz-Endpunkt
Kapitel 08 · Wo die Daten liegen und wie langeKapitel 06 · Vier Wege zum selben ModellOpenAI, Data controls in the OpenAI platformGoogle Cloud, Data residency (Gemini Enterprise Agent Platform)Anthropic, Data residencysiehe Auftragsverarbeitungsiehe Betreiber
Deepfake
Rechtsbegriff der KI-Verordnung: ein erzeugter oder veränderter Bild-, Ton- oder Videoinhalt, der Wirklichem ähnelt und fälschlich echt wirken würde.
Im Alltag heißt Deepfake fast alles, was künstlich aussieht. Die Verordnung fasst den Begriff enger, und die Enge hat Folgen. Text fällt nicht darunter, weil die Definition Bild, Ton und Video nennt; für Text gilt eine eigene, schwächere Regel mit einer Ausnahme für redaktionell geprüfte Veröffentlichungen. Der Inhalt muss außerdem Wirklichem ähneln, also wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen. Eine erfundene Figur ist danach keiner. Bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken bleibt die Pflicht bestehen, beschränkt sich aber auf einen Hinweis, der das Werk nicht beeinträchtigt.
auchDeepfakes · Deep Fake · gefälschtes Video · synthetische Medien
Kapitel 09 · Was die Stimme noch beweistBeitrag · Wen die Kennzeichnungspflicht für KI-Texte trifftVerordnung (EU) 2024/1689 über künstliche Intelligenz2026 · Die Transparenzstufe greiftsiehe Anbietersiehe Betreibersiehe Multimodal
Derivat
Ein Modell, das aus einem anderen hervorgeht, etwa durch Weitertrainieren, Verkleinern oder Verrechnen mit weiteren Modellen; welche Bedingungen es mitbekommt, legt die Lizenz des Ursprungs fest.
Bei Hugging Face listet der Model tree eines Modells die Repositories, die es als Ursprung angeben; die Angabe setzt der, der hochlädt. An den beiden Repositories von Llama 3.1 8B hingen am 19.10.2026 in erster Generation 10.532 Derivate, fast alle von Dritten. Für Qwen zählt Hugging Face in einem Bericht vom August 2026 151.448 Derivate, eine Selbstauskunft der Plattform über ihren eigenen Bestand. Manche Lizenz definiert den Begriff selbst: Die Nutzungsbedingungen für Gemma bis Gemma 3 zählen auch ein Modell dazu, das aus den Ausgaben von Gemma lernt, um ähnlich zu arbeiten, ausdrücklich bei Destillation. Die RAIL-Lizenz von BLOOM verlangt, ihre Nutzungsverbote bei jeder Weitergabe eines Derivats als durchsetzbare Bestimmung in den eigenen Vertrag aufzunehmen.
auchDerivate · abgeleitetes Modell · Model Derivative · Derivative
Kapitel 02 · Woher Modelle kommenKapitel 03 · Wie ein Modell von einem anderen lerntLlama 3.1 8B Instruct bei Hugging FaceState of Open Models: Summer 2026 ObservationsGemma Terms of UseBigScience RAIL License v1.0siehe Offene Gewichtesiehe Open Sourcesiehe Distillationsiehe Synthetische Daten
Hochrisiko-KI-System
Die zweite der vier Risikostufen der KI-Verordnung, mit sieben Anforderungen vor dem Inverkehrbringen.
Eingestuft wird die Verwendung. Dazu gehören Anwendungen in kritischer Infrastruktur, Bildung, Beschäftigung, bei wesentlichen Diensten, in der Strafverfolgung, bei Migration und in der Rechtspflege. An der Einstufung hängen Risikomanagement, Datenqualität, technische Unterlagen, Protokollierung, Information des Betreibers, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit. Der Nachweis läuft über eine Konformitätsbewertung und endet mit der CE-Kennzeichnung, so wie bei anderen Produkten auch. Die Pflichten greifen nach der Änderungsverordnung von 2026 ab dem 02.12.2027 für Systeme aus der Bereichsliste und ab dem 02.08.2028 für Systeme in Produkten.
auchHochrisiko-Anwendung · high-risk AI system
Kapitel 12 · Was die KI-Verordnung verlangtAI ActVerordnung (EU) 2024/1689, konsolidierte Fassung vom 27.07.2026Verordnung (EU) 2024/1689 über künstliche Intelligenzsiehe KI-Systemsiehe Anbietersiehe Betreiber
KI-Kompetenz
Die Pflicht aus Artikel 4 der KI-Verordnung, die KI-Kompetenz des eigenen Personals zu fördern.
Sie steht quer zu den vier Risikostufen und gilt unabhängig davon, wo ein System einsortiert ist. Adressiert sind Anbieter und Betreiber, wobei Betreiber jeder ist, der ein KI-System einsetzt; damit trifft die Regel jedes Unternehmen, in dem jemand ein Sprachmodell für die Arbeit benutzt. Anwendbar seit dem 02.02.2025, seit dem 27.07.2026 in neuer Fassung: Verlangt sind Maßnahmen, die Entwicklung der KI-Kompetenz zu unterstützen, und der Artikel sagt ausdrücklich, dass niemand ein bestimmtes Niveau garantieren muss. Die Umstände, die dabei zählen, stehen weiter im Text: Vorkenntnisse, Ausbildung, der Zusammenhang des Einsatzes und die Personen, bei denen das System eingesetzt wird. Beispiele für die Erfüllung will die Kommission auf einer zentralen Plattform veröffentlichen.
auchAI literacy · Artikel 4
Kapitel 12 · Was die KI-Verordnung verlangtVerordnung (EU) 2024/1689, konsolidierte Fassung vom 27.07.2026Verordnung (EU) 2024/1689 über künstliche IntelligenzThe Commission publishes guidelines on AI system definition to facilitate the first AI Act's rules applicationsiehe Betreibersiehe Anbieter
KI-System
Der Rechtsbegriff der KI-Verordnung. Er greift dort, wo ein System aus Eingaben ableitet, statt aufgeschriebene Regeln auszuführen.
Artikel 3 Nummer 1 der KI-Verordnung nennt fünf Merkmale: maschinengestützt, in unterschiedlichem Grade autonom, nach der Betriebsaufnahme möglicherweise anpassungsfähig, auf explizite oder implizite Ziele gerichtet, und ableitend. In der Praxis entscheidet das letzte, weil die ersten vier auf beinahe jede Software zutreffen. Die Begründung grenzt ausdrücklich Systeme ab, die allein von Menschen definierte Regeln ausführen. An dieser Bestimmung hängen die Pflichten der Verordnung.
auchKI-Systeme · AI system · System der künstlichen Intelligenz
Kapitel 01 · Die Spielarten der KIVerordnung (EU) 2024/1689 über künstliche Intelligenzsiehe Anbietersiehe Betreiber
Modell mit allgemeinem Verwendungszweck
Ein Modell, das für viele Zwecke taugt, und deshalb eigenen Pflichten unterliegt statt einer Risikostufe.
Die vier Risikostufen der KI-Verordnung gelten für Systeme, also für Anwendungen mit einem Zweck. Ein Sprachmodell hat diesen einen Zweck gerade nicht und liegt deshalb auf einer eigenen Achse mit eigenen Pflichten, die seit August 2025 gelten. Innerhalb dieser Achse gibt es eine zweite Stufe für Modelle, die wegen ihrer Fähigkeiten oder ihrer Verbreitung ein systemisches Risiko tragen können. Wer die Erfüllung nachweisen will, kann dafür den freiwilligen Verhaltenskodex der Kommission unterzeichnen.
auchGPAI · General-Purpose AI · Basismodell
Kapitel 12 · Was die KI-Verordnung verlangtAI ActThe General-Purpose AI Code of Practicesiehe KI-Systemsiehe Hochrisiko-KI-System
Open Source
Der Quelltext eines Programms steht unter einer Lizenz, die jedem erlaubt, ihn einzusehen, zu ändern und weiterzugeben.
Maßstab ist die Open Source Definition der Open Source Initiative: Sie verlangt den Quelltext in der Form, in der man ein Programm ändert, und erlaubt abgeleitete Werke unter denselben Bedingungen. Verbreitete Lizenzen dieser Art sind MIT, Apache 2.0 und die GPL. Liegt der Quelltext offen und schränkt die Lizenz die Nutzung ein, etwa für Konkurrenzprodukte, heißt das Quelltext einsehbar. Bei einem Modell kommen offene Gewichte der Sache am nächsten; die Trainingsdaten liegen dort fast nie bei. Für KI-Systeme hat die Open Source Initiative am 28.10.2024 die Open Source AI Definition 1.0 veröffentlicht. Sie verlangt Code, Parameter und so genaue Angaben zu den Trainingsdaten, dass eine Fachkraft ein im Wesentlichen gleichwertiges System bauen kann. Offenen Gewichten allein fehlen nach Aussage der OSI mehrere dieser Bestandteile.
auchquelloffen · Open-Source-Software
Kapitel 02 · Woher Modelle kommenOpen Source Initiative: The Open Source DefinitionOpen Source Initiative: The Open Source AI Definition 1.0Open Source Initiative: Open Weightssiehe Offene Gewichte
Pseudonymisierung
Personenbezogene Daten so verarbeiten, dass sie sich ohne zusätzliche Informationen keiner bestimmten Person mehr zuordnen lassen, etwa indem Namen und Nummern vor dem Versand an ein Modell durch Platzhalter ersetzt werden.
Artikel 4 Nr. 5 der DSGVO definiert den Vorgang mit einer Bedingung: Die zusätzlichen Informationen werden gesondert aufbewahrt und technisch und organisatorisch geschützt. Bei einer Anfrage an ein Sprachmodell ist das die Zuordnungstabelle, mit der ein Programm die Platzhalter in der Antwort wieder durch die echten Angaben ersetzt. Wer diese Tabelle hat, kann jeden Platzhalter zurückführen, und für ihn bleiben die Daten personenbezogen. Für andere sind pseudonymisierte Daten nach dem Urteil EDSB/
SRB des Gerichtshofs vom 04.09.2025 nicht in jedem Fall personenbezogen. Anonym sind Daten erst, wenn sich keine Person mehr herauslösen, durch Verknüpfung finden oder durch Inferenz erschließen lässt; diese drei Kriterien nennen die Stellungnahme 5/2014 der Artikel-29-Datenschutzgruppe und die Leitlinien 02/2026 des EDSA, die bis zum 30.10.2026 zur Konsultation stehen. Namen und Anschriften aus einer Eingabe zu entfernen, genügt dafür nach der Datenschutzkonferenz regelmäßig nicht, weil sich der Personenbezug aus dem Zusammenhang herstellen lässt. auchpseudonymisiert · pseudonymisierte Daten · Pseudonymization · PII-Maskierung
Kapitel 08 · Wo die Daten liegen und wie langeKapitel 07 · Was ein Modell aus der Anfrage erfährtVerordnung (EU) 2016/679, Datenschutz-Grundverordnung, konsolidierte FassungEuGH, Urteil vom 04.09.2025, C-413/23 P, EDSB/SRBDatenschutzgruppe nach Artikel 29, Stellungnahme 5/2014 zur Anonymisierung (WP216)EDSA, Leitlinien 02/2026 zur Anonymisierung, Version 1.0DSK, Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0siehe Auftragsverarbeitungsiehe AI Gatewaysiehe Datenresidenz
Wasserzeichen
Eine Markierung im erzeugten Inhalt selbst, für Menschen nicht wahrnehmbar.
Die Antwort der Technik auf die Pflicht zur maschinenlesbaren Kennzeichnung. Ein gefundenes Zeichen ist ein Befund, aus einem fehlenden folgt wenig: Ein Verfahren deckt nur die Anbieter ab, die es einsetzen. Daneben steht der Herkunftsnachweis an der Datei, der den Weg einer Aufnahme beschreibt und über die Stimme darin schweigt.
auchWatermark · Synth
ID Kapitel 09 · Was die Stimme noch beweistKapitel 14 · Ein Bild, das es vorher nicht gabGoogle DeepMind, SynthIDC2PA, Content Credentials SpecificationVerordnung (EU) 2024/1689 über künstliche Intelligenzsiehe Deepfakesiehe Stimmklon