KI-Kennzeichnungspflicht:
Was jetzt zu tun ist.

Worum es geht

Grundlage ist Artikel 50 der europäischen KI-Verordnung, auch AI Act genannt. Sie gilt seit dem 2. August 2026.

Eine Kennzeichnung ist vor allem dann erforderlich, wenn Menschen nicht erkennen können, dass sie mit einer KI kommunizieren oder KI-erzeugte Inhalte vor sich haben. Es gibt keine allgemeine Pflicht, jeden mit KI unterstützten Inhalt als solchen zu markieren.

Chatbots und andere interaktive Systeme

Menschen müssen erfahren, wenn sie mit einem KI-System statt mit einem Menschen sprechen. Das betrifft Chatbots auf Webseiten, digitale Assistenten, KI-gesteuerte Service- oder Telefonbots und KI-Avatare.

Die Information muss spätestens beim ersten Kontakt klar erkennbar sein. Eine einfache Formulierung genügt:

Sie kommunizieren mit einem KI-gestützten Assistenten.

Keine zusätzliche Kennzeichnung ist nötig, wenn für eine verständige Person ohnehin offensichtlich ist, dass sie mit einer KI zu tun hat.

Deepfakes

Bilder, Videos und Audiodateien müssen gekennzeichnet werden, wenn sie durch KI erzeugt oder wesentlich verändert wurden und echte Personen, Orte, Gegenstände oder Ereignisse täuschend echt darstellen.

Vier typische Fälle: Eine Person sagt in einem Video etwas, das sie nie gesagt hat. Eine echte Stimme wird künstlich nachgebildet. Eine Person wird nachträglich realistisch in ein Bild gesetzt. Ein Ereignis, das nie stattgefunden hat, wird wie eine echte Aufnahme gezeigt.

Dieser Inhalt wurde mit künstlicher Intelligenz erzeugt oder verändert.

Bei Kunst, Satire und Fiktion darf die Kennzeichnung so erfolgen, dass sie das Werk nicht unangemessen beeinträchtigt. Erkennbar bleiben muss sie trotzdem.

KI-Texte zu Themen von öffentlichem Interesse

Wird ein KI-erzeugter oder wesentlich KI-bearbeiteter Text veröffentlicht, um die Öffentlichkeit über ein Thema von öffentlichem Interesse zu informieren, ist eine Kennzeichnung erforderlich. Gemeint sind etwa Politik und Wahlen, Gesundheit und Sicherheit, Umwelt und Klima, gesellschaftliche oder wirtschaftliche Entwicklungen, behördliche Entscheidungen und öffentliche Ereignisse.

Dieser Text wurde mit Unterstützung künstlicher Intelligenz erstellt.

Die wichtige Ausnahme: Der Hinweis ist grundsätzlich nicht erforderlich, wenn ein Mensch den Text vor der Veröffentlichung inhaltlich geprüft hat und redaktionell dafür verantwortet. Eine natürliche oder juristische Person muss die Verantwortung übernehmen.

Ein Überfliegen genügt dafür nicht, eine automatische Rechtschreibprüfung erst recht nicht. Geprüft werden müssen Inhalt, Fakten, Quellen, Ton und mögliche Fehler.

Emotionserkennung und biometrische Einordnung

Personen müssen informiert werden, wenn ein KI-System bei ihnen Emotionen erkennen oder biometrische Merkmale einordnen soll, soweit der Einsatz überhaupt zulässig ist.

Betroffen sind zum Beispiel Systeme, die aus Gesicht, Stimme oder Verhalten auf Stimmung, Stress oder andere persönliche Eigenschaften schließen wollen.

Was normalerweise nicht gekennzeichnet werden muss

Wird KI nur als Hilfsmittel eingesetzt, greift Artikel 50 in aller Regel nicht. Dazu zählen:

• Rechtschreib- und Grammatikprüfung
• Übersetzungen
• Ideen und Gliederungen
• interne Zusammenfassungen
• leichte Bildkorrekturen
• Formatierung
• Entwürfe, die anschließend fachlich und redaktionell geprüft werden
• interne Inhalte, die nicht veröffentlicht werden

Andere Vorschriften können trotzdem gelten, etwa Urheberrecht, Datenschutz, Wettbewerbsrecht, Persönlichkeitsrechte oder Regeln der jeweiligen Branche.

Was gilt für Anbieter von KI-Systemen?

Wer KI-Systeme selbst entwickelt oder unter eigenem Namen anbietet, hat zusätzliche technische Pflichten. KI-erzeugte oder manipulierte Texte, Bilder, Videos und Audiodateien müssen grundsätzlich auch maschinenlesbar markiert und technisch erkennbar sein.

Eine sichtbare Beschriftung allein erfüllt diese Pflicht nicht. Ausnahmen sind möglich, wenn die KI nur unterstützende Standardbearbeitungen ausführt und den Inhalt oder seine Bedeutung nicht wesentlich verändert.

Wer lediglich ein fremdes KI-Werkzeug benutzt, ist normalerweise Betreiber und nicht Anbieter. Wer ein System unter eigenem Namen vermarktet oder wesentlich verändert, kann selbst zum Anbieter werden.

Acht Schritte für die Umsetzung

1. KI-Einsatz erfassen. Festhalten, welche Abteilungen KI verwenden und welche Inhalte damit entstehen.
2. Anwendungsfälle einordnen. Prüfen, ob Chatbots, Deepfakes, öffentliche Informationstexte oder biometrische Systeme betroffen sind.
3. Verantwortung festlegen. Für jeden veröffentlichten Inhalt muss klar sein, wer prüft und freigibt.
4. Kennzeichnungen definieren. Einheitliche, gut sichtbare Formulierungen für Website, Social Media, Video, Audio und Dokumente.
5. Direkt am Inhalt kennzeichnen. Nicht nur im Impressum oder in den Nutzungsbedingungen.
6. Prüfung dokumentieren. Nachvollziehbar halten, wer wann was geprüft hat.
7. Dienstleister kontrollieren. Unterstützen die eingesetzten Systeme die nötigen technischen Markierungen?
8. Mitarbeitende schulen. Alle Beteiligten müssen wissen, wann eine Kennzeichnung nötig ist.

Die Hinweise müssen klar, wahrnehmbar und barrierefrei sein. Sie gehören spätestens an den ersten Kontakt beziehungsweise an die erste Darstellung des Inhalts.

Was bei Verstößen droht

Bei Verstößen gegen die Transparenzpflichten sind Bußgelder bis zu 15 Millionen Euro möglich oder, bei Unternehmen, bis zu drei Prozent des weltweiten Jahresumsatzes. Maßgeblich ist der höhere Betrag. Für kleinere Unternehmen gelten besondere Verhältnismäßigkeitsregeln.

Dazu kommen Reputationsschäden, Beschwerden und mögliche Folgen aus Datenschutz-, Wettbewerbs- oder Persönlichkeitsrecht.

Quellen

• Verordnung (EU) 2024/1689, KI-Verordnung
• Leitlinien der Europäischen Kommission zu Artikel 50
• Kurzübersicht der EU-Kommission
• EU-Verhaltenskodex für KI-generierte Inhalte

Dieser Beitrag bietet eine allgemeine Orientierung und ersetzt keine rechtliche Prüfung des Einzelfalls.