KI-Kennzeich­nungs­pflicht: Was jetzt zu tun ist.

Worum es geht

Grundlage ist Artikel 50 der europäischen KI-Verordnung, auch AI Act genannt. Er gilt seit dem 2. August 2026. Die Verordnung selbst ist seit August 2024 in Kraft, einzelne Teile gelten bereits seit 2025.

Eine Kennzeichnung ist vor allem dann erforderlich, wenn Menschen nicht erkennen können, dass sie mit einer KI kommunizieren oder KI-erzeugte Inhalte vor sich haben. Es gibt keine allgemeine Pflicht, jeden KI-unterstützten Inhalt als solchen zu markieren.

Chatbots und andere interaktive Systeme

Menschen müssen erfahren, wenn sie mit einem KI-System statt mit einem Menschen sprechen. Das betrifft Chatbots auf Websites, digitale Assistenten, KI-gesteuerte Service- oder Telefonbots und KI-Avatare.

Die Information muss spätestens beim ersten Kontakt klar erkennbar sein. Eine einfache Formulierung genügt:

Sie kommunizieren mit einem KI-gestützten Assistenten.

Keine zusätzliche Kennzeichnung ist nötig, wenn für eine verständige Person ohnehin offensichtlich ist, dass sie mit einer KI zu tun hat.

Rechtlich richtet sich diese Pflicht an den Anbieter des Systems. Wer einen Chatbot unter eigenem Namen in Betrieb nimmt, kann dabei selbst Anbieter sein. Der Hinweis gehört so oder so auf die Seite.

Deepfakes

Bilder, Videos und Audiodateien müssen gekennzeichnet werden, wenn sie durch KI erzeugt oder wesentlich verändert wurden und echte Personen, Orte, Gegenstände oder Ereignisse täuschend echt darstellen.

Vier typische Fälle: Eine Person sagt in einem Video etwas, das sie nie gesagt hat. Eine echte Stimme wird künstlich nachgebildet. Eine Person wird nachträglich realistisch in ein Bild gesetzt. Ein Ereignis, das nie stattgefunden hat, wird wie eine echte Aufnahme gezeigt.

Dieser Inhalt wurde mit künstlicher Intelligenz erzeugt oder verändert.

Bei Kunst, Satire und Fiktion darf die Kennzeichnung so erfolgen, dass sie das Werk nicht unangemessen beeinträchtigt. Erkennbar bleiben muss sie trotzdem.

KI-Texte zu Themen von öffentlichem Interesse

Wird ein KI-erzeugter oder wesentlich KI-bearbeiteter Text veröffentlicht, um die Öffentlichkeit über ein Thema von öffentlichem Interesse zu informieren, ist eine Kennzeichnung erforderlich. Gemeint sind etwa Politik und Wahlen, Gesundheit und Sicherheit, Umwelt und Klima, gesellschaftliche oder wirtschaftliche Entwicklungen, behördliche Entscheidungen und öffentliche Ereignisse.

Dieser Text wurde mit Unterstützung künstlicher Intelligenz erstellt.

Die wichtige Ausnahme: Der Hinweis ist grundsätzlich nicht erforderlich, wenn ein Mensch den Text vor der Veröffentlichung inhaltlich geprüft hat und ihn redaktionell verantwortet. Eine natürliche oder juristische Person muss die Verantwortung übernehmen.

Ein Überfliegen genügt dafür nicht, eine automatische Rechtschreibprüfung erst recht nicht. Sinnvoll ist eine Prüfung von Inhalt, Fakten, Quellen, Ton und möglichen Fehlern.

Emotionserkennung und biometrische Einordnung

Personen müssen informiert werden, wenn ein KI-System bei ihnen Emotionen erkennen oder biometrische Merkmale einordnen soll, soweit der Einsatz überhaupt zulässig ist.

Betroffen sind zum Beispiel Systeme, die aus Gesicht, Stimme oder Verhalten auf Stimmung, Stress oder andere persönliche Eigenschaften schließen wollen.

Was normalerweise nicht gekennzeichnet werden muss

Wird KI nur als Hilfsmittel eingesetzt, greift Artikel 50 in aller Regel nicht. Dazu zählen:

• Rechtschreib- und Grammatikprüfung
• Übersetzungen von Texten (KI-Synchronisation mit nachgebildeter Stimme gilt dagegen als Deepfake)
• Ideen und Gliederungen
• interne Zusammenfassungen
• leichte Bildkorrekturen
• Formatierung
• Entwürfe, die anschließend fachlich und redaktionell geprüft werden
• interne Inhalte, die nicht veröffentlicht werden

Andere Vorschriften können trotzdem gelten, etwa Urheberrecht, Datenschutz, Wettbewerbsrecht, Persönlichkeitsrechte oder Regeln der jeweiligen Branche.

Was gilt für Anbieter von KI-Systemen?

Wer KI-Systeme selbst entwickelt oder unter eigenem Namen anbietet, hat zusätzliche technische Pflichten. KI-erzeugte oder manipulierte Texte, Bilder, Videos und Audiodateien müssen grundsätzlich auch maschinenlesbar markiert und technisch erkennbar sein.

Eine sichtbare Beschriftung allein erfüllt diese Pflicht nicht. Ausnahmen sind möglich, wenn die KI nur unterstützende Standardbearbeitungen ausführt oder die Eingaben beziehungsweise deren Bedeutung nicht wesentlich verändert.

Für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, gilt die Markierungspflicht erst ab dem 2. Dezember 2026. Diese Übergangsfrist aus dem Digital-Omnibus zur KI-Verordnung betrifft nur Anbieter. Für Betreiber gibt es keinen Aufschub.

Wer lediglich ein fremdes KI-Werkzeug benutzt, ist normalerweise Betreiber und nicht Anbieter. Wer ein System unter eigenem Namen vermarktet oder wesentlich verändert, kann selbst zum Anbieter werden.

Acht Schritte für die Umsetzung

1. KI-Einsatz erfassen. Festhalten, welche Abteilungen KI verwenden und welche Inhalte damit entstehen.
2. Anwendungsfälle einordnen. Prüfen, ob Chatbots, Deepfakes, öffentliche Informationstexte oder biometrische Systeme betroffen sind.
3. Verantwortung festlegen. Für jeden veröffentlichten Inhalt muss klar sein, wer prüft und freigibt.
4. Kennzeichnungen definieren. Einheitliche, gut sichtbare Formulierungen für Website, Social Media, Video, Audio und Dokumente.
5. Direkt am Inhalt kennzeichnen. Nicht nur im Impressum oder in den Nutzungsbedingungen.
6. Prüfung dokumentieren. Nachvollziehbar halten, wer wann was geprüft hat.
7. Dienstleister kontrollieren. Unterstützen die eingesetzten Systeme die nötigen technischen Markierungen?
8. Mitarbeitende schulen. Alle Beteiligten müssen wissen, wann eine Kennzeichnung nötig ist.

Die Hinweise müssen klar, wahrnehmbar und barrierefrei sein. Sie müssen spätestens beim ersten Kontakt beziehungsweise bei der ersten Darstellung des Inhalts erscheinen.

Was bei Verstößen droht

Bei Verstößen gegen die Transparenzpflichten sind Bußgelder bis zu 15 Millionen Euro möglich oder, bei Unternehmen, bis zu drei Prozent des weltweiten Jahresumsatzes. Maßgeblich ist der höhere Betrag. Für kleine und mittlere Unternehmen, auch Start-ups, gilt dagegen der niedrigere der beiden.

Dazu kommen Reputationsschäden, Beschwerden und mögliche Folgen aus Datenschutz-, Wettbewerbs- oder Persönlichkeitsrecht.

Quellen

• Verordnung (EU) 2024/1689, KI-Verordnung
• Verordnung (EU) 2026/1744, Digital-Omnibus zur KI-Verordnung
• Leitlinien der Europäischen Kommission zu Artikel 50
• Kurzübersicht der EU-Kommission
• EU-Verhaltenskodex für KI-generierte Inhalte

Dieser Beitrag bietet eine allgemeine Orientierung und ersetzt keine rechtliche Prüfung des Einzelfalls.