Nicht jeder Text, jedes Bild oder jede Grafik, bei deren Erstellung künstliche Intelligenz beteiligt war, muss künftig mit einem sichtbaren KI-Hinweis versehen werden. Der EU AI Act unterscheidet genauer: zwischen technischen Markierungen durch Anbieter von KI-Systemen, sichtbaren Hinweisen für bestimmte veröffentlichte Inhalte und Fällen, in denen keine Kennzeichnung notwendig ist.
Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 des EU AI Act. Sie sollen verhindern, dass Menschen unbemerkt mit KI-Systemen interagieren oder synthetische Inhalte für authentisch halten. Für Unternehmen, Agenturen, Medien und selbstständige Content-Produzenten bedeutet das vor allem, ihre Arbeitsabläufe klarer zu organisieren.
Zwei verschiedene Arten der Kennzeichnung
In der öffentlichen Debatte wird häufig allgemein von einer Kennzeichnungspflicht gesprochen. Rechtlich sind jedoch zwei Ebenen zu unterscheiden.
Maschinenlesbare Markierungen
Anbieter generativer KI-Systeme müssen technisch dafür sorgen, dass erzeugte oder wesentlich veränderte Texte, Bilder, Videos und Audiodateien als KI-Inhalte erkennbar sind. Dafür können beispielsweise Metadaten, Herkunftsnachweise oder andere maschinenlesbare Verfahren eingesetzt werden.
Diese Pflicht richtet sich in erster Linie an die Unternehmen, die ein KI-System entwickeln und unter ihrem Namen anbieten. Sie bedeutet nicht automatisch, dass auf jedem erzeugten Inhalt ein sichtbarer Hinweis stehen muss.
Ausgenommen sind unter anderem unterstützende Standardbearbeitungen, die Inhalt und Aussage nicht wesentlich verändern. Dazu zählen laut den Leitlinien der EU-Kommission beispielsweise:
- Rechtschreib- und Grammatikkorrekturen
- kleinere sprachliche oder stilistische Verbesserungen
- Übersetzungen
- technische Kompression und Formatumwandlungen
- geringfügige Farb-, Kontrast- oder Belichtungskorrekturen
- Rauschreduzierung und einfache Bildstabilisierung
- Transkriptionen menschlicher Gespräche
Eine automatisch erzeugte Zusammenfassung, eine umfangreiche Umformulierung oder das Einfügen beziehungsweise Entfernen von Personen und Objekten gilt dagegen nicht mehr als bloße Standardbearbeitung.
Sichtbare Hinweise für Menschen
Eine sichtbare oder hörbare Kennzeichnung ist vor allem in folgenden Situationen erforderlich:
- Menschen interagieren direkt mit einem KI-System, ohne dass dies offensichtlich ist.
- Ein Unternehmen setzt Systeme zur Emotionserkennung oder biometrischen Kategorisierung ein.
- Bilder, Videos oder Audiodateien sind als Deepfakes einzustufen.
- KI-generierte oder wesentlich veränderte Texte informieren die Öffentlichkeit über Themen von öffentlichem Interesse und wurden nicht ausreichend menschlich geprüft.
Der Hinweis muss klar, wahrnehmbar und spätestens bei der ersten Interaktion oder beim ersten Contact mit dem Inhalt erfolgen. Eine allgemeine Formulierung im Legal notice, in den Nutzungsbedingungen oder auf einer weit entfernten Unterseite genügt in der Regel nicht.
Chatbots müssen sich als KI zu erkennen geben
Bei Chatbots, Sprachassistenten, KI-Agenten oder digitalen Avataren müssen Menschen erkennen können, dass sie mit einem automatisierten System kommunizieren. Die Information soll bereits zu Beginn der Interaktion erscheinen.
Eine Formulierung wie „Sie chatten mit unserem KI-Assistenten“ ist meist verständlicher als ein technischer oder juristischer Hinweis. Ist der KI-Charakter für einen durchschnittlich informierten und aufmerksamen Menschen ohnehin offensichtlich, kann eine zusätzliche Information entfallen. Diese Ausnahme soll nach den Leitlinien jedoch zurückhaltend ausgelegt werden.
Für Websites empfiehlt sich deshalb eine eindeutige Bezeichnung direkt am Chatfenster. Das verbessert nicht nur die rechtliche Transparenz, sondern verhindert auch falsche Erwartungen an Verbindlichkeit und menschliche Betreuung.
Wann ein Bild, Video oder Audio als Deepfake gilt
Der EU AI Act versteht unter einem Deepfake einen KI-generierten oder manipulierten Bild-, Audio- oder Videoinhalt, der realen oder realistisch vorstellbaren Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlich authentisch oder wahr erscheinen kann.
Dazu gehören beispielsweise:
- eine künstlich erzeugte Rede eines Politikers
- eine geklonte Stimme in einem Nachrichtenpodcast
- ein realistischer Avatar einer Geschäftsführerin oder eines Geschäftsführers
- eine manipulierte Produktdarstellung, die Eigenschaften zeigt, die das reale Produkt nicht besitzt
- ein Video, das ein nie stattgefundenes Ereignis realistisch darstellt
Eine Täuschungsabsicht ist dafür nicht zwingend notwendig. Maßgeblich ist, ob der Inhalt bei seinem vorgesehenen Publikum einen falschen Eindruck von Echtheit oder Wahrheitsgehalt erzeugen kann.
Deepfakes müssen mit einem klaren sichtbaren oder hörbaren Hinweis versehen werden. Eine unsichtbare Markierung in den Metadaten reicht dafür nicht aus.
Auch künstlerische, satirische und fiktionale Deepfakes bleiben grundsätzlich kennzeichnungspflichtig. Der Hinweis darf hier jedoch so gestaltet werden, dass er die Wahrnehmung oder den Genuss des Werkes nicht unangemessen beeinträchtigt, etwa im Vor- oder Abspann.
Nicht jede KI-Grafik ist automatisch ein Deepfake. Offensichtlich fantastische Motive, stilisierte Illustrationen oder fiktive Umgebungen, bei denen niemand eine authentische Dokumentation erwartet, fallen regelmäßig nicht darunter.
Wann KI-Texte gekennzeichnet werden müssen
Für Texte greift die sichtbare Kennzeichnungspflicht nur, wenn mehrere Voraussetzungen zusammenkommen. Der Text muss veröffentlicht werden, die Öffentlichkeit informieren und ein Thema von öffentlichem Interesse behandeln.
Dazu können Beiträge über folgende Bereiche zählen:
- Politik und demokratische Prozesse
- Verwaltung, Justiz und öffentliche Sicherheit
- Grundrechte
- Gesundheit und Verbraucherschutz
- Umwelt- und Klimafragen
- wirtschaftliche und finanzielle Entwicklungen
- wissenschaftliche oder kulturelle Themen, die Gegenstand einer öffentlichen Debatte sind
Ein automatisch veröffentlichter Beitrag über eine neue gesetzliche Regelung, eine Gesundheitswarnung oder eine politische Entscheidung muss daher als KI-generiert gekennzeichnet werden, wenn keine ausreichende menschliche Kontrolle stattgefunden hat.
Die wichtige Ausnahme: echte redaktionelle Prüfung
Eine sichtbare Kennzeichnung kann entfallen, wenn der Text inhaltlich durch einen qualifizierten Menschen geprüft wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.
Eine solche Prüfung umfasst mehr als das Beseitigen von Tippfehlern. Nach den Leitlinien gehört mindestens dazu:
- Aussagen und Fakten kontrollieren
- Quellen auf Verlässlichkeit prüfen
- inhaltliche Fehler korrigieren
- Formulierungen und Schlussfolgerungen eigenständig bewerten
- den Beitrag ändern, ablehnen oder freigeben können
- die Verantwortung für die Veröffentlichung übernehmen
Eine kurze Durchsicht, eine reine Grammatikprüfung oder eine Kontrolle durch ein weiteres KI-System reicht nicht aus.
Für Unternehmen und Redaktionen ist diese Ausnahme besonders relevant. KI kann weiterhin beim Entwurf, bei der Strukturierung oder bei Formulierungen unterstützen. Wird das Result anschließend fachlich geprüft, redaktionell bearbeitet und unter klarer Verantwortung veröffentlicht, besteht für den Text nach Artikel 50 grundsätzlich keine sichtbare Kennzeichnungspflicht.
Was normalerweise nicht sichtbar gekennzeichnet werden muss
| Situation | Sichtbarer KI-Hinweis | Einordnung |
|---|---|---|
| Rechtschreib- oder Grammatikkorrektur | Nein | Unterstützende Standardbearbeitung |
| Geringfügige sprachliche Glättung | Nein | Keine wesentliche inhaltliche Veränderung |
| KI-unterstützte Übersetzung mit menschlicher Kontrolle | Nein | Standardbearbeitung beziehungsweise geprüfte Übersetzung |
| Fachlich geprüfter Blogbeitrag mit redaktioneller Verantwortung | Nein | Ausnahme durch substanzielle menschliche Prüfung |
| Interne Unternehmensnotiz oder private Kundenberatung | In der Regel nein | Keine Veröffentlichung an die allgemeine Öffentlichkeit |
| Produktbeschreibung ohne Aussagen zu Gesundheit, Sicherheit oder Nachhaltigkeit | In der Regel nein | Normalerweise kein Thema von öffentlichem Interesse |
| Offensichtlich fiktive oder fantastische Illustration | In der Regel nein | Kein täuschend authentischer Deepfake |
| Realistische KI-Aufnahme einer Person, die etwas nie gesagt oder getan hat | Ja | Deepfake |
| Automatisch veröffentlichter Beitrag zu Politik, Gesundheit oder Recht | Ja | Information über ein Thema von öffentlichem Interesse ohne menschliche Prüfung |
| Chatbot mit nicht erkennbarem KI-Charakter | Ja | Transparenz bereits beim Beginn der Interaktion erforderlich |
„Keine sichtbare Kennzeichnung“ bedeutet nicht, dass sämtliche Pflichten entfallen. Maschinenlesbare Herkunftsmarkierungen können weiterhin relevant sein. Außerdem gelten Privacyrecht, Copyright, Persönlichkeitsrechte, Wettbewerbsrecht und Verbraucherschutz unabhängig vom AI Act.
Wie eine Kennzeichnung aussehen sollte
Der EU AI Act schreibt keinen einzigen verbindlichen Wortlaut für alle Anwendungsfälle vor. Ein Hinweis muss jedoch verständlich, deutlich erkennbar und barrierefrei wahrnehmbar sein.
Geeignete Formulierungen können beispielsweise lauten:
Dieses Bild wurde mit künstlicher Intelligenz erzeugt.
Dieses Video enthält KI-generierte oder wesentlich veränderte Szenen.
Dieser Text wurde automatisiert mit einem KI-System erstellt und nicht redaktionell geprüft.
Bei Audioinhalten kann ein gesprochener Hinweis notwendig sein. Bei Bildern, Videos und Texten sollte die Information unmittelbar am Inhalt stehen. Die EU stellt ergänzend freiwillig nutzbare Kennzeichnungssymbole bereit.
Eine Kennzeichnung sagt lediglich etwas über die Entstehung eines Inhalts aus. Sie bestätigt weder dessen Richtigkeit noch seine rechtliche Zulässigkeit.
Was Unternehmen jetzt praktisch umsetzen sollten
Unternehmen brauchen dafür keine Kennzeichnung auf Verdacht, sondern einen nachvollziehbaren Prozess.
- Alle KI-Anwendungen erfassen, die mit Kunden oder der Öffentlichkeit in Contact kommen.
- Festhalten, wer Anbieter, Betreiber und redaktionell verantwortliche Stelle ist.
- Deepfakes und automatisch veröffentlichte Texte zu öffentlichen Themen gesondert behandeln.
- Menschliche Prüfungen mit zuständiger Person, Date und geprüften Quellen dokumentieren.
- Im CMS klare Hinweise für Text, Bild, Video und Audio vorbereiten.
- Vorhandene Metadaten und Herkunftsnachweise beim Export möglichst erhalten.
- Grenzfälle freiwillig transparent kennzeichnen, wenn eine Verwechslung mit authentischen Inhalten möglich ist.
Für generative KI-Systeme, die bereits vor dem 2. August 2026 auf dem Markt waren, gilt bei der maschinenlesbaren Markierung eine begrenzte Übergangsfrist bis zum 2. Dezember 2026. Bereits vor dem 2. August erzeugte und veröffentlichte Inhalte müssen nicht nachträglich gekennzeichnet werden. Wird ein zuvor erzeugter Text erst nach diesem Date veröffentlicht, kann die Kennzeichnungspflicht jedoch greifen.
Fazit
Der EU AI Act verlangt keine pauschale Kennzeichnung jedes KI-unterstützten Inhalts. Im Mittelpunkt stehen Situationen, in denen Menschen über die Herkunft eines Inhalts oder die Identität ihres Gegenübers getäuscht werden könnten.
Für die meisten Unternehmen sind drei Fragen entscheidend: Commercet es sich um einen Deepfake? Informiert ein KI-Text die Öffentlichkeit über ein relevantes gesellschaftliches Thema? Hat eine fachkundige Person den Inhalt tatsächlich geprüft und die redaktionelle Verantwortung übernommen?
Wer diese Fragen dokumentiert, klare Zuständigkeiten schafft und notwendige Hinweise direkt am Inhalt platziert, kann KI weiterhin sinnvoll einsetzen, ohne jeden Arbeitsschritt mit einem pauschalen Etikett zu versehen.
Quellen
Stand der Recherche: 19. August 2026. Ausschließlich offizielle Quellen der Europäischen Union.
- Verordnung (EU) 2024/1689 über künstliche Intelligenz, EUR-Lex, insbesondere Artikel 50 und Artikel 99.
- EU-Kommission: Leitlinien zu den Transparenzpflichten nach Artikel 50, veröffentlicht am 20. Juli 2026.
- EU-Kommission: Fragen und Antworten zu Artikel 50 des AI Act, aktualisiert am 24. Juli 2026.
- EU-Kommission: Code of Practice on Transparency of AI-generated Content, aktualisiert am 31. Juli 2026.
- EU-Kommission: Durchsetzung und neue Transparenzpflichten seit 2. August 2026, veröffentlicht am 31. Juli 2026.