KI-Inhalte müssen ab August klar gekennzeichnet werden

Seit dem 2. August 2026 gelten in der EU neue Transparenzpflichten für bestimmte KI-Systeme und KI-generierte Inhalte. Für Unternehmen bedeutet das allerdings nicht, dass künftig jeder mit ChatGPT, Copilot oder anderen KI-Werkzeugen erstellte Text, jedes Bild oder jede Grafik sichtbar als KI-Inhalt gekennzeichnet werden muss. Artikel 50 des EU AI Act unterscheidet deutlich danach, wer ein KI-System bereitstellt, wie es eingesetzt wird und um welche Inhalte es geht.

Technische Markierung ist nicht dasselbe wie sichtbares KI-Label

Ein zentraler Unterschied betrifft Anbieter und Betreiber von KI-Systemen. Anbieter generativer KI-Systeme müssen ihre Systeme grundsätzlich so entwickeln, dass erzeugte oder manipulierte Texte, Bilder, Audio- und Videoinhalte maschinenlesbar gekennzeichnet und als KI-generiert beziehungsweise KI-manipuliert erkannt werden können.

Dabei geht es beispielsweise um technische Markierungen oder Metadaten. Diese Pflicht bedeutet jedoch nicht automatisch, dass neben jedem KI-generierten Inhalt ein für Menschen sichtbarer Hinweis wie „Erstellt mit KI“ erscheinen muss.

Für IT-Verantwortliche ist diese Trennung relevant: Nutzt ein Unternehmen lediglich einen generativen KI-Dienst, ist es nicht automatisch für die technische Kennzeichnung verantwortlich, die der Anbieter des Systems sicherstellen muss. Eigene Pflichten können jedoch entstehen, sobald bestimmte KI-generierte Inhalte veröffentlicht oder KI-Systeme gegenüber Menschen eingesetzt werden.

Chatbots müssen als KI erkennbar sein

Auch für interaktive KI-Systeme gelten seit August neue Vorgaben. Systeme, die unmittelbar mit Menschen kommunizieren – etwa Chatbots, KI-Agenten oder virtuelle Assistenten –, müssen so gestaltet sein, dass Nutzer darüber informiert werden, dass sie mit einer KI interagieren.

Eine zusätzliche Information ist nur dann nicht erforderlich, wenn für einen durchschnittlich informierten und aufmerksamen Nutzer offensichtlich ist, dass es sich um ein KI-System handelt. Die EU-Kommission legt diese Ausnahme ausdrücklich eng aus. Die Information soll spätestens zu Beginn der ersten Interaktion klar erfolgen.

Unternehmen sollten deshalb insbesondere Kundenservice-Bots, interne Assistenten und andere dialogorientierte Anwendungen darauf prüfen, ob ihre KI-Natur für Nutzer ausreichend transparent gemacht wird.

Deepfakes brauchen eine sichtbare Offenlegung

Deutlich strenger sind die Regeln bei Deepfakes. Unternehmen, die KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte einsetzen, die realen oder plausibel realen Personen, Objekten, Orten oder Ereignissen ähneln und fälschlicherweise authentisch erscheinen können, müssen deren künstlichen Ursprung offenlegen.

Eine lediglich im Hintergrund vorhandene maschinenlesbare Markierung reicht dafür nicht aus. Die Offenlegung muss für Menschen wahrnehmbar sein, etwa über einen sichtbaren oder hörbaren Hinweis. Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke gelten besondere, weniger weitreichende Vorgaben.

Damit betrifft die Regel nicht nur Medienunternehmen. Auch Marketing, Unternehmenskommunikation, Schulungsmaterialien oder Social-Media-Kampagnen können darunter fallen, wenn täuschend echte synthetische Inhalte eingesetzt werden.

KI-Texte müssen nicht grundsätzlich gekennzeichnet werden

Besonders relevant für Unternehmenskommunikation und Redaktionen ist die Regel für Texte. Eine sichtbare Kennzeichnungspflicht besteht nicht für jeden KI-generierten Text.

Artikel 50 erfasst hier Texte, die mit KI erzeugt oder manipuliert und veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Dazu können laut EU-Kommission unter anderem wirtschaftliche, finanzielle, politische, wissenschaftliche oder gesellschaftliche Entwicklungen gehören.

Entscheidend ist jedoch eine wichtige Ausnahme: Wurde ein KI-generierter Text anschließend substanziell von Menschen geprüft oder einer redaktionellen Kontrolle unterzogen und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung, muss er nach Artikel 50 nicht allein wegen des KI-Einsatzes gekennzeichnet werden.

Eine reine Rechtschreib-, Grammatik- oder Formatprüfung reicht dafür nicht. Die Kommission verlangt eine inhaltliche Prüfung durch Personen mit entsprechendem Fachwissen beziehungsweise eine echte redaktionelle Kontrolle mit der Möglichkeit, Inhalte zu verändern, abzulehnen und Quellen zu überprüfen.

Für professionelle Redaktionen und Kommunikationsabteilungen ist das ein wichtiger Punkt: Der AI Act schreibt ihnen nicht automatisch ein sichtbares KI-Label für jeden KI-unterstützten Artikel vor. Gleichzeitig steigt die Bedeutung dokumentierter redaktioneller Prozesse.

Unternehmen sollten ihre KI-Workflows jetzt klassifizieren

Für IT-Entscheider ergibt sich daraus weniger eine pauschale Kennzeichnungsaufgabe als eine Governance-Aufgabe. Unternehmen müssen wissen, welche KI-Systeme sie einsetzen, ob sie dabei als Anbieter oder Betreiber auftreten und welche Inhalte damit erzeugt oder veröffentlicht werden.

Besonders relevant sind externe Chatbots und KI-Agenten, generative Content-Systeme, synthetische Bild-, Audio- und Videoinhalte sowie automatisiert erzeugte Veröffentlichungen zu Themen von öffentlichem Interesse. Die Bundesnetzagentur weist ebenfalls darauf hin, dass je nach Anwendung unterschiedliche Transparenzpflichten und Ausnahmen gelten.

Die Europäische Kommission hat ergänzend Leitlinien sowie einen freiwilligen Code of Practice für KI-generierte Inhalte veröffentlicht. Der Kodex soll Unternehmen und KI-Anbietern helfen, die Anforderungen aus Artikel 50 praktisch umzusetzen. Die gesetzlichen Pflichten selbst sind jedoch nicht freiwillig.

Fazit: Nicht alles braucht ein KI-Label

Seit dem 2. August 2026 ist Transparenz bei KI in der EU verbindlicher geworden. Von einer allgemeinen Pflicht, sämtliche mit KI erstellten Inhalte sichtbar zu kennzeichnen, kann jedoch keine Rede sein.

Für Unternehmen kommt es auf den konkreten Einsatz an: Technische Markierungen, Hinweise bei Chatbots, die Kennzeichnung von Deepfakes und besondere Regeln für Veröffentlichungen von öffentlichem Interesse folgen unterschiedlichen Vorgaben. Wer KI bereits produktiv einsetzt, sollte deshalb nicht nur über Labels nachdenken, sondern seine Anwendungen, Verantwortlichkeiten und redaktionellen Kontrollprozesse systematisch überprüfen.