EU AI Act: Diese KI-Inhalte müssen Unternehmen jetzt kennzeichnen

Seit dem 2. August 2026 gelten zentrale Transparenzpflichten des EU AI Act. Unternehmen müssen damit genauer darauf achten, wann Nutzer über den Einsatz von KI informiert werden müssen und welche KI-generierten Inhalte eine Kennzeichnung benötigen. Eine pauschale Pflicht, jeden mit KI erstellten Text sichtbar als solchen zu markieren, gibt es allerdings nicht.

Die Europäische Kommission hat kurz vor dem Stichtag finale Leitlinien zu Artikel 50 veröffentlicht. Sie konkretisieren, was Anbieter und Betreiber von KI-Systemen jetzt beachten müssen. Für IT-Verantwortliche wird damit aus einer abstrakten Compliance-Frage eine konkrete Aufgabe für Anwendungen, Websites, Content-Prozesse und die Auswahl von KI-Anbietern.

Chatbots müssen sich als KI erkennen lassen

Eine der praktisch relevantesten Anforderungen betrifft KI-Systeme, die direkt mit Menschen kommunizieren. Anbieter müssen solche Systeme grundsätzlich so gestalten, dass Nutzer erkennen können, dass sie mit einer KI interagieren.

Das betrifft beispielsweise Chatbots, KI-Agenten oder virtuelle Assistenten. Eine zusätzliche Information ist nur dann nicht erforderlich, wenn für einen durchschnittlichen Nutzer offensichtlich ist, dass es sich um ein KI-System handelt. Die Kommission legt diese Ausnahme eher eng aus. Die Information muss spätestens zu Beginn der ersten Interaktion klar und wahrnehmbar erfolgen.

Für Unternehmen bedeutet das: Wer einen KI-Assistenten auf der eigenen Website, in einem Kundenportal oder in einem anderen digitalen Dienst einsetzt, sollte nicht nur dessen technische Funktion prüfen. Auch die Nutzerführung und Kennzeichnung gehören jetzt in die Compliance-Bewertung.

Anbieter müssen KI-Inhalte technisch erkennbar machen

Für Anbieter generativer KI geht Artikel 50 noch einen Schritt weiter. Systeme, die synthetische Texte, Bilder, Audio- oder Videoinhalte erzeugen, müssen entsprechende Ausgaben grundsätzlich maschinenlesbar markieren und als künstlich erzeugt oder manipuliert erkennbar machen.

Dabei geht es nicht zwingend um einen sichtbaren Hinweis im Bild oder Text. Die Vorgabe richtet sich zunächst an den Anbieter des Systems und verlangt technische Verfahren, mit denen sich die Herkunft eines Inhalts feststellen lässt. Die eingesetzten Lösungen sollen nach den Vorgaben des AI Act soweit technisch möglich wirksam, interoperabel, robust und zuverlässig sein.

Für generative KI-Systeme, die bereits vor dem 2. August 2026 auf dem Markt waren, sieht die inzwischen geänderte Verordnung für diese spezielle Markierungs- und Erkennungspflicht eine Übergangsfrist bis zum 2. Dezember 2026 vor. Bereits vor dem August-Stichtag erzeugte Inhalte müssen nicht nachträglich gekennzeichnet werden.

Deepfakes brauchen eine sichtbare Kennzeichnung

Andere Pflichten treffen die Unternehmen, die KI-Systeme einsetzen. Werden realistisch wirkende Bilder, Audio- oder Videoinhalte mit KI erzeugt oder manipuliert und können sie fälschlicherweise für authentisch gehalten werden, können sie als Deepfakes im Sinne des AI Act gelten.

Solche Inhalte müssen für die betroffenen Personen klar erkennbar offengelegt werden. Eine ausschließlich im Hintergrund eingebettete technische Kennzeichnung genügt dafür nicht. Die Information muss für Menschen wahrnehmbar sein, beispielsweise über einen sichtbaren oder hörbaren Hinweis. Für eindeutig künstlerische, satirische oder fiktionale Werke gelten angepasste Anforderungen.

Die EU stellt dafür inzwischen auch eigene Kennzeichnungs-Icons bereit. Ihre Verwendung ist freiwillig. Sie sollen Unternehmen eine einheitliche Möglichkeit geben, entsprechende Inhalte als vollständig KI-generiert oder teilweise KI-manipuliert kenntlich zu machen.

Nicht jeder KI-Text braucht ein Label

Besonders wichtig für Marketing-, Kommunikations- und Redaktionsteams ist eine weitere Klarstellung der Kommission: Die Transparenzpflicht bedeutet nicht, dass jeder mit generativer KI erstellte Text sichtbar als KI-Inhalt gekennzeichnet werden muss.

Artikel 50 adressiert hier insbesondere Texte, die veröffentlicht werden, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren und mit KI erzeugt oder manipuliert wurden. Darunter können unter anderem politische, wirtschaftliche, wissenschaftliche, kulturelle oder gesellschaftlich relevante Themen fallen.

Eine wichtige Ausnahme besteht, wenn der Text einer echten menschlichen Prüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Ein oberflächlicher Grammatik- oder Rechtschreibcheck reicht dafür nach Auffassung der Kommission nicht aus. Gefordert ist eine inhaltliche Prüfung, bei der beispielsweise Aussagen, Quellen und fachliche Substanz bewertet werden können.

Gerade für Unternehmen, die generative KI in Marketing, Corporate Publishing oder Unternehmenskommunikation einsetzen, wird damit der Prozess hinter dem Inhalt entscheidend. Nicht allein der Einsatz eines Sprachmodells bestimmt die Compliance, sondern auch die Frage, wer das Ergebnis prüft, freigibt und dafür Verantwortung übernimmt.

IT muss Transparenz in den KI-Lifecycle integrieren

Für CIOs und IT-Verantwortliche ergibt sich daraus eine neue Governance-Aufgabe. Unternehmen sollten wissen, welche KI-Systeme direkt mit Menschen interagieren, welche Systeme Inhalte generieren und welche Fachabteilungen diese Inhalte anschließend veröffentlichen.

Genauso wichtig ist die Anbieterprüfung. Bei eingekauften KI-Plattformen sollte nachvollziehbar sein, wie der Anbieter die technischen Kennzeichnungspflichten erfüllt und welche Informationen er für die eigene Compliance bereitstellt.

Der von der EU veröffentlichte Verhaltenskodex für KI-generierte Inhalte kann dabei als Orientierung dienen. Seine Nutzung ist freiwillig. Kommission und AI Board erkennen ihn jedoch als Instrument an, mit dem Anbieter und Betreiber die Einhaltung bestimmter Transparenzanforderungen nachweisen können.

Fazit: Kennzeichnung wird Teil der KI-Governance

Mit Artikel 50 verschiebt sich der EU AI Act weiter vom Regelwerk in den operativen IT-Alltag. Seit dem 2. August müssen Unternehmen nicht nur wissen, welche KI sie einsetzen, sondern auch, wann Menschen mit diesen Systemen oder ihren Ergebnissen in Kontakt kommen.

Dabei geht es nicht darum, pauschal überall ein KI-Label anzubringen. Entscheidend sind Einsatzfall, Unternehmensrolle, Art des Inhalts und die vorhandene menschliche Kontrolle.

Für IT-Entscheider ist deshalb jetzt der richtige Zeitpunkt, Chatbots, generative Anwendungen und Content-Workflows in das bestehende KI-Inventar einzubeziehen. Transparenz wird damit zu einem festen Bestandteil von Architektur, Beschaffung und Governance – und nicht erst zu einer Frage kurz vor der Veröffentlichung.