EU AI-Act: Wann müssen Sie KI-Texte kennzeichnen?
©Alex Cristi - iStockImmer mehr Texte und Bilder werden mithilfe künstlicher Intelligenz erstellt. Ab August müssen Unternehmen und Behörden dies in bestimmten Fällen kennzeichnen. Wann die Kennzeichnungspflicht nach dem AI Act gilt, fasst MEINRECHT zusammen. Ein wichtiges Detail ist entscheidend.
Das Wichtigste in Kürze:
Artikel 50 AI Act regelt die Kennzeichnungspflicht für Texte, Bilder, Videos und andere Inhalte, die mit KI erstellt worden sind.
Ab dem 2. August müssen unter anderem Texte und Bilder unter bestimmten Bedingungen gekennzeichnet werden.
Kennzeichnungspflichtig sind solche Texte, die die Öffentlichkeit informieren sollen.
Prüft ein Mensch das Ergebnis oder unterliegt es redaktioneller Kontrolle und trägt eine natürliche oder juristische Person die redaktionelle Verantwortung für den Inhalt, entfällt die Kennzeichnungspflicht.
Ziel: Nutzer*innen sollen erkennen, ob sie KI-generierte Inhalte sehen.
Neue Kennzeichnungspflicht für KI-Texte ab August 2026
Ab dem 2. August 2026 gelten neue Regeln für KI-Inhalte. Unternehmen müssen dann Texte, Bilder, Videos und Audioinhalte, die mit Künstlicher Intelligenz (KI) erstellt worden sind, kennzeichnen. Die Kennzeichnungspflicht nach Artikel 50 des AI-Acts gilt für Texte, die:
die Öffentlichkeit informieren sollen,
mit KI erstellt und
nicht von einem Menschen überprüft oder redaktionell kontrolliert wurden und weder eine natürliche noch eine juristische Person die redaktionelle Verantwortung für den Inhalt trägt.
Auch KI-Interaktionen beispielsweise in Form eines Chatbots und sogenannten Deepfakes – also täuschend echt manipulierte Bilder und Videos – müssen als solche erkennbar beziehungsweise entsprechend gekennzeichnet sein.
Was sind Inhalte, die die Öffentlichkeit informieren?
Darunter sind vor allem solche Inhalte zu verstehen, die sich:
- 1.
an die Allgemeinheit richten und
- 2.
der Information über Angelegenheiten von öffentlichem Interesse dienen.
Vor allem betrifft das Texte, die:
in Medien,
Presseerzeugnissen,
auf Webseiten
in sozialen Netzwerken verbreitet werden,
um gesellschaftlich relevante Themen, Nachrichten oder Informationen zu vermitteln.
Es geht nicht um solche KI-Inhalte, die rein
private Kommunikation oder
interne Unternehmensinformationen
betrifft.
Die Frage, die sich Unternehmen und Behörden stellen müssen: Richtet sich die Veröffentlichung des KI-Inhalts an die Allgemeinheit?
Ist die Antwort Ja, müssen die Inhalte gekennzeichnet werden.
Wann besteht keine Kennzeichnungspflicht?
Die Kennzeichnungspflicht entfällt, wenn
- 1.
die KI-Inhalte von einem Menschen überprüft oder redaktionell kontrolliert werden und
- 2.
eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.
Ein Mensch muss also vor der Veröffentlichung die KI-Inhalte überprüfen, bewerten und gegebenenfalls korrigieren. Es ist wichtig, dass die Person die Kontrolle nicht nur automatisiert und formal erledigt, sondern tatsächlich inhaltlich prüft – und das verantwortungsbewusst.
Ziel ist es, dass KI-Inhalte nicht ungeprüft veröffentlicht werden, sondern ein Mensch die Verantwortung dafür trägt, dass die Inhalte richtig und angemessen sind.
Bei der redaktionellen Kontrolle geht es darum, dass eine natürliche oder juristische Person nach außen die Verantwortung für die Inhalte trägt und für die Inhalte haftet.
Tipp: Unternehmen und Behörden sollten daher eine oder einen Verantwortlichen benennen, die/der die KI-Inhalte prüft. Die Kontroll- beziehungsweise Prüfungsschritte sollte in einem Prozess festgehalten werden.
Kunst und Straftaten: Ausnahmen von der Kennzeichnungspflicht
Die Verpflichtung gilt nicht, wenn es sich um gesetzlich zugelassene Systeme handelt, die der
Aufdeckung,
Verhütung,
Ermittlung oder
Verfolgung
von Straftaten dienen.
Für Texte gilt: Ist die Nutzung der KI-Inhalte gesetzlich erlaubt, um Straftaten aufzudecken, zu verhindern, zu untersuchen oder strafrechtlich zu verfolgen? Dann bedarf es keiner Kennzeichnung.
Außerdem sind Inhalte ausgenommen, die rein künstlerisch, satirisch oder fiktional sind.
Wie sind KI-Inhalte zu kennzeichnen?
Darüber gibt die Richtlinie keine eindeutige Auskunft. Der Erwägungsgrund 134 der KI-Verordnung schreibt lediglich vor, dass solche Inhalte klar und deutlich offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden, indem sie die Ausgaben von KI entsprechend kennzeichnen und auf ihren künstlichen Ursprung hinweisen.
Kennzeichnungen könnten beispielsweise lauten:
„Der Text/die Grafik/das Bild wurde von KI generiert.“
Wichtig: Versteckte Codes oder Informationen in Quellcodes allein sind nicht ausreichend. Die Markierung muss für Menschen sichtbar sein.
Was gilt für KI-Bilder?
Bestimmte KI-generierte Bilder müssen ebenfalls gekennzeichnet werden. So müssen Deepfakes so gekennzeichnet sein, dass die Kennzeichnung
- 1.
maschinell auslesbar und
- 2.
für alle sichtbar angebracht ist.
Was droht bei Verstößen?
Wird ein Text oder anderer KI-generierter Inhalt nicht gekennzeichnet, kann dies ein Verstoß gegen den unlauteren Wettbewerb (UWG) sein. Es drohen Abmahnung und Bußgelder.
Fazit: Texte und Bilder kennzeichnen – mit Ausnahmen
Ab dem 2. August 2026 müssen Unternehmen und Behörden Texte, Bilder, Videos und Audioformate kennzeichnen, wenn diese mit KI erstellt worden sind. Das gilt nach Artikel 50 AI Act. Die Kennzeichnung muss klar und deutlich sein. Gekennzeichnet werden müssen solche Texte, die die Öffentlichkeit informieren sollen wie Druck-Erzeugnisse und Blogs. Ausnahmen bestehen dann, wenn die Texte vor der Veröffentlichung von einem Menschen geprüft oder redaktionell kontrolliert werden.
Quellen:
Schroeder/Hillebrand: Deepfakes im Zivilrecht und Zivilrechtsstreit, NJW 2026, 793
Joerg Heidrich, ITRB 2025, 161-162
Pascal Bronner, Ass. jur., Wissenschaftlicher Mitarbeiter, jurisPR-ITR 15/2023 Anm. 2
Haufe, Kennzeichnungspflicht für KI-Inhalte gilt ab August 2026 (zuletzt abgerufen am: 19. Juni 2026)
Anna Kristina Bückmann
Mit ihrer journalistischen Erfahrung recherchiert sie interessante Rechtsthemen für meinrecht.de – und beantwortet diese mit ihrem Wissen als Anwältin.
