KI-Kennzeichnung

Ab 2. August 2026 gelten die Transparenzpflichten des Art. 50 AI Act. Sie erfassen Anbieter und Verwender von KI-Systemen – allerdings mit deutlich unterschiedlichen Pflichten. Unternehmen sollten deshalb nicht pauschal jeden KI-unterstützten Inhalt kennzeichnen, sondern Nutzungsszenarien, Rollen und Ausnahmen systematisch prüfen.

Das Wichtigste in Kürze:

• Art. 50 AI Act gilt ab 2. August 2026. Anbieter müssen unter anderem direkte KI-Interaktionen transparent gestalten und synthetische Inhalte grundsätzlich maschinenlesbar markieren; Verwender treffen Offenlegungspflichten insbesondere bei Deepfakes und bestimmten Texten von öffentlichem Interesse.
• Keine pauschale Kennzeichnungspflicht: Ein mit ChatGPT formulierter Marketing-, Fach- oder Social-Media-Text muss nicht allein wegen des KI-Einsatzes gekennzeichnet werden. Entscheidend sind Inhalt, Veröffentlichungszweck, menschliche Prüfung und redaktionelle Verantwortung.
• Form der Offenlegung: Hinweise müssen klar, unterscheidbar, wahrnehmbar und barrierefrei sein und spätestens beim ersten Kontakt mit dem System oder Inhalt erfolgen. Die freiwilligen EU-Icons und der Code of Practice bieten praktische Umsetzungshilfen.
• Sanktionen und Handlungsbedarf: Verstöße können grundsätzlich mit Geldbußen bis 15 Mio. EUR oder – bei Unternehmen – bis 3 % des weltweiten Jahresumsatzes geahndet werden. Zuständigkeiten, Freigaben und technische Kennzeichnungen sollten jetzt verbindlich geregelt werden.

Was regelt Art. 50 AI Act?

Art. 50 der Verordnung (EU) 2024/1689 (AI Act) soll verhindern, dass natürliche Personen unbemerkt mit KI interagieren oder künstlich erzeugte bzw. manipulierte Inhalte für authentisch halten. Die Vorschrift bündelt vier Fallgruppen. Dabei ist zwischen Pflichten der Anbieter („providers“) und der Verwender („deployers“) zu unterscheiden. Ein Unternehmen kann je nach Einsatzmodell beide Rollen einnehmen – etwa wenn es einen fremden KI-Dienst nutzt, diesen aber unter eigenem Namen anbietet oder wesentlich verändert.

1. Direkte Interaktion mit KI: Anbieter interaktiver Systeme müssen sicherstellen, dass natürliche Personen erkennen, wenn sie unmittelbar mit KI kommunizieren, etwa über einen Kundenservice-Chatbot oder Sprachassistenten. Ein Hinweis ist entbehrlich, wenn der KI-Charakter für eine angemessen informierte, aufmerksame und verständige Person nach Kontext und Umständen offensichtlich ist.
2. Maschinenlesbare Markierung synthetischer Inhalte: Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen deren Ausgaben grundsätzlich maschinenlesbar markieren und als künstlich erzeugt oder manipuliert erkennbar machen. Die technische Lösung muss – soweit technisch machbar – wirksam, interoperabel, robust und zuverlässig sein. In Betracht kommen insbesondere abgesicherte Metadaten und Wasserzeichen.
3. Emotionserkennung und biometrische Kategorisierung: Verwender solcher Systeme müssen betroffene natürliche Personen über den Betrieb des Systems informieren. Zusätzlich bleiben die datenschutzrechtlichen Vorgaben, insbesondere der DSGVO, uneingeschränkt zu beachten.
4. Deepfakes und Texte von öffentlichem Interesse: Verwender müssen offenlegen, wenn KI-generierte oder -manipulierte Bild-, Audio- oder Videoinhalte einen Deepfake darstellen. Auch KI-generierte oder -manipulierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, können kennzeichnungspflichtig sein.

Welche Pflichten treffen Unternehmen als KI-Verwender?

Für die Unternehmenspraxis ist vor allem Art. 50 Abs. 4 AI Act relevant. Die Norm begründet keine allgemeine Offenlegungspflicht für sämtliche mit generativer KI erstellten Inhalte. Vielmehr sind zwei Konstellationen zu unterscheiden:

• Deepfakes: Kennzeichnungspflichtig sind KI-generierte oder -manipulierte Bilder, Audioaufnahmen oder Videos, die existierende Personen, Gegenstände, Orte, Einrichtungen oder Ereignisse nachbilden und fälschlich authentisch oder wahr erscheinen. Praktische Beispiele sind täuschend echte KI-Videos einer realen Führungskraft, Voice-Cloning oder manipulierte Produkt- und Ereignisaufnahmen.
• Texte von öffentlichem Interesse: Offenlegungspflichtig sind Texte, die mittels KI erzeugt oder manipuliert und mit dem Zweck veröffentlicht werden, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Das kann etwa politische, gesellschaftliche, gesundheitsbezogene oder wirtschaftlich bedeutsame Informationen erfassen. Die Pflicht entfällt jedoch, wenn eine menschliche Prüfung oder redaktionelle Kontrolle stattgefunden hat und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.

Für klassische Unternehmenskommunikation folgt daraus: Produktwerbung, interne Texte oder rein kommerzielle Beiträge fallen nicht automatisch in die zweite Fallgruppe. Bei Pressemitteilungen, Fachbeiträgen, Marktinformationen, ESG- oder Gesundheitskommunikation kann ein öffentliches Interesse dagegen naheliegen. Eine dokumentierte menschliche Schlussprüfung und die klare Übernahme redaktioneller Verantwortung sind dann zentrale Compliance-Bausteine.

Wie muss die Kennzeichnung aussehen?

Der AI Act schreibt keinen einheitlichen Wortlaut vor. Die Information muss klar und unterscheidbar, spätestens bei der ersten Interaktion oder Exposition und unter Beachtung der Barrierefreiheitsanforderungen erfolgen. Sie darf deshalb weder im Impressum versteckt noch erst nach dem Konsum des Inhalts sichtbar werden.

Je nach Medium können beispielsweise Hinweise wie „KI-generiertes Bild“, „Stimme mit KI erzeugt“ oder „Dieser Inhalt wurde teilweise mit KI manipuliert“ geeignet sein. Die EU stellt optionale Icons für vollständig KI-generierte und teilweise KI-veränderte Inhalte bereit. Nach den Umsetzungshinweisen sollten Icon oder Text gut sichtbar platziert, nicht durch Overlays verdeckt und möglichst auch beim Teilen oder Herunterladen erhalten bleiben. Bei Audio- und Videoinhalten muss die Wahrnehmbarkeit über die relevante Nutzungsdauer gewährleistet sein.

Die sichtbare Offenlegung durch Verwender ist von der technischen Markierung durch Anbieter zu trennen. Eine sichtbare Kennzeichnung ersetzt eine erforderliche maschinenlesbare Markierung nicht – und umgekehrt genügt eine allein in Metadaten enthaltene Markierung regelmäßig nicht für die Offenlegung gegenüber Menschen.

Welche Ausnahmen und Übergangsregeln gelten?

• Standardbearbeitung: Die Anbieterpflicht zur maschinenlesbaren Markierung greift nicht, soweit ein KI-System nur übliche Bearbeitungsfunktionen ausführt oder die Eingabedaten bzw. deren Bedeutung nicht wesentlich verändert. Dazu können je nach Einzelfall etwa Rechtschreib-, Formatierungs- oder einfache Qualitätskorrekturen gehören.
• Menschliche Prüfung: Bei Texten zu Angelegenheiten von öffentlichem Interesse entfällt die Offenlegungspflicht, wenn der Inhalt menschlich geprüft oder redaktionell kontrolliert wurde und eine Person oder ein Unternehmen redaktionell verantwortlich ist. Ein bloß flüchtiges Abnicken dürfte hierfür nicht genügen; Prüftiefe und Verantwortungsübernahme sollten nachvollziehbar sein.
• Kunst, Satire und Fiktion: Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken ist die Offenlegung so auszugestalten, dass Darstellung und Genuss des Werks nicht beeinträchtigt werden.
• Bestandssysteme und Altfälle: Für vor dem 2. August 2026 in Verkehr gebrachte generative KI-Systeme wurde die Frist zur Umsetzung der technischen Markierung nach Art. 50 Abs. 2 AI Act durch die Verordnung (EU) 2026/1744 bis 2. Dezember 2026 verlängert. Für bereits vor dem 2. August 2026 erzeugte Deepfakes besteht nach den Kommissionshinweisen keine rückwirkende Kennzeichnungspflicht; eine freiwillige Kennzeichnung wird empfohlen.

Welche Rolle spielen Leitlinien und Code of Practice?

Die Europäische Kommission hat im Juli 2026 Leitlinien zu Art. 50 AI Act sowie einen Code of Practice zur Transparenz KI-generierter Inhalte veröffentlicht. Die Leitlinien erläutern Anwendungsbereich, Begriffe, Ausnahmen und Fallbeispiele. Der Code konkretisiert insbesondere die technische Markierung durch Anbieter sowie die Kennzeichnung von Deepfakes und relevanten Textveröffentlichungen durch Verwender.

Der Beitritt zum Code ist freiwillig. Kommission und AI Board haben ihn jedoch als geeignetes Instrument zur Compliance-Darlegung anerkannt. Unterzeichner können sich bei ordnungsgemäßer Umsetzung auf seine Maßnahmen stützen; andere Unternehmen müssen die gleichwertige Eignung ihrer alternativen Lösungen gegenüber den zuständigen Marktüberwachungsbehörden darlegen. Die EU-Icons sind ebenfalls freiwillig und begründen für sich allein noch keine Rechtskonformität.

Was sollten Unternehmen jetzt tun?

1. Inventar und Rollen klären: Erfassen Sie interaktive und generative KI-Systeme sowie betroffene Kanäle. Prüfen Sie je Use Case, ob das Unternehmen Anbieter, Verwender oder beides ist.
2. Entscheidungslogik festlegen: Definieren Sie belastbare Kriterien für Deepfakes, öffentliches Interesse, wesentliche Veränderung, Standardbearbeitung und offensichtliche KI-Interaktion.
3. Freigaben dokumentieren: Verankern Sie eine inhaltliche menschliche Prüfung, benennen Sie redaktionell Verantwortliche und dokumentieren Sie die Freigabe bei relevanten Veröffentlichungen.
4. Kennzeichnung technisch sichern: Prüfen Sie Metadaten, Wasserzeichen, Herkunftsnachweise, Plattform-Overlays und die Beständigkeit sichtbarer Hinweise beim Download und Teilen.
5. Verträge und Schulungen aktualisieren: Nehmen Sie Anforderungen an Kennzeichnung, Erhalt von Metadaten, Nachweise und Verantwortlichkeiten in Verträge mit KI-Anbietern, Agenturen und Plattformen auf und sensibilisieren Sie Marketing, Kommunikation, HR und Kundenservice.

Fazit

Art. 50 AI Act macht Transparenz zu einem festen Bestandteil der KI-Governance, verlangt aber keine pauschale Kennzeichnung jedes KI-unterstützten Inhalts. Entscheidend sind Rolle, Inhalt, Zweck und menschliche Kontrolle. Unternehmen, die ihre Use Cases jetzt klassifizieren, redaktionelle Verantwortung dokumentieren und Kennzeichnungen mediengerecht umsetzen, reduzieren nicht nur Bußgeld- und Reputationsrisiken, sondern stärken auch das Vertrauen in ihren KI-Einsatz.

Diese Mandanteninformation beinhaltet lediglich eine unverbindliche Übersicht über das in ihr adressierte Themengebiet. Sie ersetzt keine rechtliche Beratung. Als Ansprechpartner zu dieser Mandanteninformation und zu Ihrer Beratung steht gerne zur Verfügung: