Kennzeichnungspflicht für KI-Inhalte – Welche Vorgaben Unternehmen ab August 2026 beachten müssen

Mit dem Inkrafttreten der europäischen KI-Verordnung (KI-VO bzw. AI Act) hat die Europäische Union erstmals einen einheitlichen Rechtsrahmen für den Einsatz künstlicher Intelligenz geschaffen. Zwar gilt die Verordnung bereits seit dem 1. August 2024, ihre Regelungen treten jedoch schrittweise in Kraft. Für Unternehmen besonders relevant sind die Transparenzvorgaben des Art. 50 KI-VO, die grundsätzlich ab dem 2. August 2026 anzuwenden sind.

Die Kennzeichnungspflicht für KI-Inhalte ist ein wesentlicher Bestandteil dieser Transparenzanforderungen. Sie soll sicherstellen, dass Nutzer erkennen können, wenn Inhalte mithilfe künstlicher Intelligenz erstellt oder verändert wurden. Je nach Einsatzbereich können insbesondere folgende Inhalte betroffen sein:

• KI-generierte Bilder und Grafiken,
• künstlich erzeugte oder manipulierte Videos,
• Audioinhalte, beispielsweise synthetische Stimmen,
• Deepfakes sowie
• in bestimmten Konstellationen auch KI-generierte Texte.

Hintergrund der gesetzlichen Vorgaben ist die zunehmende Qualität moderner KI-Systeme. Digitale Inhalte lassen sich inzwischen so realistisch erzeugen oder verändern, dass für Außenstehende häufig nicht mehr erkennbar ist, ob sie von einem Menschen oder einer künstlichen Intelligenz stammen. Die Kennzeichnungspflicht soll deshalb Manipulationen erschweren, das Vertrauen in digitale Informationen stärken und den Missbrauch von KI, wie beispielsweise zur Verbreitung von Desinformation oder für Betrugsversuche, eindämmen. Unternehmen sollten ihre bestehenden KI-Anwendungen daher frühzeitig überprüfen und interne Prozesse an die Anforderungen des Art. 50 KI-VO anpassen.

Für wen gilt die Kennzeichnungspflicht für KI-Inhalte?

Ob ein Unternehmen die Kennzeichnungspflicht für KI-Inhalte beachten muss, richtet sich nicht nach seiner Größe oder Branche. Entscheidend ist vielmehr, wie künstliche Intelligenz eingesetzt wird und ob dadurch Inhalte entstehen oder verändert werden, bei denen Dritte den KI-Einsatz nicht ohne Weiteres erkennen können.

Die Transparenzpflichten des Art. 50 KI-VO richten sich insbesondere an Anbieter und Betreiber bestimmter KI-Systeme. Unternehmen sollten deshalb nicht nur ihre eingesetzten KI-Lösungen kennen, sondern auch prüfen, welche Ergebnisse diese erzeugen und veröffentlichen.

Typische Anwendungsbereiche in Unternehmen

Eine Kennzeichnungspflicht kann unter anderem relevant werden, wenn KI für folgende Zwecke genutzt wird:

• Erstellung von Werbe- und Produktbildern,
• Veröffentlichung von Social-Media-Inhalten,
• automatisierte Kundenkommunikation oder Chatbots,
• Generierung von Audio- oder Videoinhalten,
• Entwicklung intelligenter Softwarelösungen,
• Marketing- und Kommunikationsmaßnahmen sowie
• Personal- und Recruiting-Prozesse.

Sobald mithilfe künstlicher Intelligenz Inhalte veröffentlicht werden, die für Außenstehende wie authentische menschliche Inhalte wirken können, sollte geprüft werden, ob eine Kennzeichnung erforderlich ist.

Besondere Bedeutung von Deepfakes bei der Kennzeichnungspflicht für KI-Inhalte

Eine besondere Rolle nehmen sogenannte Deepfakes ein. Dabei handelt es sich um künstlich erzeugte oder nachträglich manipulierte Bild-, Audio- oder Videoinhalte, die den Eindruck vermitteln können, eine Person habe bestimmte Aussagen getroffen oder Handlungen vorgenommen, obwohl dies tatsächlich nie geschehen ist.

Gerade wegen des hohen Missbrauchspotenzials schreibt Art. 50 KI-VO grundsätzlich vor, dass Deepfakes eindeutig als künstlich erstellt oder manipuliert gekennzeichnet werden müssen. Nur für wenige gesetzlich geregelte Ausnahmefälle, beispielsweise unter bestimmten Voraussetzungen im journalistischen, wissenschaftlichen, künstlerischen oder satirischen Bereich sowie bei einzelnen Maßnahmen der Strafverfolgung, gelten Erleichterungen.

Für Unternehmen empfiehlt sich daher zunächst eine Bestandsaufnahme aller eingesetzten KI-Anwendungen. Erst wenn bekannt ist, welche Inhalte durch künstliche Intelligenz erstellt oder verändert werden, lässt sich zuverlässig beurteilen, ob die Kennzeichnungspflicht für KI-Inhalte im jeweiligen Einzelfall greift.

Welche KI-Inhalte müssen gekennzeichnet werden?

Ob die Kennzeichnungspflicht für KI-Inhalte greift, hängt maßgeblich davon ab, welche Art von Inhalt mithilfe künstlicher Intelligenz erstellt oder verändert wird. Art. 50 KI-VO unterscheidet zwischen verschiedenen Kategorien von KI-generierten beziehungsweise KI-manipulierten Inhalten.

Unternehmen sollten sich nicht allein auf die eingesetzte Software konzentrieren, sondern vor allem auf das Ergebnis, das veröffentlicht oder Dritten zugänglich gemacht wird. Entscheidend ist, ob der jeweilige Inhalt nach den Vorgaben der KI-Verordnung transparent als KI-generiert oder KI-manipuliert kenntlich gemacht werden muss.

Diese Inhalte sind regelmäßig kennzeichnungspflichtig

Zu den typischen Inhalten, für die eine Kennzeichnung erforderlich sein kann, zählen insbesondere:

• KI-generierte Bilder, beispielsweise für Werbekampagnen, Onlineshops oder Unternehmenswebseiten,
• künstlich erzeugte Audioinhalte, etwa synthetische Stimmen, Sprachaufnahmen oder automatisierte Telefonansagen,
• KI-generierte oder manipulierte Videos, unabhängig davon, ob sie vollständig neu erstellt oder nachträglich verändert wurden,
• Deepfakes, bei denen Bild-, Ton- oder Videomaterial so verändert wird, dass Personen scheinbar Aussagen treffen oder Handlungen ausführen, die tatsächlich nie stattgefunden haben,
• bestimmte KI-generierte Texte, sofern die KI-Verordnung für den jeweiligen Anwendungsfall ausdrücklich eine Offenlegung verlangt.

Nicht jede KI-Nutzung löst automatisch eine Kennzeichnungspflicht aus

Der Einsatz künstlicher Intelligenz führt jedoch nicht automatisch dazu, dass veröffentlichte Inhalte gekennzeichnet werden müssen. In vielen Unternehmen dient KI lediglich als unterstützendes Werkzeug im Arbeitsalltag, beispielsweise für:

• Rechtschreib- und Grammatikkorrekturen,
• Übersetzungen,
• Ideen- und Gliederungserstellung,
• Formulierungshilfen oder
• die Unterstützung bei der Texterstellung.

Wird künstliche Intelligenz ausschließlich in dieser unterstützenden Funktion eingesetzt und greifen keine besonderen Transparenzpflichten der KI-VO, besteht regelmäßig keine Kennzeichnungspflicht allein aufgrund der Nutzung der KI.

Ob ein Hinweis erforderlich ist, lässt sich daher nur anhand der konkreten Umstände beurteilen. Maßgeblich sind insbesondere die Art des veröffentlichten Inhalts, dessen Verwendungszweck sowie die Frage, ob Nutzer ohne Kennzeichnung über den Ursprung oder die Echtheit des Inhalts getäuscht werden könnten.

Wie müssen KI-Inhalte gekennzeichnet werden?

Die Kennzeichnungspflicht für KI-Inhalte verpflichtet Unternehmen dazu, bestimmte mit künstlicher Intelligenz erzeugte Inhalte transparent kenntlich zu machen. Art. 50 KI-VO schreibt dabei jedoch keine einheitliche Form der Kennzeichnung vor. Entscheidend ist vielmehr, dass der Hinweis für den jeweiligen Empfänger leicht erkennbar, verständlich und rechtzeitig wahrnehmbar ist.

Eine Kennzeichnung darf deshalb weder versteckt noch erst nach längerer Suche auffindbar sein. Nutzer müssen bereits beim Wahrnehmen des Inhalts erkennen können, dass künstliche Intelligenz bei dessen Erstellung oder Veränderung eingesetzt wurde.

Beispiele für eine rechtssichere Kennzeichnung

Je nach Medium kommen unterschiedliche Formen der Kennzeichnung in Betracht. Hier finden Sie einige Beispiele:

Prozesse zur Umsetzung der Kennzeichnungspflicht für KI-Inhalte

Die Umsetzung der Kennzeichnungspflicht sollte nicht dem Zufall überlassen werden. Unternehmen profitieren von klaren internen Vorgaben, die den Umgang mit KI-generierten Inhalten verbindlich regeln. Dazu gehören insbesondere:

• einheitliche Kennzeichnungsstandards für alle Unternehmensbereiche,
• klare Verantwortlichkeiten für Prüfung und Freigabe,
• Schulungen der Mitarbeitenden im Marketing, in der Kommunikation und in den Fachabteilungen sowie
• regelmäßige Überprüfung der bestehenden Prozesse.

Welche Ausnahmen gelten von der Kennzeichnungspflicht für KI-Inhalte?

Die Kennzeichnungspflicht für KI-Inhalte gilt nicht uneingeschränkt für jede Nutzung künstlicher Intelligenz. Der europäische Gesetzgeber hat in Art. 50 KI-VO verschiedene Ausnahmen vorgesehen, um einen angemessenen Ausgleich zwischen Transparenz, Meinungsfreiheit sowie der Kunst- und Wissenschaftsfreiheit zu schaffen. Dennoch sind diese Ausnahmen eng auszulegen und sollten von Unternehmen sorgfältig geprüft werden.

In diesen Fällen kann eine Kennzeichnung entfallen

Eine Kennzeichnung ist nicht in jedem Anwendungsfall erforderlich. Zu den wichtigsten Ausnahmen zählen insbesondere:

• Offensichtlich künstlich erzeugte Inhalte: Ist bereits auf den ersten Blick erkennbar, dass ein Bild, Video oder anderer Inhalt mithilfe künstlicher Intelligenz erstellt wurde, kann eine zusätzliche Kennzeichnung entbehrlich sein (Beispiel: Comic-Bild).
• Journalistische Berichterstattung: Werden Deepfakes im Rahmen der journalistischen Berichterstattung verwendet, etwa um über einen manipulierten Videoclip oder die Verbreitung von Deepfakes zu berichten, sieht die KI-Verordnung unter bestimmten Voraussetzungen Erleichterungen vor. Voraussetzung ist jedoch, dass das Publikum nicht über den künstlichen Ursprung oder die Manipulation des Materials getäuscht wird.
• Kunst, Satire und Fiktion: Für künstlerische, satirische oder fiktionale Inhalte können unter bestimmten Voraussetzungen Ausnahmen gelten. Ein Beispiel ist ein offensichtlich satirisches KI-Bild, das einen Politiker auf dem Mond zeigt, oder ein vollständig fiktischer Kurzfilm mit KI-generierten Figuren. Voraussetzung ist jedoch, dass der künstliche oder fiktionale Charakter der Darstellung erkennbar bleibt und Betrachter nicht über deren Echtheit oder Herkunft getäuscht werden.
• Strafverfolgung und Gefahrenabwehr: Behörden können bei der Nutzung bestimmter KI-Systeme in gesetzlich geregelten Fällen von einzelnen Transparenzpflichten ausgenommen sein.

Sonderregelung für KI-generierte Texte

Eine besonders praxisrelevante Ausnahme betrifft KI-generierte Texte. Werden diese vor ihrer Veröffentlichung umfassend von einem Menschen überprüft, redaktionell überarbeitet und anschließend von einer natürlichen oder juristischen Person verantwortet, greift die Offenlegungspflicht nach Art. 50 KI-VO regelmäßig nicht.

Der Gesetzgeber berücksichtigt damit, dass künstliche Intelligenz in vielen Unternehmen lediglich als unterstützendes Werkzeug eingesetzt wird, während die inhaltliche Verantwortung weiterhin beim Menschen verbleibt.

Praxisbeispiele:

• Ein Unternehmen lässt einen Blogbeitrag zunächst von einer KI entwerfen. Anschließend wird der Text fachlich geprüft, sprachlich überarbeitet und erst danach veröffentlicht. In diesem Fall besteht regelmäßig keine Kennzeichnungspflicht, sofern das Unternehmen die Verantwortung für den Inhalt übernimmt.
• Gleiches gilt für Pressemitteilungen, Fachbeiträge oder LinkedIn-Posts, die zwar mit Unterstützung einer KI erstellt, vor der Veröffentlichung jedoch umfassend redaktionell kontrolliert und freigegeben werden.
• Anders ist die Situation zu beurteilen, wenn ein KI-System Inhalte automatisiert veröffentlicht, beispielsweise Nachrichten, Social-Media-Beiträge oder andere Texte ohne menschliche Prüfung. In solchen Fällen greift die Ausnahme grundsätzlich nicht, sodass die Kennzeichnungspflicht für KI-Inhalte weiterhin bestehen kann.

Welche Bußgelder drohen bei Verstößen gegen die Kennzeichnungspflicht für KI-Inhalte?

Die Kennzeichnungspflicht für KI-Inhalte ist keine unverbindliche Empfehlung, sondern eine gesetzliche Verpflichtung nach der KI-Verordnung. Unternehmen, die gegen die Transparenzvorgaben des Art. 50 KI-VO verstoßen, müssen daher mit erheblichen rechtlichen und wirtschaftlichen Konsequenzen rechnen.

Nach der KI-Verordnung können Verstöße gegen bestimmte Transparenzpflichten mit Geldbußen von bis zu 15 Millionen Euro oder bis zu 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden. Wie hoch das Bußgeld im Einzelfall ausfällt, hängt von verschiedenen Umständen ab. Berücksichtigt werden unter anderem die Schwere und Dauer des Verstoßes, das Verschulden des Unternehmens, die Anzahl der betroffenen Personen, bereits ergriffene Abhilfemaßnahmen, die Zusammenarbeit mit der zuständigen Aufsichtsbehörde, frühere Verstöße sowie die wirtschaftliche Leistungsfähigkeit des Unternehmens.

Neben finanziellen Sanktionen stehen den Aufsichtsbehörden weitere Eingriffsmöglichkeiten zur Verfügung. So können sie beispielsweise anordnen, dass bereits veröffentlichte Inhalte nachträglich gekennzeichnet werden, den Einsatz bestimmter KI-Systeme untersagen oder Maßnahmen verlangen, mit denen ein rechtmäßiger Zustand hergestellt wird. Für Unternehmen, die künstliche Intelligenz intensiv im Marketing, Vertrieb oder in der Kundenkommunikation einsetzen, können solche Anordnungen erhebliche Auswirkungen auf die täglichen Geschäftsabläufe haben.

Unternehmen sollten die Kennzeichnungspflicht daher nicht isoliert betrachten. Sinnvoll ist vielmehr ein ganzheitlicher Ansatz, bei dem der Einsatz von KI-Systemen durch klare interne Verantwortlichkeiten, dokumentierte Freigabeprozesse und regelmäßige Kontrollen begleitet wird. Auf diese Weise lassen sich rechtliche Risiken deutlich reduzieren und die Anforderungen der KI-Verordnung langfristig rechtssicher umsetzen.

Fazit: Kennzeichnungspflicht für KI-Inhalte

Die Kennzeichnungspflicht für KI-Inhalte verpflichtet Unternehmen dazu, den Einsatz künstlicher Intelligenz transparent offenzulegen, sofern die Voraussetzungen des Art. 50 KI-VO erfüllt sind. Wer KI für Bilder, Videos, Audioinhalte oder bestimmte Texte nutzt, sollte frühzeitig prüfen, ob eine Kennzeichnung erforderlich ist, und entsprechende Prozesse im Unternehmen etablieren.

Da neben der KI-Verordnung häufig auch weitere Vorschriften, etwa aus der DSGVO, dem UWG oder dem Medienrecht, zu beachten sind, empfiehlt sich ein ganzheitlicher Compliance-Ansatz. So lassen sich rechtliche Risiken minimieren und KI-Anwendungen verantwortungsvoll sowie rechtskonform einsetzen.

Fragen zur Kennzeichnungspflicht für KI-Inhalte?

Unsere spezialisierten Rechtsanwälte für IT- und Datenschutzrecht beraten Sie zu den Transparenz- und Kennzeichnungspflichten nach dem AI Act und helfen Ihnen bei der rechtssicheren Umsetzung in Ihrem Unternehmen. Jetzt Beratung anfordern oder unverbindlich Kontakt mit uns aufnehmen!