Der AI Act wird konkret: Ab dem 2. August 2026 gelten die Transparenzpflichten des Art. 50. Chatbots müssen sich zu erkennen geben, KI-generierte Inhalte sollen maschinenlesbar gekennzeichnet werden und für Deepfakes sowie bestimmte KI-Texte gelten Kennzeichnungspflichten. Was Anbieter, Creator und Unternehmen jetzt wissen sollten – und warum es dabei weniger um Verbote als um Transparenz geht.

KI-Interaktion

Wer ein KI-System anbietet, das direkt mit Menschen interagiert (etwa einen Chatbot), muss grundsätzlich dafür sorgen, dass die Nutzer wissen, dass sie mit einer Maschine sprechen. Die Ausnahme liegt dort, wo das ohnehin offensichtlich ist. Das klingt banal. Ist es aber nicht. Denn je überzeugender KI kommuniziert, desto weniger selbstverständlich wird die Unterscheidung zwischen Mensch und Maschine. Was früher an Formulierungen wie „Ich kann Ihnen dabei helfen“ noch erkennbar war, kann künftig problemlos wie ein menschliches Gespräch wirken. Transparenz soll deshalb nicht erst dann einsetzen, wenn jemand ausdrücklich danach fragt.

KI-Inhalte

Noch interessanter wird es bei generativen KI-Systemen. Anbieter müssen ihre Systeme grundsätzlich so gestalten, dass KI-generierte oder manipulierte Inhalte technisch – also maschinenlesbar – erkennbar sind. Damit sollen etwa Herkunft und künstliche Erzeugung eines Inhalts für entsprechende technische Systeme nachvollziehbar bleiben. Das bedeutet allerdings nicht, dass plötzlich jedes mit KI bearbeitete Dokument mit einem riesigen Warnhinweis versehen werden muss. Der AI Act sieht Ausnahmen vor – etwa bei Systemen, die lediglich eine unterstützende Funktion übernehmen, oder wenn Eingaben nicht wesentlich verändert werden.

Deepfakes & KI-Texte

Für Betreiber – also etwa Creator, Unternehmen oder Medienhäuser – wird es besonders relevant, wenn KI-generierte Inhalte veröffentlicht werden.

Das bekannteste Beispiel sind Deepfakes: ein künstlich erzeugtes oder manipuliertes Bild, Audio oder Video, das eine reale Person, einen realen Ort oder ein reales Ereignis täuschend echt erscheinen lässt. Solche Inhalte müssen grundsätzlich sichtbar als künstlich erzeugt oder manipuliert gekennzeichnet werden. Das gilt dabei grundsätzlich unabhängig davon, ob der Ersteller tatsächlich jemanden täuschen wollte. Bei Kunst, Satire oder Fiktion ist die Regel etwas anders: Hier soll die Kennzeichnung zwar erfolgen, aber so, dass sie die Wirkung des Werkes möglichst wenig beeinträchtigt.

Das ist ein interessanter Gedanke. Der AI Act versucht also nicht, künstliche Inhalte aus der Öffentlichkeit zu verbannen. Er versucht, Täuschung durch Unsichtbarkeit zu verhindern.

Wer KI-generierte oder manipulierte Texte zu Themen von öffentlichem Interesse veröffentlicht, muss grundsätzlich darauf hinweisen, dass sie künstlich erzeugt oder verändert wurden. Hier gibt es allerdings eine wichtige Ausnahme: Wenn ein Mensch den Text einer entsprechenden Überprüfung unterzieht, redaktionell kontrolliert und die Verantwortung für seine Veröffentlichung übernimmt, greift diese Kennzeichnungspflicht nicht.

Damit wird ein Unterschied sichtbar, der für die Zukunft von Journalismus und Content-Produktion noch interessant werden dürfte:
KI als Werkzeug ist etwas anderes als KI als Autor.

Emotionserkennung & Biometrie

Der vierte Anwendungsfall betrifft Emotionserkennung und biometrische Kategorisierung. Wer solche Systeme einsetzt, muss die betroffenen Personen grundsätzlich darüber informieren. Auch hier geht es um Transparenz: Menschen sollen wissen, wenn ein KI-System sie nicht nur „sieht“, sondern versucht, bestimmte Eigenschaften oder emotionale Zustände aus ihnen abzuleiten. Für gesetzlich geregelte Strafverfolgungszwecke gelten besondere Ausnahmen.

Was passiert bei Verstößen?

Transparenz klingt zunächst nach einer eher sanften Form der Regulierung. Das sollte man nicht mit Bedeutungslosigkeit verwechseln. Verstöße gegen die Vorgaben des AI Act können empfindliche Sanktionen nach sich ziehen. Für bestimmte Verstöße sind Geldbußen von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes vorgesehen. Gerade für Unternehmen und professionelle Content-Produzenten lohnt sich deshalb ein Blick auf die eigenen Prozesse.

Und was ist mit meinen alten Inhalten?

Eine wichtige Frage für Creator: Muss jetzt das gesamte Archiv durchforstet und nachträglich mit KI-Hinweisen versehen werden? Grundsätzlich nein. Inhalte, die bereits vor dem 2. August 2026 erzeugt wurden, müssen nicht rückwirkend gekennzeichnet werden.

Für bereits vor diesem Datum in Verkehr gebrachte generative KI-Systeme gibt es zudem bei der maschinenlesbaren Kennzeichnung eine Übergangsfrist bis zum 2. Dezember 2026.

Fazit

Der AI Act verfolgt mit Art. 50 keinen besonders komplizierten Grundgedanken: Menschen sollen wissen können, wann KI im Spiel ist. Nicht jede KI-Nutzung muss sichtbar gemacht werden. Nicht jeder KI-Inhalt braucht denselben Hinweis. Und KI wird durch die Kennzeichnungspflichten auch nicht weniger kreativ oder nützlich. Aber dort, wo die Grenze zwischen menschlichem und künstlichem Inhalt für den Betrachter relevant wird, soll sie nicht einfach unsichtbar bleiben. Vielleicht ist das sogar eine der vernünftigsten Ideen des AI Act: Nicht alles verbieten, was neu ist. Aber dafür sorgen, dass wir erkennen können, was wir eigentlich vor uns haben.