Seit gestern wurde ernst, was der AI Act (auf deutsch: KI-VO) seit zwei Jahren ankündigt: Die Transparenzpflichten aus Artikel 50 gelten. Anders als die aufwendigen Pflichten für Hochrisiko-Systeme, deren Anwendung der „Digital Omnibus on AI“ auf Ende 2027 verschoben hat, greifen diese Regeln wie geplant. Und ihre Einhaltung lässt sich in vielen Fällen mit bloßem Auge prüfen. Wer ein KI-Video ohne Label sieht, hat bereits einen Anhaltspunkt für einen Verstoß. Entsprechend schnell dürfte die Durchsetzung anlaufen, zumal in Deutschland die Bundesnetzagentur das Vollzugsmandat erhalten soll.
Für Energieversorger, Stadtwerke und Netzbetreiber ist das kein Nischenthema. Wer einen Chatbot im Kundenportal betreibt, KI-generierte Bilder in der Kommunikation nutzt oder Texte teilautomatisiert erstellt, kann unter diese Pflichten fallen. Wir geben hier einen ersten Überblick, welche rechtlichen Anforderungen bei der Nutzung von KI in Kommunikation und Kundenkontakt jetzt gelten.
Worum es geht: vier Situationen
Artikel 50 des AI Acts knüpft an vier Situationen an. Erstens muss offengelegt werden, wenn Menschen direkt mit einer KI interagieren, etwa mit einem Chatbot oder einem Sprachassistenten. Zweitens müssen Anbieter generativer KI ihre Ausgaben (Bild, Ton, Video, Text) maschinenlesbar markieren und als künstlich erkennbar machen. Drittens gelten Informationspflichten bei Emotionserkennung und biometrischer Kategorisierung. Viertens, und praktisch am sichtbarsten, müssen sogenannte Deepfakes sowie KI-generierte Texte zu Fragen von öffentlichem Interesse gekennzeichnet werden.
Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz festgelegten Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.
Wichtig ist die Rollenverteilung. Anbieter entwickeln ein KI-System und bringen es in Verkehr; Betreiber setzen es unter eigener Verantwortung ein. Die meisten Unternehmen sind Betreiber, etwa wenn sie ein Standardmodell für Marketing oder Kundenservice nutzen. Und genau an die Betreiber richtet sich die unmittelbar sichtbare Kennzeichnungspflicht.
Keine Angst vor falschen Entscheidungen: Wer sich ein schlüssiges Konzept zur Kennzeichnungspflicht unter dem AI Act überlegt hat, muss keine Strafen fürchten. Dokumentation ist jedoch das A und O.
Was unter dem AI Act konkret zu kennzeichnen ist
Betreiber müssen Deepfakes, also KI-erzeugte oder KI-veränderte Bild-, Audio- oder Videoinhalte, die realen Personen, Orten oder Ereignissen ähneln und echt wirken könnten, klar und wahrnehmbar ausweisen. Der begleitende Code of Practice der Kommission sieht dafür eigene Kennzeichen vor: ein „KI“-Label mit dem Zusatz „GENERATED“ für vollständig erzeugte und „MODIFIED“ für nachträglich veränderte Inhalte. Entscheidend ist, dass das Label direkt in den Inhalt eingebettet wird, etwa in die obere rechte Ecke eines Bildes. Ein Hinweis allein in der Bildunterschrift genügt ausdrücklich nicht. Bei Videos ist die Kennzeichnung zu Beginn und nach Unterbrechungen zu wiederholen, bei reinen Audioinhalten tritt ein hörbarer Hinweis an ihre Stelle.
Nicht jede KI-Nutzung löst die Pflicht aus. Reine Bearbeitungshilfen ohne wesentliche Änderung, etwa Rechtschreibkorrektur, leichtes Zuschneiden oder Rauschunterdrückung, sind ausgenommen. Eine KI-Übersetzung, das Einfügen von Objekten oder das Verändern einer Person hingegen sind auszuweisen. Für erkennbar künstlerische oder satirische Werke gilt eine abgeschwächte Pflicht, die den Werkgenuss nicht stören soll.
Bei Chatbots und Assistenten gilt: Nutzer müssen zu Beginn der Interaktion erfahren, dass sie mit einer KI sprechen, es sei denn, das ist ohnehin offensichtlich. Bei KI-Texten zu Themen von öffentlichem Interesse entfällt die Pflicht, wenn der Text redaktionell geprüft wurde und eine verantwortliche Person dahintersteht.
Praktische Beispiele: Kennzeichnung ja oder nein?
Muss jedes Bild mit KI gekennzeichnet sein?
Nein. Es kommt darauf an, wie stark das Erleben des Produkts verfälscht ist. Und es gilt auch der Kontext: Schon in Zeiten vor KI gab es Werbung, bei der die Kunden wussten, worauf sie sich einlassen. Wirbt ein Model in einer Werbung beispielsweise für eine Flasche Cola vor einer KI-generierten Strandszenerie, ist das genauso wenig relevant wie eine Nachbearbeitung des Bildes zur Entfernung einer Sommersprosse oder eines Schweißtropfens auf der Haut der Person. Wird allerdings das Produkt selbst verändert oder mit dem besprochenen Strand eine Traumreise an einen Strand beworben, den es nicht gibt, ist das zu kennzeichnen. Im Zweifel kommt es immer auf den Einzelfall an.
Muss ich bestehende Bilder auf meiner Website markieren?
Nein, es gilt das Veröffentlichungsdatum. Was ab 2. August 2026 veröffentlicht wird, muss markiert sein. Was schon vorher sichtbar war, nicht.
Muss ich auch im privaten Umfeld markieren?
Nein, Privatpersonen sind vom AI Act ausgenommen.
Muss ich alle Änderungen dokumentieren?
Eine rechtliche Verpflichtung gibt es nicht, aber es ist ratsam, KI-generierte Bilder oder Videos zumindest intern zu kennzeichnen oder in einem separaten Ordner abzulegen, um selbst zu wissen, was verändert wurde und was nicht.
Fristen und Sanktionen
Die Offenlegungspflicht der Betreiber gilt ab dem 2. August 2026. Für die maschinenlesbare Markierung durch Anbieter besteht eine kurze Schonfrist bis zum 2. Dezember 2026, sofern das generative System vor August auf dem Markt war. Altinhalte müssen nicht rückwirkend gekennzeichnet werden.
Die Sanktionen sind spürbar: Artikel 99 der KI-VO sieht Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor. Das Bußgeld ist aber nicht das einzige Risiko. Eine fehlende oder irreführende Kennzeichnung kann zugleich als unlautere Geschäftspraktik gelten. Damit greift neben der KI-VO auch das Wettbewerbsrecht (UWG), und Verstöße lassen sich von Mitbewerbern und Verbänden unabhängig abmahnen. Hinzu kommt, dass jede betroffene Person Beschwerde bei der Marktaufsichtsbehörde einlegen kann.
Was man jetzt am besten tut
Die Kennzeichnung ist zudem nur ein Baustein. Bereits seit dem 2. Februar 2025 gilt die Pflicht zur KI-Kompetenz aus Artikel 4 der KI-VO: Unternehmen müssen sicherstellen, dass Mitarbeitende, die KI einsetzen oder deren Ergebnisse verantworten, über ein ausreichendes Verständnis der Technik und ihrer Grenzen verfügen. Wer weiß, wann ein Inhalt kennzeichnungspflichtig wird, erfüllt beide Anforderungen leichter.
Leitlinien und Code of Practice der Kommission sind rechtlich nicht bindend; verbindlich auslegen kann Artikel 50 am Ende nur der Europäische Gerichtshof. Praktisch werden beide aber zum Maßstab: Wer sich daran hält, kann seine Konformität gegenüber den Behörden belegen.
Für Unternehmen heißt das weniger, hektisch Labels zu verteilen, als zu wissen, wo im eigenen Haus KI-Inhalte entstehen, und die Kennzeichnung sauber in die bestehenden Prozesse einzubauen. Es geht darum, Awareness für das Thema zu schaffen. Kann man den Aufsichtsbehörden nachweisen, dass es einen Prozess und eine Strategie für den rechtskonformen Umgang gibt, ist das schon die halbe Miete.
Als Faustregel könnten folgende fünf Schritte gelten:
- Assets sichten und bewerten
- Dokumentation
- Verantwortlichkeiten klären
- Verbindliche Standards formulieren, Einzelfälle im Team besprechen
- Im Zweifel einmal zu oft markieren als einmal zu wenig
Genau hier liegt der eigentliche Kern. Die Kennzeichnungspflicht ist am Ende eine Frage von Datentransparenz und Prozessdisziplin: ein belastbarer Überblick, wo KI in Kundenkommunikation, Portalen und Content-Produktion im Einsatz ist, und Workflows, die die Markierung verlässlich mitführen.
Das ist die Perspektive, aus der wir bei control-f auf das Thema schauen, wenn wir mit Energieversorgern über ihre Daten- und Digitalinfrastruktur sprechen.
AI Act: Eine praktische Linksammlung
- Gesetzestext des AI Act: artificialintelligenceact.eu/de/das-gesetz
- Die Guidelines der Europäischen Kommission zur Kennzeichnungspflicht: Guidelines on transparency of AI-generated content
- EU-Icons zur Kennzeichnung von KI-generierten Inhalten: EU icons for labelling AI-generated content
Dieser Beitrag gibt einen Überblick und ersetzt keine Rechtsberatung im Einzelfall.