Ein Chatbot beantwortet Kundenfragen, eine KI erstellt Marketingmaterial, ein digitaler Assistent unterstützt Beschäftigte. Mit solchen Anwendungen entstehen konkrete Transparenzpflichten: Menschen müssen unter bestimmten Voraussetzungen erkennen können, dass sie mit KI interagieren oder künstlich erzeugte Inhalte sehen.
Die europäische KI-Verordnung, bekannt als AI Act, regelt diese Anforderungen insbesondere in Artikel 50. Sie gelten grundsätzlich seit dem 2. August 2026. Welche Pflichten ein Unternehmen erfüllen muss, hängt von seiner Rolle und dem konkreten Einsatzfall ab. Grundlage dieses Artikels ist die Verordnung (EU) 2024/1689 in ihrer geltenden Fassung.
Als durchgängiges Praxisbeispiel dient die fiktive Nordwerk AG, ein europaweit tätiger Industriekonzern mit Produktion, Vertrieb und Kundenservice. Der Konzern möchte einen Kundenchatbot einführen, Beschäftigte bei der Informationssuche unterstützen und KI für seine Unternehmenskommunikation einsetzen.
Zuerst klären: Anbieter oder Betreiber?
Artikel 3 unterscheidet zwei zentrale Rollen:
Anbieter ist insbesondere, wer ein KI-System entwickelt oder entwickeln lässt und es unter seinem eigenen Namen oder seiner eigenen Marke in Verkehr bringt oder in Betrieb nimmt.
Betreiber ist, wer ein KI-System unter seiner Verantwortung verwendet. Ein Unternehmen kann für unterschiedliche Anwendungen unterschiedliche Rollen übernehmen und bei einem System auch beide Funktionen erfüllen.
Die Nordwerk AG kauft beispielsweise eine fertige KI-Anwendung zur internen Informationssuche ein. Ihre Beschäftigten nutzen diese Anwendung im Unternehmen. Nordwerk übernimmt dabei die Betreiberrolle.
Für ihren Kundenservice lässt Nordwerk dagegen einen eigenen KI-Assistenten entwickeln und nimmt ihn unter eigenem Namen in Betrieb. In diesem Beispiel ist der Konzern auch Anbieter des Systems. Dass die Anwendung auf einem externen Sprachmodell basiert, ändert an dieser Einordnung nicht automatisch etwas.
Was Nordwerk tun sollte: Bereits vor der Einführung für jede Anwendung festhalten, welche Rolle der Konzern übernimmt. Diese Einordnung bildet die Grundlage für die weiteren Verantwortlichkeiten.
Beispiel 1: Ein KI-Chatbot im Kundenservice
Nordwerk führt einen Chatbot ein, der Kunden bei Ersatzteilbestellungen unterstützt. Er beantwortet Fragen, erklärt Produkte und begleitet die Auswahl geeigneter Komponenten.
Artikel 50 Absatz 1 verpflichtet Anbieter interaktiver KI-Systeme, die betroffenen Personen über die KI-Interaktion zu informieren. Eine Ausnahme besteht, wenn dies im jeweiligen Nutzungskontext offensichtlich ist. Die Information muss nach Absatz 5 spätestens bei der ersten Interaktion klar erkennbar und zugänglich sein.
Was Nordwerk umsetzen müsste: Der selbst bereitgestellte Kundenchatbot muss entsprechend gestaltet werden. Eine mögliche Umsetzung ist ein Hinweis direkt beim Öffnen des Chats:
„Sie kommunizieren mit einem KI-Assistenten der Nordwerk AG.“
Für die Umsetzung empfiehlt sich, die Information unmittelbar in die Benutzeroberfläche einzubauen. Das Projektteam sollte prüfen, ob sie auch auf Smartphones, bei Vergrößerung der Darstellung und mit unterstützenden Technologien wahrnehmbar bleibt.
Erwägungsgrund 132 erläutert, dass solche Hinweise dem Schutz vor Täuschung dienen. Er berücksichtigt ausdrücklich auch Menschen, die aufgrund ihres Alters oder einer Behinderung besonders schutzbedürftig sind.
Beispiel 2: Eine eigene Plattform für KI-generierte Inhalte
Die Marketingabteilung möchte Produktbilder und Werbetexte erstellen. Nordwerk entwickelt dafür eine eigene generative KI-Anwendung und nimmt diese unter seinem Namen in Betrieb.
Als Anbieter muss Nordwerk nach Artikel 50 Absatz 2 dafür sorgen, dass synthetische Ausgaben maschinenlesbar markiert und als künstlich erzeugt oder manipuliert erkennbar sind. Die Vorschrift berücksichtigt unter anderem technische Machbarkeit, Umsetzungskosten und den anerkannten Stand der Technik. Für bestimmte unterstützende Bearbeitungsfunktionen bestehen Ausnahmen.
Was Nordwerk umsetzen müsste: Die technische Kennzeichnung gehört in die Entwicklung der Plattform. Das Unternehmen muss eine geeignete Lösung vorsehen und deren Funktionsfähigkeit beurteilen.
Praktisch sollte das Projektteam außerdem testen, was beim Exportieren, Zuschneiden oder Konvertieren der Inhalte passiert. Diese Schritte können technische Markierungen verändern oder entfernen.
Verwendet Nordwerk stattdessen eine fertige externe Anwendung, liegt die Anbieterpflicht zunächst beim Anbieter dieses Systems. Für die Auswahl einer solchen Lösung empfiehlt sich daher eine gezielte Prüfung der bereitgestellten Kennzeichnungsfunktionen.
Beispiel 3: Ein künstlich erzeugtes Video des Vorstandsvorsitzenden
Für eine internationale Produktvorstellung möchte Nordwerk ein Video erstellen, in dem der Vorstandsvorsitzende scheinbar mehrere Sprachen spricht. Bild und Stimme werden mithilfe von KI erzeugt. Das Video wirkt wie eine echte Aufnahme.
Artikel 3 Nummer 60 definiert Deepfakes als KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen oder anderen realen Bezugspunkten ähneln und fälschlich authentisch erscheinen würden.
Für Inhalte, die diese Voraussetzungen erfüllen, verlangt Artikel 50 Absatz 4 eine Offenlegung durch den Betreiber des verwendeten KI-Systems.
Was Nordwerk umsetzen müsste: Das Unternehmen muss den künstlichen Ursprung offenlegen. Eine mögliche Formulierung lautet:
„Bild und Stimme wurden mithilfe künstlicher Intelligenz erzeugt.“
Der Hinweis sollte so gestaltet sein, dass das Publikum ihn beim ersten Kontakt wahrnehmen kann. Nach den Erläuterungen der Kommission genügt dafür nicht allein eine technische, für Menschen unsichtbare Markierung.
Für die Veröffentlichung empfiehlt sich ein abgestimmter Ablauf zwischen Marketing, Kommunikation und der verantwortlichen Freigabestelle. Der Hinweis sollte auch in gekürzten oder übersetzten Fassungen berücksichtigt werden.
Beispiel 4: KI schreibt einen Artikel für die Unternehmenswebsite
Nordwerk lässt einen Artikel über die wirtschaftlichen Folgen der Energiewende entwerfen. Der Beitrag soll die Öffentlichkeit über ein Thema von öffentlichem Interesse informieren.
Für solche KI-generierten oder manipulierten Texte sieht Artikel 50 Absatz 4 grundsätzlich eine Offenlegung vor. Die Vorschrift enthält jedoch eine Ausnahme: Der Inhalt wurde einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen, und eine natürliche oder juristische Person trägt die redaktionelle Verantwortung.
Nach der Erläuterung der Kommission reichen oberflächliche Kontrollen wie eine reine Rechtschreibprüfung dafür nicht aus.
Was Nordwerk umsetzen müsste: Der Konzern muss entweder die einschlägige Offenlegung vornehmen oder sicherstellen, dass die Voraussetzungen der Ausnahme erfüllt sind.
Ein sinnvoller Redaktionsprozess könnte so aussehen: Eine fachkundige Person prüft die Aussagen und Quellen, korrigiert Fehler und beurteilt die Vollständigkeit. Die verantwortliche Redaktion entscheidet anschließend über die Veröffentlichung. Nordwerk benennt die redaktionell verantwortliche Person oder Organisation ausdrücklich.
Die Festhaltung von Prüfung und Freigabe ist eine praktische Empfehlung, um diesen Ablauf nachvollziehbar zu organisieren.
Beispiel 5: Emotionserkennung und biometrische Kategorisierung
Besondere Informationspflichten bestehen beim Einsatz von Systemen zur Emotionserkennung oder biometrischen Kategorisierung. Artikel 50 Absatz 3 verpflichtet Betreiber, die betroffenen Personen über den Betrieb zu informieren.
Sollte Nordwerk eine entsprechende Anwendung planen, müsste der Konzern diese Pflicht in das Projekt aufnehmen. Zugleich wäre gesondert zu prüfen, ob der konkrete Einsatz überhaupt zulässig ist. Ein Transparenzhinweis ersetzt diese Prüfung nicht.
Für die Projektorganisation empfiehlt sich deshalb, solche Funktionen frühzeitig zu identifizieren und die zuständigen Fachstellen einzubeziehen.
Übergangsfrist: Was für bestehende Systeme gilt
Artikel 111 Absatz 4 enthält eine begrenzte Übergangsregelung. Anbieter generativer KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, müssen die Anforderungen aus Artikel 50 Absatz 2 bis zum 2. Dezember 2026 umsetzen.
Diese Frist betrifft die technische Kennzeichnung der generierten Ausgaben. Sie verschiebt die übrigen Transparenzpflichten nicht pauschal.
Was Nordwerk prüfen müsste: Falls der Konzern eine solche Anwendung bereits vor dem Stichtag in Verkehr gebracht hat, muss er beurteilen, ob die Übergangsregelung greift. Aus dem Alter eines Systems lässt sich keine allgemeine Befreiung ableiten.
Wie Nordwerk die Umsetzung organisieren kann
Für den Konzern bietet sich eine zentrale Übersicht seiner KI-Anwendungen an. Das ist eine organisatorische Empfehlung; Artikel 50 schreibt dafür keine bestimmte Vorlage vor.
In dieser Übersicht sollte Nordwerk je Anwendung festhalten:
- Verantwortung: Welcher Fachbereich betreibt die Anwendung, und wer verantwortet ihre Bereitstellung?
- Unternehmensrolle: Ist Nordwerk Anbieter, Betreiber oder beides?
- Kontaktpunkte: Wo interagieren Menschen mit dem System oder erhalten dessen Ausgaben?
- Transparenzmaßnahmen: Welche Hinweise, Offenlegungen und technischen Markierungen sind vorgesehen?
- Freigabe: Wer prüft die Umsetzung und entscheidet über den Einsatz beziehungsweise die Veröffentlichung?
Anschließend sollte das Unternehmen die tatsächlichen Abläufe testen: den Einstieg in den Kundenchat, die Ausgabe einer Bilddatei, die Darstellung des Vorstandsvideos und die Freigabe eines Fachartikels.
So werden Anforderungen in den konkreten Anwendungen überprüfbar. Die Ergebnisse lassen sich in die bestehenden Prozesse für Softwareentwicklung, Beschaffung und Unternehmenskommunikation integrieren.
Verstöße können erhebliche wirtschaftliche Folgen haben
Artikel 99 Absatz 4 Buchstabe g sieht für Verstöße gegen die Transparenzpflichten einen Bußgeldrahmen von bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor. Bei Unternehmen gilt grundsätzlich der höhere Höchstbetrag.
Für kleine und mittlere Unternehmen einschließlich Start-ups gilt nach Absatz 6 der niedrigere der beiden Höchstbeträge. Ob und in welcher Höhe eine Sanktion verhängt wird, hängt von den Umständen des Einzelfalls ab.
Transparenz als Bestandteil der KI-Einführung
Das Beispiel der Nordwerk AG zeigt, wie unterschiedlich die Aufgaben ausfallen: Beim Kundenchat geht es um die erkennbare KI-Interaktion, bei einer generativen Plattform um technische Markierungen, beim künstlichen Vorstandsvideo um die Offenlegung und beim Fachartikel um den Veröffentlichungsprozess.
Unternehmen sollten diese Fragen deshalb bereits bei der Planung ihrer Anwendungen beantworten. Klare Verantwortlichkeiten und geprüfte Abläufe schaffen die Grundlage dafür, KI im Geschäftsalltag kontrolliert einzusetzen.
Stand: 4. Oktober 2026. Rechtsgrundlagen: Verordnung (EU) 2024/1689, insbesondere Artikel 3, 50, 99, 111 und 113 sowie Erwägungsgrund 132. Die Nordwerk AG und sämtliche beschriebenen Projekte sind fiktiv.