Pflichten zur Kennzeichnung von KI-Inhalten
Seit dem 2. August 2026 sind die Transparenzpflichten des Art. 50 der Verordnung (EU) 2024/1689 (KI-Verordnung) grundsätzlich anwendbar. Entscheidend ist: Nicht jeder Inhalt, der mit Hilfe von KI erstellt oder bearbeitet wurde, muss sichtbar als KI-generiert gekennzeichnet werden. Die Verordnung unterscheidet insbesondere zwischen Pflichten der Anbieter von KI-Systemen und Pflichten der Betreiber, die KI-Systeme einsetzen.
Hierbei sind vor allem vier Fallgruppen relevant:
- direkte Mensch-KI-Interaktion,
- Deepfakes bzw. realistisch synthetische Inhalte,
- KI-generierte oder manipulierte Texte zu Angelegenheiten von öffentlichem Interesse sowie
- Emotionserkennung und biometrische Kategorisierung.
Kennzeichnungspflichten im Überblick
- Bei veröffentlichten Texten von öffentlichem Interesse kann die Offenlegungspflicht entfallen, wenn eine menschliche Überprüfung oder redaktionelle Kontrolle stattfindet und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.
- KI als bloßes Werkzeug (z. B. Formulierungshilfe, Rechtschreibkorrektur, Entwurf) führt nicht automatisch zu einer sichtbaren Kennzeichnungspflicht.
- Nicht offensichtlich erkennbare Chatbots und vergleichbare KI-Interaktionen benötigen grundsätzlich einen Transparenzhinweis.
- Deepfakes müssen grundsätzlich als künstlich erzeugt oder manipuliert offengelegt werden.
„EU-Icons“ zur KI-Kennzeichnung
Die EU-Kommission hat inzwischen auch EU-Icons für die Kennzeichnung KI-generierter Inhalte veröffentlicht. Der zugehörige Code of Practice sieht praktische Vorgaben zur Kennzeichnung vor; die Icons sollen gut sichtbar sein, begleitende Hinweise in einfacher Sprache erfolgen und die Kennzeichnung möglichst auch für assistive Technologien zugänglich sein.
Organisatorische Umsetzung
Für die interne Governance empfiehlt sich eine dreistufige Regel:
- alltägliche KI-Werkzeugnutzung ohne Pauschalkennzeichnung,
- verpflichtende Prüfung bei öffentlichen Texten, realistischen Bildern, Videos, Audio und wissenschaftlichen Veröffentlichungen sowie
- verbindliche Transparenzmaßnahmen bei eindeutig kennzeichnungspflichtigen Fällen. Zuständigkeiten und Freigabewege sollten in einer KI-Richtlinie oder im AI-Governance-System festgelegt werden.
Verantwortliche Stelle für Zweifelsfälle benennen (z. B. AI Governance, Compliance, Datenschutz oder Rechtsabteilung).
Redaktionelle Freigabe für relevante öffentliche KI-Texte nachvollziehbar organisieren.
Marketing, Kommunikation, HR, Lehre und Forschung anhand konkreter Beispiele schulen.
Kennzeichnungscheck als Anlage zur KI-Richtlinie bereitstellen.
Technische Kennzeichnungen des KI-Anbieters nicht entfernen oder beeinträchtigen.
Sonderfälle für Hochschulen
Die KI-Verordnung bildet nur eine Ebene der Transparenzanforderungen. Auch wenn nach Art. 50 keine Kennzeichnung erforderlich ist, können Prüfungsordnungen, hochschulinterne KI-Richtlinien, Regeln guter wissenschaftlicher Praxis sowie Vorgaben von Verlagen, Journals oder Forschungsförderern eine Offenlegung der KI-Nutzung verlangen.
Daher ist zwischen gesetzlicher Kennzeichnungspflicht und wissenschaftlicher bzw. prüfungsrechtlicher Offenlegungspflicht zu unterscheiden.
Sind Sie an einer übersichtlichen Darstellung mit Beispielen für die Unternehmenspraxis interessiert? Dann kommen Sie gerne auf uns zu.
