Klasse Begrenztes Risiko: die Transparenzpflichten nach Art. 50

Kurzantwort

Die Klasse Begrenztes Risiko ist die Klasse der Offenlegung. Sie verbietet nichts und verlangt keine Konformitätsbewertung, kein CE-Zeichen und kein vollständiges Risikomanagement wie die Hochrisiko-Klasse. Was sie verlangt, ist Transparenz: Menschen sollen wissen, wann sie es mit einem KI-System statt mit einem Menschen zu tun haben, und wann Inhalte künstlich erzeugt oder verändert wurden. Geregelt ist das in Artikel 50 der KI-Verordnung. Betroffen sind vor allem Chatbots und KI-Assistenten, generative Systeme, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, sowie der Einsatz von Emotionserkennung und biometrischer Kategorisierung außerhalb der Verbotszone. Die zentrale Frage in dieser Klasse lautet nicht „darf ich das?", sondern „habe ich es kenntlich gemacht?".

Rechtliche Verortung

Die Transparenzpflichten stehen in Artikel 50 der Verordnung (EU) 2024/1689. Systematisch bildet diese Norm die dritte der vier Risikoklassen: unannehmbares Risiko an der Spitze (Art. 5), darunter Hochrisiko (Art. 6 in Verbindung mit Anhang I und III), dann das begrenzte Risiko mit Transparenzpflichten (Art. 50) und schließlich das nicht eigens regulierte minimale Risiko. Anders als bei Hochrisiko ist „begrenztes Risiko" kein im Verordnungstext definierter Begriff, sondern eine eingebürgerte Sammelbezeichnung für genau jene Konstellationen, die Art. 50 erfasst.

Wichtig ist die Trennschärfe gegenüber den anderen Klassen. Art. 50 ist keine eigene Schublade, in die ein System „statt" Hochrisiko fällt — die Transparenzpflichten gelten zusätzlich und unabhängig von der Hochrisiko-Einstufung. Ein Chatbot kann allein unter Art. 50 fallen; eine Emotionserkennung kann zugleich Hochrisiko-System nach Anhang III und transparenzpflichtig nach Art. 50 sein. Die Pflichten des Art. 50 treffen teils den Anbieter (Provider), teils den Betreiber (Deployer), je nach Tatbestand. Die Transparenzpflichten haben innerhalb des gestaffelten Anwendungskalenders der Verordnung einen eigenen Geltungsbeginn am 2. August 2026 und greifen damit vor dem zentralen Enforcement-Forcing-Event am 02.12.2027.

Erklärung

Art. 50 bündelt vier Grundkonstellationen. Die erste betrifft Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind — der klassische Chatbot oder Sprachassistent. Diese Systeme müssen so gestaltet sein, dass die betroffene Person erfährt, dass sie mit einer KI interagiert. Die Pflicht entfällt, wenn das aus den Umständen ohnehin offensichtlich ist, etwa für einen verständigen, aufmerksamen Nutzer im jeweiligen Kontext. Sie entfällt außerdem in eng umrissenen, gesetzlich erlaubten Strafverfolgungskonstellationen.

Die zweite Konstellation betrifft generative Systeme. Anbieter von KI-Systemen — einschließlich General-Purpose-AI-Modellen —, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgaben in einem maschinenlesbaren Format kennzeichnen und als künstlich erzeugt oder manipuliert erkennbar machen. Gemeint ist die technische Markierung an der Quelle, etwa über Wasserzeichen oder Metadaten, soweit das technisch machbar und wirksam ist. Diese Pflicht setzt also beim Hersteller des generativen Systems an, nicht erst beim Nutzer.

Die dritte Konstellation betrifft Betreiber von Emotionserkennungs- und biometrischen Kategorisierungssystemen. Wer ein solches System einsetzt, muss die davon betroffenen Personen über den Betrieb informieren. Das gilt nur, soweit der jeweilige Einsatz überhaupt zulässig ist — denn Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sowie die biometrische Kategorisierung nach sensiblen Merkmalen sind bereits durch Art. 5 verboten. Art. 50 greift hier also in dem Raum, der nach Abzug der Verbote übrig bleibt.

Die vierte Konstellation betrifft Betreiber, die mit KI Bild-, Audio- oder Videoinhalte erzeugen oder verändern, die ein Deepfake darstellen. Sie müssen offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Für Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, gilt eine vergleichbare Offenlegungspflicht — sie entfällt jedoch, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Verantwortung unterliegt. Für künstlerische, kreative, satirische oder fiktionale Werke sieht die Verordnung erleichterte Modalitäten vor: Die Offenlegung darf so erfolgen, dass sie die Darbietung oder den Genuss des Werks nicht beeinträchtigt.

Über alle vier Konstellationen hinweg gilt ein gemeinsames Prinzip: Die Information muss klar, unterscheidbar und spätestens zum Zeitpunkt der ersten Interaktion oder Exposition bereitgestellt werden, und sie muss den Anforderungen an Barrierefreiheit genügen. Der gemeinsame Nenner dieser Klasse ist nicht die Gefährlichkeit der Technologie, sondern das Täuschungspotenzial. Der Gesetzgeber adressiert hier nicht Schäden an Leib, Leben oder Grundrechten — dafür sind die oberen Klassen zuständig —, sondern das schlichte Risiko, dass jemand nicht weiß, dass eine Maschine spricht oder ein Inhalt synthetisch ist. Genau deshalb reicht als Rechtsfolge die Offenlegung; ein Verbot oder eine aufwendige Vorab-Prüfung wäre unverhältnismäßig.

Die Auslegungsarbeit liegt an den Rändern. „Offensichtlich" ist ein bewegliches Maß: Was für einen technikaffinen Nutzer klar ist, kann für eine schutzbedürftige Zielgruppe verschleiert sein. Die Abgrenzung zwischen einem bloß stilistisch bearbeiteten und einem als Deepfake offenlegungspflichtigen Inhalt verlangt eine Bewertung, ob ein realer Eindruck erweckt wird, der nicht der Wirklichkeit entspricht. Und die Ausnahme für redaktionell verantwortete Texte trägt nur, solange tatsächlich eine menschliche Kontrolle besteht, die diesen Namen verdient. Wer sich auf eine Ausnahme stützt, trägt die Begründungslast und sollte sie ebenso dokumentieren wie die Einstufung selbst.

Entscheidungshilfe

Die Prüfung auf Art. 50 erfolgt unabhängig von der Hochrisiko-Prüfung — beide können nebeneinander einschlägig sein. Sinnvoll ist es, der Reihe nach die vier Tatbestände abzufragen und für jeden die Rolle (Anbieter oder Betreiber) zu bestimmen.

• Direkte Interaktion: Ist das System dafür bestimmt, direkt mit Menschen zu interagieren (Chatbot, Voicebot)? Dann muss der Anbieter die KI-Natur kenntlich machen — außer es ist offensichtlich.
• Synthetische Ausgaben: Erzeugt das System Audio-, Bild-, Video- oder Textinhalte? Dann muss der Anbieter die Ausgaben maschinenlesbar als künstlich erzeugt markieren.
• Emotion/Biometrie: Setzt der Betreiber Emotionserkennung oder biometrische Kategorisierung ein (soweit nicht ohnehin nach Art. 5 verboten)? Dann muss er die betroffenen Personen informieren.
• Deepfake/öffentliche Texte: Erzeugt oder verändert der Betreiber Inhalte, die als Deepfake erscheinen, oder veröffentlicht er KI-Texte zu Themen öffentlichen Interesses? Dann gilt die Offenlegungspflicht — vorbehaltlich der Ausnahmen für redaktionelle Verantwortung und für künstlerische Werke.
• Form der Offenlegung: Ist die Information klar, rechtzeitig (spätestens bei der ersten Interaktion) und barrierefrei?

Anders als bei den oberen Klassen schließt ein „Ja" hier nichts aus und beendet die Prüfung nicht — es begründet lediglich eine zusätzliche Transparenzpflicht. Ein System kann mehrere Tatbestände des Art. 50 gleichzeitig erfüllen und zusätzlich Hochrisiko sein.

Beispiele

• Kundenservice-Chatbot auf einer Website, der Anfragen automatisiert beantwortet — in Klasse Begrenztes Risiko, weil er für die direkte Interaktion bestimmt ist; der Anbieter muss kenntlich machen, dass es sich um eine KI handelt (Art. 50 Abs. 1).
• Generativer Bildgenerator, der fotorealistische Szenen erzeugt — in Klasse Begrenztes Risiko; der Anbieter muss die Ausgaben maschinenlesbar als künstlich erzeugt markieren (Art. 50 Abs. 2).
• Marketing-Video mit einem KI-generierten, real wirkenden Sprecher — in Klasse Begrenztes Risiko als Deepfake; der Betreiber muss offenlegen, dass der Inhalt künstlich erzeugt wurde (Art. 50 Abs. 4).
• Nachrichtenredaktion, die KI-Textentwürfe zu öffentlichen Themen vor Veröffentlichung redaktionell prüft und verantwortet — Offenlegungspflicht für den Text entfällt, weil menschliche redaktionelle Verantwortung besteht; die Markierungspflicht des generierenden Systems aus Abs. 2 bleibt davon unberührt.
• Voicebot in einer Telefon-Hotline, der sich zu Beginn nicht als KI zu erkennen gibt — in Klasse Begrenztes Risiko und pflichtwidrig, weil die KI-Natur weder offengelegt noch aus den Umständen offensichtlich ist.
• Emotionserkennung im Großraumbüro zur Stimmungsmessung der Mitarbeitenden — nicht in Klasse Begrenztes Risiko, sondern bereits nach Art. 5 verboten; Art. 50 wird hier gar nicht erst erreicht.
• Interner Rechtschreib-Assistent ohne synthetische Inhalte und ohne Personeninteraktion nach außen — fällt nicht unter Art. 50; ohne weitere Anknüpfung landet er in der Klasse Minimales Risiko.

Der Übergang zwischen den Klassen ist auch hier zu dokumentieren: Ein generatives System kann nach Art. 50 transparenzpflichtig und zugleich, wenn es in einer Anhang-III-Anwendung verbaut wird, hochrisiko sein. Welche Use-Cases in die Hochrisiko-Tiefe gehören, ist Thema von hochrisiko-ki.com; welche Templates die Hochrisiko-Pflichten operativ abbilden, zeigt ki-hochrisiko.de.

Den Gesamtüberblick über die vier Klassen und das Pflichtengerüst des EU AI Act bietet der Leitfaden auf eu-ai-verordnung.de.

Risikoklassifizierung systematisch und auditfähig — AEGIRA AI Navigator: aegira.ai.