Ist mein System überhaupt KI im Sinne des EU AI Act?

Kurzantwort

Bevor eine Risikoklasse überhaupt zur Debatte steht, muss eine Vorfrage geklärt sein: Ist das System ein "KI-System" im Sinne von Art. 3 Nr. 1 EU AI Act? Fällt es nicht unter diese Definition, greift keine der vier Risikoklassen — dann ist es normale Software und die Verordnung ist auf sie nicht anwendbar. Das entscheidende Abgrenzungsmerkmal ist die Fähigkeit zur Inferenz: Ein KI-System leitet aus Eingaben ab, wie es Ausgaben erzeugt, statt eine von Menschen vollständig vorgegebene Regelkette abzuarbeiten. Ein zweiter Filter kommt hinzu: Selbst ein echtes KI-System kann über die Bereichsausnahmen aus Art. 2 aus dem Geltungsbereich fallen — etwa bei militärischer Nutzung, reiner Forschung oder privater Verwendung. Beide Filter gehören an den Anfang jeder Klassifizierung.

Rechtliche Verortung

Die Definition steht in Art. 3 Nr. 1 EU AI Act und ist bewusst an die überarbeitete OECD-Definition angelehnt, um internationale Anschlussfähigkeit herzustellen. Erwägungsgrund 12 erläutert sie und stellt klar, dass Systeme, die ausschließlich auf von natürlichen Personen definierten Regeln beruhen, um Operationen automatisch auszuführen, nicht erfasst sind. Die Europäische Kommission hat im Februar 2025 Leitlinien zur Definition eines KI-Systems veröffentlicht, die die einzelnen Definitionsmerkmale auslegen; sie sind nicht bindend, aber der maßgebliche Auslegungsanker für die Aufsichtspraxis.

Die Bereichsausnahmen des Geltungsbereichs stehen in Art. 2: Systeme, die ausschließlich für militärische Zwecke, Verteidigung oder nationale Sicherheit entwickelt oder verwendet werden; KI-Systeme und -Modelle, die eigens für wissenschaftliche Forschung und Entwicklung entwickelt und in Betrieb genommen werden; Forschungs-, Test- und Entwicklungstätigkeiten vor dem Inverkehrbringen (nicht jedoch Tests unter Realbedingungen); sowie die Nutzung durch natürliche Personen im Rahmen einer rein persönlichen, nicht beruflichen Tätigkeit.

Erklärung

Art. 3 Nr. 1 setzt sich aus mehreren Merkmalen zusammen, die die Kommissionsleitlinien einzeln durchgehen: Das System ist maschinengestützt, es arbeitet mit einem gewissen Grad an Autonomie, es kann nach der Einführung Anpassungsfähigkeit zeigen (dieses Merkmal ist ausdrücklich fakultativ — "kann"), es verfolgt explizite oder implizite Ziele, es leitet aus den Eingaben ab, wie es Ausgaben erzeugt, es produziert Ausgaben in Form von Vorhersagen, Inhalten, Empfehlungen oder Entscheidungen, und diese Ausgaben können physische oder virtuelle Umgebungen beeinflussen.

Praktisch relevant sind davon vor allem zwei. Erstens die Autonomie: Verlangt das System für jeden einzelnen Ausgabeschritt eine menschliche Eingabe und Freigabe, fehlt es an der geforderten Unabhängigkeit vom menschlichen Zutun. Ein Kalkulationsblatt, das nur rechnet, wenn jemand eine Formel schreibt, ist kein KI-System. Zweitens — und wichtiger — die Inferenz. Sie ist nach den Kommissionsleitlinien das Merkmal, das KI-Systeme von klassischer Software trennt. Inferenz meint, dass das System aus Daten Modelle, Regeln oder Parameter ableitet, statt ausschließlich die von Entwicklern explizit hinterlegten Regeln auszuführen. Erfasst sind damit maschinelles Lernen in allen Spielarten sowie wissensbasierte Ansätze wie Logik- und Inferenzsysteme.

Die Kommissionsleitlinien benennen umgekehrt Systemtypen, die typischerweise außerhalb der Definition liegen: Systeme zur Verbesserung mathematischer Optimierung nach rein klassischen Verfahren, einfache Datenverarbeitung, Systeme auf Basis klassischer Heuristiken sowie einfache Vorhersagesysteme, die etwa mit einem Basiswert oder einem gleitenden Mittelwert arbeiten. Ein Betrugsfilter, der ausschließlich fest verdrahtete Schwellenwerte prüft ("Betrag über X UND Land nicht in Liste Y → blockieren"), fällt nicht unter die Definition. Derselbe Filter mit einem trainierten Modell, das aus historischen Transaktionen ein Risikoscoring ableitet, fällt darunter.

Zwei Klarstellungen ersparen viel Fehlklassifizierung. Erstens: Anpassungsfähigkeit ist kein Pflichtmerkmal. Ein Modell, das nach dem Training eingefroren wird und nie wieder lernt, ist trotzdem ein KI-System, wenn es die übrigen Merkmale erfüllt. Zweitens: Die Kommission stellt in ihren Leitlinien fest, dass keine automatische, vollständige Aufzählung erfasster oder nicht erfasster Systeme möglich ist — die Einordnung erfordert eine Einzelfallbetrachtung des konkreten Systems und seiner Funktionsweise. Wer nur nach dem Produktnamen oder der eingesetzten Bibliothek klassifiziert, klassifiziert falsch.

Der zweite Filter — der Geltungsbereich nach Art. 2 — wird in der Praxis häufig zu großzügig gelesen. Die Forschungsausnahme greift für Systeme, die eigens für wissenschaftliche Forschung und Entwicklung entwickelt und eingesetzt werden. Sobald ein in der Forschung entstandenes System in den Markt oder in den produktiven Betrieb überführt wird, endet die Ausnahme. Ebenso endet die Entwicklungsausnahme dort, wo Tests unter Realbedingungen beginnen. Und die Ausnahme für rein persönliche Nutzung erfasst ausschließlich natürliche Personen außerhalb jeder beruflichen Tätigkeit — nicht Mitarbeitende, die ein Tool "privat für die Arbeit" verwenden. Genau dieses Muster ist der klassische Shadow-AI-Fall, der später bei der Bestandsaufnahme fehlt.

Für die Zeitachse gilt: Die Verbote aus Art. 5 und die Pflicht zur KI-Kompetenz sind seit dem 2. Februar 2025 anwendbar, die GPAI-Pflichten seit dem 2. August 2025, der allgemeine Pflichtenkern seit dem 2. August 2026. Der maßgebliche Forcing Event für die Enforcement-Praxis ist der 02.12.2027 (Digital Omnibus). Bis dahin muss die Definitionsfrage für jedes System im Bestand einmal sauber beantwortet und die Antwort belegbar dokumentiert sein — nicht als Meinung, sondern als nachvollziehbare Begründung.

Entscheidungshilfe

Der Entscheidungsbaum in fünf Schritten. Sobald ein Schritt mit "nein" endet, ist die Prüfung beendet.

1. Ist das System maschinengestützt und läuft es ohne menschliche Freigabe pro Einzelausgabe? Nein → kein KI-System. Ja → weiter.
2. Leitet das System aus Eingaben ab, wie es seine Ausgaben erzeugt — oder führt es nur von Menschen vollständig vorgegebene Regeln aus? Nur Regelausführung, klassische Optimierung, einfache Statistik oder Heuristik → kein KI-System. Ableitung aus Daten oder wissensbasierte Inferenz → weiter.
3. Erzeugt es Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen, die eine physische oder virtuelle Umgebung beeinflussen? Nein → kein KI-System. Ja → weiter.
4. Greift eine Bereichsausnahme nach Art. 2? Ausschließlich Militär/Verteidigung/nationale Sicherheit, eigens für wissenschaftliche F&E, Entwicklung vor Inverkehrbringen ohne Test unter Realbedingungen, oder rein persönliche nicht-berufliche Nutzung → außerhalb des Geltungsbereichs. Sonst → weiter.
5. Ergebnis: KI-System im Geltungsbereich. Jetzt beginnt die eigentliche Risikoklassifizierung — zuerst Art. 5 (verboten), dann Anhang I und III (Hochrisiko), dann Art. 50 (Transparenz), sonst minimales Risiko.

Zu jedem "nein" gehört eine schriftliche Begründung mit Datum, geprüftem Systemstand und Prüfer. Ein nicht dokumentiertes "ist keine KI" ist im Audit wertlos.

Beispiele

Ein Dispositionssystem in der Logistik, das Touren mit einem klassischen Optimierungsalgorithmus berechnet. Kein KI-System — Schritt 2 endet negativ, weil die Lösung aus einem festen mathematischen Verfahren ohne Ableitung aus Daten stammt. Wird dasselbe System um ein Modell erweitert, das Fahrzeiten aus historischen Daten prognostiziert, kippt die Einordnung.

Ein Bewerbermanagement-System mit fest kodierten Filterregeln ("Abschluss vorhanden = ja/nein"). Kein KI-System, weil ausschließlich menschlich definierte Regeln ausgeführt werden. Kommt ein trainiertes Ranking-Modell hinzu, ist es ein KI-System — und landet über Anhang III direkt in der Hochrisiko-Prüfung.

Ein internes Sprachmodell, das Support-Anfragen kategorisiert und nach dem Training nicht mehr weiterlernt. KI-System, weil Anpassungsfähigkeit kein Pflichtmerkmal ist und die Inferenz aus dem Trainingsprozess stammt. Weiter zur Klassifizierung; hier ist die Art.-50-Transparenzfrage der nächste Prüfschritt.

Ein Forschungsprototyp einer Universität zur Bildanalyse, ausschließlich im Forschungsbetrieb eingesetzt. KI-System, aber über Art. 2 außerhalb des Geltungsbereichs — solange er nicht in Betrieb genommen, vermarktet oder unter Realbedingungen getestet wird.

Ein Mitarbeiter nutzt ein öffentliches Chat-Tool, um Kundenanschreiben zu formulieren. Keine persönliche Ausnahme, weil die Tätigkeit beruflich ist. Das Tool gehört in die Bestandsaufnahme und in die Klassifizierung — auch wenn niemand es beschafft hat.

Wenn die Definitionsfrage geklärt ist, geht es weiter mit den Klassen: Unannehmbares Risiko (Art. 5), Hochrisiko (Art. 6, Anhang I + III), Begrenztes Risiko (Art. 50) und Minimales Risiko. Für den Gesamtkontext des EU AI Act: Leitfaden auf eu-ai-verordnung.de. Die konkreten Anhang-III-Anwendungsfälle im Detail: hochrisiko-ki.com.

Bestandsaufnahme und Klassifizierung nachweisbar dokumentiert — AEGIRA AI Navigator: aegira.ai.