Der Begriff KI-System ist in Art. 3 Nr. 1 der Verordnung (EU) 2024/1689 über künstliche Intelligenz (EU AI Act) definiert. Er ist ein zentraler Begriff des europäischen Rechtsrahmens für künstliche Intelligenz und bestimmt maßgeblich, welche Systeme in den Anwendungsbereich der KI-Verordnung fallen.
Ein KI-System ist ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und nach seiner Betriebsaufnahme anpassungsfähig sein kann. Ein wesentliches Merkmal ist dabei die Fähigkeit des Systems, aus den erhaltenen Eingaben abzuleiten, wie bestimmte Ausgaben erzeugt werden. Die Autonomie bezeichnet insbesondere die Fähigkeit, bis zu einem gewissen Grad unabhängig von menschlichem Zutun zu agieren.
KI-Systeme können für explizite oder implizite Ziele unterschiedliche Ergebnisse erzeugen, insbesondere:
- Vorhersagen (z. B. die Einschätzung des Kreditrisikos einer Person),
- Inhalte (z. B. die Erstellung von Texten oder Bildern durch generative KI),
- Empfehlungen (z. B. das Vorschlagen personalisierter Inhalte),
- und Entscheidungen (z. B. die Annahme oder Ablehnung eines Antrags).
Diese Ausgaben können physische Umgebungen – etwa durch autonome Fahrzeuge oder Roboter – sowie virtuelle Umgebungen, beispielsweise digitale Plattformen oder Sprachassistenten, beeinflussen.
Die Definition erfasst ein breites technologisches Spektrum, grenzt KI-Systeme jedoch von einfacheren herkömmlichen Softwaresystemen ab. Erfasst sein können insbesondere Systeme auf Grundlage von maschinellem Lernen sowie logik- und wissensgestützten Ansätzen. Auch Anwendungen der generativen KI, etwa auf Basis großer Sprach- oder Bildmodelle, können KI-Systeme darstellen. Ein KI-Modell mit allgemeinem Verwendungszweck ist allerdings nicht allein deshalb bereits ein KI-System; hierfür müssen weitere Komponenten, beispielsweise eine Benutzerschnittstelle, hinzukommen.
Ziel des europäischen Gesetzgebers ist eine Definition, die hinreichend flexibel ist, um technologische Entwicklungen abzubilden, zugleich aber KI von klassischer Software abzugrenzen und ein hohes Schutzniveau für Grundrechte, Gesundheit und Sicherheit sicherzustellen. Für Unternehmen bildet die Einordnung als KI-System den Ausgangspunkt für die weitere KI Compliance und KI Governance, insbesondere für die Prüfung einschlägiger Pflichten und der EU AI Act Risikoklassen.