Was ist ein systemisches Risiko?
Der Begriff „systemisches Risiko“ ist in Art. 3 Nr. 65 EU AI Act definiert. Er bezeichnet ein Risiko, das spezifisch mit den Fähigkeiten mit hoher Wirkkraft von KI-Modellen mit allgemeinem Verwendungszweck verbunden ist und aufgrund seiner Reichweite oder tatsächlicher beziehungsweise vernünftigerweise vorhersehbarer negativer Folgen erhebliche Auswirkungen auf den Unionsmarkt haben kann.
Solche Auswirkungen können insbesondere die öffentliche Gesundheit, Sicherheit, öffentliche Sicherheit, Grundrechte oder die Gesellschaft insgesamt betreffen und sich in großem Umfang entlang der KI-Wertschöpfungskette verbreiten.
Wann gilt ein GPAI-Modell als Modell mit systemischem Risiko?
Gemäß Art. 51 EU AI Act wird ein KI-Modell mit allgemeinem Verwendungszweck als GPAI-Modell mit systemischem Risiko eingestuft, wenn eine der folgenden Voraussetzungen erfüllt ist:
- Das Modell verfügt über Fähigkeiten mit hoher Wirkkraft. Damit sind nach Art. 3 Nr. 64 Fähigkeiten gemeint, die denjenigen der fortschrittlichsten KI-Modelle mit allgemeinem Verwendungszweck entsprechen oder diese übersteigen.
- Die Europäische Kommission stellt von Amts wegen oder aufgrund eines qualifizierten Hinweises des wissenschaftlichen Gremiums fest, dass das Modell Fähigkeiten oder Auswirkungen besitzt, die mit solchen besonders leistungsfähigen Modellen vergleichbar sind. Hierbei werden die Kriterien aus Anhang XIII des EU AI Act berücksichtigt.
Welche Bedeutung hat der Schwellenwert von 10²⁵ FLOP?
Ein GPAI-Modell wird gemäß Art. 51 Abs. 2 EU AI Act grundsätzlich als Modell mit Fähigkeiten mit hoher Wirkkraft vermutet, wenn die kumulierte für sein Training eingesetzte Rechenleistung mehr als 10²⁵ FLOP (Floating-Point Operations) beträgt.
Da der erforderliche Rechenaufwand für große Trainingsläufe in der Regel im Voraus geplant wird, sollen Anbieter bereits vor Beginn eines großen Pre-Training-Laufs abschätzen, ob dieser Schwellenwert voraussichtlich erreicht wird. Sobald der Schwellenwert überschritten wird oder bekannt ist, dass er überschritten werden wird, greifen die entsprechenden Meldepflichten gegenüber der Europäischen Kommission.
Der Schwellenwert ist jedoch nicht unveränderlich. Die Europäische Kommission kann ihn durch delegierte Rechtsakte an technologische Entwicklungen, beispielsweise effizientere Hardware oder algorithmische Fortschritte, anpassen.
Ein Modell unterhalb von 10²⁵ FLOP ist zudem nicht automatisch von einer Einstufung als GPAI-Modell mit systemischem Risiko ausgeschlossen. Die Kommission kann ein solches Modell anhand der Kriterien des Anhangs XIII entsprechend einstufen, wenn seine Fähigkeiten oder Auswirkungen mit besonders leistungsfähigen Modellen vergleichbar sind.
Welche Folgen hat die Einstufung?
Für Anbieter von GPAI-Modellen mit systemischem Risiko gelten zusätzliche Pflichten nach dem EU AI Act. Sie müssen unter anderem:
- Modellevaluierungen nach dem Stand der Technik durchführen,
- systemische Risiken auf Unionsebene bewerten und mindern,
- schwerwiegende Vorfälle erfassen und melden,
- und ein angemessenes Niveau an Cybersicherheit für das Modell und seine physische Infrastruktur gewährleisten.
Die korrekte Identifizierung und Bewertung systemischer Risiken ist damit ein wesentlicher Bestandteil der KI Governance besonders leistungsfähiger GPAI-Modelle.
Die Europäische Kommission ist gemäß Art. 52 Abs. 6 EU AI Act verpflichtet, eine Liste der GPAI-Modelle mit systemischem Risiko zu veröffentlichen und aktuell zu halten. Dabei sind insbesondere geistige Eigentumsrechte, vertrauliche Geschäftsinformationen und Geschäftsgeheimnisse zu schützen.