Was die Checkliste enthält
Im Anschluss an unser Webinar mit Symmetry Compliance — „How to Build a Solid AI Governance Framework?" (auf Englisch) — haben wir die wichtigsten Erkenntnisse in konkrete Prüffragen übersetzt:
- die Fragen, die Sie vor der Einführung eines KI-Tools stellen sollten;
- eine Methode in drei Schritten, um Anbieter, Anwendungsfall und Risiko zu bewerten;
- ein Praxisbeispiel: ein KI-Tool zur Vorauswahl von Lebensläufen — von der ersten Bewertung bis zum Go-live;
- wie Sie sich rechtzeitig auf die Hochrisiko-Pflichten des AI Act vorbereiten, mit den neuen Fristen nach dem Digital Omnibus.
Die Methode: Anbieter, Anwendungsfall, Risiko
Der Kerngedanke des Webinars: KI-Governance gibt es nicht von der Stange — aber die Methode ist übertragbar. Bewertet wird der Anwendungsfall, nicht die Branche.
Einmalig: den Ist-Zustand erfassen. Welche KI-Tools sind im Einsatz, gemeldet oder nicht? Welche Richtlinien und Register existieren bereits? Das Ergebnis ist eine dokumentierte Ausgangslage — das Fundament des Frameworks.
Schritt 1: den Anbieter bewerten. Zweckbestimmung, Selbsteinstufung nach der KI-Verordnung, technische Dokumentation, Zertifizierungen, Vertragsklauseln. Die Angaben werden anhand der Dokumentation geprüft, nicht geglaubt.
Schritt 2: den Anwendungsfall bewerten — so, wie er tatsächlich läuft. Das Risiko entsteht durch die Nutzung, nicht durch das Produkt. Dasselbe Tool in zwei Anwendungsfällen bedeutet zwei verschiedene Risiken.
Schritt 3: das Risiko bewerten und mindern. Regulatorisches Risiko, Geschäftsrisiko und Eintrittswahrscheinlichkeit ergeben das inhärente Risiko. Mindernde Maßnahmen senken es auf das Restrisiko — und eine Maßnahme zählt nur, wenn sie das Restrisiko tatsächlich verändert.
Diese drei Schritte durchlaufen Sie jedes Mal, wenn ein neues Tool oder ein neuer Anbieter ins Spiel kommt. So wird aus Governance ein wiederholbarer Prozess statt einer einmaligen Übung.
Das Praxisbeispiel: ein Recruiting-Tool vor dem Go-live
Die Checkliste zeigt die Methode an einem realen Fall: Ein Anbieter verkauft ein Tool zur Vorauswahl von Lebensläufen als Entscheidungsunterstützung — die Personalabteilung wollte es als Filter einsetzen. Die drei Schritte haben diese Lücke vor dem Go-live aufgedeckt: Hochrisiko-Einstufung nach Anhang III, Betreiberpflichten ab Dezember 2027, DSGVO-Pflichten schon heute. Was sich daraufhin geändert hat — vom Ranking als Input statt Filter bis zu den Vertragsklauseln — steht im Dokument.
Für wen ist die Checkliste gedacht?
Für Datenschutzbeauftragte, KI-Beauftragte, Compliance-Verantwortliche, Rechtsabteilungen und CISOs. Kurz: für alle, die entscheiden müssen, ob ein KI-Tool eingeführt werden darf — und unter welchen Bedingungen.
Die Checkliste ergänzt unseren Leitfaden zum KI-Managementsystem: Der Leitfaden beschreibt den Aufbau des Managementsystems in sechs Schritten, die Checkliste liefert die Prüffragen für jeden neuen Anwendungsfall. Jeder Abschnitt verweist auf den zugehörigen Leitfaden-Schritt und das passende ISO-Kapitel.
Häufige Fragen zur KI-Governance
Was ist KI-Governance?
KI-Governance umfasst die Strukturen, Prozesse und Verantwortlichkeiten, mit denen eine Organisation ihren KI-Einsatz steuert: vom KI-Register über die Risikobewertung entlang der EU-AI-Act-Risikoklassen bis zum Nachweis der KI-Compliance. Das KI-Register ist dabei für die KI-Governance, was das Verarbeitungsverzeichnis für den Datenschutz ist: das Fundament.
Reicht eine KI-Richtlinie nicht aus?
Eine KI-Richtlinie legt die Regeln fest — die Governance stellt sicher, dass sie gelebt werden. Die Checkliste verbindet beides: Sie macht aus der Richtlinie wiederholbare Prüffragen für jeden neuen Fall.
Wer trägt das Risiko eines KI-Tools?
Der Fachbereich, der es einsetzt. Die Governance berät und stellt Maßnahmen bereit — sie trägt das Risiko nicht. Die Checkliste empfiehlt deshalb für jeden produktiven Anwendungsfall einen benannten Business Owner, der ab dem Go-live rechenschaftspflichtig ist.
Checkliste kostenlos herunterladen
KI-Governance muss nicht kompliziert sein. Sie muss strukturiert, praxisnah und wiederholbar sein.