logo-dastra

KI-Governance etablieren und steuern.

KI-Verordnung, ISO 42001, NIST KI RMF: Verstehen Sie die Regeln, die für Ihre Nutzung von KI gelten, und schaffen Sie eine solide und verantwortungsvolle KI-Governance.

Vier abgedeckte KI-Referenzrahmen

  • KI-Verordnung

    Europäische Verordnung über künstliche Intelligenz

  • ISO 42001

    Managementsystem für KI

  • NIST KI RMF

    Rahmen für das Risikomanagement im Zusammenhang mit KI

  • KI-Büro und andere Soft Law

    Codes und Richtlinien der souveränen Behörden

Die KI-Verordnung in Kürze

Die europäische KI-Verordnung ist der weltweit erste umfassende Rechtsrahmen für künstliche Intelligenz. Sie stuft KI-Systeme nach ihrem Risikoniveau ein und definiert entsprechende Anforderungen und Verpflichtungen.

Es betrifft sowohl Organisationen, die KI entwickeln, als auch solche, die sie im Alltag nutzen.

Referenz
Verordnung (EU) 2024/1689
Inkrafttreten
1. August 2024
Anwendung
Progressiv, von 2025 bis 2028
Wer ist betroffen
Anbieter, Betreiber, Importeure und Vertreiber von KI-Systemen

Vier Risikostufen, eine geführte Qualifikation.

Eine Bewertung qualifiziert jedes System und erstellt die Liste der Verpflichtungen, die für Ihre Rolle gelten.

  • Unannehmbar

    In der EU verbotene Praktiken. Wenn sie identifiziert werden, müssen sie eingestellt werden.

  • Hohes Risiko

    Risikomanagement, technische Dokumentation, menschliche Kontrolle und Protokollierung.

  • Begrenztes Risiko

    Transparenzpflichten: die Personen informieren, dass sie mit einer KI interagieren.

  • Minimales Risiko

    Keine spezifische Verpflichtung. Ihre bewährten Praktiken bleiben dokumentiert.

Ein schrittweiser Anwendungszeitplan, der durch das Omnibus-Gesetz zur KI verschoben wurde.

Die Verpflichtungen treten schrittweise in Kraft. Unsere Empfehlung: Antizipieren Sie sie mehrere Monate im Voraus.

  1. 1. August 2024

    Inkrafttreten der Verordnung

  2. 2. Februar 2025

    Verbot unzulässiger Praktiken und Verpflichtung zur Beherrschung der KI

  3. 2. August 2025

    Anwendbare Regeln für allgemeine KI-Modelle

  4. 2. Dezember 2026

    Kennzeichnung von durch KI generierten Inhalten für Systeme, die bereits vor dem 2. August 2026 auf dem Markt sind

  5. 2. Dezember 2027

    Hochrisiko-KI-Systeme gemäß Anhang III (Rekrutierung, Bildung, Kredit, essentielle Dienstleistungen…)

  6. 2. August 2028

    Hochrisikosysteme, die in regulierte Produkte integriert sind (Anhang I: Medizinprodukte, Maschinen…)

Ihre Verpflichtungen hängen von Ihrer Rolle ab.

Für Hochrisikosysteme unterscheidet die KI-VO zwischen denjenigen, die KI entwickeln, und denjenigen, die sie bereitstellen.

  • Anbieter

    Sie entwickeln ein KI-System oder bringen es unter Ihrem Namen auf den Markt.

    • Risikomanagementsystem
    • Governance und Datenqualität
    • Technische Dokumentation und Protokollierung
    • Menschliche Kontrolle, Genauigkeit und Robustheit
    • Konformitätsbewertung und CE-Kennzeichnung
    • Überwachung nach der Markteinführung
  • Bereitsteller

    Sie verwenden ein KI-System im Rahmen Ihrer beruflichen Tätigkeit.

    • Verwendung gemäß den Vorgaben des Anbieters
    • Menschliche Kontrolle durch kompetente Personen
    • Aufbewahrung der generierten Protokolle
    • Information der betroffenen Person
    • Auswirkungen auf die Grundrechte in den vorgesehenen Fällen analysieren
    • Meldung schwerwiegender Vorfälle

Für alle Organisationen

Beherrschung der KI durch die Teams (Artikel 4) und Transparenzpflichten (Artikel 50).

Bauen Sie Ihre KI-Governance in fünf Schritten auf.

Ein strukturierter Ansatz, um vom Inventar zum Nachweis zu gelangen.

  • Erfassen

    Alle Systeme und Anwendungen, einschließlich der nicht gemeldeten, im Verzeichnis der KI-Systeme.

  • Qualifizieren

    Die Rolle Ihrer Organisation und die Risikostufe jedes Systems durch unsere Fragebogen.

  • Bewerten

    Die Risiken, die Auswirkungen auf die Grundrechte und die Privatsphäre.

  • Steuern

    Nutzungsrichtlinie, Lieferantenverträge und menschliche Kontrolle der KI-Systeme während ihres gesamten Lebenszyklus.

  • Schulen und überwachen

    Akklimatisierung und Beherrschung der KI, Vorfälle und Neubewertung der Systeme je nach ihrer Entwicklung.

Die KI-Verordnung ersetzt nicht die DSGVO.

Sobald ein KI-System personenbezogene Daten verarbeitet, gelten die DSGVO und die KI-Verordnung gemeinsam. DSGVO-Compliance ist daher der beste Ausgangspunkt, um eine ganzheitliche Governance aufzubauen.

  • RechtsgrundlageEin System, das mit personenbezogenen Daten gefüttert wird, unterliegt weiterhin der DSGVO
  • DSFA und FRIAZwei ergänzende Bewertungen, die viele Fragen teilen
  • Automatisierte EntscheidungenArtikel 22 der DSGVO regelt weiterhin die automatisierten Entscheidungen
  • Rechte der PersonenZugang, Widerspruch und Erklärung gelten auch für die Verarbeitung durch KI

Tauschen Sie sich mit einem unserer Experten aus

Häufig gestellte Fragen

Unterscheidung zwischen KI-Modell und KI-System

Das Verständnis der Unterscheidung zwischen einem KI-Modell und einem KI-System ist wichtig für jeden, der sich für künstliche Intelligenz interessiert, sei es zur Entwicklung neuer Technologien oder zur Nutzung bestehender Technologien.

KI-Modelle sind die grundlegenden Komponenten, die spezifische Aufgaben ausführen, während KI-Systeme diese Modelle in vollständige und funktionale Lösungen integrieren, um praktische Bedürfnisse zu erfüllen.

Durch das Erkennen dieser Unterschiede kann man die Komplexität und den Umfang von KI-Anwendungen in verschiedenen Bereichen besser schätzen.

KI-Modell

Ein KI-Modell ist eine zentrale Komponente der künstlichen Intelligenz. Es ist eine mathematische oder statistische Darstellung eines spezifischen Problems, das aus Daten entwickelt wurde.

KI-Modelle werden trainiert, um Muster zu erkennen, Vorhersagen zu treffen oder auf der Grundlage von Daten Entscheidungen zu treffen.

Die häufigsten Arten von KI-Modellen sind neuronale Netze, Entscheidungsbäume, Support-Vektor-Maschinen und Regressionsmodelle.

Beispiele für KI-Modelle sind:

  • Tiefe neuronale Netze: Verwendet für Aufgaben wie Bildkennung oder Verarbeitung natürlicher Sprache.
  • Entscheidungsbäume: Verwendet für Klassifikation und Regression.
  • Regressionsmodelle: Werden verwendet, um kontinuierliche Werte vorherzusagen.
  • Lineare Regression: Wird verwendet, um zukünftige Aktienpreise basierend auf vergangenen Preisen und anderen Informationen vorherzusagen. Analysiert Materialien, Maschinen und zeitbasierte Daten, um Produktionsprozesse zu verbessern.
  • Zufallswald: Hilft zu erklären, in welchen Fällen Behandlungen unbeabsichtigte Wirkungen oder negative Ergebnisse haben können.
  • Naiver Bayes: Kann die Echtzeit-Präferenzen von Kunden basierend auf ihrem Surfverhalten oder ihren Kaufhistorien vorhersagen.

Das KI-Modell ist gewissermaßen wie das Gehirn der KI. Es wird durch einen Trainingsprozess aufgebaut und optimiert, in dem es aus historischen Daten lernt, um seine Genauigkeit und Effizienz zu verbessern.

KI-System

Ein KI-System ist eine breitere und komplexere Anwendung, die eines oder mehrere KI-Modelle integriert, um eine spezifische Aufgabe zu erfüllen.

Es umfasst nicht nur KI-Modelle, sondern auch die notwendigen Komponenten zur Erfassung, Verarbeitung und Analyse von Daten sowie zur Interaktion mit Benutzern.

Mit anderen Worten: Ein KI-System ist eine vollständige Lösung, die KI-Modelle innerhalb eines operativen Rahmens implementiert.

Komponenten eines KI-Systems sind:

  • KI-Modelle: Algorithmen, die darauf trainiert sind, Vorhersagen oder Analysen durchzuführen.
  • Datenerfassung und -verarbeitung: Prozesse zum Sammeln und Vorbereiten von Daten für das Modell.
  • Benutzeroberfläche: Mittel, durch die Benutzer mit dem System interagieren, wie z. B. Web- oder mobile Anwendungen.
  • Infrastruktur: Die Hardware und Software, die für den Betrieb des Systems erforderlich sind, wie Server und Datenbanken.

Beispiele für ein KI-System sind:

  • Virtueller Assistent: Wie Siri oder Alexa, die mehrere KI-Modelle für Sprachverständnis, Verarbeitung natürlicher Sprache und Generierung von Antworten nutzen und dabei Datenbanken und Benutzeroberflächen integrieren, um mit Benutzern zu interagieren.
  • Empfehlungssysteme: Werden von Plattformen wie Netflix oder Amazon verwendet, um Inhalte oder Produkte vorzuschlagen, unter Verwendung von Modellen des kollaborativen Filterns und der Verarbeitung von Benutzerdaten.

Wichtige Unterschiede zwischen KI-Modell und KI-System

  1. Skala und Komplexität:

    • KI-Modell: ist eine spezifische Komponente, die sich auf eine präzise Aufgabe wie Vorhersage oder Klassifikation konzentriert.
    • KI-System: ist ein Anwendungsfall, der mehrere Komponenten, einschließlich KI-Modelle und Trainingsdaten, integriert, um ein Problem zu lösen oder einen Dienst bereitzustellen.
  2. Komponenten:

    • KI-Modell: Umfasst nur den Algorithmus.
    • KI-System: Beinhaltet die Infrastruktur für die Bereitstellung, Benutzeroberflächen, Datenmanagement und KI-Modelle.
  3. Funktionalität:

    • KI-Modell: Liefert ein Ergebnis basierend auf der Datenanalyse.
    • KI-System: Nutzt dieses Ergebnis, um mit Benutzern oder anderen Systemen, oft in Echtzeit, zu interagieren.

Register der KI-Systeme in Dastra

Listen Sie Ihre KI-Anwendungsfälle auf und identifizieren Sie die damit verbundenen Risiken innerhalb von Dastra.

Das KI-Gesetz zielt darauf ab, einen harmonisierten Rechtsrahmen in der EU zu schaffen, um sicherzustellen, dass künstliche Intelligenzsysteme sicher, transparent, ethisch sind und die grundlegenden Rechte respektieren. Konkret verfolgt es die folgenden Ziele:

  • Bürger vor der Nutzung von KI zu schützen, die als gefährlich oder aufdringlich eingestuft wird (z. B. Massenüberwachung, Verhaltensmanipulation)
  • Hohe Risikosysteme mit strengen Verpflichtungen für Transparenz, menschliche Aufsicht, Datenqualität und Dokumentation zu regulieren
  • Vertrauenswürdige Innovationen zu fördern, indem ein klarer Rahmen für KI-Entwickler und Unternehmen bereitgestellt wird
  • Das Vertrauen der Öffentlichkeit und der professionellen Nutzer in KI zu stärken

Der Ansatz für KI-Systeme basiert auf einer Risikobewertung. Der regulatorische Rahmen definiert vier Risikokategorien für KI-Systeme (AIS), mit unterschiedlichen Regulierungsebenen je nach den verschiedenen Stufen der Pyramide.

  • Unacceptable Risiken
  • Hohe Risiken
  • Eingeschränkte/moderate Risiken
  • Miniminale oder keine Risiken

Das KI-Gesetz wird in einem speziellen oder ergänzenden Modul der Datenschutzangebote vermarktet. Abhängig von der Anzahl der Mitarbeiter in Ihrem Unternehmen variiert der Abonnementbetrag. Bitte konsultieren Sie unsere Preisseite oder kontaktieren Sie uns, um mehr zu erfahren.