Regurgitation bei generativer KI
Im Bereich der generativen künstlichen Intelligenz bezeichnet Regurgitation eine Situation, in der ein KI-Modell eine nahezu identische Kopie von Inhalten aus seinen Trainingsdaten erzeugt. Dabei ist grundsätzlich unerheblich, ob die Wiedergabe erwartungsgemäß, unbeabsichtigt oder aufgrund einer gezielten Nutzerinteraktion erfolgt.
Regurgitation ist von der Memorisierung (Memorization) zu unterscheiden. Memorisierung beschreibt, dass Trainingsinformationen während des Trainings so im Modell verankert werden, dass wesentliche Teile später rekonstruiert werden können. Regurgitation bezeichnet dagegen die tatsächliche Ausgabe solcher memorisierten Inhalte durch das Modell.
Wird ein KI-Modell gezielt durch Prompts oder andere Methoden dazu gebracht, memorisierte Trainingsdaten nahezu originalgetreu auszugeben, wird in der Forschung häufig von Extraktion gesprochen. Der Begriff „Regurgitation Attack“ wird ebenfalls verwendet, ist jedoch kein einheitlich definierter Rechtsbegriff des EU AI Act.
Welche rechtlichen Risiken bestehen?
Regurgitation kann insbesondere dann rechtlich relevant werden, wenn die ausgegebenen Trainingsinhalte urheberrechtlich geschützte Werke, personenbezogene Daten oder andere vertrauliche Informationen enthalten.
Für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) schreibt Art. 53 Abs. 1 Buchst. c EU AI Act unter anderem eine Strategie zur Einhaltung des Urheberrechts der Union und der verwandten Schutzrechte vor. Der GPAI Code of Practice enthält ergänzend Maßnahmen zur Verringerung des Risikos urheberrechtsverletzender Ausgaben.
Nicht jede Ähnlichkeit zwischen einem generierten Inhalt und Trainingsdaten stellt jedoch automatisch Regurgitation oder eine Rechtsverletzung dar. Entscheidend sind unter anderem der Grad der Übereinstimmung, Art und Umfang des reproduzierten Inhalts sowie die jeweils einschlägigen rechtlichen Rahmenbedingungen.
Für eine wirksame KI Governance kann es daher relevant sein, Risiken durch Memorisierung und Regurgitation bereits bei der Auswahl, Entwicklung und Überwachung generativer KI-Modelle zu berücksichtigen.