„Dann verlieren auch die echten Fotografien ihre Wirkung“

Frau Groschek, was war der Auslöser für den offenen Brief?

Das Problem KI-generierter angeblicher Fotos aus Konzentrationslagern oder von Holocaust-Opfern gibt es schon länger, doch in dieser Wucht war es bislang nicht zu beobachten. Ende vergangenen Jahres ist mir, ebenso wie Kolleg:innen aus anderen Gedenkstätten, aufgefallen, wie präsent dieses Phänomen inzwischen geworden ist. Wir haben uns dann dazu abgestimmt, diesen offenen Brief formuliert und mit Blick auf den 27. Januar, den Tag der Befreiung des Konzentrations- und Vernichtungslagers Auschwitz, entschieden, ihn im Vorfeld zu veröffentlichen und eine dringend notwendige, öffentliche Diskussion anzustoßen.

Wer erstellt solche KI-generierten Inhalte und welche Absicht steckt dahinter?

Dort muss in zwei Richtungen geschaut werden. Zum einen gibt es die sogenannten Content-Farmen. Sie erzeugen mit starken Emotionen durch die KI-generierten Bilder vom Holocaust Klicks und monetarisieren diese. Es wird sozusagen aus Leid Geld gemacht. Zum anderen gibt es eine bewusste Verzerrung, um geschichtsrevisionistische Erzählungen zu verbreiten. Das ist mindestens genauso erschreckend.

Wieso ist die Verfälschung durch KI-generierten Content so gefährlich und was bedeutet das für die Geschichtsvermittlung?  

Wenn durch fehlende Kennzeichnung nicht mehr klar ist, was authentisch ist und was nicht, dann verlieren auch die echten Fotografien aus Konzentrationslagern ihre Wirkung. Im schlimmsten Fall führt das dazu, dass der Holocaust relativiert oder gar geleugnet wird. Die KI-Fotos bilden zudem oft überhaupt keine Vielfalt ab. Das kritisieren wir insbesondere von Gedenkstätten-Seite. Denn gerade wir versuchen ja, Geschichte divers und multiperspektivisch zu erzählen.

Warum ist ausgerechnet der Holocaust so häufig Gegenstand von KI-generierten Fälschungen?

Der Holocaust bewegt viele Menschen und die sogenannten Content-Farmen nutzen die Aufmerksamkeit, um damit Reichweite zu schaffen. Insofern kann man fast auch etwas Positives darin sehen: Das Interesse an der Thematik ist ungebrochen groß.

Geschichtsverfälschung gab es allerdings schon immer, worin liegt die neue Qualität von KI-Fälschungen in Sozialen Medien?

Im digitalen Raum ist die Verbreitung so groß. Wenn ich mir die KI-Bilder anschaue, nutzen sie teilweise Versatzstücke digital verfügbarer echter Inhalte, teilweise sind sie komplett fiktiv. Dazu kommt diese stark emotionalisierende Komponente. Und eine Hyper-Realistik, die das Ganze eher wie einen Spielfilm aussehen lässt.

Die KI generiert aus existierenden Gesichtern – was bedeutet das für Überlebende und Angehörige, wenn sie diese Bilder sehen?

Genau, das sind wahre Geschichten und echte Menschen, um die es geht. Ihre Fotos und Geschichten zu nehmen und daraus neue Bilder zu generieren und zu verkitschen, finde ich höchst fragwürdig. Es ist eben nicht nur reine Fiktion, was die KI generiert, sondern hat auch einen wahren Kern. Hier wird das tatsächliche Leben fiktionalisiert und damit auch das Leid. Aus Interviews mit Angehörigen weiß ich, dass es für sie zutiefst erschütternd ist, so etwas zu sehen. Sie fühlen sich, als würde sich das Leid wiederholen.

Können Sie bei Schüler:innen bereits Anzeichen für ein verändertes Geschichtsbild aufgrund von KI erkennen?

Mir fällt auf, dass gerade die junge Generation eine hohe Medienkompetenz hat, einfach weil sie mit Digitalität aufgewachsen ist. Junge Menschen haben schon ein Gefühl dafür entwickelt, was real ist und was nicht. Insofern finde ich es wichtig, diese Qualitäten in den Schulunterricht miteinzubringen und Quellenkritik zu üben und kritisches Denken weiter anzuregen.

Was würden Sie Schüler:innen, die am Geschichtswettbewerb teilnehmen, bei der Nutzung von KI empfehlen?

Ich bin keine Technikerin, sondern Historikerin. Deshalb fällt es mir schwer zu sagen, was genau benutzt werden darf und was nicht. Klar ist aber, KI wird ja schon angewendet, und kann unterstützend eingesetzt werden, das ist heute selbstverständlich. Solange es gekennzeichnet ist, finde ich es völlig in Ordnung, wenn man damit Formulierungen oder Übergänge verbessert.

Der Sinn einer wissenschaftlichen Arbeit ist ja, dass man sich in ein Thema vertieft und sich wirklich Gedanken macht. Und dort, wo keine Bilder existieren, ist dieses Fehlen ein Anlass, darüber zu sprechen. Warum gibt es sie nicht? Und was bedeutet das? Ein Beispiel im Kontext von Gedenkstätten: Die Fotografien, die wir haben, sind entweder Propagandafotos von Tätern oder Aufnahmen von der Befreiung.

Zum Schluss: Der Kulturstaatsminister Wolfram Weimer forderte als Reaktion auf den offenen Brief der Gedenkstätten die EU zum Handeln auf. Welche Maßnahmen fordern Sie denn von den Plattformen? Und wie sollte jede:r reagieren, wenn man auf KI-generierte Holocaust-Verfälschungen stößt?

Als Gesellschaft müssen wir im Umgang mit KI unbedingt ethische und verantwortungsvolle Standards finden. Geschäftsmodellen auf Grundlage von KI-Fälschungen muss die Grundlage entzogen werden und wir wollen, dass Plattformen nicht erst nach Nutzer:innenmeldungen Beiträge löschen und dass KI ausnahmslos gekennzeichnet werden muss. Wir alle sollten solche Beiträge nicht liken, nicht kommentieren, sondern melden – und stattdessen beispielsweise Accounts von Gedenkstätten folgen, die recherchebasierte Geschichten erzählen. Oder beim Geschichtswettbewerb mitmachen und selbst anfangen zu forschen.

Zum offenen Brief der Gedenkstätten: