Offener Brief: Konsequentes Vorgehen gegen KI-generierte Holocaust-Verfälschungen auf Social-Media-Plattformen

Wir – Einrichtungen historisch-politischer Bildung – sehen das in letzter Zeit massive Auftauchen von erfundenen KI-generierten Inhalten (AI Slop) zum Nationalsozialismus auf Social Media-Plattformen mit großer Sorge. Diese Postings verfälschen die Geschichte durch Verharmlosung und Verkitschung und verändern die Sehgewohnheiten der Nutzer/-innen, die zunehmend auch authentische historische Dokumente anzweifeln. Mit jedem dieser Postings wird die Arbeit von Gedenkstätten, Archiven und Forschungseinrichtungen entwertet und ihre Glaubwürdigkeit untergraben. Auf Initiative von AI-Slop betroffener Gedenkstätten formuliert das Netzwerk Digital History und Memory einen offenen Brief an Social-Media-Plattformen. Die KZ-Gedenkstätte Dachau gehört zu den Erstunterzeichner/-innen.

Konsequentes Vorgehen gegen KI-generierte Holocaust-Verfälschungen auf Social-Media-Plattformen

In den Sozialen Netzwerken tauchen in den letzten Monaten immer mehr massenhaft mit Künstlicher Intelligenz (KI) erstellte Inhalte mit Bezug zum Nationalsozialismus auf, die keine historischen Ereignisse abbilden, sondern frei erfunden sind. Diese umgangssprachlich als AI-Slop bezeichneten Inhalte zeigen beispielsweise vermeintliche Situationen in nationalsozialistischen Lagern oder bei deren Befreiung. Diese zeichnen ein extrem verzerrtes und falsches Bild. Beispielsweise kursieren KI-generierte Bilder, die ein angebliches Wiedersehen zwischen Gefangenen und Befreiern zeigen, oder erfundene Szenen weinender Kinder hinter Stacheldraht. Mit Künstlicher Intelligenz werden hier Inhalte erstellt, die aus Versatzstücken historischer Fakten und emotionalisierter Fiktion bestehen.

Hinter diesen Inhalten stehen unterschiedliche Motive: Zum einen nutzen sogenannte Content-Farmen die emotionale Wucht des Holocaust, um mit minimalem Aufwand maximale Reichweite zu erzielen. Ein Geschäftsmodell, das auf Klicks und Werbeeinnahmen basiert. Zum anderen werden diese Inhalte gezielt eingesetzt, um historische Fakten zu verwässern, Opfer- und Täterrollen zu verschieben oder revisionistische Narrative zu verbreiten. Die Algorithmen der Plattformen begünstigen dabei emotional aufgeladene Inhalte, unabhängig von deren Wahrheitsgehalt.

Diese Entwicklung beobachten wir als Einrichtungen historisch-politischer Bildung mit großer Sorge. KI-generierte Inhalte verfälschen die Geschichte durch Verharmlosung und Verkitschung. Sie verändern die Sehgewohnheiten der Nutzer/-innen, die zunehmend auch authentische historische Dokumente anzweifeln. Mit jedem dieser Postings wird die Arbeit von Gedenkstätten, Archiven und Forschungseinrichtungen entwertet und ihre Glaubwürdigkeit untergraben.

Wir setzen uns für eine digitale Öffentlichkeit ein, in der Überlebende der nationalsozialistischen Verfolgung und ihre Nachkommen davor geschützt sind, dass ihre Lebensgeschichten von Unbekannten für Profit instrumentalisiert werden. Historische Quellen und wissenschaftliche Forschung dürfen nicht von massenhaft KI-generierten Inhalten verdrängt werden. Wir wollen, dass echte Stimmen und vielfältige Perspektiven gehört werden.

Wir sind nicht gegen digitale Formen des Gedenkens und der Vermittlung. Auch künstliche Intelligenz kann in der historisch-politischen Bildungsarbeit durchaus sinnvoll eingesetzt werden. Die gesamtgesellschaftliche Herausforderung besteht jedoch darin, ethische und historisch verantwortungsvolle Standards für diese Technologie zu entwickeln. Plattformbetreiber tragen dabei eine besondere Verantwortung: Sie müssen sicherstellen, dass das Leid der Opfer nicht durch emotionalisierte Fiktionen trivialisiert wird.

Wir fordern Plattformbetreiber auf:

1. Proaktiv gegen geschichtsverfälschende KI-Inhalte vorzugehen. Nicht erst nach Nutzer*innenmeldungen.
2. Geschichtsverfälschende und irreführende Inhalte als Fehlinformation über die internen Meldesysteme meldbar zu machen.
3. Konten, die solche Inhalte verbreiten, von allen Monetarisierungsprogrammen auszuschließen.
4. KI-generierte Inhalte ausnahmslos zu kennzeichnen und bei Verstößen gegen die Kennzeichnungspflicht zu entfernen.
5. Mit Gedenkstätten, Archiven und Expert*innen zusammenzuarbeiten, um Erkennungssysteme für Holocaust-bezogene Fehlinformationen zu verbessern.

Erstunterzeichner/-innen (alphabetisch):

Arbeitsgemeinschaft KZ-Gedenkstätten:

• Gedenkstätte Bergen-Belsen
• Gedenkstätte Buchenwald
• KZ-Gedenkstätte Dachau
• KZ-Gedenkstätte Flossenbürg
• KZ-Gedenkstätte Mittelbau-Dora
• KZ-Gedenkstätte Neuengamme
• Mahn- und Gedenkstätte Ravensbrück
• Gedenkstätte und Museum Sachsenhausen

Arolsen Archives

Dokumentations- und Informationszentrum (DIZ) Emslandlager

Dokumentationszentrum NS-Zwangsarbeit

Gedenk- und Bildungsstätte Haus der Wannsee-Konferenz

Gedenkstätte Hadamar

Gedenkstätte in der JVA Wolfenbüttel

Gedenkstätte Lager Sandbostel

Gedenkstätten Gestapokeller und Augustaschacht e.V.

Gedenkstättenreferat der Stiftung Topographie des Terrors

Jüdisches Museum Berlin

KZ-Gedenk- und Begegnungsstätte Ladelund

Sprecher/-innenrat des Netzwerks der Gedenkstätten und Erinnerungsinitiativen an Orten ehemaliger NS-Kriegsgefangenenlager

Netzwerk Digital History und Memory

Ständige Konferenz der NS-Gedenkorte im Berliner Raum:

• Denkmal für die ermordeten Juden Europas
• Gedenkstätte und Museum Sachsenhausen
• Gedenk- und Bildungsstätte Haus der Wannseekonferenz
• Gedenkstätte Deutscher Widerstand
• Topographie des Terrors

Stiftung Bayerische Gedenkstätten

Stiftung Hamburger Gedenkstätten und Lernorte zur Erinnerung an die Opfer der NS-Verbrechen

Stiftung Gedenkstätten Buchenwald und Mittelbau-Dora

Stiftung Niedersächsische Gedenkstätten

Verband der Gedenkstätten in Deutschland e.V.