Neuer Bericht warnt: Terroristen nutzen KI, um antisemitische Propaganda zu verbreiten und neue Mitglieder zu rekrutieren

Künstliche Intelligenz (KI) wird laut einem neuen Bericht des American Security Fund (ASF) in beispiellosem Ausmaß von Terroristen und anderen genutzt, um Hass gegen Juden und Israel zu verbreiten.

„Es gibt systematische Bemühungen von böswilligen Akteuren, KI-Trainingsdaten zu verfälschen und sie absichtlich antisemitischer und antiisraelischer zu gestalten“, schreibt Julia Senkfor, die Autorin des Berichts. „Das Endergebnis sind KI-Modelle, die menschliche Anständigkeit nicht widerspiegeln und Hassreden nicht vermeiden.“

Terroristen und andere böswillige Gruppen manipulieren Websites wie Wikipedia, auf die sich KI-Entwickler beim Training großer Sprachmodelle (LLMs) stark stützen, und schaffen so eine antijüdische Voreingenommenheit in KI-Systemen. Laut Senkfors Untersuchungen werden die verzerrten Informationen dann von den Menschen, die online darauf stoßen, für bare Münze genommen.

„Aktuelle Studien zur menschlichen Wahrnehmung von KI deuten darauf hin, dass Menschen KI-generierten Inhalten erstaunlich viel Vertrauen schenken“, so Senkfor. „Eine Studie der Elon University ergab, dass KI-Bots bei der Meinungsänderung zu kontroversen Themen überzeugender sind als Menschen, was zum Teil daran liegt, dass fast die Hälfte der KI-Nutzer (49 %) glaubt, dass KI-Modelle zumindest etwas intelligenter sind als sie selbst. Forscher in Deutschland fanden heraus, dass Menschen KI-generierten und von Menschen verfassten Inhalten ein ähnliches Maß an Glaubwürdigkeit beimessen. Am besorgniserregendsten ist jedoch, dass eine psychologische Studie ergab, dass durch KI eingeführte Vorurteile im menschlichen Denken fortbestehen können.“

Die Anti-Defamation League stellte fest, dass KI einen wesentlichen Beitrag zu dem Anstieg des Antisemitismus um mehr als 300 % in den Vereinigten Staaten nach dem Massaker vom 7. Oktober im Süden Israels geleistet hat, so der ASF-Bericht.

Der Bericht stellte fest, dass terroristische Netzwerke – darunter die Hamas, Al-Qaida, der Islamische Staat (ISIS) und die Hisbollah – die Moderation von Online-Inhalten durch den Einsatz von KI umgehen. Sie haben KI-generierte „Zielidentifizierungspakete“ erstellt, die Fotos von jüdischen Zentren in Großstädten wie New York, Chicago, Miami und Detroit enthalten, und nutzen KI, um neue Mitglieder zu rekrutieren, unter anderem durch den Einsatz von Tools zur Stimmklonung.

„Im Jahr 2023 veröffentlichte der Islamische Staat einen Leitfaden für den sicheren Einsatz von KI-Tools. Terroristische Gruppen haben Stellenanzeigen geschaltet, um KI-Softwareentwickler, Videoproduzenten und Open-Source-Experten zu rekrutieren. ISIS und Al-Qaida haben KI-Sprachklonungssoftware eingeführt, um westlich orientierte Nachrichtensendungen in amerikanisiertem Englisch zu produzieren. Und extremistische Gruppen haben begonnen, „interaktive Rekrutierung“ einzusetzen, bei der KI-gestützte Chatbots mit potenziellen Rekruten interagieren, indem sie ihnen auf ihre Interessen und Überzeugungen zugeschnittene Informationen liefern und so die Botschaften der Gruppen für sie relevanter erscheinen lassen“, heißt es in dem Bericht.

Radikale Gruppen der politischen Rechten, so der Bericht, nutzen KI zur Massenproduktion von judenfeindlichen Bildern, sogenannten „GAI-Hate Memes“, die antisemitische Bilder mit Satire kombinieren.

„Auf Plattformen wie 4chan tauschen Nutzer aktiv Anleitungen aus, wie man KI-Bildgenerierungs-Tools einsetzt, um antisemitische Darstellungen zu erstellen, wobei sie sich oft auf traditionelle antisemitische Tropen stützen. Und in rechtsextremen Foren diskutieren Nutzer über die Erstellung neuartiger KI-Modelle, die Manipulation bestehender KI-Systeme und die Umgehung gängiger KI-Sicherheitsvorkehrungen, um hasserfüllte, schädliche Inhalte zu generieren ... Ihre schnelle Mobilisierung deutet darauf hin, dass sie eine technologische Innovation in eine Waffe zur Massenproduktion und Verbreitung antisemitischer Propaganda verwandeln und damit das Ausmaß und die Geschwindigkeit, mit der Hass erzeugt und verbreitet wird, grundlegend verändern“, schrieb Senkfor.

Sie schloss mit einer Warnung vor der zunehmenden Instrumentalisierung manipulierter Inhalte.

„Extremisten schleusen manipulierte Inhalte in frei bearbeitbare Plattformen, insbesondere Wikipedia, ein, um KI-Trainingsdatensätze zu verbreiten und zu kontaminieren. So werden absichtliche Verzerrungen über Juden und Israel zu vermeintlichen Wahrheiten. Gleichzeitig demonstrieren Extremisten sowohl ihre Bereitschaft als auch ihre Fähigkeit, KI zu nutzen. Um KI-gestütztem Antisemitismus entgegenzuwirken, muss man ihn nicht als isoliertes technisches Problem betrachten, sondern als komplexes soziotechnisches Problem, das tief verwurzelte historische Vorurteile widerspiegelt und gleichzeitig neue Wege eröffnet, um ihn in enormem Ausmaß und mit enormer Geschwindigkeit zu verstärken und zu verbreiten.“