Un nouveau rapport met en garde : les terroristes utilisent l'IA comme arme pour diffuser de la propagande antisémite et recruter de nouveaux membres.

Selon un nouveau rapport publié par l'American Security Fund (ASF), l'intelligence artificielle (IA) est utilisée à une échelle sans précédent par des terroristes et d'autres acteurs pour répandre la haine contre les Juifs et Israël.

« Les acteurs malveillants déploient des efforts systématiques pour corrompre les données d'entraînement de l'IA, en les rendant intentionnellement plus antisémites et anti-israéliennes », écrit Julia Senkfor, l'auteure du rapport. « Le résultat final est des modèles d'IA qui ne reflètent pas la décence humaine et n'évitent pas les discours haineux. »

Les terroristes et autres groupes malveillants manipulent des sites web tels que Wikipédia, sur lesquels les développeurs d'IA s'appuient fortement pour former des modèles linguistiques à grande échelle (LLM), créant ainsi un biais anti-juif dans les systèmes d'IA. Selon les recherches de Senkfor, les informations déformées sont ensuite prises pour argent comptant par les personnes qui les rencontrent en ligne.

« Des études récentes sur la perception humaine de l'IA suggèrent que les humains ont une confiance excessive dans les contenus générés par l'IA », a déclaré Senkfor. « Une étude de l'université d'Elon a révélé que les robots IA sont plus persuasifs que les humains pour changer l'opinion des gens sur des sujets controversés, en partie parce que près de la moitié des utilisateurs d'IA (49 %) pensent que les modèles d'IA sont au moins un peu plus intelligents qu'eux-mêmes. Des chercheurs allemands ont découvert que les gens attribuent un niveau de crédibilité similaire aux contenus générés par l'IA et à ceux rédigés par des humains. Plus inquiétant encore, une étude psychologique a révélé que les biais introduits par l'IA peuvent persister dans la pensée humaine. »

Selon le rapport de l'ASF, l'Anti-Defamation League a découvert que l'IA avait largement contribué à la hausse de plus de 300 % de l'antisémitisme aux États-Unis après le massacre du 7 octobre dans le sud d'Israël.

Le rapport a révélé que les réseaux terroristes, notamment le Hamas, Al-Qaïda, l'État islamique (EI) et le Hezbollah, contournent la modération des contenus en ligne grâce à l'utilisation de l'IA. Ils ont généré des « paquets d'identification de cibles » produits par l'IA contenant des photos de centres juifs dans de grandes villes telles que New York, Chicago, Miami et Détroit, et utilisent l'IA pour recruter de nouveaux membres, notamment à l'aide d'outils de clonage vocal.

« En 2023, l'État islamique a publié un guide d'assistance technique pour utiliser en toute sécurité les outils d'IA. Les groupes terroristes ont publié des annonces « recherche d'aide » pour recruter des développeurs de logiciels d'IA, des producteurs vidéo et des experts en open source. L'État islamique et Al-Qaïda ont adopté des logiciels de clonage vocal basés sur l'IA pour produire des programmes d'information adaptés au public occidental dans un anglais américanisé. Et les groupes extrémistes ont commencé à recourir au « recrutement interactif », dans le cadre duquel des chatbots alimentés par l'IA interagissent avec des recrues potentielles en leur fournissant des informations personnalisées en fonction de leurs intérêts et de leurs convictions, ce qui rend les messages des groupes plus pertinents à leurs yeux », indique le rapport.

Le rapport révèle que des groupes radicaux de droite utilisent l'IA pour produire en masse des images antisémites, appelées « GAI-Hate Memes », qui combinent des images antisémites et de la satire.

« Sur des plateformes telles que 4chan, les utilisateurs partagent activement des instructions pour utiliser des outils de génération d'images basés sur l'IA afin de créer des représentations antisémites, s'inspirant souvent des tropes antisémites traditionnels. Et dans les forums d'extrême droite, les utilisateurs discutent de la création de nouveaux modèles d'IA, de la manipulation des systèmes d'IA existants et du contournement des mesures de sécurité courantes de l'IA afin de générer des contenus haineux et préjudiciables... Leur mobilisation rapide suggère qu'ils transforment une innovation technologique en une arme pour la production et la distribution de masse de propagande antisémite, modifiant fondamentalement l'ampleur et la vitesse à laquelle la haine est créée et diffusée », écrit Senkfor.

Elle conclut par un avertissement sur l'utilisation croissante de contenus manipulés à des fins malveillantes.

« Les extrémistes injectent des contenus manipulés dans des plateformes d'édition ouverte, en particulier Wikipédia, afin de diffuser et de contaminer les ensembles de données d'entraînement de l'IA. Les distorsions délibérées sur les Juifs et Israël deviennent ainsi des vérités perçues. Parallèlement, les extrémistes démontrent à la fois leur volonté et leur capacité à tirer parti de l'IA. Pour lutter contre l'antisémitisme facilité par l'IA, il faudra le considérer non pas comme un problème technique isolé, mais comme une question socio-technique complexe reflétant des schémas historiques profonds de préjugés et, en même temps, de nouveaux vecteurs permettant de l'amplifier et de le diffuser à une échelle et à une vitesse considérables. »