Un nouveau rapport met en garde : les terroristes utilisent l'IA comme arme pour diffuser de la propagande antisémite et recruter de nouveaux membres.
Selon un nouveau rapport publié par l'American Security Fund (ASF), l'intelligence artificielle (IA) est utilisée à une échelle sans précédent par des terroristes et d'autres acteurs pour répandre la haine contre les Juifs et Israël.
« Les acteurs malveillants déploient des efforts systématiques pour corrompre les données d'entraînement de l'IA, en les rendant intentionnellement plus antisémites et anti-israéliennes », écrit Julia Senkfor, l'auteure du rapport. « Le résultat final est des modèles d'IA qui ne reflètent pas la décence humaine et n'évitent pas les discours haineux. »
Les terroristes et autres groupes malveillants manipulent des sites web tels que Wikipédia, sur lesquels les développeurs d'IA s'appuient fortement pour former des modèles linguistiques à grande échelle (LLM), créant ainsi un biais anti-juif dans les systèmes d'IA. Selon les recherches de Senkfor, les informations déformées sont ensuite prises pour argent comptant par les personnes qui les rencontrent en ligne.
« Des études récentes sur la perception humaine de l'IA suggèrent que les humains ont une confiance excessive dans les contenus générés par l'IA », a déclaré Senkfor. « Une étude de l'université d'Elon a révélé que les robots IA sont plus persuasifs que les humains pour changer l'opinion des gens sur des sujets controversés, en partie parce que près de la moitié des utilisateurs d'IA (49 %) pensent que les modèles d'IA sont au moins un peu plus intelligents qu'eux-mêmes. Des chercheurs allemands ont découvert que les gens attribuent un niveau de crédibilité similaire aux contenus générés par l'IA et à ceux rédigés par des humains. Plus inquiétant encore, une étude psychologique a révélé que les biais introduits par l'IA peuvent persister dans la pensée humaine. »
Selon le rapport de l'ASF, l'Anti-Defamation League a découvert que l'IA avait largement contribué à la hausse de plus de 300 % de l'antisémitisme aux États-Unis après le massacre du 7 octobre dans le sud d'Israël.
Le rapport a révélé que les réseaux terroristes, notamment le Hamas, Al-Qaïda, l'État islamique (EI) et le Hezbollah, contournent la modération des contenus en ligne grâce à l'utilisation de l'IA. Ils ont généré des « paquets d'identification de cibles » produits par l'IA contenant des photos de centres juifs dans de grandes villes telles que New York, Chicago, Miami et Détroit, et utilisent l'IA pour recruter de nouveaux membres, notamment à l'aide d'outils de clonage vocal.
« En 2023, l'État islamique a publié un guide d'assistance technique pour utiliser en toute sécurité les outils d'IA. Les groupes terroristes ont publié des annonces « recherche d'aide » pour recruter des développeurs de logiciels d'IA, des producteurs vidéo et des experts en open source. L'État islamique et Al-Qaïda ont adopté des logiciels de clonage vocal basés sur l'IA pour produire des programmes d'information adaptés au public occidental dans un anglais américanisé. Et les groupes extrémistes ont commencé à recourir au « recrutement interactif », dans le cadre duquel des chatbots alimentés par l'IA interagissent avec des recrues potentielles en leur fournissant des informations personnalisées en fonction de leurs intérêts et de leurs convictions, ce qui rend les messages des groupes plus pertinents à leurs yeux », indique le rapport.
Le rapport révèle que des groupes radicaux de droite utilisent l'IA pour produire en masse des images antisémites, appelées « GAI-Hate Memes », qui combinent des images antisémites et de la satire.
« Sur des plateformes telles que 4chan, les utilisateurs partagent activement des instructions pour utiliser des outils de génération d'images basés sur l'IA afin de créer des représentations antisémites, s'inspirant souvent des tropes antisémites traditionnels. Et dans les forums d'extrême droite, les utilisateurs discutent de la création de nouveaux modèles d'IA, de la manipulation des systèmes d'IA existants et du contournement des mesures de sécurité courantes de l'IA afin de générer des contenus haineux et préjudiciables... Leur mobilisation rapide suggère qu'ils transforment une innovation technologique en une arme pour la production et la distribution de masse de propagande antisémite, modifiant fondamentalement l'ampleur et la vitesse à laquelle la haine est créée et diffusée », écrit Senkfor.
Elle conclut par un avertissement sur l'utilisation croissante de contenus manipulés à des fins malveillantes.
« Les extrémistes injectent des contenus manipulés dans des plateformes d'édition ouverte, en particulier Wikipédia, afin de diffuser et de contaminer les ensembles de données d'entraînement de l'IA. Les distorsions délibérées sur les Juifs et Israël deviennent ainsi des vérités perçues. Parallèlement, les extrémistes démontrent à la fois leur volonté et leur capacité à tirer parti de l'IA. Pour lutter contre l'antisémitisme facilité par l'IA, il faudra le considérer non pas comme un problème technique isolé, mais comme une question socio-technique complexe reflétant des schémas historiques profonds de préjugés et, en même temps, de nouveaux vecteurs permettant de l'amplifier et de le diffuser à une échelle et à une vitesse considérables. »
Articles populaires:
interview Message de Pâques porteur d'espoir de résurrection en temps de guerre au Jardin de la Tombe de Jérusalem
commentaire biblique « Laisse partir mon peuple » : un message de Pessah pour aujourd’hui
Quatre soldats de l'armée israélienne ont été tués et deux autres blessés lors d'affrontements dans le sud du Liban, tandis qu'Israël a éliminé des dizaines de terroristes du Hezbollah
Recevez les dernières actualités et mises à jour
Un message d'All Israel News
Aidez-nous à informer chaque jour les chrétiens sur ce qui se passe en Israël et au Moyen-Orient, et sur les raisons pour lesquelles cela compte.
Dès $10, vous pouvez soutenir ALL ISRAEL NEWS, une organisation médiatique à but non lucratif soutenue par des lecteurs comme vous.
Derniers articles:
Le Mossad aurait enlevé deux généraux iraniens et tué l’un d’eux dans le cadre de recherches menées depuis des décennies pour retrouver le navigateur israélien disparu Ron Arad, selon un rapport
Une délégation de l’ONU visite un tunnel du Hamas et se rend dans un kibboutz dévasté lors des attaques du 7 octobre
Front Nord Tsahal mène une frappe rare contre une cargaison d’armes du Hezbollah dans la vallée de la Bekaa, au Liban, alors que l’organisation terroriste intensifie ses efforts de reconstitution de son arsenal
Hamas cherche à reconstruire son infrastructure militaire et à étendre l’utilisation des hôpitaux de Gaza
Bloc divisé sur une éventuelle coalition avec les partis arabes ou ultraorthodoxes après une semaine de négociations