The Guardian a découvert l'identité, jusque-là tenue secrète, du chef de l'Unité 8200, l'équivalent israélien de la NSA. Ce dernier avait en effet publié sur Amazon un livre en 2021, « The Human Machine Team », sous-titré « Comment créer une synergie entre l'intelligence humaine et l'intelligence artificielle qui révolutionnera notre monde ».

Son auteur, Y.S., y est présenté comme un général de brigade, « analyste expert, directeur technologique, commandant d'une unité de renseignement d'élite et lauréat du prestigieux prix israélien de la défense pour son projet de lutte contre le terrorisme basé sur l'intelligence artificielle ».

Son essai prétend « expliquer comment la combinaison de l'intelligence humaine et de l'intelligence artificielle peut résoudre les défis et les menaces en matière de sécurité nationale, mener à la victoire en temps de guerre et être un moteur de croissance pour l'humanité ».

Or, « comme tout écrivain auto-édité », précise Dov Alfon, directeur de la rédaction de Libération (et lui-même ex-officier de renseignements israéliens de l'unité 8200) il lui a fallu créer un compte associé à une adresse e-mail. En l'espèce, un compte Gmail créé au nom de Yossi Sariel.

Initialement repéré par un groupe WhatsApp d’anciens officiers de l’Unité 8200, la bourde a finalement été rendue publique par le Guardian, après que plusieurs sources lui ont confirmé son identité en tant qu'auteur de l'essai et patron de l'unité 8200.

Une « machine à cibles » alimentée par l'IA

Ironie de l'histoire, M. Sariel aurait écrit ce livre avec l'autorisation de l'armée israélienne après avoir été chercheur invité pendant un an à l'Université de défense nationale des États-Unis à Washington DC, où il avait « plaidé en faveur de l'utilisation de l'IA pour transformer la guerre moderne ».

Dans son livre, M. Sariel évoque une « révolution » survenue ces dernières années au sein des forces armées israéliennes, qui ont « développé un nouveau concept de guerre centrée sur le renseignement afin de relier le renseignement aux combattants sur le terrain ».

Il y préconise d'aller encore plus loin, « en fusionnant totalement le renseignement et la guerre, en particulier lors des opérations de ciblage létal ». L'une des sections du livre annonce le concept d'une « machine à cibles » alimentée par l'IA, dont les descriptions ressemblent beaucoup aux systèmes de recommandation de cibles sur lesquels les forces armées israéliennes se sont appuyées pour bombarder la bande de Gaza.

Dans l'un des chapitres de l'ouvrage, il fournit ainsi « un modèle pour la construction d'une machine de ciblage efficace qui s'appuie sur des "big data" qu'un cerveau humain ne pourrait pas traiter », résume le Guardian.

Éviter les « goulots d'étranglement » humains

« La machine a besoin de suffisamment de données concernant le champ de bataille, la population, des informations visuelles, des données cellulaires, des connexions aux médias sociaux, des photos, des contacts de téléphones portables », précise-t-il.

« Plus il y a de données et plus elles sont variées, mieux c'est », citant des exemples tels que « les personnes qui sont avec un membre du Hezbollah dans un groupe WhatsApp, les personnes qui ont de nouveaux téléphones portables tous les quelques mois, les personnes qui changent fréquemment d'adresse ».

Il affirme également que l'utilisation de l'IA pour créer des cibles militaires potentielles peut être plus efficace et éviter les « goulots d'étranglement » créés par les agents de renseignement ou les soldats : « Nous [les humains] ne pouvons pas traiter autant d’informations. Peu importe le nombre de personnes chargées de produire des objectifs pendant la guerre, il est toujours impossible de produire suffisamment d’objectifs par jour ».

« Il y a un goulot d'étranglement humain à la fois pour localiser les nouvelles cibles et pour prendre la décision d'approuver les cibles. Il y a aussi le goulot d'étranglement du traitement d'une grande quantité de données. Enfin, il y a le goulot d'étranglement de la connexion entre le renseignement et le feu », alors que, précisément, « une équipe composée de machines et d'enquêteurs peut faire sauter ce goulet d'étranglement ».

L'IA aurait marqué « jusqu’à 37 000 Palestiniens »

Une enquête menée par + 972 Magazine et Local Call, traduite en français par L'Humanité, révèle par ailleurs que l’armée israélienne a mis au point un programme basé sur l’intelligence artificielle (IA), connu sous le nom de « Lavender », pour marquer tous les agents présumés des ailes militaires du Hamas et du Jihad islamique palestinien, « y compris les moins gradés, comme des cibles potentielles pour les bombardements ».

Lavender aurait ainsi marqué « jusqu’à 37 000 Palestiniens » comme combattants ou militants présumés – avec leurs maisons – en vue d’éventuelles frappes aériennes, parmi les 2,3 millions d’habitants de la bande de Gaza.

Le programme aurait été conçu en traitant des « quantités massives » de données : « informations visuelles, cellulaires, connexions aux médias sociaux, informations sur le champ de bataille, contacts téléphoniques, photos. » Jusqu’ici, ce type d'identifications était effectué par des humains et se limitait donc, faute de moyens, aux seuls commandants de haut rang.

Les sources interrogées par + 972 précisent que l'efficacité de Lavender aurait été testée, au début du conflit, sur un échantillon de Palestiniens, avec une efficacité « de 90 % » pour « l'identification de l'affiliation d'un individu avec le Hamas ».

L'article suggère qu'il pourrait cela dit s'agir non seulement de la « sensibilité » de l'IA (sa capacité à correctement identifier un membre avéré du Hamas), mais également de sa « spécificité » (à savoir sa capacité à ne pas accuser à tort un civil d'être affilié au Hamas), précise CheckNews.

« Presque chaque personne à Gaza a une note de 1 à 100 »

Les sources de + 972 expliquent que « presque chaque personne à Gaza a une note de 1 à 100, exprimant la probabilité qu'il s'agisse d'un militant » du Hamas ou du Jihad islamique, pour ensuite comparer ces attributs aux profils des 2,3 millions de Gazaouis. « Et donc, potentiellement, les désigner comme des cibles à tuer », résume CheckNews.

Au début de la guerre, l’armée aurait « largement autorisé » les officiers à adopter ses listes d’objectifs, sans même exiger de vérification des raisons pour lesquelles la machine avait fait ces choix, « ni d’examen des données brutes de renseignement sur lesquelles elles étaient basées ».

Les officiers ne faisaient souvent qu’entériner les décisions de la machine, et ne consacraient personnellement qu’environ « 20 secondes » à chaque cible avant d’autoriser un bombardement – juste pour s’assurer que la cible marquée par Lavender est bien un homme.

Et ce, alors que le système est connu pour commettre des « erreurs » dans approximativement 10 % des cas, et pour marquer « occasionnellement » des individus qui n'ont qu'un lien ténu avec des groupes militants, « voire aucun lien du tout ».

« Where’s Daddy ? » (Où est papa ?)

En outre, l’armée israélienne a « systématiquement » attaqué les personnes ciblées alors qu’elles se trouvaient chez elles – généralement la nuit, en présence de leur famille – plutôt qu’au cours d’une activité militaire, au motif que, du point de vue du renseignement, il est plus facile de localiser les individus dans leurs maisons privées.

Les forces armées israéliennes ont en effet eu recours à un autre système automatisé, cyniquement appelé « Where’s Daddy ? » (Où est papa ?), conçu spécifiquement pour suivre les individus ciblés et les bombarder lorsqu’ils rentrent chez eux.

En ajoutant un nom figurant sur les listes générées par Lavender au système de localisation des maisons « Where’s Daddy ? », la personne marquée était placée sous surveillance permanente et pouvait être attaquée dès qu’elle mettait le pied chez elle, quitte à faire s’effondrer la maison sur toutes les personnes qui s’y trouvaient et décimer sa famille, femmes et enfants compris, ou encore à les tuer alors même que la cible aurait, à tort, été identifiée comme étant rentrée chez elle.

100 cibles par jour, contre 50 cibles par an auparavant

CheckNews rappelle que d'autres logiciels sont utilisés, et qu'ils seraient interconnectés. Le logiciel « Gospel » (Évangile, « Habsora » en hébreu), vise ainsi à proposer, dans un périmètre donné, les bâtiments les plus pertinents pour une attaque – par exemple ceux dans lesquels des membres du Hamas sont soupçonnés d'opérer, sur la base de différentes données agrégées.

• • Israël - Hamas : comment l'IA intensifie les attaques contre Gaza

Fin juin 2023, l'ancien chef d'état-major de l'armée israélienne Aviv Kochavi expliquait au média israélien YNet que, lors de la guerre de 2021, Gospel avait généré 100 cibles par jour, contre « 50 cibles par an à Gaza » avant l'avènement de cet outil.

« Wisdom Stone », une « plateforme de fusion et d'analyses de données » développée par l'entreprise Rafael Advanced Defense Systems et destinée « à révéler des schémas, des connexions et des activités cachées », permettrait de son côté l'extraction automatisée de contenus numériques issus de différentes sources (web, caméra de surveillance, etc.), et de les agréger lorsqu'ils sont relatifs à un même individu, une même organisation, un même lieu, un même véhicule, etc.

L'outil intègre des « fonctions d'analyse de vidéos, de reconnaissance faciale, de voix, de plaque d'immatriculation, d'analyses de données issues de médias sociaux, de pages non publiques du web, ainsi que des données de géolocalisation », résume CheckNews.

« Alchemist », de son côté, servirait à alimenter un système destiné à « trouver les personnes dangereuses dans une liste de personnes incriminées », une description pouvant renvoyer à l'IA Lavender, « ou une solution technologique analogue », note CheckNews.

Ces programmes « suivent simultanément des milliers d'individus, identifient quand ils se trouvent chez eux, et envoient une alerte automatique à l'agent ciblant, qui marque ensuite la maison en vue d'un bombardement ».

« À 5 heures du matin, [l'armée de l'air] partait bombarder toutes les maisons que nous avions marquées », explique l'une des sources militaires interrogées par + 972 : « Nous avons éliminé des milliers de personnes. Nous ne les avons pas examinés un par un, nous avons tout mis dans des systèmes automatisés, et dès que l'un des [individus ciblés] était chez lui, il devenait immédiatement une cible. Nous l'avons bombardé, lui et sa maison. »

L'article relève que l'erreur la plus fréquente de cette stratégie, depuis le début de la guerre, consisterait à bombarder la maison de personnes à qui des téléphones « ciblés » ont été prêtés – quand bien même aucune des victimes n'aurait pris part aux activités du Hamas.

De 15 à 300 victimes « collatérales » autorisées

Le Monde relève que l'armée israélienne aurait décidé au début de la guerre que la mort « collatérale » de 15 à 20 civils par une frappe sur une cible localisée par le système était « acceptable ».

A., qui était officier dans une salle d’opération cible pendant la guerre, explique à+ 972 que « ce n’est pas seulement que vous pouvez tuer toute personne qui est un soldat du Hamas, ce qui est clairement autorisé et légitime en termes de droit international », car « dans la pratique, le principe de proportionnalité n’existait pas » : « dans ce calcul, il peut s’agir de 20 enfants pour un agent subalterne… Ce n’était vraiment pas le cas dans le passé ».

Un nombre qui monterait même à « 100 voire 300 pour les individus plus haut placés au sein du Hamas ». Ce qui pourrait expliquer le fait que plus de 33 000 Palestiniens, dont 14 000 enfants (soit 42 %) et 9 000 femmes (27 %), auraient été tués en six mois.

À titre de comparaison, « dans le cas d’Oussama ben Laden, la NCV (Non-Combatant Casualty Value) était de 30, mais dans le cas d’un commandant de rang inférieur, la NCV était généralement de zéro », expliquait en 2021 le général Peter Gersten, commandant adjoint des opérations et du renseignement dans l’opération de lutte contre l’État islamique en Irak et en Syrie : « Nous sommes restés à zéro pendant très longtemps. »

« Accepter, de manière systématique et généralisée, un ratio de 20 civils tués pour un membre subalterne du Hamas constitue clairement une violation du droit international humanitaire », précise au Monde Johann Soufi, avocat et procureur devant les juridictions pénales internationales. « Sans vérification humaine, l’IA ne peut garantir une prise en compte effective des principes de ce droit – humanité, distinction, proportionnalité, précaution… – et, au contraire, peut faciliter la commission de crimes de masse. »

Interrogée par + 972, l’armée israélienne a nié l'ampleur du dispositif ainsi que le fait d'utiliser l’IA pour établir des listes de cibles, affirmant qu’il s’agit simplement « d’outils auxiliaires qui aident les officiers dans le processus d’incrimination ».