S3 1 Tio
S3 1 Tio
Connexion Premium
Droit Économie Flock Hardware IA Internet Logiciel Sciences Sécurité Société
Déontologie Règles de modération Mentions légales et contact
Qui sommes nous ? Contact rédaction Contact site Forum
Flux RSS GitHub Discord

Le secrétaire général de l’ONU veut interdire les « robots IA tueurs »

Judgment day

Le secrétaire général de l’ONU veut interdire les « robots IA tueurs »

Illustration : Flock

« Certaines décisions doivent rester à jamais humaines — en particulier quand il s’agit de prendre une vie humaine », a affirmé António Guterres. Le secrétaire général de l’ONU a pris position sur cette question brûlante, à l’heure où les armées du monde entier accélèrent l’intégration de l’IA dans leurs opérations militaires.

Les « robots tueurs » qui se donnent le droit de vie ou de mort sur les champs de bataille sont « moralement répugnants », a déclaré sans ambages António Guterres durant le discours inaugural du premier Dialogue mondial sur la gouvernance de l’IA à Genève, repris par le Wall Street Journal. Il évoquait ces « machines qui sélectionnent et attaquent leur cible, jusqu’à ôter une vie, sans contrôle ni jugement humains ».

Le secrétaire général de l’ONU milite pour une interdiction des armes autonomes létales, qui soit inscrite dans le droit international. Il prend de fait une position bien tranchée dans le débat sur la place de l’IA au sein des forces militaires.

L’IA générative déjà utilisée au sein des armées

Le Pentagone s’appuie de plus en plus sur cette technologie dans ses opérations ; les modèles d’Anthropic, utilisés depuis deux ans, ont ainsi servi pour la capture du président du Venezuela, Nicolas Maduro, et durant la guerre menée par les États-Unis contre l’Iran. Les relations se sont ensuite fortement dégradées entre le département de la Défense et l’entreprise, dont les conditions d’utilisation interdisent de « développer ou concevoir des armes ».

Dario Amodei, le CEO d’Anthropic, avait expliqué que l’entreprise n’avait jamais soulevé d’objections à l’égard d’opérations militaires, mais a rappelé que l’IA pouvait nuire aux valeurs démocratiques en facilitant la surveillance de masse aux États-Unis, ou encore le développement d’armes autonomes.

Le DoD a depuis désigné Anthropic comme « fournisseur à risque », et changé de crémerie IA. L’affaire est toujours entre les mains de la justice, mais de l’eau a coulé sous les ponts depuis et le lancement de Mythos a rebattu les cartes au sein de l’administration Trump.

Les armées d’autres pays s’y intéressent également. Un rapport d’information de l’Assemblée nationale publié début 2025 rapportait déjà que les drones de combat « reposent de plus en plus sur l’intelligence artificielle et offrent de nouvelles stratégies opérationnelles ».

L’IA est aussi utilisée dans les processus d’aide à la décision militaire. Un outil qui « s’introduit désormais dans des sphères hautement stratégiques et décisionnelles », rappelait Bernard Benhamou, secrétaire général de l’Institut de la souveraineté numérique.

Sur la même longueur d’onde que le pape

Le discours d’António Guterres ne tombe pas par hasard. Le mois dernier, Donald Trump signait un mémorandum sur la sécurité nationale appelant à accélérer l’utilisation de l’IA « dans les domaines du renseignement et de la conduite de la guerre, conformément aux valeurs américaines » et « de manière responsable ».

Le secrétaire générale de l’ONU rejoint d’autres critiques de l’IA militaire, à commencer par celle du pape Léon XIV et de son encyclique Magnifica Humanitas. La décision de tuer ne doit jamais avoir pour « critères suprêmes » la rapidité et l’efficacité, affirme la bulle. « L’IA ne soustrait pas le conflit à son inhumanité intrinsèque : elle ne peut que le rendre plus rapide et impersonnel, en abaissant le seuil du recours à la violence et en transformant la défense en prévision opérationnelle, les victimes étant réduites à de simples données », indique le texte qui appelle à « désarmer l’IA ».

Ces appels seront-ils entendus ? L’opacité avec laquelle l’administration Trump régule les modèles IA les plus ambitieux, alors que la Chine trace sa propre route, laisse planer le doute sur un accord au niveau mondial.

Commentaires (30)

votre avatar
C'est déjà trop tard cf. Drone en face final qui sont déjà en mode automatique avec ajustement IA...
votre avatar
c'est une catastrophe: fr.wikipedia.org Wikipedia
votre avatar
C'est une évolution, incontournable et irréfragable !
Quant à la Morale, elle n'a strictement aucun iNpact dans la guerre : le but étant de vaincre, d'aucuns utiliseront toujours tous les moyens à leur disposition. Nier la réalité ne nous conduira qu'à l'affaiblissement et à la défaite.
Vae Victis à dit Brennos aux Romains.
votre avatar
Vae victis, tous les coups sont permis ? As-tu déjà entendu parler de la notion de crime de guerre ?
votre avatar
Oui et oui.
Oui, dans la guerre tous les coups peuvent êtres permis, l'Histoire le prouve allégrement. Retenir ses coups dépend de l'état moral de la société qui fait la guerre, de l'application de garde-fous et de l'application de la justice.
Oui, j'ai une notion de ce qu'est un crime de guerre, j'ai aussi une notion des moyens à employer pour les empêcher et pour les sanctionner après coup. La leçon à retenir là est qu'il faut toujours une force conséquente et supérieure pour punir les auteurs de crimes de guerre et que l'angélisme des déclarations d'intention n'ont aucun effet si on y adjoint pas des moyens de rétorsion puissants.
votre avatar
Oui, dans la guerre tous les coups peuvent êtres permis
Pas totalement, parce que pas mal de ces coups qui sont des crimes de guerre deviennent souvent contreproductifs (les bombardements de civils et les massacres de prisonniers de guerre durcissent généralement la volonté de ceux qui les subissent).
votre avatar
Ce que tu nommes angélisme est essentiel pour définir ce qui est ou pas tolérable dans le cadre d'un conflit. Il doit servir de boussole pour poursuivre, arrêter et juger les coupables de crimes de guerre et contre l'humanité. S'il n'existait pas, les crimes de guerre et crime contre l'humanité n'existeraient pas, pas plus que la CPI ou la CJI. Donc oui tu as parfaitement raison, sans moyens pour faire appliquer ces lois internationales, "l'angélisme" ne sert à rien, mais il est le préalable à tout le reste donc essentiel, il ne faut pas confondre cause et conséquence.
votre avatar
C'est peut-être trop tard mais il est très important qu'une voix aussi impactante que le secrétaire générale de l'ONU se fasse entendre pour montrer qu'il existe, a minima, une réelle inquiétude concernant la déshumanisation des conflits armées (si jamais la guerre était humaine jusqu'ici), voire une réelle opposition.
votre avatar
Vrai question (et un peu la flemme de cherche par moi-même pour une foi) Est-ce que l'ONU depuis ça création a eu un impacte réél et definitif sur la marche du monde ? (Sans les gros bras de USA derrière s'entend.
votre avatar
Depuis que l'ONU existe des pays ont gagné leur indépendance, mais à part ça peu de frontière ont bougé dans le monde, contrairement aux siècles précédents. Le nombre de morts dans les conflits a diminué chaque décennie, sauf pour la décennie actuelle après que les US ont élu un président mafieux qui tout déréglé à la fin de la décennie précédente en dénonçant plusieurs accords, et en sapant l'autorité de l'ONU, de l’Otan, et en retour de son propre pays.

Donc je dirais que oui, l'ONU a eu un impact réel, mais comme dans un pays, si des forces armée puissantes décident de ne pas supporter le gouvernement, ça part en sucette (voir Haïti, le Soudan…)
votre avatar
mais à part ça peu de frontière ont bougé dans le monde, contrairement aux siècles précédents.
Pourquoi "mais" ? C'est justement un des buts de l'ONU : que les conquêtes territoriales soient vilipendées par la communauté internationale et fassent du conquérant un paria auprès du reste du monde.
votre avatar
Oui, dans mon esprit le « mais » ne s'oppose pas à l'action de l'ONU, mais aux multiples frontières, souvent arbitraire, crées par les indépendances, notamment en Afrique et en Asie. Je met les deux coté de ce "mais" au crédit de l'ONU.
votre avatar
Je pense, modulo toutes ces limites, que les casques bleus ont / sont utiles au maintien de la paix, à permettre l'accès aux humanitaires, à protéger les civils. Oui c'est très insuffisant, mais c'est essentiel.
votre avatar
Je pense exactement l'inverse, les contingents de casques bleus n'ont à peu près jamais réglé quoique ce soit (avant tout parce qu'ils n'ont aucun droit d'action). Au Liban, à part se faire cibler par le Hezbollah et Israël, ils ne peuvent rien; en Yougoslavie, à part se faire tirer dessus de tous les côtés, ils ne pouvaient rien. Les seuls cas où les choses ont bougé quand il y avait des casques bleus, ce sont les déploiements aux côtés d'une coalition (qui évidemment faisait tout puisque les casques bleus encore une fois n'avaient que le droit de servir de cibles).

Je pense même que cette impuissance par nature a plutôt desservi l'ONU.
votre avatar
Perso je distingue le drone en phase finale qui de fait ne choisi pas sa cible mais trouve la cible qu'un humain a désigné, d'un missile lancé par un humain sur une cible désignée par l'IA sur des critères flous.

Dans le premier cas, les morts potentiels sont décidés et assumés par un humain qui a pleinement conscience de leur existance. Je rappelle que les Urkrainiens s'arrangent pour minimiser les mirts civils russes en choisissant les heures des attaques.

Dans le cas des attaques Israéliennes, rien n'est fait pour s'assurer de minimiser les morts civils.

Brefs, deux usages très différents de l'IA.

Il faut donc se garder de porter des jugements à l'emporte pièce.
votre avatar
sur une cible désignée par l'IA sur des critères flous.
Sans même qu'elle ne soit directement embarquée dans l'arme : cf. les écolières iraniennes tuées par une frappe américaine sur la base d'un résultat d'une IA. On peut largement faire de la merde avec de l'IA mais sans robot tueur.
votre avatar
Ça va être génial quand une armée de robots IA vont se faire pirater et exécuter l'ordre 66...
votre avatar
Les robots tueurs sont "moralement répugnants". Tuer des gens c'est donc OK si ce sont des humains qui font ?
votre avatar
L'ONU interdit déjà les crimes de guerre et les génocides hein. Bon, d'accord, avec aucune efficacité...
votre avatar
On ne parle pas de crime de guerre ou de génocide ici.
« Certaines décisions doivent rester à jamais humaines — en particulier quand il s’agit de prendre une vie humaine », a affirmé António Guterres.
J'en déduis que prendre une vie humaine est OK.
votre avatar
Quand on fait la guerre, oui, on tue les soldats ennemis et même parfois des civils, même s'il faut l'éviter pour ces derniers dit l'ONU.
votre avatar
Je n'en trouve pas moins la formulation douteuse.
votre avatar
Je n'en trouve pas moins la formulation douteuse.
Quand tu es attaqué par un voisin, à part tuer ses soldats qui envahissent ton pays, tu n'as pas beaucoup de marge de manœuvre.
votre avatar
J'en déduis que prendre une vie humaine est OK.
La convention de Genève n'interdit pas de tuer les soldats ennemis.
votre avatar
Il y a un côté déresponsabilisant, déshumanisant à délégué la décision qui n'existe pas dans un combat "classique".

Tuer n'est pas anodin, mais tolérable jusqu'à un certain point par les sociétés quand c'est ritualisé d'une façon ou d'un autre, certes, c'est un vernis, on dira, mais c'est comme ça. Il y a souvent eu des sortes de règles implicites sur ce qui est ou pas admis dans la guerre.

Par contre, l'idée d'être tué dans un processus "industriel" ou personne n'a appuyé sur la détente, c'est tout l'inverse.

Ce n'est pas pour rien que l'élevage industriel nous met souvent collectivement bien moins à l'aise que l'idée de la chasse "traditionnelle".
votre avatar
Il y a un côté déresponsabilisant, déshumanisant à délégué la décision qui n'existe pas dans un combat "classique".
La guerre moderne, c'est un jeu vidéo où on tue des gens assis sur le siège de pilote d'un drone bien loin du front.

Donc bon... le côté traditionnel... voilà.

La formulation reste maladroite en ce qui me concerne.
votre avatar
La guerre moderne, c'est un jeu vidéo où on tue des gens assis sur le siège de pilote d'un drone bien loin du front.
Je suis en absolu désaccord avec cette vision qui est la vision branlatoire des armées en opex qui n'ont pas d'enjeu fort ni de contestation très forte de la part de l'ennemi. Dès qu'on rentre dans la haute intensité, c'est absolument faux.
votre avatar
C'est pourtant avec des robots pilotés et les drones que l'Ukraine arrive à tenir le coup et limiter ses pertes.

Et n'oublions pas les pluies de drones aussi en Iran.
votre avatar
C'est pourtant avec des robots pilotés et les drones que l'Ukraine arrive à tenir le coup et limiter ses pertes.
France info est une source très inégale, et sur l'Ukraine, j'y ai quand même lu bcp d'imprécisions en 4 ans et demi. D'ailleurs, avec le recul de 2 mois et demi depuis cet article, ce n'est plus du tout de ce sujet qu'on parle (déjà en avril, les vidéos avec robots, c'était bien pour le buzz, mais la stratégie de fond, ça n'a jamais été ça).

L'Ukraine repose surtout sur des missiles à longue portée (le flamingo de la société Fire Point) qui paralysent la logistique russe et ses capacités à financer sa guerre (12 pétroliers touchés rien que la nuit dernière, sans compter les raffineries en feu dans toute la Russie). Les drones sur le front sont avant tout une façon (d'un côté comme de l'autre) de compenser le manque de munitions lourdes. Et ils ne sont pas opérés loin du front, leurs opérateurs sont dans la zone grise. Ils sont utiles car il rendent la manœuvre très complexe, surtout en rendant la zone de front totalement transparente, mais le fait que les équipements lourds restent des cibles de choix montre bien que ces derniers sont importants.
Et n'oublions pas les pluies de drones aussi en Iran.
L'Iran a aussi pas mal de missiles balistiques, qui font bien plus de dégâts que les Shahed, et sont bien plus durs à intercepter. De plus, la ligne est quand même assez ténue entre drone et missile (un shahed, c'est pas piloté à distance, ça a une coordonnée cible, et ça y va tout droit ou en passant par des points intermédiaires, dans le principe, c'est plus comme un missile de croisière).
votre avatar
Un petit court métrage sur le sujet.
Tellement réel...