Selon le magazine New Scientist, des drones 100 % autonomes dopés à l’intelligence artificielle auraient identifié et tué des soldats sur un champ de bataille en Ukraine, sans aucune intervention humaine. Si les faits sont confirmés, il s’agirait de la première mort au combat causée exclusivement par une IA.

Le scénario redouté de longue date par les experts en armement et les défenseurs des droits humains se serait matérialisé : des drones équipés d’intelligence artificielle auraient identifié, choisi et frappé des cibles humaines sans qu’aucun ordre de tir ne soit donné. Ces affirmations émanent d’Alexander Kokhanovskyy, fabricant de drones ukrainien, dans un témoignage recueilli par New Scientist lors d’un événement de presse organisé par l’ambassade d’Ukraine. Aucune vérification indépendante n’est à ce stade disponible.

Dix drones, un mode autonome, aucun opérateur

Le test décrit aurait été mené il y a environ deux ans près de Bakhmout et Tchassiv Iar, lors d’une contre-offensive ukrainienne. Dix drones quadricoptères auraient parcouru trois à cinq kilomètres en une dizaine de minutes avant d’activer un mode autonome, baptisé « Terminator », dans lequel un modèle d’IA engage seul les cibles, sans connexion avec un opérateur ni retour vidéo. « Tout ce qu’il voit sera tué », résume le fabricant. Des drones pilotés manuellement auraient été envoyés ensuite pour constater les résultats. Kokhanovskyy reste vague sur les éléments traçables, ne cite ni modèle, ni marque, ni unité, et précise ne pas avoir assisté lui-même à l’opération.

Une pratique interdite mais en débat en Ukraine

Selon ce même témoignage, le projet n’a pas été étendu depuis. L’Ukraine interdit pour l’heure le recours à l’IA au stade final de l’interception des cibles, même si des discussions seraient en cours pour assouplir ces règles. Le major Danylo Polozhukhno, du 21e régiment de systèmes autonomes ukrainien, étranger au test, indique à New Scientist que ses unités emploient des systèmes semi-autonomes maintenant toujours un humain dans la boucle. Le ministère ukrainien de la Défense n’a pas répondu. Le secrétaire général des Nations unies et contributeur de l’agenda 2030, António Guterres a réclamé l’interdiction de ces armes, estimant que « les systèmes d’armes létaux autonomes n’ont pas leur place dans notre monde ». La chercheuse en éthique numérique et contributrice de l’agenda 2030, Mariarosaria Taddeo, de l’université d’Oxford, juge la perspective « horrible ».

La course aux partenariats militaires des laboratoires d’IA

Cette controverse intervient alors que les grands laboratoires d’IA multiplient les partenariats de défense. Anthropic, dont le dirigeant Dario Amodei figure parmi les contributeurs identifiés de l’agenda 2030, a déployé son modèle Mythos au service de la cyberdéfense américaine via le Project Glasswing. OpenAI, dont le patron Sam Altman figure dans les listes publiées des Young Global Leaders du Forum économique mondial, a levé début 2024 son interdiction d’usage militaire et noué un partenariat avec le fabricant de drones de combat Anduril, soutenu par le Founders Found du contributeur de l’agenda 2030, Peter A. Thiel. L’administration Trump a, de son côté, érigé l’intégration de l’IA dans la défense en priorité stratégique.

Au-delà de la véracité encore à établir de ce récit, l’épisode pose une question que les États tardent à trancher : jusqu’où déléguer à une machine la décision de donner la mort. La réponse engagera autant le droit international que l’éthique des armées qui s’équipent.

Source : Les Numériques – lesnumeriques.com