Le programme secret du Pentagone qui embarque Elon Musk dans la guerre des drones : le privé joue-t-il à "la roulette russe" avec l'humanité ?

Selon des informations de Bloomberg, SpaceX et xAI font partie d'un petit groupe d'entreprises sélectionnées pour concourir à un défi top secret lancé en janvier par le département américain de la Défense. À la clé, 100 millions de dollars pour mettre au point une technologie capable de traduire des ordres vocaux en instructions numériques et de piloter simultanément plusieurs drones, dans les airs comme en mer.

Permis de tuer

Concrètement, le concours auquel participent les entreprises d'Elon Musk doit durer six mois et se dérouler en cinq étapes. Il commencera par le développement d'un logiciel, avant de passer à des tests grandeur nature. L'objectif est donc de permettre à un commandant d'énoncer une instruction à haute voix, par exemple neutraliser une cible ou surveiller une zone, et voir un essaim de drones s'organiser de manière autonome pour exécuter la mission.

À noter qu'OpenAI participe également au concours, mais de manière plus restreinte. Toujours selon le média britannique, sa technologie serait cantonnée à la conversion des instructions vocales en langage informatique, sans intervenir dans le pilotage opérationnel ou le ciblage.

Si piloter plusieurs drones en même temps n'a rien de nouveau, les faire agir comme une unité coordonnée capable de partager des informations, de s'adapter à un environnement et de poursuivre une cible sans supervision constante reste un défi qui n'est pas encore totalement maîtrisé à l'heure actuelle. Lors de l'annonce du programme, un responsable du Pentagone a précisé que l'interaction homme-machine développée dans ce cadre aurait un impact direct sur la "létalité" et "l'efficacité" des systèmes. Les dernières phases du projet évoquent même une séquence allant du "lancement à la neutralisation". En somme, avec l'objectif de tuer.

Un rapprochement de plus en plus évident

Pour comprendre ce que cela change pour Elon Musk, il faut regarder d'où il vient. Il faut savoir que SpaceX travaille depuis longtemps avec l'armée américaine. L'entreprise est même devenue un rouage essentiel du dispositif spatial du Pentagone. Avec Boeing et Lockheed Martin, elle lance les satellites militaires pour le compte des États-Unis. Mais jusqu'ici, son rôle restait celui d'un transporteur de l'espace, c'est-à-dire envoyer du matériel en orbite, fournir des réseaux de communication, développer des fusées réutilisables. Donc, ne pas concevoir le cerveau de systèmes d'armes offensifs.

Mais le changement vient de xAI. L'entreprise, créée en 2023, est le bras armé du milliardaire dans la bataille mondiale de l'IA. Elle développe notamment Grok, un chatbot présenté comme un rival de ceux d'OpenAI, qui fait particulièrement parler de lui ces derniers temps, notamment concernant le scandale des dérives sexuelles de l'outil.

Contrairement à SpaceX, xAI ne "transporte" rien. Elle conçoit des logiciels capables d'analyser, de traduire et de générer du langage. C'est précisément ce type de technologie que recherche aujourd'hui le Pentagone, qui ne cache pas son intérêt pour ses futurs projets. Dernièrement, la start-up a déjà signé un contrat de 200 millions de dollars avec le département de la Défense pour intégrer ses outils d'IA dans des systèmes militaires. En janvier, elle annonçait aussi le déploiement de Grok sur des sites gouvernementaux afin de "renforcer les capacités des militaires et des civils". Et ces dernières semaines, d'après Bloomberg, l'entreprise a accéléré le recrutement d'ingénieurs disposant d'habilitations de sécurité "secret" ou "top secret".

"Roulette russe" avec l'humanité

Ce virage vers des applications militaires boostées à l'IA, auxquelles participent donc désormais les entreprises d'Elon Musk, intervient dans un climat inquiétant pour certains experts. Dont Stuart Russell, professeur à l'University of Californie, Berkeley et figure de référence en matière de sûreté de l'IA.

Interrogé par l'AFP au Sommet international de l'IA à New Delhi, ce dernier dénonce ce qu'il appelle une "course aux armements" entre géants technologiques".

Selon lui, "permettre à des entités privées de jouer, en substance, à la roulette russe avec chaque être humain sur terre est une totale défaillance du devoir". Il avertit également du risque que "les systèmes d'IA eux-mêmes prennent le contrôle et que la civilisation humaine soit un dommage collatéral".

Toujours d'après Stuart Russell, les dirigeants des grandes entreprises comprennent ces dangers, mais ne peuvent "désarmer unilatéralement" sous la pression des investisseurs. Il appelle donc les gouvernements à intervenir collectivement pour encadrer le développement de ces technologies, estimant que la responsabilité de prévenir une dérive ne peut reposer sur les seuls acteurs privés.