L’armée du futur ? Elle n’est pas peuplée, comme on le pense, de robots autonomes lâchés en liberté. Si l’IA bouleverse l’art de la guerre, c’est en amenant de nouveaux types d’armes, moins chères mais augmentées d’IA et fréquemment mises à jour afin de les adapter aux tactiques de l’ennemi. Basé en Allemagne, en France et au Royaume-Uni, le spécialiste européen de l’IA de défense Helsing se fait fort d’aider les démocraties, en particulier celles de l’UE, à renforcer leurs capacités militaires. Entretien avec Antoine Bordes, ancien numéro deux de l’IA chez Meta, aujourd’hui vice-président d’Helsing.
L’Express : Que ce soit le nucléaire, Internet ou le GPS, une grande partie des révolutions technologiques de ces dernières décennies viennent du secteur de la Défense. Ce qui semble être moins le cas aujourd’hui avec l’intelligence artificielle. Comment l’expliquez-vous ?
Antoine Bordes : Je nuancerai un peu vos propos. Des années 1970-1980 jusque dans les années 2000, l’IA est née et s’est développée dans le secteur de la Défense et dans les universités américaines grâce aux financements de la Darpa, l’agence du département de la Défense chargée du développement de nouvelles technologies à usage militaire. Puis à partir du programme AlexNet de l’Université de Toronto, en 2012, qui est considéré aujourd’hui comme la première architecture IA, nous avons assisté à un décrochage à partir de ces années-là avec le développement du deep learning [NDLR : un sous-domaine de l’intelligence artificielle] et l’arrivée de nouvelles bases de données.
Dès lors, les grands groupes de la Tech américaine ont pris conscience que l’IA allait transformer radicalement leur business. Ils ont alors investi énormément, créant de puissants laboratoires de recherche, comme DeepMind chez Google, ou FAIR, le laboratoire de Facebook. Tous les talents ont été attirés dans ces entreprises et ne sont plus allés dans le secteur de la défense. L’écart n’a fait que se creuser par la suite… jusqu’à aujourd’hui.
En quoi la guerre en Ukraine a-t-elle modifié la place de la technologie dans la guerre ?
Comme le conflit est assez figé et très consommateur en munitions et en hommes, c’est l’accélération technologique qui assure la supériorité. Que peut-on produire très rapidement avec un impact déterminant sur le terrain ? Deux solutions possibles. La première piste, c’est du matériel “hardware”, assez facile à produire en grande quantité, comme les drones. Et on voit combien les drones ont changé la face de ce conflit. La deuxième piste, c’est le logiciel. En l’espace de deux ans, les ingénieurs ont été capables de produire plusieurs générations de logiciels qui seront embarqués sur des drones et mis à jour très régulièrement. Pour les Ukrainiens c’est une nécessité.
Que change concrètement la technologie dans le conflit en Ukraine ?
Ce conflit est d’abord une bataille d’artillerie avec une question essentielle : comment envoyer les obus de la façon la plus précise possible ? Les techniques de reconnaissance sont donc primordiales. Jusqu’alors, la reconnaissance des cibles se faisait grâce à des images satellites qui étaient ensuite analysées.
Les humains resteront toujours au cœur de l’action.
L’arrivée de drones équipés d’une caméra embarquée et capables de survoler des zones très étendues a été une première étape. Sauf que rapidement, le signal GPS de ces drones a été brouillé. Première révolution technologique : on a embarqué sur ces drones des logiciels qui permettent de naviguer en se passant du GPS et des satellites. Désormais, tous les drones sont équipés de ces technologies… ce qui était totalement futuriste il y a encore trois ans. Derrière cela, il y aussi la nécessité de connecter les drones ensemble de façon à ce qu’ils puissent travailler sur le même type d’opérations.
La place prise par le logiciel dans la défense change-t-elle la donne ?
Oui de manière assez fondamentale. Car la valeur n’est plus dans l’équipement lui-même. Reprenons l’exemple du drone. Ce sont des équipements au design assez simple. La construction des usines de drones n’est pas si coûteuse et leur fabrication pas si compliquée si on utilise des imprimantes 3D par exemple. L’industrie de défense repose encore trop sur un cycle long où un programme d’armement se développait sur des décennies avec une évolution à mi-vie. On avait le temps, la guerre était une réalité lointaine ! Ce qu’on apprend de l’Ukraine, c’est que le logiciel devient primordial. Il faut être capable de faire des mises à jour à un rythme qui peut être mensuel. C’est là maintenant que réside l’avantage compétitif.
Cette révolution technologique change-t-elle le visage des guerres de demain ?
Certaines choses ne vont pas changer : la contrainte géographique et le rôle de l’humain. L’IA peut aider à la collecte, au traitement des données qui permettront d’établir une stratégie. Mais les militaires ne vont pas donner, demain, la main à une IA pour planifier leur attaque… et c’est tant mieux ! Les humains resteront toujours au cœur de l’action, et on peut espérer moins de pertes humaines grâce au développement de technologies permettant de téléporter une action.
L’avenir est aussi à la complémentarité, avec par exemple un avion de chasse, bijou technologique, qui pourra servir de poste de commandement déporté et une flotte de drones plus ou moins sophistiqués que l’on pourra perdre en grande quantité. La complémentarité se fera aussi au niveau industriel avec des partenariats signés entre des géants industriels et des start-ups de l’IA très agiles. C’est le parti que nous faisons avec Helsing. Aux Etats-Unis, Boeing a déjà signé un accord-cadre avec Shield IA, une start-up spécialisée dans l’IA de défense.
Des Etats moins démocratiques ou des groupes terroristes peuvent-ils devenir puissants grâce à cette révolution technologique ?
L’IA et les drones ne font pas une armée. Il ne faut pas oublier la vision stratégique, les éléments tactiques, logistique. La capacité d’une armée moderne à mener un combat de haute intensité repose sur une alchimie complexe. La maîtrise de l’IA et du logiciel est un élément essentiel pour conserver l’avantage, y compris dans des conflits asymétriques avec des adversaires moins conventionnels mais plus agiles.
Quel est l’avancement de la Russie et de la Chine dans l’IA militaire ?
Helsing ne travaille avec aucun de ces deux pays évidemment. Peu d’informations filtrent sur leurs avancées dans l’IA et dans les technologies de défense. Mais les Russes ne sont pas en reste dans ce domaine : très tôt dans le conflit, nous avons vu que certains de leurs drones étaient équipés de cartes graphiques, ce qui signifie qu’ils embarquaient certainement de l’IA. Et les Russes ont fortement amélioré leur capacité de brouillage en deux ans, en investissant dans des brouilleurs plus puissants qu’ils peuvent déployer aisément. Les avions de ligne subissent aujourd’hui ce brouillage dès qu’ils s’approchent de l’Ukraine : ils perdent le GPS. Et si au début du conflit, le GPS n’était brouillé que sur certaines zones à certains moments de la journée, tout le front ukrainien est désormais brouillé en permanence.
Et la Chine ?
Encore une fois, les informations sont parcellaires. Dans l’IA, il y a trois facteurs de progrès : la puissance de calcul, les talents et les données. En matière de puissance de calcul, les embargos sur les cartes graphiques les pénalisent. Mais lorsque nous parlions plus tôt de l’écart qui s’est creusé entre l’IA civile et l’IA miliaire et de l’enjeu en Europe de reconnecter les deux, il faut avoir en tête que la Chine, elle, n’a pas ce problème. Le pilotage est global. Elle a donc cet avantage structurel de pouvoir mettre ses meilleurs talents sur les problèmes qu’elle juge les plus urgents. En matière de données, là encore, leurs industriels partageront facilement les données si elles leur sont demandées.
L’accès à des données pour entraîner des modèles d’IA est-il toujours aussi complexe en Europe ?
L’accès demeure compliqué car il n’a pas été pensé au départ pour l’entraînement d’IA. Mais il y a une culture de la donnée qui émerge. On cerne mieux que les données sont le nerf de la guerre dans l’IA de défense. Et qu’il ne suffit pas de les collecter, il faut également les étiqueter, les nettoyer, les stocker, les valoriser.
Il faut que dans l’IA, l’Europe parle d’une voix forte.
Les acteurs du secteur comment à se poser ces questions : les bases de données sont-elles utilisables ? Qui a les droits d’accès à ces bases ? A-t-on les capacités de calcul adéquates ? En général, les données les plus sensibles ne peuvent pas sortir pas des centres les plus sécurisés. C’est logique, mais cela pose un défi car les capacités de calcul ne sont pas forcément au même endroit. C’est pour ces raisons que le ministre des Armées, Sébastien Lecornu, a annoncé l’arrivée prochaine d’un supercalculateur dédié aux données secret-défense.
Peut-on bâtir une vraie souveraineté européenne dans les technologies de défense ?
La souveraineté en ce domaine est indispensable. Il faut que dans l’IA, l’Europe parle d’une voix forte. Et notre voix ne portera que si nous sommes unis. Les Etats-Unis et la Chine avancent rapidement, avec deux cultures très différentes. L’UE comme souvent, avance en rangs quelque peu dispersés, c’est dommage. Il y a de grandes choses à notre portée. L’UE n’a pas autant de soldats que la Chine ou la Russie mais elle est en pointe dans certains domaines technologiques. Sa capacité de défense dépend donc de ces nouvelles armes moins chères mais augmentées d’IA. L’intelligence artificielle est un facteur de puissance des armées, même si ce n’est pas le seul. Et c’est un domaine dans lequel nous pouvons progresser vite.
Comment l’Europe doit-elle s’y prendre, en pratique ?
Il faut être capable de faire de l’achat européen ou du Small Business Act [NDLR : une loi favorisant les petites et moyennes entreprises aux Etats-Unis]. De l’achat groupé de drones pour l’Ukraine par exemple. Cela impulserait la création d’un nouveau tissu industriel. Les entrepreneurs à même de faire des IA embarquées pour les drones et autres engins, nous les avons en Europe. L’enjeu est d’envoyer les bons signaux. Des commandes de 100 ou 200 drones ne feront rien avancer. Mais si la filière se met à avoir des commandes de 100 000 drones, là, on change d’échelle. L’Europe unie est très puissante. Surtout quand on voit les talents dont on dispose et qui veulent rester, contribuer.
Le projet de constellation de satellites européens Iris2 avance-t-il dans le bon sens et à la bonne vitesse ?
Le projet Iris2 est une bonne idée, l’Europe a besoin de cette constellation faute de quoi, en période de confit, elle devra demander à Elon Musk d’assurer ses communications.
Ce type de minisatellites que l’on peut reconfigurer rapidement si l’ennemi perturbe leur fonctionnement est indispensable aujourd’hui. L’enjeu comme toujours, c’est l’exécution du projet Iris2. Il faut tenir le calendrier.
Est-ce le manque de moyens qui freine l’amélioration de la défense européenne ?
De l’argent, nous en avons, en France et en Europe, même si les arbitrages sont discutés. Le défi, c’est l’union. Unis, nous pouvons faire des champions européens comme Airbus.
Ces grands projets européens ont néanmoins leur lot de contraintes. Par exemple, le retour géographique, qui impose que les activités industrielles soient distribuées par pays en fonction de leur contribution au budget de l’Agence spatiale européenne, n’est-ce pas une fausse bonne idée ?
Le retour géographique, ce n’est pas un mécanisme simple mais cela a tout de même permis de faire des avions et des lanceurs européens. Bien sûr, à l’heure du logiciel, il faut peut-être des modèles et des échelles différentes que ces grands projets. Mais il faut une ambition politique et industrielle commune. C’est aussi pour cela qu’Helsing a été pensé à l’échelle européenne, avec une implantation en France, en Allemagne et au Royaume-Uni. Cela permet d’attirer des capitaux étrangers, tout en gardant de la souveraineté. Si nous n’étions que dans un seul pays, Helsing serait moins attractif pour les capitaux étrangers. Car on vante souvent le marché européen, mais il faut tout de même aller le chercher, ce marché européen !
A l’ère de la défense dopée à la tech et l’IA, faudra-t-il former à nouveau tous les militaires en activité ?
Pas forcément, les militaires sont habitués à basculer sur de nouveaux équipements. Et un des enjeux de l’IA est de rendre ses équipements plus simples. Mais il y a de nouveaux métiers qui émergent, comme celui de pilote de drone qui n’existait pas il y a quelques années. Il faut créer des filières pour ces nouvelles fonctions. Et embaucher de nouveaux types de profils, des experts de l’IA. Il est aussi important que toutes les équipes se parlent, car quels que soient les engins qu’elles utilisent, elles vont souvent faire face à des problèmes similaires.
Dans le marché de la défense, les cartes vont-elles être rebattues, l’importance de certains acteurs installés remise en question ?
Les accélérations technologiques se font aujourd’hui bien plus vite. Il est primordial pour les géants historiques d’épouser cette rapidité. Cela peut se faire via des partenariats. Comme celui que nous avons fait avec le suédois Saab, avec qui nous avons remporté le contrat sur l’Eurofighter allemand.
L’IA peut rendre de la capacité de décision à l’humain.
Ils excellent dans le développement de systèmes, calculateurs embarqués et capteurs. Mais sur l’IA, ils ont estimé que nous serions plus véloces qu’eux, d’où l’idée de combiner nos forces.
Helsing travaille-t-elle aussi sur l’IA générative ou majoritairement sur des IA “classiques” ? Et l’IA générative a-t-elle un rôle à jouer dans la défense ?
Nous utilisons très peu d’IA générative, plutôt de l’IA “classique” car nous faisons de l’IA embarquée, en temps réel, dans le temps de la mission. Ce n’est pas un domaine où l’IA générative est pertinente. Mais elle peut apporter des choses intéressantes à d’autres niveaux, dans le champ du renseignement – interpréter de grandes quantités d’informations, faire des synthèses, de la traduction – ou dans la partie administrative, en générant des rapports de mission par exemple.
Le mot d’ordre d’Helsing est de mettre l’IA de défense au service des démocraties. Quelles sont vos lignes rouges ? Quels clients, usages, investisseurs vous interdisez-vous ?
Nous ne travaillons qu’avec des démocraties, c’est-à-dire des pays où les élections peuvent créer une alternance. On ne fait pas d’armes autonomes. Les doctrines des armées françaises allemandes et britanniques le proscrivent d’ailleurs. Mais ce serait de toute façon contraire à notre projet. Notre conviction est que, sur le champ de bataille, l’IA peut rendre de la capacité de décision à l’humain. Car il faut aller vite, plus vite que l’ennemi. Mais ce qui ralentit l’action, ce n’est en réalité pas la prise de décision, c’est l’analyse de données permettant de se faire un avis éclairé. C’est là que l’IA peut apporter une aide. Et dégager du temps à l’humain pour trancher. Les armes autonomes ne sont pas la solution.
Le fonctionnement de certaines IA est complexe, et beaucoup de travaux sont menés pour tenter d’améliorer le degré d’explicabilité de leurs actions. Est-ce un problème qui se pose sur vos IA ou avez-vous une vision très claire de leur horlogerie interne ?
Le problème se pose beaucoup moins sur le type d’IA que nous développons car ce ne sont pas des IA génératives, mais plutôt des IA “discriminatives” : elles font de la détection, de la classification, mais ne génèrent rien, ne créent rien. Nous travaillons cependant avec des chercheurs et des designers pour amener autant de contexte que possible autour de ce que font nos IA.
En cas de problème avec une IA de Helsing, qui est responsable ?
C’est pour ainsi dire la première question traitée lorsqu’on travaille avec des acteurs de la défense. Il est crucial de savoir qui porte la responsabilité dans les différents scénarios possibles et quelles sont les bonnes conditions d’usages. Souvent, la responsabilité est du côté de l’opérateur, mais nous devons définir précisément les domaines dans lequel l’outil ne doit pas être opéré. N’oublions pas que l’IA reste du logiciel in fine. Et ce n’est pas la première fois que la Défense utilise du logiciel. Nous n’avons donc pas besoin de tout réinventer. L’écosystème tech a parfois eu le sentiment que la défense était un domaine impénétrable. Il est vrai qu’il y a plus de précautions à prendre dans l’IA de défense que dans l’IA civile. Mais ces précautions sont nécessaires. Et même si cela prend du temps, il faut passer tous les cadres, tous les contrôles. Car il est crucial d’amener nos technologies de défense au plus haut niveau.
