Florence Parly, Ministre des Armées, a présenté la feuille de route « Intelligence artificielle » de son ministère lors d’une visite au centre de recherche Inria Saclay-Ile-de-France le 5 avril 2019. Bruno Sportisse, Président-directeur général d’Inria, l’a accueillie en présence de nombreuses personnalités, civiles et militaires dont François Jacq, Administrateur général du CEA, Joël Barre, Délégué général à l’armement, Emmanuel Chiva, Directeur de l’Agence de l’innovation de défense (AID) et les Généraux Eric Bellot des Minières, sous-chef Plans de l’Etats-Major des Armées, et Olivier Taprest, Major Général de l’Armée de l’air, sans oublier Cédric Villani, député LREM de l’Essonne, auteur d’un rapport sur l’intelligence artificielle.
La ministre s’est vu présenter un panel de technologies sur la thématique de l’intelligence artificielle développées par les partenaires de l’Institut DATAIA. L’Institut DATAIA est l’institut de convergence français spécialisé en sciences des données, intelligence artificielle et société, ou comment les technologies big data et l’intelligence artificielle se croisent avec les sciences humaines et sociales pour une intelligence artificielle au service de l’humain.
S’agissant de la feuille de route du Ministère des Armées, les points notables sont les suivants :
- le ministère des Armées va investir 100 M€ par an de 2019 à 2025,
- une cellule de coordination de l’intelligence artificielle de défense, qui sera logée au sein de l’AID, sera créée,
- le ministère des Armées s’appuiera sur la recherche car l’IA est un domaine tiré par la recherche académique d’excellence ainsi que par le secteur industriel,
- la France ne déploiera pas de SALA (systèmes d’armes létaux autonomes),
- un comité d’éthique ministériel sur les sujets de défense sera créé cette année.
Sur les questions d’éthique et d’armement, mentionnons les travaux du comité de réflexion de l’AACHEAr sur ces questions, créé en 1995 par Olivier Legrand et dont l’animateur a été pendant longtemps Alain Crémieux et auquel votre serviteur a participé durant quelques années. https://www.la-croix.com/Ethique/Sciences-Ethique/Sciences/Armement-peut-on-parler-d-ethique-_NP_-2012-10-08-862104
Quelques extraits du discours de la ministre.
(…) Le développement de l’IA est désormais un lieu de compétition stratégique, une course à la puissance technologique, économique mais aussi militaire. Le président de la République a souhaité que la France prenne la place qui lui revient dans cette course en s’appuyant sur l’excellence de son tissu académique et industriel. En endossant les conclusions du rapport de Cédric Villani, dont je salue à nouveau le remarquable travail, il a dévoilé il y a tout juste un an la stratégie de la France qui place la défense parmi les quatre domaines prioritaires, aux côtés de la santé, des transports et de l’environnement. Et je m’inscris pleinement dans cette stratégie gouvernementale et je compte bien faire de l’IA une priorité de notre défense nationale.
Alors oui, les Armées françaises investissent et investiront dans l’intelligence artificielle, c’est une évidence. Car c’est une technologie stratégique, indispensable pour garantir notre supériorité opérationnelle.
Les bénéfices potentiels de l’IA pour notre ministère sont forts et nombreux, et alors que les armées des principales puissances affûtent déjà leurs algorithmes, nous ne pouvons pas prendre le risque de manquer ce virage technologique. Tout se joue donc maintenant.
L’IA, c’est une aide précieuse à la décision. Elle nous permettra de mieux comprendre et mieux prévoir les menaces, d’agir plus vite et avec plus de précision et de certitude : éviter la surprise, éviter la méprise, donner du sens au torrent de données qui parfois nous submerge. Je pense au projet de la Marine Nationale qui développe une plateforme d’analyse en temps réel du trafic maritime à l’échelle mondiale, qui sera donc capable par exemple de détecter les embarcations qui soudainement dévient de leur trajectoire habituelle.
L’IA n’est pas une fin en soi, elle doit être un appui à une décision plus éclairée, plus rapide, un outil de lucidité pour les décideurs stratégiques comme tactiques.
L’IA, c’est également des capacités inédites pour le renseignement. Croiser des milliers d’images satellites, avec les données du darkweb, pour parvenir à en extraire des liens intéressants, c’est ce que nous permettra l’analyse de données massives.
L’IA, c’est aussi mieux protéger nos militaires. Evacuer des blessés du champ de bataille, ouvrir un itinéraire, déminer un terrain, autant de tâches périlleuses que nous pourrons bientôt confier à des robots.
L’IA c’est encore une cyberdéfense renforcée. Elle permettra à nos cyber-combattants de contrer à grande vitesse les attaques toujours plus furtives, toujours plus nombreuses et toujours plus automatisées qui menacent nos systèmes et nos économies.
L’IA, c’est enfin un allègement de la pénibilité et un gage de précision. Elle doit soulager l’homme de tâches fastidieuses, répétitives, parfois source d’erreurs. En effet, pourquoi un mécanicien passerait-il des heures à déceler une panne que l’analyse des données pourrait directement lui indiquer sans risque de se tromper sur le remplacement des pièces ? L’US Air Force, qui a déjà adopté l’IA dans son processus de maintien en condition opérationnelle, a annoncé une disponibilité de ses avions en hausse de 25%, c’est considérable et permettez-moi de vous dire que cela nous fait rêver. L’IA nous permettra un meilleur entretien de nos matériels, une meilleure gestion de nos stocks et de notre consommation d’énergie. Nos militaires pourront se concentrer sur les aspects critiques de leurs missions, nos personnels civils seront plus efficients.
(…)
Et cette question, c’est celle des systèmes d’armes létaux, les SALA autonomes, que certains appellent les « robots-tueurs ». Des systèmes d’armes, qui seraient capables d’agir sans aucune forme de supervision humaine, qui seraient capables de modifier le cadre de la mission qui leur a été fixée, voire de s’assigner eux-mêmes de nouvelles missions.
Ces systèmes, je le dis de façon très catégorique, n’existent pas aujourd’hui sur les théâtres d’opération. Mais pour autant le débat est légitime. C’est d’ailleurs la France qui l’a introduit en 2013 aux Nations-Unies, dans l’enceinte de la convention sur l’interdiction ou la limitation de l’emploi de certaines armes classiques. Et nous souhaitons que les discussions se poursuivent dans ce cadre multilatéral, le seul qui pourra aboutir à un encadrement des systèmes autonomes militaires, c’est le seul qui soit universel, crédible, efficace. Nous ne pouvons pas écarter le risque que de telles armes puissent être développées, un jour, par des Etats irresponsables et tomber entre les mains d’acteurs non-étatiques. La nécessité de dégager un consensus robuste avec tous les autres Etats du monde n’en est donc que plus impérieuse.
La position française est sans ambigüité, le président de la République a été parfaitement clair : la France refuse de confier la décision de vie ou de mort à une machine qui agirait de façon pleinement autonome et échapperait à tout contrôle humain.
De tels systèmes sont fondamentalement contraires à tous nos principes. Ils n’ont aucun intérêt opérationnel pour un État dont les armées respectent le droit international, et nous n’en déploierons pas. Terminator ne défilera pas au 14 juillet.
Nous développerons l’intelligence artificielle de défense selon trois grands principes : le respect du droit international, le maintien d’un contrôle humain suffisant, et la permanence de la responsabilité du commandement.
(…)
Quel que soit le degré d’automatisation, voire d’autonomie de nos systèmes d’armes actuels et futurs, ceux-ci resteront subordonnés au commandement humain. Cela suppose que l’homme définisse et valide leurs règles de fonctionnement, leurs règles d’emploi et leurs règles d’engagement. Cela suppose qu’il exerce un contrôle suffisant sur les systèmes déployés.
Pour veiller tous les jours à ce que ces principes soient respectés dans la durée et pour nourrir notre réflexion éthique, alors même que de nouveaux usages de l’IA émergent chaque jour, j’ai décidé de créer dès cette année un comité d’éthique ministériel sur les sujets de défense. Ce comité sera un outil d’aide à la décision et à l’anticipation. Il aura vocation à traiter en premier lieu des questions posées par les technologies émergentes et leur emploi par l’homme dans le domaine de la défense. Mais au-delà, les interrogations éthiques multiples liées à l’évolution du métier des armes ainsi que des espaces de conflictualité pourront lui être soumis.
(…)
La France sera la première grande puissance militaire à se doter d’une structure de réflexion permanente sur les enjeux éthiques des nouvelles technologies dans le domaine de la défense, et se placera ainsi à la pointe de cette réflexion au niveau international.
Les questions légitimes relatives à l’emploi de l’IA dans des systèmes militaires, se posent en réalité dans tous les systèmes critiques, et je pense en particulier au véhicule autonome. Ces questions ne pourront pas être résolues par une interdiction pure et simple : il nous faut donc nourrir notre réflexion et investir dans la recherche pour rendre l’intelligence artificielle robuste et sûre, et développer des systèmes de façon maîtrisée.
(…)
Pour tirer tous les bénéfices d’une IA parfaitement maîtrisée, nous avons construit une feuille de route ambitieuse et pragmatique.
Pour commencer, nous investirons d’abord dans les carburants de l’IA : c’est-à-dire les données et les capacités de calcul. Le ministère produit de très nombreuses données de toute nature et de tout niveau de confidentialité. Il faut tout d’abord m’assurer que ces données ne seront plus perdues ou gaspillées faute d’outils pour les recueillir, les stocker ou les traiter.
Dans le sillage du gouvernement, nous prendrons, nous aussi, le virage du cloud pour disposer des capacités de calcul et de stockage indispensables au développement de l’IA, et cela sans compromettre la sécurité et la souveraineté de nos données.
Il nous faudra ensuite décloisonner les données, les partager, en faire un actif stratégique de notre ministère. C’est une question de procédures bien sûr, mais aussi de culture. La DGNUM a élaboré une politique de gouvernance de la donnée capable de concilier ouverture et sécurité. Et je compte donc sur l’ensemble des services du ministère pour la mettre en oeuvre, mais aussi sur toute notre communauté industrielle de défense pour être collaboratifs et ne pas s’accrocher à une logique de propriétaire de la donnée qui serait un obstacle à notre développement.
Dans le domaine des équipements, nous avons identifié six domaines d’investissement prioritaires.
1. Premièrement, l’aide à la décision et à la planification car nous devons pouvoir disposer des meilleures propositions dans des temps toujours plus contraints pour pouvoir décider vite, avec la plus grande justesse possible.
2. Deuxièmement, le renseignement car la supériorité informationnelle est un gage majeur d’autonomie stratégique. L’IA boostera nos moyens de fouille de données dans des proportions incommensurables.
3. Troisièmement, le combat collaboratif car intégrer de nombreux systèmes à l’intérieur d’une même bulle tactique renforcera nos capacités opérationnelles. Et demain, ce seront des avions, des chars de combat, des bâtiments et des drones qui pourront communiquer et mener des actions ensemble.
4. La robotique également, car soulager nos agents et nos militaires des tâches répétitives ou dangereuses renforcera leur efficacité, et les protégera sur le terrain. Dès l’année prochaine, le programme de guerre des mines SLAMF mettra au point des essaims de robots sous-marins qui procéderont au déminage qui permettront aux marins de se tenir à distance de la mine. Dans l’armée de terre, nous expérimentons d’ores et déjà des robots pour porter des charges lourdes ou évacuer les blessés.
5. Et aussi les opérations dans le cyberespace, car tout comme les transactions financières, les cyber-attaques deviendront « haute-fréquence ». Et pour les contrer, la seule action humaine sera en dehors du tempo requis.
6. Enfin, la logistique et la maintenance, car il en va de la sécurité de nos forces et de la disponibilité de nos flottes. J’ai demandé à la Marine nationale de lancer une expérimentation de maintenance prédictive sur les moteurs de certaines de ses frégates et l’armée de l’air, qui travaille déjà sur de la maintenance prédictive pour les Rafale, a lancé un projet identique sur la flotte de C130J en coopération avec le Royaume-Uni et les États-Unis.
Ces domaines spécifiques n’en excluent évidemment pas d’autres, comme la santé, les ressources humaines ou l’administration générale, qui sont des secteurs dont nous savons tous à quel point ils sont au coeur des développements et des applications actuelles.
Alors comme je l’ai annoncé il y a un an nous investirons 100 millions d’euros par an de 2019 à 2025 pour le coeur de l’IA. Et c’est en réalité bien plus si l’on compte tous les systèmes qui seront irrigués par l’IA, car cet effort touche absolument tous les programmes d’armement, du Rafale au Scorpion, de l’espace au combat naval collaboratif.
(…)
L’IA, c’est également un défi pour notre organisation. Et je souhaite qu’au sein du ministère, nous prenions tous sans exception ce virage technologique. Il ne s’agit pas, je vous arrête tout de suite, de bâtir une « armée de l’IA »: cela n’aurait aucun sens. Nous structurerons notre compétence en IA autour d’une cellule de coordination de l’intelligence artificielle de défense, logée au sein de l’Agence innovation défense. Cette équipe d’une dizaine d’experts pluridisciplinaires aura pour mission de coordonner l’action du ministère en matière d’IA.
(…)
L’IA, c’est aussi le défi des talents. Nous devrons recruter les meilleurs, retenir les plus ingénieux, faire progresser chacun d’entre eux. A l’image de l’Institut Polytechnique de Paris tout près d’ici, je sais que nos écoles d’ingénieurs, ont déjà pris, le virage de l’IA. Nos écoles d’officiers s’y engagent aussi et je ne peux que les encourager dans cette voie.
(…)
L’IA est un domaine tiré par la recherche académique d’excellence ainsi que par le secteur industriel. Et je suis fière d’être parmi vous aujourd’hui au sein de DATA IA. Le plateau de Saclay est à la convergence des talents les plus remarquables. Et nous comptons sur vous.
(…)
Mais comme Cédric Villani l’a souligné dans son rapport et comme l’a rappelé à de multiples reprises le Président de la République, les enjeux technologiques de souveraineté nationale sont aujourd’hui indissociables des enjeux européens. Pour garantir notre autonomie technologique, l’Europe est notre unique horizon et doit prendre la tête des nouvelles ruptures technologiques.
L’Union Européenne en a déjà pris toute la mesure et met en place des nouveaux outils de soutien à l’innovation de rupture, y compris, et c’est une très grande nouveauté, dans le domaine de la défense. Je salue toutes ces initiatives comme le Conseil européen de l’innovation dans le cadre d’Horizon Europe ou le Fonds européen de défense. Mobilisés ensemble, ces outils européens doivent nous permettre d’unir nos forces, celles de nos laboratoires de recherche comme nos industries de défense, pour développer une IA européenne de pointe.
L’intelligence artificielle est certes une révolution, dont nous entrevoyons les prémices aujourd’hui. Mais des révolutions, nous en avons connu déjà un certain nombre. Jean Jaurès disait qu’« il ne peut y avoir de révolution que là où il y a conscience » , et celle de l’intelligence artificielle n’y échappe pas. C’est donc en pleine conscience, avec pragmatisme et responsabilité que nous la conduirons.
Une IA performante, robuste et maîtrisée. Voilà ce que je souhaite construire avec vous. Voilà ce que nous devons construire ensemble. Pour ne jamais être dépassé par l’ennemi. Pour que nos armées soient plus fortes. Et pour toujours, protéger les Français.
