« Enjeux de l’autonomie des systèmes d’armes létaux » : retour sur le colloque

Quelles limites éthiques et juridiques à l’autonomisation des systèmes d’armes ? Ce débat international, qui acquiert une importance croissante depuis plusieurs années, a fait l’objet mardi 9 novembre dernier d’un colloque organisé conjointement par la Croix-Rouge française et le pôle Mutation des Conflits du centre de recherche de l’Académie Militaire de Saint-Cyr Coëtquidan (CReC).

Accueilli par le Ministère des Armées, le colloque sur « Les enjeux de l’autonomie des systèmes d’armes létaux » avait pour objet de poursuivre la réflexion engagée sur les défis complexes de ce sujet, par une approche pluridisciplinaire. Ainsi, de nombreux experts civils et militaires se sont exprimés lors des diverses tables rondes. Étaient notamment présents des hauts-gradés de l’armée française, des chercheurs en intelligence artificielle, des ingénieurs en armement, le Comité d’éthique de la défense, les députés de la Commission de la défense nationale, des entreprises d’armement et la Croix-Rouge française.

Le représentant permanent de la France auprès de la Conférence du désarmement à Genève a dressé un état des lieux des discussions multilatérales, à quelques semaines de la présidence française de la Conférence d’examen de la Convention sur certaines armes classiques en décembre 2021.

Tout au long de la journée, les discussions ont porté sur l’évolution des méthodes et moyens de guerre, notamment par la place croissante de l’intelligence artificielle. L’autonomie des systèmes d’armes a été questionnée, à la fois pour soulever l’importance de l’intégrer davantage à l’avenir, mais également pour convenir d’un nécessaire encadrement juridique et éthique.

Le directeur de l’audit et du contrôle interne de la Croix-Rouge française a défendu en préambule du colloque la position du Mouvement International de la Croix-Rouge et du Croissant-Rouge sur les systèmes d’armes autonomes , mettant en garde contre les risques potentiels de violations des principes d’humanité, de distinction et de proportionnalité.

Les membres du pôle DIH de la Croix-Rouge française ont insisté sur le renforcement du cadre juridique, en rappelant l’examen de licéité des nouvelles armes et en soulignant la dilution de la responsabilité en cas de violations du DIH. En effet, si une arme autonome commettait un crime de guerre, qui serait responsable juridiquement ? La machine elle-même ? Le concepteur ? Le décideur militaire ? L’État ?

Il apparait indispensable de maintenir un contrôle humain suffisant tout au long de la boucle d’intervention. Par ailleurs, la conception et l’usage de ces systèmes devraient être réglementés, en limitant les types de cibles, l’usage, les situations d’utilisation et en garantissant une supervision humaine permanente.

Le Comité d’éthique de la défense a présenté son avis , qui met l’accent sur des garanties de bon usage, à savoir les « 5C » : préserver la chaîne de Commandement, garantir le Contrôle des risques et la Conformité aux Conventions de Genève, consolider la Connaissance et la Confiance.

Les panélistes ont discuté des notions « d’autonomie », « d’intelligence artificielle » et de « responsabilité ». Tous se sont accordés sur l’importance de cadrer les moyens et méthodes de guerre voués à se développer dans les années à venir. Pour ce faire, l’action de sensibilisation et de diffusion du DIH menée par la Croix-Rouge française acquiert une importance particulière, et sera prochainement orientée directement vers les industriels et les laboratoires scientifiques.