Position du CICR sur les systèmes d'armes autonomes

Afin de soutenir les efforts actuels visant à établir des limites convenues au niveau international sur les systèmes d'armes autonomes pour répondre aux préoccupations qu'ils soulèvent, le CICR recommande aux États d'adopter de nouvelles règles juridiquement contraignantes.

Préoccupations du CICR relatives aux systèmes d'armes autonomes

Les systèmes d'armes autonomes sélectionnent des cibles et utilisent la force contre elles sans intervention humaine. Après son activation initiale ou son lancement par une personne, un système d'armes autonome s'auto enclenche et déclenche une attaque en réponse aux informations collectées par ses capteurs dans son environnement, sur la base d'un « profil de cible » généralisé. Il en résulte que l'opérateur du système ne choisit pas – et ne connaît même pas – la ou les cibles visées, ni le moment et/ou le lieu exacts où il sera fait usage de la force.

L'utilisation de systèmes d'armes autonomes présente des risques compte tenu de la difficulté à prévoir et à limiter leurs effets. Cette perte de contrôle et de jugement humains sur l'usage de la force et des armes soulève de graves préoccupations d'un point de vue humanitaire, juridique et éthique.

De par leurs modalités de fonctionnement, les systèmes d'armes autonomes :

• exposent à des risques accrus les personnes touchées par un conflit armé – civils comme combattants – et augmentent le risque d'escalade du conflit ;
• posent des défis quant au respect du droit international et notamment du droit international humanitaire, c'est à dire les règles qui régissent la conduite des hostilités dans le but de protéger les civils ;
• suscitent des préoccupations éthiques fondamentales pour l'humanité, remplaçant de fait des décisions humaines de vie ou de mort par des processus pilotés par des capteurs, des logiciels et des machines.

Recommandations du CICR à l'intention des États concernant la réglementation des systèmes d'armes autonomes

Le Comité international de la Croix-Rouge (CICR) demande depuis 2015 aux États de s'accorder, au niveau international, sur les limites à imposer aux systèmes d'armes autonomes pour assurer la protection des civils, le respect du droit international humanitaire et l'acceptabilité éthique de ces systèmes.

Afin d'appuyer les efforts en cours visant à fixer des limites internationales aux systèmes d'armes autonomes pour parer aux risques qui leur sont associés, le CICR recommande aux États d'adopter de nouvelles règles juridiquement contraignantes. En particulier :

1. Les systèmes d'armes autonomes imprévisibles devraient être formellement exclus, notamment en raison de leurs effets indiscriminés. La meilleure façon de procéder serait d'interdire les systèmes conçus ou utilisés d'une manière qui ne permet pas de suffisamment comprendre, prédire et expliquer leurs effets.
   
   
2. À la lumière des considérations éthiques et humaines en jeu, et en vue d'assurer le respect des règles du droit international humanitaire qui protègent les civils et les combattants hors de combat, l'utilisation de systèmes d'armes autonomes pour cibler des êtres humains devrait être exclue. La meilleure façon de procéder serait d'interdire les systèmes conçus ou utilisés pour faire usage de la force contre des personnes.
   
   
3. En vue de protéger les civils et les biens de caractère civil, d'assurer le respect des règles du droit international humanitaire et de préserver l'humanité, les systèmes d'armes autonomes qui ne seraient pas interdits devraient être réglementés dans leur conception et leur utilisation, notamment en mettant en place une combinaison de :
   
   
   • limites quant aux types de cibles pouvant être attaquées, par exemple uniquement des biens constituant par nature des objectifs militaires ;
   • limites quant à la durée d'utilisation, au champ d'action géographique et à l'intensité de la force utilisable, y compris pour permettre un jugement et un contrôle humains avant une attaque ;
   • limites quant aux situations d'utilisation, par exemple uniquement en l'absence de civils et de biens de caractère civil ;
   • exigences applicables à l'interaction homme-machine, notamment pour assurer une supervision humaine effective ainsi que des possibilités d'intervention et de désactivation en temps opportun.

Le CICR soutient les initiatives des États visant à fixer des limites internationales aux systèmes d'armes autonomes afin de répondre efficacement aux inquiétudes qu'ils suscitent, notamment les efforts déployés dans le cadre de la Convention sur certaines armes classiques pour s'accorder sur les éléments d'un cadre normatif et opérationnel. Compte tenu de la vitesse à laquelle l'utilisation et les technologies des systèmes d'armes autonomes se développent, il est crucial que la communauté internationale s'entende sans tarder sur les limites à imposer.

Au-delà de nouvelles règles juridiques, ces limites pourraient aussi inclure des normes communes et des bonnes pratiques qui pourraient être complémentaires et synergiques. Dans les limites de son mandat et de son expertise, le CICR se tient prêt à œuvrer à cette fin en collaboration avec les acteurs concernés aux niveaux national et international, notamment les représentants des gouvernements, des forces armées, des communautés scientifique et technique et du secteur privé.

Genève, le 12 mai 2021

Les dangers que présentent des armes autonomes