Armas autónomas: las decisiones de matar y destruir son una responsabilidad humana

Convención sobre Ciertas Armas Convencionales (CCAC)
Declaración del CICR, pronunciada en la Reunión de expertos sobre sistemas de armas autónomas letales, celebrada en Ginebra del 11 al 16 de abril..

El CICR se complace en aportar sus puntos de vista a la tercera Reunión de expertos sobre armas autónomas letales, celebrada en el marco de la CCAC.

Los debates mantenidos en las dos reuniones de expertos de la CCAC celebradas con anterioridad, así como las reuniones de expertos convocadas por el CICR y otras organizaciones, han puesto de manifiesto las importantes cuestiones jurídicas, éticas y sociales que plantean los sistemas de armas capaces de seleccionar y atacar objetivos sin intervención humana.

Aunque las opiniones sobre esta compleja cuestión, incluso las del CICR, evolucionan continuamente, en los debates se observó un consenso generalizado en cuanto que, por razones jurídicas, éticas o relacionadas con las operaciones militares, se debe conservar el control humano sobre los sistemas de armas y el uso de la fuerza.

El CICR ha exhortado a los Estados a que fijen restricciones para la autonomía de los sistemas de armas, con el fin de asegurar que se empleen de conformidad con el derecho internacional humanitario (DIH) y dentro de los límites aceptables en el marco de los principios de humanidad y de los dictados de la conciencia pública.

A título de contribución adicional y como seguimiento de la primera reunión organizada por el CICR en marzo de 2014, la Institución convocó una segunda reunión de expertos internacionales ("Sistemas de armas autónomas: consecuencias de la creciente autonomía de las funciones esenciales de las armas"), celebrada los días 15 y 16 de marzo de 2016. Participaron en la reunión los representantes de 20 Estados, así como expertos independientes y representantes de las Naciones Unidas y de organizaciones de la sociedad civil.

El objetivo de la reunión era establecer un vínculo más estrecho entre el desarrollo de la autonomía en las funciones esenciales de los sistemas de armas, que tiene lugar en el mundo real, y el estudio de sus consecuencias jurídicas y éticas, así como de los posibles enfoques normativos aplicables a esos sistemas de armas. En poco tiempo, se publicará un informe resumido de la reunión de expertos organizada por el CICR. Mientras tanto, como aporte a esta reunión de la CCAC, hemos distribuido un informe sucinto en el que se exponen los puntos de vista del CICR acerca de algunas de las principales cuestiones planteadas en nuestra reunión de expertos. En particular, quisiéramos destacar los siguientes aspectos:

• Definiciones: el CICR propone utilizar la expresión "sistemas de armas autónomas" como término genérico que abarca a todos los sistemas de armas dotados de autonomía en sus funciones esenciales de selección y ataque de objetivos. Deseamos subrayar que el propósito de esta definición de trabajo es promover un mejor entendimiento de la cuestión y ayudar a estructurar los debates sobre el tema. La ventaja de esa definición amplia es que permite encarar la experiencia relativa a los sistemas de armas existentes dotados de autonomía en sus funciones esenciales, así como las lecciones adquiridas al respecto. Ello podría facilitar el proceso de determinar los límites de lo que es aceptable para el DIH y para los dictados de la conciencia pública.

• Armas existentes: algunos sistemas de armas actualmente en uso pueden seleccionar y atacar objetivos sin intervención humana. La capacidad de controlar estas armas y el uso de la fuerza en forma efectiva parece estar estrechamente vinculada con su previsibilidad y fiabilidad, así como con estrictas restricciones operacionales relativas a la tarea que se realiza, los objetivos que se atacan, el entorno operacional, el espacio geográfico y el marco temporal de la operación, el alcance de la supervisión humana de la operación del sistema de armas, y la capacidad humana de desactivarlo en caso necesario.

• Tecnología emergente: existe la posibilidad de que los sistemas de armas con autonomía creciente pierdan previsibilidad, sobre todo en casos de mayor movilidad, mayor adaptabilidad y/o mayor interacción con sistemas múltiples (de tipo swarm). La pérdida de previsibilidad en los resultados del empleo de un arma autónoma podría deberse a la pérdida de control humano sobre la operación del arma y al reemplazo de las decisiones humanas sobre el uso de la fuerza por procesos decisorios mecánicos. Por consiguiente, pueden presentarse cuestiones importantes con respecto al cumplimiento de esas armas con el DIH y su aceptabilidad en el marco de los dictados de la conciencia pública.

• Revisiones jurídicas: el CICR acoge con beneplácito el hecho de que los Estados reconozcan la importancia de examinar las nuevas armas a fin de asegurar su compatibilidad con el derecho internacional, y destaca que los esfuerzos por fortalecer los procesos nacionales de revisión jurídica complementan los debates de nivel internacional, con los cuales se refuerzan recíprocamente, particularmente en las reuniones de expertos de la CCAC. Sin embargo, la revisión jurídica se enfrenta con algunos problemas prácticos en relación con la evaluación de si un sistema de armas autónomas se desempeñará conforme a lo previsto en las circunstancias de uso previstas o esperadas. En particular, se plantean dos preguntas: ¿cómo se evalúa la previsibilidad y la fiabilidad del arma? ¿Qué nivel de previsibilidad y fiabilidad es el que se considera necesario?

• Los principios de humanidad y los dictados de la conciencia pública: los debates entre los Estados, la sociedad civil y el público en general han demostrado que la idea de un arma que pone el uso de la fuerza fuera del control humano suscita profundo malestar. En vista de la extrema gravedad de las consecuencias e independientemente de si esos sistemas son o no legales, es muy posible que la humanidad insista en que las decisiones de matar o destruir deben seguir en manos de los seres humanos.

• Control humano: la noción de control humano es el tema predominante de este debate. Sea por razones jurídicas, éticas o relacionadas con las operaciones militares, hay amplio consenso en cuanto a la necesidad del control humano sobre las armas y el uso de la fuerza. Sin embargo, sigue sin estar claro si el control humano en las etapas del desarrollo y el despliegue de un sistema de armas autónomas es suficiente para remediar el nivel mínimo de control humano o la ausencia total de control humano en la etapa de operación del arma, es decir, cuando busca y ataca objetivos de manera independiente. Existe la necesidad de determinar qué tipo y qué grado de control humano sobre la operación de estos sistemas de armas se consideran necesarios para observar las obligaciones jurídicas y satisfacer las consideraciones de la ética y de la sociedad.

• El camino a seguir: puesto que la necesidad de mantener el control humano –sea "significativo", "apropiado" o "efectivo"– sobre los sistemas de armas y sobre el uso de la fuerza es consistente con las obligaciones jurídicas, los requisitos operacionales militares y las consideraciones éticas, el CICR alienta a los Estados a utilizar el control humano como marco de los debates en curso de la CCAC. El control humano y la consideración de la interacción hombre/máquina pueden constituir una base útil para elaborar entendimientos comunes entre los Estados y llegar a un consenso sobre los límites de la autonomía en los sistemas de armas. El CICR insta a los Estados partes en la CCAC a que, en la Conferencia de Examen que se celebrará en diciembre, acuerden que las labores futuras se centren en determinar los límites de la autonomía en los sistemas de armas. Los sistemas de armas que operan con autonomía en sus funciones esenciales ya existen y los avances son incesantes. Por ende, es preciso que no sólo los Estados, sino también todos los colectivos interesados, encaren esta problemática con responsabilidad y urgencia, a fin de evitar que nuestras deliberaciones jurídicas y éticas queden a la zaga de los avances tecnológicos.