Peter Maurer: “Debemos decidir qué papel queremos que desempeñen los seres humanos en las decisiones sobre la vida y la muerte durante los conflictos armados”
Discurso pronunciado por el señor Peter Maurer, Presidente del Comité Internacional de la Cruz Roja, durante la Sesión informativa para los Estados respecto a la posición del CICR sobre los sistemas de armas autónomos.
Excelencias,
señoras y señores:
Gracias por acompañarme en esta sesión informativa virtual. Me complace compartir con ustedes un avance importante en el análisis y las recomendaciones del CICR sobre los sistemas de armas autónomos y escuchar sus opiniones sobre el tema, hoy y siempre.
Los avances en las tecnologías digitales ocurren a un ritmo vertiginoso, afectando nuestra forma de vivir y trabajar, y hasta nuestra forma de pensar. Constituyen una gran promesa para la humanidad y, en repetidas ocasiones, me he referido al compromiso del CICR con la transformación digital para fortalecer la acción humanitaria en el mundo entero.
Los avances en las tecnologías digitales también afectan la forma en que se combate en la guerra. Las armas que incorporan nuevas tecnologías plantean profundos dilemas humanitarios, jurídicos y éticos. Mi alocución de hoy se centrará, precisamente, en esos dilemas.
El CICR define los sistemas de armas autónomos como las armas que seleccionan y aplican la fuerza a objetivos sin intervención humana. Estos sistemas se basan en un "perfil de objetivo" general y en sensores. Lo que los distingue de otros tipos de armas es que, después de que los activa una persona, es el entorno el que desencadena el disparo y no el usuario. Esto quiere decir que el usuario no selecciona el objetivo específico.
Las armas autónomas plantean numerosos interrogantes desde distintas perspectivas: militar, técnica, jurídica, ética, filosófica y, desde luego, humanitaria. Esa complejidad también aumenta los desafíos políticos a los que hacen frente los gobiernos a la hora de alcanzar un entendimiento sobre los riesgos potenciales de esas armas y las soluciones necesarias.
Las armas autónomas ya se están utilizando, en circunstancias específicas, normalmente lejos de los civiles y contra tipos muy concretos de objetivos; por ejemplo, para defender buques de guerra que se encuentran en el mar contra el ataque de misiles.
Sin embargo, la tecnología actual y los acontecimientos militares generan interés en el uso de armas autónomas que atacan un rango de objetivos más amplio, con una mayor duración y en zonas más extensas, y hasta en entornos poblados, más complejos y dinámicos.
En la opinión del CICR, el uso irrestricto de las armas autónomas entraña un riesgo considerable de causar daño tanto a civiles como a combatientes.
Pensemos, por ejemplo, en situaciones en las que hay una población civil numerosa en la zona donde se realizan las operaciones militares. Si se usa un arma autónoma: ¿Cómo se protegería a los civiles cuando el usuario del arma no sabe exactamente ni dónde, ni cuándo atacará, ni qué destruirá el arma? O que el sensor de un arma autónoma se activa con autobuses civiles cuya forma es similar a la de los vehículos de transporte de soldados y, entonces, el arma empieza a atacar a todos los autobuses en una extensa área sin que el usuario pueda intervenir y desactivarla.
Las armas autónomas también aumentan el riesgo de escalada de un conflicto, por ejemplo, porque no hay tiempo, ni medios, para desactivar un arma autónoma antes de que sea demasiado tarde.
Para el CICR, las posibles consecuencias humanitarias son preocupantes. Estos sistemas de armas plantean serios problemas para el cumplimiento del derecho internacional humanitario, cuyas normas requieren que los combatientes tomen decisiones según el contexto. Por ejemplo, ¿cómo se evitaría atacar a los soldados heridos si no hay un ser humano que advierta que están fuera de combate?
Asimismo, las armas autónomas plantean preocupaciones éticas fundamentales para la humanidad, en el sentido de que reemplazan la decisión humana sobre la vida y la muerte por procesos controlados por sensores, software y máquinas.
En última instancia, la mayoría de nosotros estará de acuerdo en que un algoritmo –un proceso automático– no debe determinar quién vive y quién muere, que la vida humana no debe reducirse a informaciones de sensores y cálculos automáticos.
En su búsqueda de una velocidad cada vez mayor en los ataques y del despliegue de un número creciente de robots armados, las fuerzas armadas persiguen la autonomía para obtener una ventaja militar. A la vez, esto modifica el papel de los seres humanos en las decisiones sobre el uso de la fuerza. En esta nueva era de software de aprendizaje automático que escribe sus propias reglas, muchos temen que esto represente un peligro para la protección civil y la seguridad internacional.
Los avances tecnológicos nos llevan a preguntarnos no solo para qué pueden usarse, sino para qué deberían usarse. Nos llevan a hacer elecciones responsables sobre el futuro de la guerra. En última instancia, debemos decidir qué papel queremos, como sociedad, que desempeñen los seres humanos en las decisiones sobre la vida y la muerte durante los conflictos armados.
Existe un claro riesgo de que el discernimiento y el control humanos a la hora de tomar decisiones sobre la vida y la muerte se vean poco a poco debilitados hasta un nivel inaceptable. Esta posibilidad ha sido subrayada por muchas personas en los ministerios de asuntos exteriores, las fuerzas armadas y las organizaciones humanitarias, así como por diseñadores de robots y expertos en inteligencia artificial.
El diseño y el uso irrestricto de armas autónomas presentan un problema fundamental. Aumentan el riesgo de que se debiliten las protecciones que el derecho internacional humanitario y los principios de humanidad confieren actualmente a las víctimas de la guerra.
El derecho internacional humanitario en sí procura preservar un grado de humanidad en la guerra. Sus normas se aplican al uso de todos los medios y los métodos de la guerra, incluidos los más nuevos. Aun así, los Estados han ido aprobando normas específicas para proteger aún más a los civiles y a quienes ya no participan en las hostilidades contra los efectos de nuevas tecnologías de armas, incluso de manera preventiva. Este fue el caso, por ejemplo, de la Declaración de San Petersburgo de 1868 con el objeto de prohibir el uso de determinados proyectiles explosivos y de la prohibición de las armas láser cegadoras más de 100 años después.
En la última década, han tenido lugar debates internacionales entre Estados sobre las armas autónomas en ámbitos como el Consejo de Derechos Humanos y las reuniones de las Altas Partes Contratantes en la Convención sobre ciertas armas convencionales. Esos debates se han enriquecido con la participación y las ideas de diplomáticos, militares, representantes de la sociedad civil, académicos y miembros de la comunidad científica y tecnológica.
¿Cuál ha sido el aporte del CICR a esos debates en estos años?
En cumplimiento de nuestro cometido, hemos analizado en profundidad cómo garantizar que se conserven el discernimiento y el control humanos en el uso de la fuerza, incluso a través de consultas con expertos.
Periódicamente, hemos compartido nuestras conclusiones con todas las partes interesadas.
Hemos participado activamente en los debates y hemos escuchado con atención las preocupaciones de todos los involucrados, incluidos los Estados.
Personalmente, he disfrutado del intercambio constructivo de opiniones con muchos de ustedes –y con sus colegas– tanto en Ginebra como en las capitales de numerosos países del mundo.
Desde 2015, venimos instando a los Estados a que impongan límites acordados por la comunidad internacional a las armas autónomas. Hoy, traigo a consideración de ustedes recomendaciones para los Estados actualizadas y mejoradas, tanto sobre la forma como sobre el contenido de esos límites.
El CICR está convencido de que esos límites internacionales deberían adoptar la forma de nuevas normas jurídicamente vinculantes que regulen los sistemas de armas autónomos.
Pensamos que esas normas son necesarias para:
esclarecer cómo las normas del derecho internacional existentes restringen el uso de esas armas
complementar el marco jurídico, incluso para abordar preocupaciones éticas fundamentales.
Respecto del contenido de las normas, quisiéramos ofrecer tres recomendaciones concretas.
En primer lugar, pensamos que las armas autónomas imprevisibles deberían eliminarse, en especial, debido a sus efectos indiscriminados, y que esto se lograría con mayor efectividad mediante la prohibición de las armas autónomas imprevisibles.
En segundo lugar, creemos que debería prohibirse el uso de armas autónomas para atacar objetivos humanos. Esta recomendación se fundamenta en consideraciones éticas para salvaguardar la humanidad y en la necesidad de respetar las normas del derecho internacional humanitario para proteger a los civiles y a los combatientes fuera de combate. En nuestra opinión, esto podría lograrse con mayor efectividad mediante la prohibición de las armas autónomas antipersonal.
Por último, en tercer lugar, recomendamos la regulación de otras armas autónomas, incluso mediante la combinación de cuatro tipos de límites:
primero, limitación de los tipos de objetivos, por ejemplo, restringiéndolos a los objetos de carácter militar, como tanques o misiles
segundo, limitación de la duración, el alcance geográfico y la escala de uso
tercero, limitación de las situaciones de uso, restringiéndolas a aquellas en las que no haya presencia de civiles
cuarto, requisitos de interacción entre el usuario y la máquina, en especial, para garantizar que haya una supervisión humana efectiva y que la intervención y la desactivación se realicen a tiempo.
Para más datos sobre estas recomendaciones y su justificación, pueden consultar el documento que compartiremos hoy con ustedes tras esta sesión informativa. De todos modos, las recomendaciones deben continuar elaborándose a partir del documento que distribuiremos, y espero que compartan conmigo sus opiniones al respecto, hoy o en las semanas y los meses venideros, con vistas a mejorar nuestras propuestas y recomendaciones.
Queda en manos de los Estados la decisión de adoptar nuevas normas y la determinación de su contenido específico. El CICR ofrece sus recomendaciones en materia de sistemas de armas autónomos en base a sus conocimientos jurídicos, al análisis pormenorizado de las cuestiones que se plantean con el desarrollo y el uso de estos sistemas de armas y a la experiencia operacional de los conflictos armados. Nuestro objetivo es apoyar los debates internacionales y ayudar a los Estados en la identificación de posibles vías de convergencia.
En este sentido, pienso que las recomendaciones ofrecen una orientación clara, pragmática y basada en principios acerca de cómo abordar efectivamente las preocupaciones humanitarias, jurídicas y éticas que han planteado numerosos Estados, la sociedad civil, científicos prestigiosos y el CICR.
Las recomendaciones no contemplan la prohibición del desarrollo y el uso de las nuevas tecnologías digitales de la guerra para otros fines, por ejemplo, para aumentar la precisión de las armas o para mejorar la toma de decisiones por parte de seres humanos.
Espero que encuentren útiles nuestras recomendaciones en sus esfuerzos destinados a alcanzar un entendimiento común y a tomar medidas políticas a nivel internacional, por ejemplo, en las reuniones de las Altas Partes Contratantes en la Convención sobre ciertas armas convencionales y de su Grupo de Expertos Gubernamentales.
El CICR está preparado para apoyar todas las iniciativas destinadas a abordar de manera efectiva y oportuna las preocupaciones que surgen de las armas autónomas y a colaborar, en este aspecto, con todos los gobiernos –y con sus fuerzas armadas–, así como con otras partes interesadas pertinentes. Entre esas iniciativas, se incluyen distintos esfuerzos para elaborar aspectos del marco normativo y operacional, como una declaración política, estándares de políticas comunes u orientación sobre prácticas idóneas. Esos esfuerzos deben complementar las normas jurídicamente vinculantes, con las que han de reforzarse mutuamente.
Teniendo en cuenta la velocidad de los avances en materia de armas autónomas, el CICR considera que urge la aprobación de nuevas normas sobre este tipo de armas. Desde luego, queda mucho por hacer para alcanzar un entendimiento común acerca de qué acciones es necesario emprender.
Quisiera finalizar señalando la oportunidad que tenemos.
Nosotros configuramos la tecnología. Y la tecnología, a su vez, nos configura a nosotros. Esos avances no ocurren en el vacío. Pero, más allá del cálculo de los costos y los beneficios, las decisiones sobre para qué debe usarse la tecnología se basan en valores humanos.
Tenemos la oportunidad de trazar entre todos una línea que redunde en el beneficio de las personas. Hago énfasis en la palabra "personas", porque, para el CICR, las preocupaciones que surgen de las armas autónomas no se relacionan únicamente –ni siquiera principalmente– con la tecnología. Se relacionan con las personas, con los seres humanos. Se relacionan con las protecciones que se confieren a los seres humanos durante los conflictos armados. Se relacionan con las obligaciones jurídicas y las responsabilidades morales de los seres humanos que conducen las hostilidades. Se relacionan, en definitiva, con la humanidad que nos une.
