Вопросы, вызывающие озабоченность МККК в связи с автономными системами вооружений
Автономные системы вооружений выбирают цели и применяют против них силу без участия человека. Человек
сначала активирует или вводит в действие автономную систему вооружений, после чего она самостоятельно
запускается или наносит удар, реагируя на информацию, получаемую датчиками извне, и полагаясь на обобщенный «профиль цели» (набор характеристик/условий, при которых система будет применять силу). Это значит, что оператор такой системы не выбирает конкретную цель или даже не знает, какая именно цель была выбрана, не знает он и точного времени и (или) места, где будет применена сила.
Применение автономных систем вооружений порождает риски, вызванные тем, что его последствия трудно
прогнозировать и ограничивать. Утрата человеком контроля и невозможность учета его мнения в случае применения силы и оружия вызывают серьезную озабоченность с гуманитарной, правовой и этической точек зрения.
Процесс функционирования автономных систем вооружений:
- порождает риск причинения ущерба всем, кого затрагивает вооруженный конфликт, — как комбатантам, так и гражданским лицам, — а также увеличивает опасность его эскалации;
- создает серьезные трудности с соблюдением норм международного права, в том числе международного гуманитарного права, а именно норм, призванных защитить гражданских лиц при ведении военных действий;
- поднимает вопросы, вызывающие серьезную озабоченность этического характера в том, что касается гуманности, фактически предоставляя датчикам, программам и машинным процессам принимать вместо человека решения, от которых зависит жизнь и смерть людей.
Рекомендации МККК государствам относительно регулирования автономных систем вооружений
С 2015 г. Международный Комитет Красного Креста (МККК) призывает государства установить согласованные на
международном уровне ограничения для автономных систем вооружений, чтобы обеспечить защиту гражданского населения и соблюдение международного гуманитарного права, а также этическую приемлемость таких систем.
Стремясь поддержать осуществляемые в настоящее время усилия по установлению международных ограничений
в отношении автономных систем вооружений с целью снижения порождаемых ими рисков, МККК рекомендует
государствам установить новые юридически обязательные нормы. В частности:
- Следует прямо и недвусмысленно отказаться от непредсказуемых автономных систем вооружений именно из-за их неизбирательного действия. Лучший способ этого добиться — запретить автономные системы вооружений, которые разработаны или используются таким образом, что последствия их применения невозможно в достаточной мере понять, предвидеть или объяснить.
- Исходя из этических соображений, для защиты гуманности и утверждения норм международного гуманитарного права, защищающих гражданское население и комбатантов, выбывших из строя, следует отказаться от использования автономных систем вооружений для нанесения ударов по людям. Лучший способ этого добиться — запретить автономные системы вооружений, которые разработаны или используются для применения силы против людей.
- Чтобы защитить гражданских лиц и гражданские объекты, обеспечить соблюдение норм международного гуманитарного права и гарантировать гуманность, конструктивные особенности тех автономных систем вооружений, использование которых не будет запрещено, а также порядок их применения должны подлежать регулированию, в том числе посредством сочетания следующих юридически обязательных:
- ограничений видов целей, например такими объектами, которые являются военными по своему характеру;
- ограничений продолжительности, географического охвата и масштабов применения, в том числе чтобы обеспечить возможность учета мнения человека и контроля с его стороны при конкретном нападении;
- ограничений ситуаций их применения, например, ситуациями, в которых гражданские лица или объекты отсутствуют;
- требований взаимодействия между человеком и машиной, прежде всего, чтобы обеспечить действенный надзор со стороны человека, возможность его своевременного вмешательства и деактивации системы.
МККК поддерживает инициативы государств, направленные на установление международных ограничений в отношении автономных систем вооружений с целью эффективно решить вызывающие озабоченность проблемы, которые возникают в связи с этим видом оружия, в том числе поддерживает усилия участников Конвенции о негуманном оружии по согласованию аспектов нормативной и оперативной основы этих ограничений. Учитывая темпы развития технологий и растущие масштабы применения автономных систем вооружений, критически важно своевременно установить такие ограничения, согласованные на международном уровне. Помимо новых правовых норм такие ограничения могут включать в себя общие нормативные стандарты и руководства, основанные на практическом опыте, все они могут взаимно дополнять и повышать эффективность друг друга. В рамках своего мандата и полагаясь на свой опыт, МККК с этой целью готов сотрудничать со всеми заинтересованными сторонами на национальном и международном уровнях, включая представителей правительств, вооруженных сил, научно-технического сообщества и промышленности.