Чего мы не знаем о цифровых рисках в вооруженных конфликтах и что с этим делать

В этой статье советник МККК по цифровым рискам Джоэль Ризк и исследователь цифровых рисков Шон Корди размышляют о некоторых ключевых проблемах в сфере предоставления защиты в цифровую эпоху и о том, что могут сделать специалисты по предоставлению защиты, чтобы лучше подготовиться к их решению.

Гуманитарную защиту формируют усилия гуманитарных организаций во время вооруженных конфликтов и других ситуаций насилия по защите жизни, безопасности и достоинства гражданских лиц. Для этого гуманитарные организации и другие стороны ведут деятельность по предоставлению защиты. Ее цель — сделать так, чтобы власти и другие субъекты соблюдали свои обязанности и права граждан в соответствии с буквой и духом применимых отраслей права.

Такая деятельность направлена на предотвращение или пресечение фактических или потенциальных нарушений и устранение их последствий. По своей сути деятельность по предоставлению защиты направлена на снижение рисков и уязвимости путем оказания практической и гуманитарной помощи в виде поддержки мер самозащиты, информирования о рисках, предоставления надлежащей точной информации и т. д.

Деятельность по предоставлению защиты требует постоянного анализа рисков, с которыми сталкиваются люди в подобных ситуациях.

Предоставление защиты постоянно эволюционирует вслед за изменением реалий конфликтов, в том числе внедрением новых технологий, которые определяют характер войн. Использование новых, в частности цифровых, технологий различными сторонами в условиях вооруженных конфликтов, будь то государства, негосударственные вооруженные структуры, преступные группы или частные компании (далее именуемые участниками конфликтов) для ведения кибер- и цифровых операций сегодня является одной из наиболее важных тенденций вооруженных конфликтов.

Использование новых, в частности цифровых, технологий различными сторонами ... для ведения кибер- и цифровых операций сегодня является одной из наиболее важных тенденций вооруженных конфликтов.

Хотя цифровые и кибероперации редко проводятся в вакууме, предполагаемые и ожидаемые обстоятельства использования цифровых технологий могут быть сопряжены с целым рядом рисков — мы называем их цифровыми рисками — для жизни, безопасности, достоинства и жизнестойкости гражданского населения. Это печальные последствия, часто усугубляющие страдания мирных жителей, вызванные кинетическими операциями.

Гуманитарным организациям еще только предстоит осознать, насколько серьезны возникающие во время конфликтов цифровые риски для гражданского населения. Поэтому документирование, оценка и дальнейшее осознание того, как применяются новые цифровые технологии в физическом и цифровом пространстве и какой вред они наносят, имеет решающее значение. Существующие в настоящий момент цифровые риски можно разделить на три большие категории, из них в этой статье основное внимание будет уделено двум последним:

• во-первых, риски, связанные с применением гуманитарными организациями цифровых технологий для поддержки гуманитарной деятельности и деятельности по предоставлению защиты, например, использование биометрии;
• во-вторых, риски, связанные с применением цифровых технологий вооруженными акторами в дополнение к применению кинетического оружия или самостоятельно, например в ходе информационных операций, киберопераций против гражданских лиц или гражданской инфраструктуры, или неправомерного использования персональных или гуманитарных данных;
• и, в-третьих, риски, связанные с использованием гражданских объектов в военных целях или с технологиями и инфраструктурой двойного назначения, допускающими участие гражданских лиц в действиях, связанных с конфликтом, например, в наблюдении, сборе разведывательных данных или кибернетических и информационных операциях.

Влияние описанных выше действий с цифровыми технологиями может распространяться на определенные права, такие как свобода выражения мнений, собраний или передвижения, общая свобода и безопасность, личная идентичность и неприкосновенность частной жизни — и ограничивать их. Однако если говорить о конфликтах, особую обеспокоенность у МККК вызывает применение цифровых технологий таким образом, который пагубно сказывается на жизни, безопасности, физической и психологической неприкосновенности мирных жителей. В частности - на их достоинстве, возможности защищать себя и жизнестойкости, получении средств к существованию, доступе к основным услугам и гуманитарной помощи.

Особую обеспокоенность у МККК вызывает применение цифровых технологий таким образом, который пагубно сказывается на жизни, безопасности, физической и психологической неприкосновенности мирных жителей...

Организации, занимающиеся предоставлением защиты и оказанием гуманитарной помощи, все чаще обращаются к новым цифровым технологиям, чтобы повысить эффективность гуманитарной деятельности и деятельности по предоставлению защиты и поддержать свободный выбор людей, затронутых конфликтом. При этом они стремятся придерживаться принципа «не навреди». Это особенно актуально тогда, когда применение цифровых гуманитарных технологий в условиях конфликтов может порождать и усугублять риски. Эти риски, в свою очередь, могут ограничивать основные права гражданских лиц и подрывать их доверие к гуманитарным работникам, а также приводить к различным видам ущерба.

В этой статье основное внимание уделяется тому как ведут себя и как применяют цифровые технологии не гуманитарные организации, а участники конфликтов.

«Защита» в цифровую эпоху

Не умаляя пользы, которую может принести применение технологий в ходе конфликтов (например, cделать более доступной жизненно важную информацию и потенциально свести к минимуму сопутствующий ущерб), в цифровую эпоху при предоставлении защиты необходимо учитывать риски.

Иными словами, эта деятельность должна включать в себя защиту прав людей, когда в их жизнь входит цифровая среда. Например, в соответствии с международным гуманитарным правом (МГП) гражданские лица и гражданские объекты не должны становиться объектами нападений во время вооруженных конфликтов. Это обязательство в равной степени применимо к кибероперациям и цифровым операциям.

Таким образом, цифровые риски в контексте предоставления защиты могут быть связаны с защитой данных или других цифровых активов, но не ограничиваются этими вопросами.

Они связаны с применением цифровых технологий в контексте вооруженных конфликтов и с тем, как их применение подвергает гражданских лиц опасности, затрагивает их права, безопасность и достоинство (например, использование шпионского ПО против гражданских лиц), в том числе когда злоупотребления или нарушения происходят исключительно в интернете (например, разжигание ненависти). То есть это любые риски, опосредованные или усиленные цифровыми технологиями, будь то физические (сказывающиеся, в том числе, на вспомогательной инфраструктуре, например спутниках), логические или информационные.

Другими словами, деятельность по предоставлению защиты должна охватывать действия и нарушения, которые совершаются в результате взаимодействий между людьми, между людьми и машинами и только между машинами (например, кибератаки, нацеленные на гражданскую инфраструктуру или инфраструктуру двойного назначения).

Подверженность риску и проблемы в сфере защиты

Предоставление защиты в цифровую эпоху не обязательно связано с принципиально новыми проблемами. Однако важное отличие заключается в том, что сложности в предоставлении защиты, связанные с цифровой сферой, могут быть менее заметными, осязаемыми, понятными (особенно для пострадавшего населения), о них могут реже сообщать. Кроме того, поскольку поле для осуществления цифровых атак широко, а степень уязвимости перед ними высока, цифровые угрозы могут быстро масштабироваться и распространяться. Они также могут эволюционировать по мере развития цифровых технологий и практики их применения, потенциально способствуя возникновению новых, непредвиденных рисков, которые организации, предоставляющие защиту, должны будут отслеживать.

Вредоносная информация в Интернете

Распространение вредоносной информации, например ложных сведений, дезинформации и риторики ненависти, может подогревать конфликт и ставить под угрозу безопасность и достоинство людей. Онлайн-формат распространения информации и социальные сети увеличили масштабы, охват и скорость распространения ложных сведений, дезинформации и риторики ненависти.

Информационно-коммуникационные системы используются государствами и негосударственными субъектами для оказания влияния, изменения поведения или достижения практических целей.

В этом пространстве информационный нарратив может

• провоцировать акты насилия в отношении людей или подстрекать к таким актам,
• вызывать страдания у отдельного человека или группы и причинять длительный психологический ущерб, еще больше повышая уязвимость определенных групп населения в результате дискриминации, стигматизации и отказа в доступе к основным услугам,
• мешать составлению правильного представления о ситуации и мерам самозащиты, а также
• дезорганизовывать или подрывать деятельность организаций, предоставляющих защиту, и сказываться на них самих.

Эти риски только усугубляются по мере того, как повышается доступность контента, созданного искусственным интеллектом.

В то же время цифровые средства коммуникации используются так, что это может нарушать определенные права и обязанности. Речь идет, например, об их применении для распространения вредоносной информации в нарушение запрета на вербовку детей или запрета подвергать военнопленных публичному любопытству.

Действия в киберсреде, направленные против гражданского населения

Гражданские лица также бывают непосредственными жертвами таких действий в киберсреде, которые могут нанести ущерб их благополучию и нарушить их права. Например, применение шпионского ПО против гражданских лиц может привести к неправомерному использованию персональных данных в ущерб отдельным лицам, и, возможно, повлиять на конфликт в целом.

Между тем, группы населения, и без того оказавшиеся в уязвимом положении в результате конфликтов, например беженцы и перемещенные лица, могут стать жертвами преступников и других злоумышленников в интернете. В частности, возникают опасения в связи с возможными хищениями личных данных, мошенничеством и другими преступными схемами.

Кибероперации против гражданской инфраструктуры

Участники конфликтов используют киберсредства, например программы-вымогатели, ПО для DDoS-атак или программы для удаления данных, чтобы нарушать работу или выводить из строя гражданскую инфраструктуру и лишать людей основных услуг: электро- и водоснабжения, медицинской помощи, возможности получать государственные и финансовые услуги в электронном виде.

Такие операции могут приводить к человеческим жертвам и потенциально разрушительным гуманитарным последствиям. Они могут отрицательно влиять на эффективность работы инфраструктуры жизнеобеспечения, обслуживающей пострадавшее от кризиса население, что может приводить к социально-экономическому, социальному и психологическому ущербу или даже к гибели людей. Кроме того, гражданские лица могут случайно пострадать, когда кибероперации затрагивают инфраструктуру двойного назначения, такую как спутники.

Неправомерное использование данных и неправильное обращение с ними

Внедрение и использование технологий, основанных на данных, например датчиков, предиктивной аналитики или обработки биометрических данных, вызывает целый ряд опасений относительно прав, безопасности и достоинства населения, пострадавшего от кризисных ситуаций.

Так, гуманитарные данные, перехваченные, например, путем отправки запросов на доступ через третьих поставщиков услуг, хакерские атаки или утечки, могут быть использованы не по назначению, в негуманитарных целях: например, правоохранительными органами, в операциях по взятию под стражу и при пограничном досмотре.

Между тем, частные, персональные и идентифицируемые данные затронутых групп населения, в том числе связанные с использованием цифровых технологий ими самими (например, социальных сетей), могут быть использованы для их прямой идентификации и прицельных действий против них (таких как дезинформация, мошенничество или насилие).

Данные, искусственный интеллект и принятие решений

Для ведения военных действий участники конфликта начинают использовать автоматизированные «системы поддержки принятия решений» с искусственным интеллектом (ИИ). Это ПО, составляющее аналитические материалы, рекомендации и даже прогнозы для лиц, принимающих решения военного характера.

Оно может применяться для принятия широкого спектра военных решений на всех уровнях командования, например для оценки угрозы и распознавания целей, планирования проведения конкретных военных операций или принятия других решений, затрагивающих права человека, например, о помещении под стражу.

Использование такого ПО вызывает ряд опасений:

• как обеспечить для человека возможность выносить правовую оценку ситуации и вмешиваться в процесс,
• а также смогут ли пользователи понимать логику предложенных ИИ решений, ставить их под сомнение и не полагаться на эти системы чрезмерно?

Кроме того, обеспокоенность вызывает степень прозрачности этих систем, их возможная предвзятость и ошибки, неизбирательный выбор целей, а также ущерб, причиняемый несоразмерными нападениями и их потенциальными последствиями для жизни, достоинства и прав людей.

Дезорганизация гуманитарной деятельности

Осуществлению гуманитарной деятельности все чаще препятствуют с помощью цифровых средств.  Проводятся информационные кампании, порождающие сомнения в том, что гуманитарные организации соблюдают этические принципы и нейтралитет, или осуществляются кибероперации и несанкционированный доступ к данным.

Это может отрицательно повлиять на возможность для гуманитарных организаций работать, получать доступ к пострадавшему населению, координировать свои действия с другими сторонами, оценивать потребности и оказывать помощь пострадавшему населению. Кроме того, это может угрожать безопасности людей и подрывать их доверие к гуманитарным организациям и гуманитарной деятельности, а также подвергает опасности гуманитарных работников.

Лишение возможности подключения

Все чаще участники конфликта блокируют доступ к интернету и коммуникационной инфраструктуре, чтобы контролировать информационную среду и (или) способствовать достижению политических или военных целей.

Подобные блокировки могут повлечь за собой или усугубить гуманитарные последствия для тех, кто находится на местах, с потенциальной угрозой для их жизни. Они не только ограничивают доступ населения, пострадавшего от кризиса, к жизненно важной информации (например, о деятельности гуманитарных работников, продовольствии, убежище, медицинской помощи). Они также могут повысить риск разлучения с близкими в зависимости от того, насколько для поддержания и восстановления связи этим людям нужен интернет.

Между тем, отключение интернета может подрывать жизнестойкость мирного населения и препятствовать получению информации о рисках, возникающих в связи с конфликтами, а также ограничивать возможности самозащиты, получения дохода, свободу слова и собраний.

Вовлечение гражданского населения

Растущее участие гражданских лиц и частных компаний в действиях на цифровом поле боя подвергает их риску и еще больше размывает различие между гражданскими лицами и комбатантами.

В самом деле, гражданское население может активно поддерживать участников конфликта. Они могут участвовать в сборе разведданных для военных целей (например, с помощью приложений, перестроенных под военные цели), поддерживать кибероборону одной из воюющих сторон или вносить вклад в кибероперации против целей противника, в том числе против других гражданских объектов.

Такое участие может подвергать гражданских лиц серьезной опасности.

Они могут стать мишенью для военных, может быть уничтожено их имущество, они могут быть помещены под стражу или даже убиты. Это также может дать повод для ложных обвинений и подозрений, которые наносят еще больший вред.

Обеспечение готовности и предоставление защиты в цифровую эпоху

Поскольку проблемы, связанные с предоставлением защиты, в цифровую эпоху не теряют своей актуальности, гуманитарным организациям предстоит пройти еще долгий путь, чтобы понять, какие ограничения и риски несут в себе цифровые технологии. Взаимосвязь между аспектами конфликтов, разворачивающихся в физическом пространстве и онлайн, и их гуманитарными последствиями потребует от гуманитарных работников актуализировать свои навыки, методы и подходы к работе по нескольким направлениям:

1. Обеспечить нормативно-правовую базу в сфере предоставления защиты и диалог

У войны есть пределы, даже в цифровой среде. Следовательно, деятельность по предоставлению защиты в цифровую эпоху не должна осуществляться в отрыве от нормативно-правовой базы предоставления защиты, а по возможности, должна способствовать ее расширению — это поможет защите прав, безопасности и достоинства лиц, затронутых конфликтом, будь то содействие развитию этой базы, повышение осведомленности о ней или взаимодействие с государствами и проработка ее применения с властями.

В вооруженные конфликты и кибероперации в последнее время втягиваются такие негосударственные субъекты, как технологические компании и кибергруппировки, что подвергает еще большей угрозе гражданское население и других лиц, пользующихся защитой.

Следует поощрять диалог с соответствующими заинтересованными сторонами в этой области. Среди вопросов, которые следует рассмотреть, можно выделить методы управления, предотвращение вреда и случайного ущерба, применение МГП и различие между гражданскими и негражданскими целями, сотрудничество в осуществлении или укреплении деятельности по предоставлению защиты, технологии, позволяющие следовать принципам и ориентированные на человека и т. д.

При рассмотрении этих вопросов можно было бы опираться на существующую нормативно-правовую базу, например Руководящие принципы предпринимательской деятельности в аспекте прав человека ООН, и использовать их как рычаг влияния. В то же время поддержание диалога с государствами могло бы напомнить об их юридических обязательствах по обеспечению соблюдения соответствующих норм МГП и международного права в области прав человека частными компаниями.

Наконец, наряду с вышеперечисленным, поскольку гуманитарные работники собирают персональные и конфиденциальные данные, им необходимо интегрировать практики защиты данных и соответствующие нормативно-правовые инструменты в свою работу. К таким практикам относится минимизация данных, оценка влияния защиты данных, защита данных путем проектирования и учета прав субъектов данных.

Заслуживает высокой оценки то, что за последние годы была проделана значительная работа в сфере ответственного использования технологий и данных в гуманитарной деятельности, результатом которой стало, например, Руководство МККК по защите данных или Профессиональные стандарты деятельности по предоставлению защиты.

2. Повышение жизнестойкости

Существует возможность дополнить текущую деятельность по предоставлению защиты программами цифровой грамотности и осведомленности о рисках, а также тренингами по цифровым рискам как для пострадавшего населения, так и для гуманитарных работников. Однако эти усилия не должны приводить к перекладыванию ответственности на пострадавшее население.

По мере того, как все больше организаций и частных лиц внедряют технологические решения и создают возможности для повышения цифровой грамотности и осведомленности, важно, чтобы гуманитарные организации и другие стороны, предоставляющие защиту, действовали осторожно, не игнорируя рисков изоляции сообществ или групп, создания ложного чувства безопасности и, что еще более важно, не перекладывая ответственность на наиболее уязвимых лиц.

3. Наращивание потенциала

В гуманитарном секторе целостного представления о рисках до сих пор не сложилось. Пробел в понимании и документировании всего многообразия цифровых угроз, связанных с ними рисков для пострадавшего населения и поведения различных субъектов в условиях конфликта до сих пор значителен.

В связи с этим необходимо разработать цифровые инструменты оценки рисков и интегрировать их в деятельность по предоставлению защиты как таковые.

Соответственно, гуманитарные работники должны и дальше развивать сотрудничество с научными, военными и техническими экспертами, чтобы получить своевременный и всесторонний анализ защиты и реагирования с учетом фактических данных.

Кроме того, для более эффективного выявления, оценки и смягчения цифровых рисков работникам, предоставляющим защиту, необходимо повышать квалификацию, чтобы иметь возможность пользоваться гибридными инструментами, объединяющими традиционные подходы с новыми средствами. В частности, сюда относится дальнейшее использование и актуализация информации из открытых источников и анализ социальных сетей. Это позволило бы обеспечить более глубокую осведомленность и собрать больше сведений, на которые можно будет опираться в деятельности по предоставлению защиты: от отслеживания инцидентов, на которые можно ссылаться в обсуждении с властями вопросов предоставления защиты, до методик предоставления защиты в конкретных сообществах и взаимодействия на уровне этих сообществ.

Специалисты по предоставлению защиты также должны получать подготовку и поддержку в понимании и фиксировании последствий кибер- и цифровых операций в условиях конфликтов. Это включает в себя взаимодействие с сообществами, на жизнь которых влияют цифровые технологии.

***

Рост цифровых рисков, провоцируемых или усугубляемых вредоносной информацией в интернете, операциями киберзащиты, автоматизацией военных систем, неправомерным использованием персональных и гуманитарных данных, отключениями связи или более широким участием гражданских лиц в конфликте при помощи цифровых средств — это реальный аспект конфликтов в цифровую эпоху.

Влияние всего этого на права, безопасность, достоинство и жизнестойкость населения, затронутого конфликтом, вызывает обеспокоенность, которую нельзя игнорировать.

По мере появления определенных сложностей — в сфере цифровой грамотности, осведомленности о рисках и способности фиксировать доказательства причинения ущерба, — организации, предоставляющие защиту, должны

• работать над расширением существующей нормативно-правовой базы в сфере предоставления защиты (включая защиту данных),
• участвовать в диалоге по предоставлению защиты от цифровых рисков;
• повышать жизнестойкость пострадавшего населения, например, посредством просвещения и повышения осведомленности о рисках; и
• наращивать собственный опыт и потенциал по выявлению рисков и предотвращению или устранению причиненного ими вреда.

В этой быстро развивающейся цифровой среде сохранение гуманитарного пространства и подход, ориентированный на защиту, являются ключевыми. В то время как гуманитарные работники продолжают исследовать, как же это повлияет на их деятельность, важно не изобретать гуманитарный велосипед, а перестраивать существующие программы. Работа с цифровыми рисками не приятный бонус, добавляющий гуманитарным работникам очков, а их этический и профессиональный императив.

Авторы статьи - Джоэль Ризк, советник МККК по цифровым рискам, и Шон Корди, исследователь цифровых рисков, МККК

Оригинал статьи с примечаниями и ссылками (на английском языке) - в Humanitarian Law and Policy Blog.