红十字国际委员会主席：“我们必须采取以人为本的方法来开发和使用新技术”

女士们，先生们，

目前，红十字国际委员会将120 多场冲突列为武装冲突。这一数字在过去三十年中增长超过三倍。此外，当今冲突无论在地方还是地区层面都产生了多维度的连锁反应。

与会专家多次使用"十字路口"或 "紧要关头"等词汇来引起人们关注。然而，政治术语不应让我们忽视红十字国际委员会和其他人道参与方在当今战场上所面临的现实情况。

新兴技术正在改变武装冲突的作战方式，并使其变得更加复杂。在有关战争演变的讨论中，备受关注的议题包括网络行动与传统武器的结合运用，以及人工智能在武器系统和决策中日益重要的作用。

这些新技术很可能会带来军事优势，例如能够以远超人类能力的速度采取行动，或者在通讯中断的环境（例如对亚太地区而言至关重要的海域）中实施攻击。

与此同时，这些新技术也给社会带来了新的危险：增加冲突意外升级的风险；引发对武器扩散的担忧；并加剧武装冲突受害者本已无法忍受的痛苦。

我想强调三个令人担忧的演变趋势：

• 首先，趋势表明，未来对自主武器系统的使用将针对更广泛的目标、持续更长时间、且人类进行干预的可能性也更为减少。

 


• 其次，人工智能正在以超越人类认知能力的方式影响并加速有关在武装冲突中将谁或什么作为攻击目标的军事决策，并因此损害决策质量。这会给平民带来额外风险。

 


• 第三，网络行动被用于破坏水电供应等政府提供的民用服务，阻碍医疗服务和人道行动。

 

随着军方试图利用正在以惊人速度进行开发的各种工具，生成模型和其他形式的机器学习等复杂的人工智能在这些演变过程中变得日益重要。在已然具有极端动荡特性的战场上，人工智能与各种武器和作战方法的融合加剧了各方的担忧，因为这为战场引入了更多不可预测性，并加快作战节奏，使其超出人类的控制范围。如此一来，指挥官和作战人员在履行国际人道法义务时就会面临挑战。

地缘政治的紧张局势或预期的军事必要性不能作为抛弃人道考量的理由——事实上，正是在这样的困难时期，维护人道才变得最为重要。

因此，我向所有国家发出两项呼吁。

第一，将国际人道法作为优先事项，并重申对其公认原则的承诺。具体而言：

• 缔结一项规制自主武器系统的新条约。该条约必须禁止不可预测的自主武器和以人为目标的武器，并对所有其他武器加以严格限制。我与联合国秘书长一起呼吁各国进行紧急谈判并在 2026 年前缔结一项规制自主武器系统的条约。

 


• 在支持军事决策的系统中使用人工智能时，必须保持人类的判断处于核心地位，特别是在对民众的生命和尊严构成风险的决策中。

 


• 关于网络空间，各国必须共同决定如何保护社会免受数字威胁。许多国家表示支持红十字国际委员会全球顾问委员会就数字威胁提出的具体建议。然而，迫切需要各界采取明确的行动。

第二，承认遵守国际人道法是对和平予以投入的一种手段。日内瓦四公约得到了所有国家的批准，因此构成了一项普遍共识。公约坚决反对不计代价或不择手段取得军事胜利的理念。

任何武装冲突都伴随着恐怖、绝望以及可怕的人道代价和环境代价。未来战争，无论其使用传统武器还是新技术，也都不例外。然而，我们还有更好的选择。防止或扭转军备竞赛和规制战争新技术的发展都是支持人类和平生活愿望的有效措施。

当我们拥抱创新所带来的希望时，我们也必须保持警惕，坚守我们的承诺和价值观。国际社会今天就这些新技术做出的决定将影响未来几代人所面临的战争状况，以及全世界数十亿人的生活。

通过合作，并维护和推进国际协议，我们将能够建设一个技术以人为本、服务于和平事业的未来。

谢谢大家。