自主性武器：杀戮和摧毁的决定应该由人类做出

《常规武器公约》

红十字国际委员会在致命自主武器系统专家会议上的声明，该会议于4月11-16日在日内瓦召开。

红十字国际委员会很荣幸在《常规武器公约》框架下的致命自主武器系统第三次专家会议上发表观点。

能够在无人干预的情况下选定目标并进行攻击的武器引发了重大法律、道德和社会问题。在前两次《常规武器公约》专家会议以及红十字国际委员会和其他组织召开的专家会议上所做的讨论已对此做出强调。

虽然关于这个复杂议题的观点在不断发展变化（包括红十字国际委员会的观点），各种讨论已经表明了广泛达成的共识：出于法律、道德或军事行动原因，必须保留对武器系统和武力使用的人为控制。

红十字国际委员会已经呼吁各缔约国为武器系统的自主性设限，以确保其使用符合国际人道法的规定，并在人道原则和公众良心要求所能接受的范围内。

作为红十字国际委员会的又一贡献，继2014年3月召开第一次红十字国际委员会会议后，该组织在2016年3月15-16日又召开了第二次国际专家会议（"自主武器系统：武器重要功能的自主性日益增强后的影响"）。来自20个国家的代表和独立专家，以及来自联合国和民间团体的代表参加了此次会议。

会议的目标是把武器系统重要功能自主性的实际研发与自主武器系统的法律和道德影响的考量、及其潜在的政策手段更紧密地联系起来。红十字国际委员会专家会议的总结报告将于近期发布。与此同时，为了此次《常规武器公约》会议，我们正在分发一份简短的文件，重点介绍红十字国际委员会对专家会议上所提出的一些关键问题的看法。我们想重点介绍以下几点：

• 定义：红十字国际委员会提出"自主武器系统"是一个涵盖性术语，包含任何在选择和攻击目标等关键功能中带有自主性的武器体系。我们希望强调，该定义是为了帮助大家更好地理解这个问题并帮助建立相关讨论框架。如此宽泛的定义的好处在于它能够让人们开始思考从关键功能带自主性的现有武器体系中所得到的经验教训。这有助于更快地确定国际人道法和公众良心要求所能接受的范围。
• 现有武器：一些现今使用的武器系统能够在没有人为干预的情况下选定目标并进行攻击。有效控制这些武器和武力使用的能力似乎与其可预测性和可靠性密切相关，同时还与对所开展任务、攻击目标、行动环境、地域空间和行动时间、人为监督武器操作的范围，以及人类在必要时可以将其关闭的严格操作限制密切相关。
• 新兴技术：日益自主的武器系统有可能会变得越发难以预测，特别是在多重系统的移动性、适应性和（或）互动性增强的情况下（如蜂群）。当机器取代人类做使用武力的决定后，人们无法预测使用自主武器的后果，这表明人类无法控制这些武器的运作。因此，关于如何让这类武器符合国际人道法的规定及其在公众良心要求下的被接受程度，将引发重大问题。
• 法律审核：各缔约国均承认了审核新武器以确保其符合国际法的重要性，红十字国际委员会对此表示欢迎，同时强调：加强国家法律审核程序的工作与国际层面（尤其是《常规武器公约》专家会议）的讨论互为补充并相互促进。然而，法律审核面临实际困难:如何评估自主武器在计划或预期的使用环境下是否达到预期效果。特别提出的两个问题是：被评估武器的可预测性和可靠性如何？可预测性和可靠性必须达到什么水平？
• 人道原则和公众良心的要求：各缔约国、专家、民间团体和公众间的讨论显示，人们对某武器和武力使用不受人为控制这一想法深感不安。考虑到后果的极端严重性，不管这些武器系统是否合法，人道原则都会坚决认为必须继续由人类来做杀戮或摧毁的决定。
• 人为控制：人为控制这一概念是这次讨论的首要议题。不管是出于法律、道德还是军事行动的原因，大家已经对人为控制武器和武力使用的必要性达成了广泛共识。但是，仍然没有明确的是：自主武器系统的研发和部署等各阶段的人为控制是否足以克服在武器系统的运作阶段（即独立选择和攻击目标时）出现的最低限度的人为控制或无人控制的问题。现在需要确定对武器系统运作的人为控制的类型和程度，它们必须符合法律义务规定并满足道德和社会考量。
• 前进之路：既然保留对武器和武力使用的人为控制（不管是"有意义的"、"恰当的"还是"有效的"）的必要性与法律义务、军事行动要求和道德考量相一致，红十字国际委员会鼓励各缔约国把它作为正在进行的《常规武器公约》讨论的框架。人为控制和人与机器互动的思考可以提供一个有用的基线，各国政府可以从中达成共识，对武器系统自主性的限制也可由此达成一致。红十字国际委员会敦促《常规武器公约》缔约国在12月召开的审议大会上同意今后的工作重点，即决定对自主武器系统的哪些细节加以限制。关键功能中带有自主性的武器系统已经问世并不断取得新的进展。因此各国政府——以及所有利益相关方——有必要带着责任心和紧迫感解决这个问题，以确保技术研发不超越我们的法律和道德审议。

我们鼓励各代表团阅读我们分发的文件，其上对这些要点的介绍更为详细。我们愿意在专题会议期间进一步阐述我们的观点。

谢谢！