美国防部前高官提出自主武器作战运用原则
访问次数： 1041 次 作者： 远望智库技术预警中心 书香慧言 编译 发布时间： 2021-05-12
近日，美国防部前任副部长、第三次抵消战略的提出者罗伯特·沃克在美智库“新美国安全中心”网站发布研究报告，就自主武器系统投入作战运用时应遵循的原则提出建议。主要内容如下:
首先，自2012年国防部指令DoDD 3000.9生效以来，人们对自主功能及人工智能运用到武器系统的理解已相当成熟，围绕致命性自主武器系统（LAWS）的争论也变得越来越尖锐和宽泛。因此，国防部通过努力建立具备自主功能的武器使用规范来彰显其领导力的时机已经成熟。
其次，由于现行政策不够具体，因此需要额外的政策指导。国防部指令DoDD 3000.9除了提供非常宽泛的指导外（如确保武器设计应允许“对使用武力进行适当的人工判断”），并未深入研究人类决定使用具有自主功能的武器及后续行动之间的关系。同样，最近发布的《国防部人工智能原则》为国防部应该如何使用人工智能提供了顶层指导，但并未涉及如何在武装冲突中使用人工智能赋能的自主功能。
（一）使用任何具有自主功能的武器系统，都必须在负责任的人工指挥与控制链的监督指导下进行，该指挥与控制链必须明确目标方法、交战规则、特别指令以及明确的限制条件，以确保所有武器的使用，包括任何具有自主行为的武器，都能在实现任务目标的同时，遵守战争法、政策、适用条约、武器系统安全规则、道德指南及交战规则。
（二）在决定发动一系列可能因使用武力（即杀伤链等）而导致人员伤亡的行动（包括自主行动）时，都应该基于人的意图和判断力。一切行为尤其是与使用武力有关的行为，都必须始终由负责任的人工指挥与控制链来管理，这包括决定使用自主武器系统，该系统能够选择和打击目标而无需进一步的人为干预。（三）在任何情况下，由人来决定使用武力的责任都不能移交给机器，人类有履行战争法的义务，例如在发动攻击时遵循相称性、对等性和预防性。武装冲突法则不允许武器作出法律决定。相反，必须由人来遵守战争法，因为只有人类才能对自己的决定和决策负责。（四）为有效确定对特定目标的攻击是否合法，任何授权使用、指导使用或操作具有自主功能的武器系统的人都必须充分了解该系统的预期性能和能力、使用原则、预期目标、使用环境及使用条件。明确的条令、战术、技术和程序，以及足够的训练，对于指挥官和操作人员理解武器系统的自主性在实战环境下的特性、功能和局限性至关重要。（五）一旦人类启动了一系列旨在利用致命性力量来结束冲突的行动时，那么具有自主功能的武器系统便可以自行完成该行动，而无需进一步的人为监督。这包括根据武器系统的性能，并在法律、道德、行动、空间、时间等方面的授权范围内，自主探测、分类和打击分配给系统操作人员进行攻击的目标或特定目标集。（六）只要武器系统选择和打击目标与人为决定发动合法攻击直接相关，便符合“由人决定使用致命武力”的标准。一旦做出这样的决定，就像今天使用具有自主功能的武器系统一样，直接控制后续交战流程的每个步骤是不切实际的，并且会给参与作战的操作人员带来不必要的负担。因此，人在控制机制中是灵活的，而不是强制性的，这种控制机制是由时间和空间两方面的因素决定的，与确保遵守自主武器使用原则相一致。（七）指挥官如果有证据证明具有自主功能的武器系统可能以有悖于预期性能、战争法、政策、适用条约、道德规范以及交战规则的方式运行，则必须采取适当行动。出现任击打击非战斗人员的情况时，必须开展调查，以确定原因。这些原因可能包括：武器设计方面的缺陷、对可能出现的故障测试不够、操作人员失误/武器使用不当、操作人员培训不够、情报错误、目标识别错误、武器故障或敌对行为（如，黑客攻击、欺骗等)。