《人工智能和战术自主性的最新进展：现状、挑战和展望》万字译文：首篇论述军事战术自
本文介绍了详细而全面的技术文献结论，旨在确定战术自主性的当前和未来的研究挑战。本文非常详细地讨论了当前最先进的强大人工智能（AI）、机器学习（ML）和机器人技术，以及它们在未来军事和国防应用背景下开发安全和强大自主系统的潜力。此外，我们还讨论了在试图为先进的军事和国防应用实际建立完全自主系统时出现的一些技术和操作上的关键挑战。我们的论文提供了最先进的可用于战术自主的先进人工智能方法。据我们所知，这是第一篇论述战术自主性当前重要趋势、战略、关键挑战、战术复杂性和未来研究方向的作品。我们相信，这项工作将使从事机器人和自主系统领域的学术界和工业界的研究人员和科学家产生极大兴趣。我们希望这项工作能鼓励人工智能多个学科的研究人员去探索更广泛的战术自主领域。我们也希望我们的工作能成为设计先进的人工智能和ML模型的重要步骤，对现实世界的军事和国防环境有实际意义。
关键词：战术自主性；自主系统；人工智能；军队；国防应用；航天；机器伦理；网络安全；可信赖性；可解释性
资助
这项工作得到了霍华德大学国防部（DoD）人工智能和机器学习卓越中心（CoE-AIML）的支持，与美国陆军研究实验室签订了W911NF-20-2-0277合同。
新兴技术，如机器人技术和自主系统，正在为潜在的社会革命提供机会[1]。先进的自主系统正在为多个科学领域的科学突破和颠覆性技术创新铺平道路[2]。自主系统是一个智能系统网络，能够独立完成复杂的任务，在没有人类明确干预的情况下做出智能决策，以及其他操作管理和控制系统[3,4]。现代自主系统的最新发展对各种潜在的军事和国防应用越来越关键，包括空中监视系统、隐私、网络安全、导弹防御、航空航天工业等。
背景和动机。来自民用、国防和军事界的研究科学家们正在通过复杂的工作来确定为工业和现实世界应用实施先进的人工智能和自主系统的最佳方式。利用AI、ML和其他相关的先进技术领域来实现自主系统，是现代自主系统的一个改变战术的战略。
现代尖端的人工智能和ML技术已经越来越多地被用于军事和国防领域的各种成功应用，包括网络安全[5]、海上安全[6,7]、关键基础设施保护[8,9]，以及其他具有重大社会和技术意义的领域。先进的人工智能系统的潜力可以被用来对军事和国防技术产生积极的影响。人工智能可以在军事环境中用来评估收集的数据，并提供作战计划和战略支持，加速决策过程。除此之外，人工智能系统可以被设计和部署在战略、政治、作战和战术层面的战争中使用。
在政治和战略层面上，人工智能系统可以用来动态地破坏隐藏的敌人，并实时防御各种形式的对手攻击。然而，在战术层面，人工智能可以为无人系统提供更快、更好的态势感知，以减少其对攻击的脆弱性。它还可以通过识别可疑的模式和潜在的危险活动有效地自动检测威胁。然而，尽管在过去的几十年里，自主性在广泛的领域内取得了进展，但一些技术和实际的挑战仍然大大限制了现代自主系统的部署和广泛采用。第4节、第5节和第6节将讨论一些需要解决的关键挑战。因此，必须在人类最低限度的监督或参与下开发现代战术自主系统，以大幅提高最先进的水平，减少认知工作负荷，增加功能，改善和保持多领域的态势感知，提高整体机动性和流动性，有效实现部队保护，支持主动的网络防御等。
在对自主性越来越感兴趣和普及的激励下，本文对战术自主性的基本概念和原则进行了全面的技术调查，重点是以前研究工作中没有充分解决的前沿人工智能和ML方法。据我们所知，这是第一篇论述当前重要趋势、战略、基本挑战、战术复杂性和未来战术自主性研究方向的作品。
贡献。我们论文的主要贡献总结如下：
我们介绍了战术自主的基本概念和它在广泛的应用中的潜力。
我们掌握了在军事和国防背景下对战术自主性概念的理解。
据我们所知，我们是第一个提供关于战术自主性的重要当前趋势、战略、基本挑战、战术复杂性和未来研究方向的。
我们提出的工作可以作为设计先进和创新的人工智能和ML模型的一个重要步骤，对现实世界的军事和国防应用具有实际意义。
我们提出了战术自主性的基本和长期的挑战。
提纲。本文的其余部分组织如下。第2节提供了简要的历史，主要的里程碑，伦理方面，以及战术自主性的级别。第3节介绍了可用于推进战术自主能力的不同人工智能技术。第4节描述了对可信人工智能和任务自主性的需求。第5节简要介绍了平台之间的广泛合作和相关的技术挑战。第6节介绍了最先进的人机协作方法以及与当前方法相关的挑战。第7节简要介绍了战术自主性的网络安全及其基本挑战。第8节详细讨论了战术自主系统的风险和内在挑战的概述。最后，在第9节中，我们总结了本文并讨论了潜在的未来工作。缩略语部分列出了本文中使用的缩略语。
关于自主系统的文献已经在许多研究工作中得到了广泛的研究。自主性的概念有不同的内涵，而且在过去几年里有了很大的发展。例如，[10]中的自主性概念是关于委托的任务。在[10]中详细解释了委托的各个方面和层面。一般来说，智能系统背景下的自主性侧重于开发智能决策系统，这些系统可以在复杂的战术环境中自主地进行物理操作，并具有一定程度的自我管理[11]。在本节中，我们只提供明确与历史、伦理方面、自主的属性、监管和战术自主性级别有关的工作背景。
根据美空军研究实验室（AFRL）的说法，战术自主性是一个与现代自主系统相关的术语，该系统在人类的授权和约束下行动，以支持与长期战略愿景相关的战术、短期行动。近年来，在广泛的应用中出现了相当多的关于战术自主性的跨学科研究。军方长期以来一直对推进机器人技术和自主行动的能力感兴趣。美空军部（DAF）和国防部（DoD）正在推动开展以战术自主性为重点的创新自主性研究，这将有助于将研究转化为实际应用。此外，美国AFRL正在大力优先考虑正在进行的数字化改造战术自主性的研究工作，特别是在军事领域，以更好地使作战人员对抗美国对手。图1描述了战术自主性的简要历史和重要的里程碑。
图 1. 战术自主的性简史和里程碑。
战术决策。决策系统采用先进的模型，对复杂环境进行预测。由于这些模型中有许多是数据驱动的，自主系统应该能够获得更多关于它们所处的复杂环境的数据，并相应地实时调整它们的基本行为。对智能自主系统在嘈杂、动态和现实环境中的强大和有效的战术决策的需求正在迅速上升。然而，最关键的挑战之一是为自主系统设计战术决策模型和支持框架。例如，与其他道路使用者的复杂和动态互动，环境的复杂多样性，以及传感器信息的不确定性，使得自主驾驶的战术决策变得非常困难[12]。
一个结合了规划和深度强化学习（DRL）的通用框架，可用于自主驾驶系统的战术决策智能体，在[12]中被详细描述。该框架的性能在两个概念上不同的高速公路驾驶场景中进行了评估[12]。战术决策算法被设计用来处理不可预见的环境状况和不可预测的对抗性攻击。战术决策系统的过程可以被建模为概率的（即包括不确定因素时）或完全确定的（即不包括不确定因素时）。不确定性中的计划和决策在机器人和自主系统中是至关重要的。因此，在设计自动决策模型和算法时，必须考虑到各种不确定性的来源[13]。部分可观察的马尔可夫决策过程（POMDP）是一个通用的数学框架，用于模拟不确定性下的决策任务[13]。然而，在以前的工作中，没有充分解决设计能够制定不确定性意识的战术决策任务的有效方法，如POMDP，以及解决其计算复杂性。因此，正如第3节所解释的，需要基于先进的人工智能/ML方法的不同策略来加强复杂和现实环境中的战术决策任务的进程。
自主性的伦理问题对人工智能研究者来说是复杂的挑战。现代基于人工智能的系统的开发和应用在学术界和工业界都在激增。因此，在决策过程的速度和效率大幅提高的激励下，我们日常生活的各个方面的决策正在完全委托给人工智能/ML驱动的算法。然而，关于自主权与伦理的关系、社会影响、法规、自主权治理、伦理影响以及这种自主技术和活动的能力等许多重要问题在以往的研究中没有得到充分的解决。因此，探索基于人工智能的完全自主技术的安全和伦理层面，使我们能够认识到先进机器自主性的当前和未来潜在发展的伦理影响。此外，对机器智能的伦理学进行准确有效的调查，可以促进发现现有伦理学理论的潜在问题，以及它们在现实世界环境中的一般作用。关于机器伦理学的意义、伦理学理论的研究以及自主智能机器的伦理学影响的详细讨论见于[14]。关于[14]的研究工作还表明，现代算法可以被设计成模仿人类的伦理决策。
机器伦理学。随着人工智能驱动的决策在广泛的领域中变得越来越普遍，关于其适用性[15]、伦理层面以及在决策算法设计中对基本方面的考虑等新的重大问题也出现了[16]。机器伦理学的最终目的是有效地研究如何设计智能机器来进行道德和伦理上的推理。它关注的是智能机器对人类和其他自主机器的行为。机器伦理学的主要目标是开发一种智能机器，在可接受的道德层面的指导下，对潜在的行动方案做出决定。区分隐性伦理机器和显性伦理机器很重要[17]。隐性伦理机器意味着约束智能机器的行动以避免不道德的结果。实现这一目标的一个实用技术是通过开发软件系统的内部功能和特性来隐性支持和促进道德行为[14]。另一方面，显式伦理机器可以通过使用伦理原则的显式表示来解释伦理信息[14,18]。明确的伦理机器可以处理新的情况，并合理地做出明确的伦理判断[14,18]。
ML研究界已经开始探索将现代ML能力应用于机器伦理。之前已经介绍了各种用于伦理推理的ML方法。例如，[19]中的工作探讨了一个神经网络模型，该模型对特定的道德判断和基于案例的道德推理进行分类。在[20]的工作中简要介绍了一种基于案例的推理方法，以开发能够指导对道德问题和困境进行推理的系统。[20]中提出的一个主要问题是，机器如何协助或潜在地取代人类在道德推理中的位置。
[21]中提出了一种不同的计算伦理学方法，它采用了一种基于行动的伦理学理论方法。作者为一个具有多种计算职责的伦理理论开发了一个高效的决策程序[21]。除了ML能力之外，还有其他方法来解决这个问题，比如说，使用义务逻辑(deontic logic)(哲学逻辑领域关注义务、许可和相关概念)。例如，[22]中的作者描述了如何使用行为逻辑将一套特定的伦理原则纳入自主系统的决策过程。另一方面，[23]中的工作评估了应用行为逻辑方法来实现伊曼纽尔-康德关于绝对命令和道德义务的基本原则的可行性。作为伊曼纽尔-康德关于机器伦理学的一般方法，存在一个决策程序，用于生成绝对命令，并从中得出行动规则。根据[23]中提出的方法的结果，道德范畴被表述为禁止的、允许的或强制的行动。
文献表明，在分布式人工智能的背景下，有多种方法来定义自主性和自主系统的概念。自主性可以被定义为智能体在没有直接外部干预的情况下独立行动的能力，并在最小的人类监督下做出决定。自主系统概念的定义在其自主性属性方面也有不同。其外部和内部状态决定了自主性的属性。当一个系统的行为是非决定性的，可以被认为是自主的。非决定性的系统即使在相同的环境输入的情况下也可能表现出不同的行为，甚至可能完全失败。另一方面，如果考虑到系统的内部状态，一个自主系统也可能是确定性的。一个确定性的系统是一个系统，它的模型从一个给定的环境初始状态或情况下持续产生相同的结果。在这种情况下，主动性、互动性和涌现是最能描述自主性及其相关基本特征的三个属性[24,25,26]。自主性的属性摘要见表1。
表1. 自主性属性总结。
主动性。智能自主系统必须安全地适应动态和不可预测的环境中的意外情况，以便在各种领域中使用[27]。当自主系统在没有明确的外部事件的情况下激活目标或启动行动时，这种自主性的属性被称为主动性[24,25,26]。
交互性。这一属性指的是智能体与环境的交互。自主系统可以动态地与复杂和不可预测的环境互动并作出反应。此外，智能自主系统还能适应动态环境的变化。这一特性在实时应用中非常重要[24,25,26]。
紧急性。复杂的多智能体系统是由多个相互作用的子系统组成的。智能体的交互和主动性产生了新出现的自主属性，这些属性事先没有明确的模型。在大规模多智能体系统的背景下，紧急性的特点是随着时间的推移，与环境的非线性相互作用引起的意外系统行为。这种特性影响着系统的可靠性和可预测性，它被用作评估自主软件系统的标准[24,25,26,28]。
受监管的自主性。随着目前人工智能研究的进展和现代自主系统的影响越来越普遍，建立政策、法规和准则以确保人工智能驱动的智能系统保持可信、道德和以人为本是非常重要的。例如，欧盟的一般数据保护条例（GDPR）[29,30]和美国的公平信用报告法（FCRA）[31]所采用的隐私条例对如何处理个人互联网数据给出了指示，并授予个人访问其个人信息的权利，以及获得有关智能自动系统所做决定的合理解释。采用这样的一套法规，使我们能够评估围绕人工智能驱动的自主系统及其运作方式的法律和伦理问题。
自主性的级别。根据以前的研究工作，自主性的级别被分为强监管、操作性自主、战术性自主和战略性自主。自主级别与基础动态环境属性的映射在[26]中有所描述。环境的属性包括可观察的、决定性的、偶发的、静态的和智能体。一个可观察的环境在任何时候都能完全或部分地接触到系统的所有必要状态。一个确定的环境是指基础环境的下一个状态完全由当前状态和智能体选择的行动决定[32]。在偶发环境中，智能体的经验被分为多个独立的偶发事件。环境中的每一个情节都由智能体的感知和然后的行动组成。换句话说，偶发环境是指之前的行动不影响下一次的观察[32]。然而，如果随后的行动取决于先前的行动，则环境被称为顺序性的。如果一个环境不随时间的推移而变化，则被称为静态环境。如果一个环境在其上运行时发生变化，则被称为动态环境。单一智能体系统意味着只有一个智能体在一个特定的环境中行动和互动。然而，如果多个相互作用的智能体与他们的环境相互作用，则被称为多智能体系统。
强监管表示没有自主能力的系统。这种监管在复杂程度有限的环境中是有效的。操作性自主表示决策的操作层面。实现操作自主性的智能软件系统在部分可观察、确定性、偶发性和静态的环境中实际上是有效的[26]。战术自主性在自主系统的战术决策方面扩展了操作自主性。
图 3. 可信人工智能的要求和要素 [108]。
【完整内容请上专知查阅】
点击阅读原文或后台回复关键词获取
专知便捷查看
便捷下载，请关注专知人工智能公众号（点击上方关注）
点击“发消息” 回复 “AITA” 就可以获取《《人工智能和战术自主性的最新进展：现状、挑战和展望》万字译文：首篇论述军事战术自主性当前趋势、战略、挑战、战术复杂性和未来研究》专知下载链接
欢迎微信扫一扫加专知助手，咨询使用专知，定制服务合作！
专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取70000+AI(AI与军事、医药、公安等)主题干货知识资料！
点击“阅读原文”，了解使用专知，查看获取100000+AI主题知识资料