基于人机环系统的自主系统分级

　　现代与未来社会是人机环境系统融合的社会。它不仅仅是智能化社会，更是智慧化社会，未来的社会不但要打破形式化的数学计算，还要打破传统思维的逻辑算计，是一种结合人、机、环境各方优势互补的新型计算-算计智能系统。自主系统的合理分级规划，能够给人机环境系统带来极大的提升。

　　自主系统分级的目标是从设计的角度实施问责、控制和监督的概念，并描述这些概念是如何是不同的和相互关联的，将产生人类对自主系统进行全面监督的新概念。自主系统的部署控制除了物理层级外还有时间轴，如下所示：

　　

　　一. 事前控制或主动控制，是一种超越自主权边界以完成任务的初步控制机制；

　　二. 正在进行或同时控制，这是一种非正式的直接控制，指定目标，而不是系统完成任务必须采取的特定行动；

　　三. 事后控制或问责制的原则是将权力下放给系统，因此宣布放弃直接控制。这是一个提供资料、讨论和评估的过程，以确定系统在多大程度上履行了其预先任务，并在事后在其自由裁量权范围内采取行动。

　　1. 在部署一个自主系统之前：

　　1) 在技术层中，人员将设置输入（例如，预先设定的标准）。

　　2) 基于社会技术层的事前控制措施，例如规则制定。

　　3) 在事前监督机制的范围内完成，比如在治理层的任务授权。

　　2. 在部署一个自主系统期间：

　　1) 在技术层，自主系统本身进行反馈回路，如大多数（工业）控制系统一样以采取行动最小化结果和目标之间的差异（例如自动添煤锅炉系统）。

　　2) 在中间层，持续控制的机制意味着目标在部署前由人类指定，但人类并没有具体说明机器为实现这一目标必须采取的行动。全自动系统没有持续的控制机制或工具来控制自主系统为实现其目标而采取的这些特殊行动。

　　3) 在治理层，搭建全局看板，监测自主系统这些行动的机制。

　　3. 在部署了一个自主系统后：

　　1) 在技术层机器部署的输出是为了达到特定效果而实现一个目标，其输出将通过运行损害评估。

　　2) 进行验证。有一个事后控制机制来解释社会技术层的机器部署，即行动后报告过程。

　　3) 可以在治理层进行事后审查，以便在任务后审查过程中评估任务，并考虑到运行规则和机器部署的数量。