行政决策中算法决策的风险识别与规制路径
[摘 要] 算法决策逐渐参与到政府行政决策中，在为政府提供更多智能化、科学化决策的同时，算法滥用所产生各种风险和挑战接踵而至。“技术利维坦”“权力异化”对政府自动化决策的公平正义提出挑战，如何规制成为政府行政绕不开的话题。通过国家算法机构的建立、建立公开透明的算法机制、完善法治和监督制度等，推进政府自动化行政始终在健康有序的道路上前进。
[关键词] 算法决策；大数据；风险和挑战；规制路径
[中图分类号] D63
[文献标识码] A
[文章编号] 1674-7453（2023）07-0059-07
以大数据、算法为基础的人工智能技术深刻地改变着人们的社会、生活方式。进入数字时代，算法正以独特的方式影响着大众的决策方式，为政府决策提供了技术支持。起初，算法应用于决策仅停留在私人领域和商业应用，由于其在运行速度、精准计算等方面的卓越表现，算法技术被推广至公共决策领域，政府决策有了其特有的“模样”。随着算法技术在私人领域和公共领域的广泛应用，其影响力也越来越大，逐渐成长为规制社会的重要力量。可以说，算法技术对于公共治理有明显的赋能作用，这种作用不仅表现为对信息的搜集、分发以及反馈的及时精准，还表现在需要法律、行政人员所驱动的公共行政系统，逐渐变化为由技术驱动的“自动分析、自动决策、自动执行”的算法行政系统。至此，算法决策时代强势到来。
一、问题的提出
政务大厅正用“秒批秒办”实现政务服务的“零人工、零等待、秒办结”，随处可见的智能摄像头记录着违章车辆。这是算法技术嵌入行政管理的现实映照。迄今为止，算法已经渗透到行政审批、治安监控、交通执法、信用评估、风险防控等诸多领域，算法借助其深度学习、大数据计算等优势变革现有的社会治理模式。自动化决策通过与应用场景的结合，产生出一种新的政府行政模式。这种算法模式与具体应用场景结合的出现，使算法表现出强大的赋能性，因此，便具备了通用科技的特征，因技术发展所产生的不规范化将不可避免地出现，比如，算法权力的扩张。算法所具有的支配力、控制力和影响力，构成了一种新型的权力，即“算法权力”。[1]算法权力的出现意味着，原本作为辅助决策的算法逐渐成长为影响决策、取代决策的一种公权力。决策原本是属于人类的一种专属行为，决策行为带有确定的目的性，它是运用决策者的智能、见识、经验以及理性判断等能力，在权衡利弊要素后作出最优行动方案选择的过程。[2]“算法黑箱”与对行政正当程序的挑战也接踵而至，因为正是自动决策算法层出不穷的应用场景，使得我们在体会到算法技术强大功能的同时，也陷入了技术危机的挑战之中。因此必须要找出规范对象的种类，减少算法决策运行中的冲突，化解政府行政决策中的算法决策风险，才能真正实现数字化时代社会治理体系和治理能力现代化。
二、算法决策用于行政决策的必然性
随着计算机的应用和信息技术的发展，越来越多的行政机构呼吁“自动化办公”“自动化决策”，随之开始活跃在人们的视野中，在自动化决策初期，基本以单纯的机器加入为主要实现方式，此时机器参与的主要方式都比较局限，大数据、算法技术的加入在一定程度上拓展了政府行政的广度和深度，弥补了政府行政的不足。
（一）算法嵌入行政决策的范围进一步扩大
算法决策已经被广泛应用到商业领域，随着算法应用的扩张以及疫情防控的影响，算法逐步深入到公共治理中，并且重要性日益凸显。[3]在行政决策过程中，也经历了从人工化再到单一自动化最后到智能自动化的过程，在大数据和算法还未被广泛应用时，行政决策并不涉及复杂的智能化工作，只存在诸如行政审批、行政信息的互联互通这种小范围、单一化的行政工作中。但是随着算法、大数据逐渐渗透到行政决策领域，自动化决策的范围被重新定义。海量的数据可以通过算法实现信息归类，精准匹配，通过测算的数据可以为行政人员提供决策建议，优化治理路线等。在智慧城市当中，智慧交通、智慧地图等依托于大数据、算法的赋能，可以很好地应用在城市线路规划、交通规制、城市物流管理等领域。信用测算系统的应用为城市信用管理有序运行提供了有效保障，进一步为行政决策减轻负担。大数据借由算法可以对行政处罚进行精准匹配，尤其是在交通行政领域，可以借助算法决策结合多种要素，通过分析得出精准的行政处罚建议。可以说，以上这些行为增强了行政决策权力范畴，这是过去传统行政无法达到的领域，正因为大数据、算法决策嵌入行政决策领域，促进了行政活动高质量发展，也更符合自动化决策更便捷、更智能的初衷。
（二）算法嵌入行政决策中的平等性提高效应
政府行政中自动化决策要求“行政公平”，即不分年龄、不分职业、不分性别的对待行政相对人，人工智能算法不容易受到其他因素干扰，在同一情形下可以更加客观理智地运行，更为客观地得出结论。算法决策的基础是海量的数据，算法通过收集海量的数据、分析数据，到最后得出决策建议，这是一个数据理性的过程，对于算法来说，它所面对的并不是一个具体的“人”，而是由数据堆砌起来的一个客观的“数”。在数据测算、编写代码的规则面前实现了技术意义上的“人人平等”。算法决策极大避免了行政决策裁量滥用的可能性，确保了行政决策的客观性和公正性，某种意义上实现了法律面前人人平等，实现了社会的公平正义。比如，在司法判决、法律规制中使用算法决策。算法决策依照其自身的模型，对海量数据进行客观、中立的分析，以输入性指令为行动的出发点，最终的目的是要达到给予行政人员客观的决策建议，避免行政人员因其主观性和倾向性意见作出不准确的行政决策。在公共决策中坚持“技术中立”原则。强调算法只是一种电脑程序，不存在任何道德判断与是非判断，算法能够按照机器逻辑进行完全公正中立的运行。以“技术中立”为基础的算法模型限制了权力寻租和人情干预决策的可能和机会，为廉洁政府和政府公正决策提供了技术支持。
（三）算法嵌入行政决策中的效率提升效应
目前运算速度最快的计算机峰值计算速度达到12.54亿亿次每秒，它们通过将海量的数据快速计算、筛选、过滤并完成信息的输出。算法技术也是依赖于计算机的快速计算并得出结论，这就大大节省了行政人员用于搜集、核对、应用等的时间成本。算法通过深度学习不断提升自己的计算能力，依据现有模型不断训练提升自动决策的分析能力和决策的精准度，提高行政决策的有效性，并且在庞大的数据信息资源库实现信息的高效互通和交流，节约了行政人员的时间成本，以高效的运行速率告别了“一人一事”的传统行政手段，提高了效率，增强了公共行政决策的便捷性。加之人工智能算法多以直接结果输出的形式出现，信息输入便可得到客观结果，将繁琐的行政流程转化为直线输出的方式，较大减少了行政人员的工作量，节省了行政主体的时间。且因其所具有的“技术中立”“工具理性”，使自动行政结果更具有客观性和精准度，更易取得行政行为人的信任。
三、算法决策在行政决策中面临的风险挑战
在人工智能时代，算法决策的应用场景越来越广泛，但是，每一种技术的应用没有绝对的安全，同样，算法决策即便日臻成熟，但是也仍旧因其自身特点存在不可靠性。因为正是自动决策算法不断出现的应用场景，使得我们在见识了算法伟力的同时，也陷入了人的客体化危机。[4]算法嵌入行政化程序面临着来自不同方面的风险挑战。
（一）算法权力引发的行政决策不平衡
随着算法行政的逐渐兴起，未来算法有可能会成为行政决策的主流，算法权力以其架构优势和嵌入优势与行政管理联系越来越紧密，进一步造成了行政决策的不平衡。算法权力加速了公权力的主导，算法技术帮助行政部门收集信息、处理信息，行政部门借助算法可以实现对行政相对人的精准识别，致使蔓延至公民隐私领域。利用反应性算法则可能会造成对个人隐私的侵犯，但实力与预测性算法则可能因为一点技术上的误差造成个人权利受损，如提供的数据稍微不准确有可能对行政相对人的个人画像不精准，从而带来生活上工作上诸多困难。预测型算法使得决策行为发生在具体行政行为之前，完全不受正当程序的制约。[5]算法从不同层面渗透到行政决策当中，原本作为行政管理辅助手段的算法技术，却在行政决策中起到越来越关键的作用。技术的赋能使得算法治理越来越不受控制，逐渐成为凌驾于人的技术权利，算法霸权逐渐产生。算法本是人们治理社会的工具，在实施过程中却成为权力行使的主体。此外，算法的权力主体如何认定，也成为行政决策中亟须解决的问题。
（二）算法黑箱致使行政决策程序不透明化
从技术本身而言，技术天然地具有不透明性。技术作为后天发明创造，其意义是人类实现目的的一种手段，由于技术的发明创造以及实践造成了技术开发者与使用者之间的分离，随着技术的不断进步，两者之间的信息不对称就愈发严重，使技术开发者与技术使用者之间面临着天然的技术黑箱，尤其是算法技术更是一种典型的复杂性技术，开发者和使用者之间存在“技术鸿沟”。在行政决策过程中，行政人员一般不具备较高的算法操控技术，在算法的使用中便具有了技术壁垒，使算法技术更不具有透明性。同时，政府并不擅长算法技术的开发和创新，这就不得不借助技术第三方，而技术第三方往往是以逐利性为目的的科技企业，算法技术嵌入政府行政，虽然补齐了政府短板，大大提高了工作的效率，但是行政决策部门也部分甚至全部让渡了算法黑箱的控制和规制的权利，由于科技企业更倾向于获得经济效益，其数据等相关内容形成了一个闭环，进一步加重了算法黑箱。行政决策部门在使用算法决策时其适用范式制度进一步固化了算法黑箱，算法技术的不公开性和不透明性不仅取决于算法开发者、算法技术企业，还有算法的服务主体即行政决策部门的透明度，行政决策中技术的嵌入并没有进一步促进公共行政决策流程走向公开，而是存在技术行政化倾向。此外，算法的不公开性导致了行政决策过程缺乏有效的公众参与，导致了公众的知情权受损。
（三）算法偏见挑战行政决策公正原则
行政公正是行政机关在行使公权力时的基本原则，当算法技术运用于行政决策时，常以技术中立的姿态出现，公众默认算法决策也代表了绝对的理性和中立。但是，在自动化决策逐渐成熟的过程中，公众逐渐发现自动化决策也存在价值偏向，大数据和算法存在价值偏向，那么以算法和大数据为基础的自动化决策也将存在决策偏见的风险。大数据资源是来自于全社会的数据信息，在搜集数据信息的同时，社会的偏见也毫无意外地跟随着大数据。数据的偏见也造成了行政决策存在偏见。数据作为算法运作的基础，通过大量的数据训练和计算得出行政决策的结论，大数据的质量决定了行政决策的质量，如果采用不完全的天生有缺陷的大数据资源，比如带有歧视性的问答学习数据，那么算法产生偏见的概率将大大增加。虽然说算法从表面上看代表了绝对理性和中立，但是算法开发者的个人认知也会影响算法决策的准确性。由于算法开发者的情况并不是透明可见的，并且算法开发往往是以企业为主，他们有时也会将自己的主观判断嵌入到算法当中去，自动化决策输出的结果将可能代表了建构者的观点。此外，算法在不断的学习中也会产生偏见，算法学习是一个复杂学习的系统，天然地存在“黑箱”，即使是开发者不带有主观偏见，保持绝对的中立，算法在自我学习、自我完善的过程中也可能将社会中的偏见带入自动化决策中，例如，算法可以在学习的过程中习得社会中已存在的偏见观点，进而得出一种错误的决策，包括依托错误数据不断训练得出的歧视性的决策等。
（四）算法决策引发的个人信息泄露
算法技术的便捷和高效为行政主体介入私权利空间提供了低成本的手段，政府依靠算法权力掌握公民的个人信息，进而监控公民的个人行为。[6]进入数字时代，数据成为算法决策的要素，算法推动数据转化为生产力。作为一种生产的基础要素，数据逐渐成为推动数字时代社会经济发展和社会创新的驱动力，是社会创造物质财富和经济发展的基础资源。[7]算法决策中，依据搜集到的巨量的信息对行政相对人进行分析和研判，在这个过程中行政机构对行政相对人所产生的数据信息进行搜集，个人所产生的巨量数据成为行政决策的重要依据，比如在交通执法、个人信用体系等，随之而来的是个人行程、个人信息的泄露。行政决策在技术的加持下效率不断提高，但是这也意味着公民所有的信息时刻暴露在政府的监控之下。“棱镜门事件”为我们敲响了警钟，如果说政府行政效率的提高要以牺牲行政相对人的隐私为代价，那么公权力可能会借助算法权力扩张，侵犯公民的隐私权。
（五）算法决策的法律制度建设挑战
从法治的角度来看，行政程序公正合法是行政程序的题中应有之义，我国现行的行政程序制度是在传统行政法的背景下制定的， 未将自动化行政尤其是全自动化行政考虑进去，但随着人工智能技术的蓬勃发展， 其在行政领域的运用已是大势所趋， 自动化行政成为不可回避的话题。[8]由于信息技术的发展，随之而来的新的数字技术出现了突飞猛进的进步，但是如何解决发展与制度建设之间的鸿沟成为需要深刻思考的问题。算法决策带来行政决策手段的便捷，行政效率明显提高，但是，也会面临着机器执法所带来的刚性较强、弹性较弱的问题。同时，在算法决策带来便捷的同时，各种法律隐患也存在其中，比如如何依法使用数据，如何保护数据安全，个人隐私的法律规制等等。算法决策夹杂着技术与法律的双重因素，对于技术必须有相应的制度和法律保障，需要认真对待自动化行政背后的制度和法律逻辑。在实体法律层面，还应该看到在行政主体责任认定方面也存在挑战，如何建立算法决策法律责任制度以弥补算法卸责等情况的出现，包括行政相对人的知情权、自动化程序的参与权、如何建立透明公正的算法决策的行政制度法规。此外，行政处罚法、行政许可法等法律的完善健全也成为亟待解决的问题。
四、算法决策在行政决策中的规制路径
人工智能、算法等技术发展的最初和最终目的都是为人类社会的发展创造更多的可能性，为行政决策和社会治理提供正向的价值导向是算法决策的目标，如何应对治理过程中存在的挑战，对算法决策的发展未来起着重要的作用，只有促进技术与行政决策交互融合，才能促进算法决策良性发展。
（一）厘清算法决策应用边界
算法权力的不断扩大将进一步推动行政权力挤压私权力，要构建算法技术介入行政决策的范围和边界，防止算法权力的进一步扩大而导致的公权力的异化。“让技术归于技术，人工归于人工”，采取技术和人工相结合的方式，将不存在价值导向、伦理标准等的行政行为采用技术手段加以处理，涉及价值导向等重要信息则需要人工干预。进一步促进人机交互合作，避免行政决策走入“技术至上”的陷阱。建立国家层面的算法决策中心，通过国家层面对算法技术的维护和使用，划分出研究和应用领域，使国家掌握算法决策的主导权，从而为进一步提高政府决策提供重要且可靠的支持。制定算法决策合理使用清单，算法技术应用于行政决策的初衷是政府行政的辅助手段，在算法参与行政决策过程中应建立一个应用范围清单，什么是适用范围什么是不适用范围，都要做一个明确的规定，并且要适应行政决策发展的动态变化，如此才能有效保证算法决策在合理范围内应用。
（二）建立公开透明的算法决策运行机制
算法不透明是导致政府治理风险的原因之一，算法技术在参与政府行政中要经历由输入再到输出的过程，居于中间的运算过程具有隐蔽性，这就极有可能产生暗箱操作，加之算法的设计过程是不对外公开，算法不透明的运行机制是导致社会治理风险的因素之一，只有建立公开透明的机制才能有效防止算法“黑箱”，使社会信任算法。坚持算法透明原则，算法透明是对行政主体提出的要求，算法透明保证了民众对行政决策的了解程度，积极主动发现算法决策中的不公平现象，及时消除民众疑惑，进一步增强公众对行政决策部门的信任。需要注意的是在算法透明的过程中要进行有限度的公开，对于关系到行政对象财产、健康、安全等利益时，应对行政对象公开，并且给予决策对象拒绝算法决策的权力。对于涉及国家安全、算法企业核心商业秘密源代码则不应该公开，因其公开对行政对象并无决定性意义，对行政主体也不具备参考性。建立定时、分级公开制度，政府要对决策对象定期公开算法使用范围，明确决策是否使用了算法，使决策对象了解算法决策对自己的影响。
（三）建立健全算法决策法治与监督制度
从个人角度来说算法技术人员要有正确的道德观，建立强大的自我约束能力，在算法建模时尽量避免误解和偏见。从社会层面来讲，有法可依、依法行政，建立健全算法法律体系和监管体系，尤其对于行政对象有重大影响的算法技术，应建立相关行业规范，或者经合法程序上升到法律范畴，纳入到国家法治体系。打破因技术发展带来的算法“霸权”，不能“代码即法律”，在具体应用场景中，决策部门运用算法必须依法行政，必须将其纳入国家法律控制范畴之内。
（四）搭建算法决策“善治”平台系统
“技术向善”是技术智能时代的人们对于未来最美好的愿景，技术与制度同频共振是构建“技术向善”的重要条件。搭建一套整合“软硬兼具”的平台系统，平台通过占有大量合法的数据，为决策主体正确、客观的决策提供必要条件；同时，平台系统要建立一套顶层智能系统，将云计算、人工智能、大数据、区块链整合在一个更为庞大的技术平台之中，并通过技术标准、制度体系和文化机制的完善，对这些数字技术进行整合、分配，从而达到“善治”的效果，用技术来规制技术，达到技术层面的公平，维护公共决策部门的公共性，以期达到公平正义的目的。
（五）建立算法决策问责机制
责任明晰是行政决策公平透明、构建社会信任的重要保障，如何构建技术视角下的问责机制是行政决策的重要内容。算法作为技术手段，在行政决策的过程中往往会出现权责不清晰的情况，从而导致“算法卸责”的产生。因此要进一步完善算法问责机制，厘清决策主体的责任范畴，在推动算法透明度的过程中，逐步明晰主体责任承担内容，同时需要强化主体责任意识，由算法的运行向算法权力的规制转变，以此督促算法决策使用主体切实负起算法技术应用的责任。进一步厘清算法决策责任范围、问责标准，对算法决策采用多步骤的检测程序，纠正算法决策的偏差，识别有害结果。实行严格的问责程序，对于数据泄露、篡改决策结果等恶意行为要严格规范和惩罚，探索运用技术将算法决策问责行为纳入行政决策范畴，以明确的责任范畴防止“算法卸责”的产生。
（六）建立算法决策反馈路径
建立有效反馈路径，对于算法得出的错误决策，行政对象可将诉求反馈，由专业的统计学家审查算法计算的结果，一旦发现算法模型出错就要及时调整，直到算法正常为止。算法反馈常见于商业网站，而行政决策部门一般鲜有反馈机制，行政决策部门应该邀请更多的相关领域专家，不断用差错训练算法模型，使其更加智能，同时也要允许公众对算法模型的评估结果质疑，从中发现算法的漏洞加以改进。使算法决策优化，从而大大提高算法决策的治理效能。在采用了算法模型的行政决策部门，要给予行政决策客体知情的权利如算法模型的信息使用范围等，同时还要给予其相应的选择权。通过对与相关情况的知情权，让公众有做出对自己更有利的选择的权利。
五、结论
这个时代，是技术发生颠覆性变革的时代。智能算法这一颠覆性技术强势地融入这个瞬息万变的世界，我们在讴歌技术的同时也要倡导技术向善，在拥抱科技的时候也应手握利剑。当我们将算法应用于每一位公众时，我们就要厘清算法与公权之间的界限，就要想到算法是否会给公众带来歧视？是否会产生社会风险？行政决策添上算法的翅膀时是否会难以监管？这些都是数字化时代给予我们的时代之问。通过问题的提出，分析算法决策运用于自动化行政的必然性，发现算法嵌入行政决策推动算法决策的兴起与发展的内在原因，从中窥见技术与决策的相互融合关系。同时，还要注意工具理性与价值理性的有机融合。避免陷入“技术至上”的泥潭，算法决策不同于传统行政决策，“人机共治”的关系模式是阐释算法行政内涵的新视角，一方面，算法依靠数据等要素完成行政决策过程，但是在这一过程中不可避免出现“算法权力”“算法黑箱”等违反公平正义正当行政程序的行为，另一方面，行政过程中提倡算法透明、合理控制、程序正义的规制路径，以推动算法决策向着负责可靠、公平公正、安全可控的方向发展。鉴于算法决策尚处于“进行时”，其对传统公共行政带来的挑战是持续性和系统性的。因此，行政决策的算法决策风险与规制路径的研究仅是对算法决策的一种探讨，以期起到抛砖引玉之作用，未来，如何形成具有实践意义的算法决策体系是必须重视和面对的课题。
[ 参 考 文 献 ]
[1]高同非.论自动化行政中的“算法卸责”[J]，电子政务，2023(2).
[2]侯东德，张可法.算法自动化决策的属性、场域与风险规制[J]，学术研究，2022(8).
[3]孙瑞.算法善治：公共领域算法决策的冲突、风险及规制[J]，互联网天地，2022(9).
[4]林洹民.自动决策算法的风险识别与区分规制[J]，比较法研究，2022(2).
[5]张婧飞，姚如许.自动化行政视角下算法权力的异化风险及规制[J]，大连大学学报，2022(6).
[6]张婧飞，姚如许.自动化行政视角下算法权力的异化风险及规制[J]，大连大学学报，2022(6).
[7]黄其松、陈朝朗.论数据权力——基于要素、认知和行为维度[J]，电子政务，2023(4).
[8]秦梅玉.自动化行政的兴起及其法律挑战[J]，学术反思