
法学前沿
Frontiers of Law
- 主办单位:未來中國國際出版集團有限公司
- ISSN:3079-7101(P)
- ISSN:3080-0684(O)
- 期刊分类:人文社科
- 出版周期:月刊
- 投稿量:2
- 浏览量:669
相关文章
暂无数据
论行政自动化决策拒绝权的证成与适用构造
On the Justification and Application Framework of the Right to Refuse Administrative Automated Decision-Making
引言
随着数字时代的到来,算法与数据驱动的自动化决策技术正加速嵌入行政机关的行政活动中,成为行政许可、行政处罚、公共资源配置及社会信用评价等领域的重要辅助性工具,使行政效率得以显著提高的同时也给传统行政法治带来许多挑战。行政自动化决策拒绝权是制衡数字行政权的程序性、工具性权利,具备义务指向性的行为规制功能。客观上来看,自动化决策的高标准化、技术化特点使行政相对人与行政权力之间的关系结构随之而变,行政相对人往往难以理解决策逻辑、介入决策过程,甚至无法有效提出异议,个人在行政程序中便被剥夺了拒绝的权利和选择的空间。因此,确认并保障行政相对人对行政自动化决策的拒绝权,不仅关乎个体的自主性维护,更是制衡行政权力扩张的重要方式。
针对自动化决策所引发的“算法操纵”“算法错误”“算法歧视”等一系列问题,欧盟的《通用数据保护条例》(General Data Protection Regulation,以下简称GDPR)第二十二条第一款则规定个人有不受完全自动化决策约束的权利。而后,我国现行的《个人信息保护法》借鉴了GDPR并首次以明确条文形式确立了自动化决策拒绝权,规定个人有权拒绝仅通过自动化决策方式作出对其权益有重大影响的决定。该规定在制度层面回应了算法决策可能带来的不透明性与不公风险,意义重大。然而,从结构与适用语境来看,该条款主要建立在私法逻辑之上。当这一规则直接适用于行政自动化决策时,行政相对人并不当然享有与行政机关对等的选择空间。所以《个人信息保护法》第二十四条虽可作为行政自动化决策规制的重要参考,但其并不足以为行政领域中的自动化决策拒绝权提供充分的公法依据,该权利的正当性与制度形态仍需进一步明晰。
一、行政自动化决策拒绝权的适用困境
在人工智能时代,数字技术嵌入行政活动中的程度不断加深。但依赖这些新兴的数字技术也要考虑技术自身的局限给行政相对人带来的风险。《个人信息保护法》中关于自动化决策拒绝权的规定仅仅是一个风向标,该权利的适用在实践中仍会出现诸多问题。
(一)行政相对人的拒绝权意识薄弱
行政相对人在行政法律关系中处于“弱势”的地位,拥有的实体性权利往往因为行政机关作出行政决定的公定力和行政机关在维护社会公共利益中享有的行政优益权而难以确立和维护。尽管我国政府部门已逐渐由管理型政府向服务型政府转型,但公民对政府的服从性较强,公权力机关与公民之间管理与被管理的意识仍然根深蒂固。行政相对人往往对行政机关具有较强的依赖性,在技术的加持下人们更容易对决策产生盲目的信任。
在行政自动化决策中,相对人对于法律中拒绝权的规定较为陌生,缺乏维护自身拒绝权的意识,归根到底还是没意识到拒绝权的重要性。另外,在实践中该权利的相关规定并没有被启用也是造成行政相对人缺乏拒绝权意识的重要因素之一。权利只有被不断地适用,才会不断发展。在传统的行政程序中,行政相对人可以面对面地与行政机关工作人员沟通,但在快速运行的自动化决策中,事前听证程序几乎被排除适用。行政相对人往往对算法的逻辑也存在一定的盲区,很多时候根本意识不到自己正处于一个完全自动化决策主导的行政程序中,更无法判断该决策是否对其个人权益产生了重大影响。对于自动化决策系统通过内部程序运行作出裁量和判断,相对人不具备预判和审查的能力,只能被动地接受。
(二)行政机关的审查形式化
当前行政自动化决策仍处于弱人工智能的阶段。基于关联性而非因果性运行规律的自动算法作出的决策结果,行政机关只能将其作为参考。在技术层面,相对人对算法的选择依据等等均不知情。然而,行政自动化决策完成需要依赖算法运行,但算法的运行程序较为复杂,还存在算法黑箱的风险,所以自动化决策的过程具有不确定性。行政相对人即使行使了拒绝权,也往往难以理解算法决策背后的逻辑和依据,因此也很难提出有效且有针对性的异议。如今,传统政府管控手段在面对人工智能算法这样法律与科技杂糅的问题时,对客观事实的认知能力是有限的。例如,儋州市中和镇一位市民反映,由于86岁的奶奶“被死亡”,四个月没领到高龄补助。对此,该镇政府相关工作人员表示,估计系统出错所致。这种情况下,行政主体也没办法对这种错误的程序作出合理解释。受理异议的机关工作人员多数也并非专业人员,对于算法也可能很难作出有效的回应。无法确保信息的准确性则会导致自动化决策缺乏实质上的审查基础。在法律适用层面,行政自动化决策系统需要相关技术人员将可能涉及到的法律法规作为条件录入。虽然一定程度上避免了行政机关工作人员违反法律法规的风险,提升了行政效率和公平性,但系统仍无法替代人的多重价值衡量的灵活性思维,自身也难以在快速决策的过程中及时调适。如果紧跟技术发展的步伐来加快立法,会导致立法成本过高、法律法规数量明显冗余的现象。行政自动化决策是人工智能技术在行政治理中的一部分,使用普适性监管手段对其进行泛化管理的效果是大打折扣的。僵化的监管模式无法应对发展迅速的技术,个人乃至社会都会暴露在巨大的风险之中。
(三)行政赔偿程序的责任分配模糊
行政自动化决策往往涉及多个主体,包括行政机关、算法技术平台等多方主体。自动化行政中信息交互关系转变为“行政相对人——自动化行政系统——行政主体”的三元式。国务院印发的《新一代人工智能发展规划》提出“建立追溯和问责制度,明确人工智能法律主体以及相关权利、义务和责任等”。如何确定承担法律风险的责任主体、怎样合理划分各主体承担的责任,成为当下亟需解决的难题。
我国现行的法律规范体系中,《国家赔偿法》第二条规定的归责原则可以适用于大多数行政自动化决策引发的侵权责任归属中,但在面对其他行政法尚未作出规定的情况,可以参照适用《民法典》中的责任划分规定。如此,归责原则的适用更需要斟酌。就多元的责任主体来看,一方面,行政机关在制定决策内容以及操作决策系统时,可能会出现失误。技术平台对系统的算法设计、数据管理、运营维护等环节也存在一定的风险。当损害后果产生时,由于缺乏认定标准导致很难证明瑕疵指令和损害后果的因果关系,也可能无法直接追究某一方主体的责任。在实践中,如若每一种业务都各自对应一个系统,会加大行政管理的财政成本。因此,行政自动化决策系统通常存在由同一个系统服务多个部门的情况,责任主体的识别和分配更加困难。另一方面,现有的行政复议和诉讼制度主要是针对传统行政行为设计的,证明责任原则往往是“谁主张,谁举证”,尽管与算法相关内容可以因举证责任倒置由行政主体提供,但损害事实需要相对人举证。面对算法决策,行政相对人则会面临提供证据、诉讼成本等诸多难题,对相关事实的举证难度相对传统的救济手段来说并无改善。当算法出错或决策不公时,各方容易互相推诿,导致相对人难以找到明确的追责对象。各方主体是单独就一个环节负责还是共同承担责任还有待明确。
二、行政自动化决策拒绝权的证成
面对行政自动化决策拒绝权在行政法治中的适用困境,需要在理论层面厘清该项权利在智能行政中的定位。换言之,行政自动化决策拒绝权并非一种单纯的技术性干预,在本质上是程序理性问题。因此,分析其必要性和可行性有助于为构建适用困境的解决路径奠定理论基础。
(一)行政自动化决策拒绝权的必要性
从权力制衡上看,在智能行政中嵌入自动化决策拒绝权是权力与权利不对等的必要化解路径。尽管算法有助于统一标准,提升行政效率,但若缺乏有效的制约机制,极易导致行政主体的权力借此不断扩张。自动化决策给行政机关带来的技术优势,强化了行政权力。相对于传统行政法上的程序,算法的隐蔽性更容易使相对人处于弱势地位。从权利保障上看,行政自动化决策拒绝权的意义在于保护人的尊严和主体性。自动化决策完全依赖算法将人简化为可计算、可预测的数据,而算法无法进行价值判断与情感共鸣,尤其在行政处罚、征信评定等涉及人身自由、财产权益和社会评价等重大利益的场景。完全的自动化决策将人作为数据进行计算,如果人成为了被决策的客体,就会丧失了人的主体尊严。因此,在行政自动化决策中,必须保留道德判断和情感考量。
同时,算法的固有局限侵蚀相对人的知情权、听证权和救济权等程序权利,对传统行政正当程序发起挑战,造成“权力——权利”格局的严重失衡,正当程序原则属于对抗这种局限的必要手段。当行政相对人行使拒绝权时,行政程序须中断完全自动化的算法运行,回归由人主导的传统法律程序,从而使正当程序原则在数字时代得到延续。这不是在削弱行政效能,而是确保权力始终处于可监督的状态,提升行政决策的准确性和政府公信力。
(二)行政自动化决策拒绝权的可行性
面对行政领域中自动化决策的技术风险,美国选择了“计算中立”(Computation Neutrality)路径。该路径主张人与计算机保持适当距离,侧重于提升数字技术的透明度与公众参与度,通过程序控制实现了决策的准确性、公正性与客观性。相较之下,欧洲选择了“人在回路”(human-in-the-loop)的治理路径。该路径主张即便数字技术发展至无需依赖人为介入的成熟阶段,仍需坚持以人为本的理念让人类监督算法决策。这种监督并非形式上的在场,而是要求在自动化行政的全过程产生实质性作用。在立法实践中,GDPR第二十二条确立的“完全自动化行政决策拒绝权”正是适用该路径的典例。随着欧盟模式在全球范围的影响扩大,我国《个人信息保护法》等法律规范亦明确选择了“人在回路”的治理路径。面对高速发展的自动化决策技术,“计算中立”路径已无法及时应对技术带来的潜在风险。“人在回路”治理路径的核心在于要求自动化决策中必须存在“高强度人工干预”。人工干预不仅能识别自动化系统的错误行为并采取纠正措施,还可以为系统不端行为提供一个负责任的实体。因此,自动化决策拒绝权的权利属性与“人在回路”的治理逻辑高度契合。当前政务服务平台、审批系统均已实现人工介入的端口,能够在相对人提出拒绝申请后,快速启动人工审查程序。例如,宁夏石嘴山市已推行“AI+人工复核”的审批模式,由智能审批系统对建设用地规划许可、建筑工程施工许可等事项开展自动化核验与预审,对重点内容自动标注并转入人工复核环节。该模式在大幅压缩审批时限、提升审批效率的同时,建立了成熟的人工介入机制,已成功办理相关审批事项500余件。由此可见,行政自动化决策拒绝权所需要的人工复核程序应用具备一定的现实基础,在我国智能行政法治建设中适用该权利具有可行性。
三、行政自动化决策拒绝权的适用路径
数字时代中,行政自动化决策拒绝权的适用存在行政相对人权利意识薄弱、行政主体形式化审查以及证明责任划分不明确等问题。为了保障行政相对人行使拒绝权,应强调自动化决策拒绝权的救济作用和功能上的救济性和制衡性。基于我国国情,自动化决策拒绝权应坚持整体主义,即人的主体价值与“共同善”(Common Good)的统一,个体的尊严是实现共同善的前提而非对立面。因此,强化行政相对人的程序性权利保障、完善行政主体审查机制以及各方证明责任,才能有效化解行政自动化决策拒绝权的适用困境。
(一)强化行政相对人程序性权利的保障
在数字政府建设中,程序性权利是保障相对人主体地位的重要体现,包括知情权、监督权和参与权。行政机关是行政法律关系中具有强制力的一方,行政自动化决策拒绝权就是用来抵御行政权力侵害的程序性权利。这一权利体现了行政相对人独立的程序性利益以及行政机关提供拒绝方式和设置相应程序的义务。在此基础上,相对人可以通过行使拒绝权对抗数字行政权力。
为化解算法黑箱带来的负面影响,需要设定权利告知的前置程序。算法听证是行政机关听取各群体意见、与民众协商对话的重要方式,让算法决策在行政治理中的透明度提高,有利于政府公信力的提升。在引入算法进行决策前,行政机关组织专家、群众等参加听证会,说明算法的利弊和选择依据。针对借助算法运行作出的行政决策,行政机关有义务告知行政相对人有拒绝的权利,保障行政相对人的知情权。虽然《个人信息保护法》以履职作为正当事由对行政机关不再适用“取得个人同意”的程序性要求,但仍要求其履行告知的程序性义务。GDPR中规定了数据主体在自动化决策中有权获得有关该决策有意义的逻辑信息,并且知悉该处理行为对数据主体的意义和预期后果。作为参照,行政机关应当确保行政相对人在涉及其个人利益的各个时间节点上都能获得实质意义上的告知,并主动将适用的法律法规、基本事实情况以及救济渠道等重要信息告知相对人。行政相对人对行政机关的监督范围相较于传统行政呈扩大趋势。监督对象由行政机关及其工作人员扩大到了算法运行系统。行政机关应当创新算法披露方式,用多样化、可视化的方式向相对人解释。行政机关与技术平台应当共同承担解释的义务,根据个案情况的不同区分解释内容和标准,避免形式化回应。行政自动化决策中相对人程序上的行政参与权区别于政治性的参与权,主要表现为相对人参与行政决策的听证、陈述和申辩的权利。北京和甘肃两地均推出了数字化平台,给相对人提供了陈述和申辩的服务。
(二)完善人工干预程序的实质性审查机制
随着行政自动化决策系统的不断优化升级,行政机关的支配空间将会被不断压缩甚至完全失去对决策全过程的控制,尤其是面对完全自动化决策程序。因此,加强人工干预变得尤为关键。利用人工干预程序对行政自动化决策进行审查,维护了人在行政自动化系统中的主体性,保障了行政相对人的程序性权利。新西兰于2020年制定的《算法宪章》中要求政府在使用算法系统时要作出同行审查、保留人为干预等方面的承诺。根据我国《个人信息保护法》的规定,个人在自身权益因自动化决策方式受到重大影响时,有权要求进行人工干预。关于“重大影响”的认定,可以对行政自动化决策进行动态的周期性风险评估。根据欧盟发布的《人工智能法案》,将自动化决策技术的应用从高到低分为四个风险等级,包括“不可接受的风险”“高风险”“有限风险”以及“最小风险”。鉴于此,不同风险等级的自动化决策须对应不同程度的风险评估。风险等级在“不可接受的风险”以及“高风险”的自动化决策,应当采取严格的影响评估;风险等级处于“有限风险”和“最小风险”的,可以相对放宽评估标准。
数字技术的发展使算法的复杂程度也在不断提升,有时专家也很难对某一种算法的运行有完全透彻的理解,对普通人来说算法公开更无实质意义。因此,相关行政主体应对自动化决策的运作逻辑作出相对通俗易懂的解释来确保行政相对人能够理解决策的基本信息和逻辑。基于对决策的理解,行政相对人在提出异议的时候才会更具针对性。而受理异议的部门与行政相对人之间的沟通是解决问题的关键。复杂的技术导致的政府与公民之间不对称地位更需要行政机关对行政相对人提出的诉求作出充分的回应。人工干预不仅可以在作出行政决策的过程中介入,还可以在完全自动化决策后监督和矫正。在行政自动化决策出现瑕疵时,行政机关应结合该技术的自身特点,用人工手段辅助监督、复核。我国治理部门在必要时可以邀请第三方技术主体辅助沟通来补充对事实的认知,还可以构建算法决策的人工复核机制,对于明显的算法错误应及时纠正并向相对人致歉。在线服务平台中应始终保留人工服务的选项,为相对人线上与线下提供同样的便利。在相对人拒绝线上办理业务后不应影响其再次请求线下办理的权利。
(三)明确救济程序中的责任分配
落实责任分配首先需要准确地识别出责任主体。尽管随着技术的不断发展,完全自动化决策将来也会应用在行政治理中,但现如今的阶段仍处于弱人工智能,自动化决策系统还是作为工具辅助行政机关作出行政行为。技术平台是系统的技术提供方,与行政机关是基于行政协议的技术购买服务关系。因此无论是因系统自身存在错漏还是行政机关工作人员在操作中的失误,都应先归责于行政机关。而后可以根据瑕疵指令的具体原因向技术人员或执行人员追责。行政机关在行政相对人的观念中是具有公信力和安全感的责任主体,公民对行政自动化决策的接受度也会更高,有利于数字技术的推广。
对算法造成的行政争议,我国行政诉讼制度应当进一步强化行政主体的证明责任,减轻相对人的证明责任。应当要求行政主体应用算法决策时进行操作留痕,一方面能够对行政权力行使过程进行有效监督,另一方面有利于减轻行政相对人申请权利救济时的举证责任。同时面向专家和司法机关的技术性解释规则,要求在争议发生时提供算法文档、决策路径可视化工具和系统日志,以便复核与问责程序有效运作。在行政自动化决策中,救济程序应当高效简明,行政相对人在权利受到侵犯时便于直接锁定主体。因此,行政相对人无需主动查明作出该决策与哪些主体相关联,只需明确向何部门请求救济即可。治理部门在责任分配上可以遵循从整体到部门的原则,从整体责任过渡到各部门的责任拆解,让责任落实更加清晰。首先,行政主体和技术主体是整体的责任对象,行政机关应当对自动化决策的全过程负监管责任,平台应当承担算法设计、运用和维护升级的责任。如若因特定主体没有履行相应义务导致了损害结果,应由其负主要责任。
四、结语
面对新兴技术的运用引发的风险,行政自动化决策拒绝权保障了行政相对人的主体性。该权利并不是消极对抗行政自动化决策,而是以权利制度促进行政自动化决策的程序正义和公平合理。无论是化解算法决策引发的“权力—权利”结构失衡还是以“人在回路”的治理路径强化人工干预,均能体现出行政自动化拒绝权的必要性和可行性。但算法的风险是不断变化且有一定隐秘性的,单依靠行政相对人主动行使拒绝权来与之抗衡是不足以全面保障个体权益的。行政机关应当结合技术特点,构建该权利的适用路径,以此化解技术风险。行政相对人对拒绝权的权利意识薄弱,行政主体可以通过主动性释明等方式让相对人加强权利意识,提升行政决策的公正性。在行政自动化决策的审查过程中,通过设定权利告知前置程序与创新可视化算法披露来加强人工干预,强化保障相对人的知情权、参与权等程序性权利,最大程度上避免审查的形式化,导致救济程序中证明责任分配不清。同时,在必要时引入第三方专家辅助及建立人工复核纠错机制,完善人工干预程序的实质性审查。通过强化行政主体的操作留痕及举证责任,并依循“从整体到部门”的原则拆解责任主体,明确救济程序中的责任分配,进而真正在数字政府建设中实现技术赋能与以人为本的法治原则深度统一。
参考文献:
- [1] 王莹.算法侵害类型化研究与法律应对——以《个人信息保护法》为基点的算法规制扩展构想[J].法制与社会发展,2021,27(06):133-153.
- [2] 胡敏洁.行政相对人程序性权利功能分析[J].江南大学学报(人文社会科学版),2002(02):26-28.
- [3] 王由海.论全自动行政审批行为的规范构造[J].当代法学,2025,39(06):65-75.
- [4] 唐曼.自动化行政许可审查的法律控制[J].现代法学,2022,44(06):87-101.
- [5] 查云飞.行政裁量自动化的学理基础与功能定位[J].行政法学研究,2021(03):114-124.
- [6] 姚显森,王森.算法行政相对人的权利及其双重保护[J].中国软科学,2024(10):68-83.
- [7] 郑智航.人工智能算法的伦理危机与法律规制[J].法律科学(西北政法大学学报),2021,39(01):14-26.
- [8] 苏稳.政府自动化决策责任认定的法理逻辑与限度廓清[J].行政与法,2024(05):104-114.
- [9] 王贵松.民法规范在行政法中的适用[J].法学家,2012(04):40-53+177.
- [10] 胡敏洁.论自动化行政中的瑕疵指令及其救济[J].北京行政学院学报,2021(04):81-88.
- [11] 翁明杰.智能行政中自动化决策拒绝权的证成与适用[J].财经法学,2025(01):148-167.
- [12] 徐伟琨.自动化行政中相对人算法决策拒绝权的实现路径[C]//上海市法学会.《上海法学研究》集刊2023年第5卷——2023年世界人工智能大会法治论坛论文集.广西民族大学法学院;,2023.
- [13] 王苑.完全自动化决策拒绝权之正当性及其实现路径——以《个人信息保护法》第24条第3款为中心[J].法学家,2022(05):72-86+193.
- [14] 陈悦.论自动化行政中算法决策风险的“人在回路”治理模式[J].行政法学研究,2024(04):35-46.
- [15] 李晓辉.自动化决策拒绝权的属性、功能与限度[J].法学,2024(07):15-30.
- [16] 崔靖梓.自动化决策拒绝权的整体主义实现[J].华中科技大学学报(社会科学版),2024,38(02):99-111.
- [17] 苗运卫.自动化行政中的算法决策拒绝权[J].华南理工大学学报(社会科学版),2024,26(02):88-98.
- [18] 王明敏.行政机关利用个人信息进行自动化决策的合宪性检视[J].法学,2025(02):36-50.
- [19] 张丽英,段佳葆.自动化决策下的个人信息保护——以《个人信息保护法》第24条为中心[J].东岳论丛,2023,44(10):169-174.
- [20] 丁晓东.论算法的法律规制[J].中国社会科学,2020(12):138-159+203.
- [21] 冯向辉,李蝶.算法决策对行政正当程序的挑战及其应对[J].学术交流,2024(05):59-72.
- [22] 张欣.免受自动化决策约束权的制度逻辑与本土构建[J].华东政法大学学报,2021,24(05):27-40.
