China Behavioral Law Society Development Network

中国行为法学会事业发展网
  • 中国行为法学会第六届四次理事会在京召开
  • 沉痛悼念马宝善同志
  • 中国行为法学会医疗健康法治研究专业委员会战略合作研讨会在京召开
  • 学会动态 | 第二届“澜沧江—湄公河次区域”国际法治论坛在云南警官学院举行
  • [完整版|图文]《中国法治实施报告(2022)》隆重发布
  • 《企业商事刑事风险防范指引丛书》 启动交流会在京召开
  • 中国行为法学会侦查学专业委员会第十四届全国侦查学术研讨会暨第七届现代侦查技战法论坛在浙江绍兴召开
  • 《民营经济促进法(草案)》征求意见座谈会在长沙举行
  • 为人民抒怀、为时代放歌 《人民就是江山》——大型公益原创歌曲交响 音乐会在京举办

   时政要闻

洪延青:人脸识别的双轨治理与通向智能技术的治理适配框架

来源:《行政法学研究》2026年第3期 | 作者:管理员 | 发布时间 :2026-04-21 14:29:49 | 11 次浏览: | 🔊 点击朗读正文 ❚❚ | 分享到:

系统风险导向则贯穿技术全生命周期实施风险管理,根据评估结果决定何时介入:风险越高,介入越早且严格;风险较低,则可后置干预甚至不干预。开发阶段对高风险系统要求严格测试评估,部署前须审批或符合认证标准,运行中持续监测报告;而低风险技术则监管介入较少甚至放权。这种分级介入原则提高了监管资源的针对性和效率,但也可能对未标记为“高风险”的问题反应迟缓,一些难以量化的隐患因此被忽略。

这种差异体现了两种不同的预防理念:权利导向路径近乎采取绝对预防,只要行为本质侵犯权利就一律约束;风险导向路径遵循比例原则,根据科学评估的风险程度决定干预强度。一些学者因此主张人工智能治理应坚持以人权为基础,而非单纯依赖风险分析,因为后者可能将不可让渡的权利底线变为可计算、可交易的指标。简言之,在风险的刻画和监管介入时点上,权利导向路径奉行道义上的零容忍,而风险导向路径奉行基于概率和成本收益权衡的渐进管控。

(三)合规工具与衡量指标

在个体权利导向路径中,常用的合规工具着眼于保障个人权利本身。典型做法包括发布隐私声明、征求用户同意、开展数据保护影响评估(DPIA)、提供数据访问和删除渠道、建立投诉和救济机制等。这些工具旨在提升数据处理的透明度和让个人掌控自身信息,以确保合规过程中个人权利得到体现。然而在实践中往往流于形式。

系统风险导向则侧重技术过程管理型的合规工具,建立起持续的内部风险识别、评估、缓解和监控流程来满足外部要求。典型工具有定期风险评估报告、算法影响评估(AIA)、质量管理体系、技术标准符合性以及第三方审核认证等。这些工具强调开发和运行阶段的尽职调查和过程管理,注重降低风险的实际效果而非表面手续。例如,人工智能开发者若能证明已按最佳实践进行了偏见测试和风险缓解,即便系统最终出现问题也可被视为已尽责合规。这体现了一种“过程合规”理念,更关注行为者尽到了合理努力,而非苛求结果绝对零风险。

两种路径对合规的衡量标准也截然不同。权利导向通常依据规范性指标二元地判断合规:该履行的义务有没有履行,有无出现侵犯权利的事件。如果企业未经同意收集数据或发生数据泄露,即被认定不合规,因为直接侵犯了用户权利。这是一种静态的守法合规观,即只要遵循预定规则便算合格。然而企业满足了纸面要求并不意味着真正控制了风险。风险导向则采用动态和量化指标评估合规,关注风险是否被有效降低、风险管理机制是否运转良好。例如,考察高风险AI系统是否进行了充分的风险分析和缓解,剩余风险是否降至可接受水平,运行中是否建立了持续监测和应急响应机制等。这是一种以证据和效果为导向的合规观,要求用数据证明风险在可控范围内。

上述差异反映了背后合规哲学的区别:权利导向路径奉行“遵守规则”哲学,认为遵循既定程序即合规;风险导向路径奉行“结果导向”哲学,认为合规的真谛在于实现安全可靠的效果,规则只是手段而非目的。因此前者的监管者通常检查企业是否履行了诸如告知、同意、回应用户请求等义务,后者的监管者则更关注企业提供的风险报告、测试数据,并与其讨论改进空间。

(四)监管逻辑与执法架构

个体权利导向的监管逻辑以明确的个人权利原则设定技术应用边界,属价值优先的原则导向。立法预先规定个人信息、人格尊严等各项权利保护原则和禁止行为,技术必须在此框架内运行。监管机关多采取响应式执法,通过个人投诉或执法检查发现违规后,依据诸如“未经同意不得处理个人数据”等法律原则立即介入纠正并处罚侵权行为。每次执法都可直接援引上位权利原则作为依据,因而正当性强且边界清晰。

系统风险导向则以风险评估结果决定干预重点,体现出前瞻主动的风险导向。立法给予监管者裁量权让其根据科学研判识别高风险领域并提前介入管控。监管者基于事故统计和行业研究等确定最高风险的人工智能应用,集中资源制定专门规制(如高风险系统须经许可)。执法上强调主动监督和过程管理:要求相关企业定期提交风险报告、接受现场检查或远程监控,形成多层级专业监管网络动态治理技术风险。为此往往需要设立新的专门机构或跨部门协调机制集中专业能力(如成立人工智能监管委员会),赋予行政机关更大裁量权以快速响应技术变化,但同时也引发如何确保权力受控和问责的新挑战。

在执法方式上,权利导向路径依托明确法律责任采取强制性制裁手段,一旦确认侵害个人权利,即对责任方科以巨额罚款或责令停止有关技术使用,以震慑潜在违法者,守住不可侵犯的权利底线。风险导向路径则更注重持续督导和协商改进,发现风险迹象时,先要求企业整改、引导其在“监管沙盒”等受控环境中完善技术,而非立刻对抗性惩罚;只有当风险达到不可接受程度或主体蓄意违法时,才采取撤销许可、下架产品等“熔断”措施。总体而言,风险导向路径的执法风格更加注重专业评估与合作治理风险,而非单纯依赖事后惩戒。

(五)公众权利与救济路径

在个体权利导向的范式中,个人权利被置于核心位置。法律赋予个人知情同意、数据访问、更正、删除以及不被算法武断决定等权利,使其能对抗强大的技术行为者。这将抽象权利原则具体化到日常生活,让个人能够以自身权利主张参与技术治理。相反,系统风险导向通常并不给个人直接干预技术部署的权利,而主要通过监管机构来保护公众利益。个人难以要求某人工智能系统停止或改变,除非能够根据其他法律证明自身权益受损。在人工智能风险监管框架下很少出现类似欧盟《通用数据保护条例》那样的个人权利条款,更多是强调提供者义务和监管权限。因此公众在高风险技术治理中主要处于被保护的地位,由专家和机构替其判断安全与否。这虽然减轻了普通人了解复杂技术的负担,但也可能让人产生无力感。

在救济路径方面,在权利导向路径下建立了多层次的维权渠道:个人可先向数据控制者主张权利,不满意则向独立监管机构投诉,仍未解决还可诉诸法院。此外还允许集体诉讼等途径来维护公共利益,从而降低个人维权门槛并扩大救济覆盖面。相比之下,风险导向路径主要依靠行政干预和事后赔偿来提供救济:一旦高风险技术造成损害,监管部门会强制其停止并处罚责任方,受害个人则通过侵权法等途径索取赔偿。然而在损害发生之前,个人几乎无法凭法律要求暂停核发运行的高风险系统,因为只要提供方符合法定风控要求,该系统就被允许运行。

因此,权利导向治理确保公众拥有明确的权利清单和救济途径,使个人从被动的风险承担者转变为主动的权利主张者;风险导向治理侧重整体风险防控,个人多以被代表的方式受保护,其救济依赖监管运作和事后责任。前者的优点是赋权个人、透明参与,但如果救济不畅,权利可能流于空文;后者的优点是专家主导、高效预防风险,但可能出现“公众利益无人主张”的真空。为兼顾个体权利与社会安全,政策和学界正探索在人工智能治理中增加公众参与渠道、在隐私治理中融入风险视角等混合模式。

(六)适应性与动态更新

技术发展日新月异,对监管适应性提出了严峻挑战。个体权利导向由于立基于高层次的基本权利原则,具备一定的稳定性和普适性,但动态调整往往滞后于技术演进。基本权利的内涵相对恒定,一部个人信息保护法典可能十几年不变,而此间技术生态已迭代多轮。立法或修法过程漫长,新出现的风险(如算法歧视、深度伪造等)往往难以及时纳入法律规制。如果不辅以软法或灵活机制,权利框架容易出现治理真空或滞后。权利导向路径主要靠法律解释和体系内延伸来吸纳新情景,通过法院判例、学理阐释将新技术纳入既有权利范畴,或由立法赋权监管机构发布指引。但总体而言,其响应速度受限于法定程序周期。

系统风险导向在设计上更强调动态更新能力,采取模块化、程序化的方式随风险变化调整规则。常用手段包括授权行政机关动态调整高风险清单和技术标准、引入快速修订程序(如监管沙盒试点新规后再立法推广)、依托行业标准组织持续更新技术规范,以及设置定期评估和日落条款等。这些机制使监管能够较灵敏地回应不断涌现的高风险技术。但现实中也面临局限:监管者需要很高的技术前瞻能力,否则仍可能跟不上变化;而规则频繁调整也增加了从业者的不确定性,可能在一定程度上阻碍创新。

   通知公告

  • 暂无相关记录!
【编辑:杨昊一