China Behavioral Law Society Development Network

中国行为法学会事业发展网
  • 中国行为法学会第六届四次理事会在京召开
  • 沉痛悼念马宝善同志
  • 中国行为法学会医疗健康法治研究专业委员会战略合作研讨会在京召开
  • 学会动态 | 第二届“澜沧江—湄公河次区域”国际法治论坛在云南警官学院举行
  • [完整版|图文]《中国法治实施报告(2022)》隆重发布
  • 《企业商事刑事风险防范指引丛书》 启动交流会在京召开
  • 中国行为法学会侦查学专业委员会第十四届全国侦查学术研讨会暨第七届现代侦查技战法论坛在浙江绍兴召开
  • 《民营经济促进法(草案)》征求意见座谈会在长沙举行
  • 为人民抒怀、为时代放歌 《人民就是江山》——大型公益原创歌曲交响 音乐会在京举办

   时政要闻

王玎:网络运营者审查违法信息的程序义务范式及其制度建构

来源:《行政法学研究》2026年第5期 | 作者:管理员 | 发布时间 :2026-11-17 16:15:21 | 34 次浏览: | 🔊 点击朗读正文 ❚❚ ▶ | 分享到:

在结果责任范式下, 平台为规避法律责任, 往往倾向于采取过度审查或过度处置措施, 导致误伤合法内容, 呈现出审核标准不透明、用户救济渠道不畅等问题, 损害用户合法权益, 抑制正常表达与创新活力。而程序义务范式则通过事前明确审查程序、分级分类审查等程序, 为平台审核行为划定清晰透明、动态监督的合规边界, 既保障了违法信息审查效果, 又能够在行政管理部门指导下持续督促平台优化审查技术、提升审查效果, 在安全与发展之间实现动态平衡。


三、违法信息审查程序义务范式的制度展开

不同于欧美法律构建的公共主体、平台、个体用户在公法上的“三角关系”, 我国“政府监管网络运营者履行违法信息审查义务, 网络运营者监管用户遵守平台规则” 的线性双阶治理结构,决定了程序义务范式需要建立在政府监管网络运营者的公法义务环节, 而非网络运营者与用户之间的私法关系环节。程序义务范式的核心要义, 是将网络运营者违法信息审查义务确定为透明化、可监督、可完善的事前程序性规则, 破解结果责任范式下的技术适配难题、成本失衡问题和责任认定困境, 围绕“分类分级—风险评估—算法审计—高效处置” 的逻辑链条, 构建适用于不同网络运营者的独立实施标准和保障机制, 实现合规成本与治理效能的均衡。

(一)对违法信息进行分类分级

违法信息分类分级是网络运营者履行程序义务的前提, 目的是打破对违法信息一刀切的审查标准, 主要根据违法信息的不同识别难度和危害程度设定差异化的审查程序与义务标准。网络运营者审查违法信息的其他程序义务, 都应建立在分类分级结果的基础上, 与违法信息的类型和风险等级耦合适应。

1.对违法信息进行分类

“规制的平衡性与合比例性是‘分类分级式框架’ 的立论之基。”在违法信息分类中, 可根据《网络安全法》《网络信息内容生态治理规定》等法律规范, 结合违法信息的识别难度, 分为能够自主识别的违法信息和需要依赖外部协同识别的违法信息两类。这一分类标准主要是为了厘清网络运营者技术能力边界, 衔接好《网络安全法》第49条和第52条的关系, 划定网络运营者在违法信息识别中的主体责任, 明确相关行政管理部门的协同职责。

第一类, 能够自主识别的违法信息。这是指网络运营者依托自身所具备的技术手段即可准确识别界定的违法信息, 如明显违反法律规定的淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪、宣扬恐怖主义或极端主义活动等内容。这些信息通常具有高度显著性与技术可识别性, 社会对上述信息的内涵与外延具有高度共识, 网络运营者一般具备成熟的识别模型与处理机制, 通过设定关键词、图像、视频算法等技术手段即可实现较高准确率的识别。

第二类, 需要依赖外部协同识别的违法信息。这是指需要相关行政管理部门提供专业支持、协同研判或权威认定的违法信息, 主要包括反对宪法所确定的基本原则、危害国家安全、泄露国家秘密、颠覆国家政权、破坏国家统一、散布谣言扰乱经济秩序和社会秩序等内容。此类信息往往具有高度隐蔽性和较强的语境依赖性, “相关条文的解释口径应该更为狭窄”, 部分内容还需要行政管理部门进行专业判断与权威认定, 方能准确识别其违法属性。

2. 对违法信息进行分级

分级和等级保护是我国长期以来实施的信息安全基础性制度,目的是根据不同的风险确定“匹配的安全保护水平和措施”。在违法信息分级中, 不同国家或地区所分的层级不尽相同, 但通常以信息传播速度、危害后果和处置紧迫程度为分级标准。总体上, 我国可依据信息传播速度、危害后果和处置紧迫程度, 将违法信息分为高风险、中风险、低风险三个等级。高风险违法信息是传播速度快、危害后果严重、需要第一时间识别和处置的违法信息, 如煽动暴力恐怖活动、涉嫌泄露国家秘密、颠覆国家政权、破坏国家统一等威胁国家安全、公共安全等违法信息。对于此类信息, 网络运营者需要在各类审查程序中适用严格注意义务, 投入优先级别的技术资源与人力响应, 积极与相关行政管理部门建立联动机制, 确保能够准确识别和及时处置。中风险违法信息是传播速度较快、危害后果较为严重、需在较短时间内识别和处置的违法信息, 如反对宪法所确定的基本原则、破坏国家宗教政策等违法信息。此类信息在识别和处置的紧迫程度上略低于高风险违法信息, 但对国家安全和公共利益仍构成严重威胁, 需要网络运营者投入足够的技术资源与人力审查力量, 积极寻求相关行政管理部门的指导, 确保准确识别和及时处置。低风险违法信息是传播速度较慢、危害后果相对有限、可在合理时限内识别和处置的违法信息, 如淫秽、色情、赌博、暴力、煽动人群歧视、地域歧视等违法信息。此类信息虽不直接对国家安全或公共安全造成严重危害, 处置的紧迫程度上也相对较低, 但会对社会秩序或公共利益造成不良影响, 需要网络运营者配置合理的技术和人力资源进行常态化监测识别, 对确定的违法信息予以处置。

(二)违法信息常态化风险评估与算法迭代

“进入21世纪以后, 推动社会运行和社会变化加速化的几乎所有因素都包含着风险和孕育着风险, 使得整个社会呈现出高度复杂性和高度不确定性的性状。”常态化风险评估是应对风险社会高度不确定性与复杂性的重要举措。近年来新制定或修订的诸多法律均将风险评估作为防范化解重大风险的法定程序。如《网络安全法》第18条规定, “鼓励有关企业开展风险评估等安全服务”。英国《在线安全法案》虽然根据网络运营者的性质和规模进行分类分级并施予不同的违法信息审查义务, 但无论何种类别等级的网络运营者, 均被要求对非法内容进行风险评估。欧盟《数字服务法案》同样要求超大型在线平台和超大型在线搜索引擎提供者至少每年对非法信息的传播进行一次风险评估。国内外立法实践与监管要求表明, 风险评估已从技术自检行为升格为法律强制义务, 是应对风险社会高度不确定性和复杂性的重要工具。网络运营者对违法信息进行常态化风险评估, 具体内容是对违法信息的类型、数量、传播路径、高发场景、变异方式、新型内容、社会和用户受到伤害的风险程度等进行全面评估, 同时要结合分析情况对违法信息的风险等级, 现有识别模型的准确率、误判率、漏判率、薄弱环节、系统漏洞等进行系统评估。建立常态化违法信息风险评估机制, 是持续优化违法信息识别技术的前提。

通过风险评估, 能够发现违法信息识别中的盲区与短板, 为算法优化提供精准靶向, 从而建立一种动态的而非静态的、弹性的而非固化的治理体系,有效强化机器识别的准确性。网络运营者应当根据风险评估结果, “对作出删除违法信息决定的算法持续进行具有统计代表性的抽样分析, 从而在纠错中学习进化”, 再结合动态变化的监管要求、用户投诉反馈信息等, 持续纳入新型违法信息样本, 动态调整识别算法, 包括规则、阈值、权重等, 提升对新型、变体、模糊违法信息的识别能力, 确保模型在语义理解、图像识别、音视频分析等多模态场景中同步进化。算法迭代更新应当留存完整日志, 包括更新时间、更新原因、调整内容、效果比对、测试结果等, 形成可追溯、可核查的更新记录。除算法迭代更新外, 网络运营者还应根据风险评估结果, 加强审查人员培训与跨部门协同机制。网络运营者要将风险评估结果作为优化人工审查内容和程序的依据, 对承担违法信息审查工作的人员开展针对性培训与考核, 督促其熟练掌握新型违法信息特征与识别要点, 动态调整人工审核的重点、频次、标准, 确保人机协同审查机制高效运转。

(三)违法信息识别算法审计

算法技术是中立的, 但算法技术的设计和应用承载着事实和价值判断, 因此有必要对算法加以规制。“算法规制应当建立在场景化思维的基础上。”依赖算法实施的机器识别技术, 是违法信息识别的核心技术载体, 只有对其进行常态化审计, 才能确保其持续符合法律规范与技术伦理要求。算法审计是国内外通行的风险治理工具, “是验证其正常运行的必要前提”, 其目的在于对算法的设计逻辑、数据来源、训练过程、输出结果及决策影响的全周期进行合规性审查, 确保算法在违法信息识别中不偏离法定边界、不扩大误伤范围、不弱化识别效力, 将“法律、伦理、技术三维价值目标科学整合到治理实践中”。

   通知公告

  • 暂无相关记录!
【编辑:杨昊一】