从违法信息审查目的来看, 法律课予网络运营者违法信息审查义务, 是基于网络运营者具有的技术优势和治理效率, 其目的是维护网络信息内容生态、防范违法信息危害社会公共利益、保护公民法人合法权益。结果责任范式和程序义务范式均能够实现这一目的。从违法信息审查的必要性来看, 由于对违法信息的界定与处置往往处于灰色地带, 难以泾渭分明, 有赖于网络运营者的价值判断和自由裁量,因此, 要求网络运营者保证“零违法信息” 的结果责任范式在技术上不具有可行性, 而且为网络运营者施予过多不必要的负担。而要求网络运营者履行程序义务, 则是具备正常技术与人力条件的所有网络运营者主体均可实现且对企业经营与用户权益损害最小的方式。从均衡性来看, 结果责任范式下, 网络运营者为避免追责, 就必须投入远超合理限度的资金、技术、人力, 甚至牺牲产品创新和用户体验, 所换取的只是对极少数较难识别的违法信息的及时发现, 造成社会治理成本与治理收益严重失衡。程序义务范式通过设定合理的程序标准, 将网络运营者的合规成本控制在必要、适度、可预期的范围之内, 在有效维护公共利益的同时, 最大限度降低对市场主体和用户利益的负面影响, 实现了私益与公益的平衡。 程序义务范式同样为落实过罚相当原则提供了制度接口。《行政处罚法》第5条第2款明确规定, “设定和实施行政处罚必须以事实为依据, 与违法行为的事实、性质、情节以及社会危害程度相当”。程序义务范式将网络运营者履行了法律规定且被行政管理部门认可的必要程序作为判断是否履行法定义务的基础, 实现了违法责任认定前置化、程序化。这就意味着“如果发生了违法信息传输造成实际不良影响或损害的情况, 只要网络运营者已经依法履行了建立机制、制定细则、信息发布审核、实时巡查等义务, 网络运营者就可以因履行了法定义务而从轻、减轻或免予处罚”。换言之, 网络运营者未依法履行程序义务, 即便未发生严重危害结果, 也可依据程序违法追究其相应责任。此种归责逻辑完全契合《行政处罚法》所明确的过罚相当原则的精神内核。 (三)程序义务范式为主观过错要件提供了适用基础 主观过错的认定, 通常通过外在的客观且可检验的行为予以证明和判断。其中, 程序恰好为主观过错的认定提供了客观判断标准, 强化了“可问责性作为规制者维持其正当性的要求”。在违法信息审查领域, 遵循义务范式的重要功能正是为网络运营者主观过错的认定提供客观化、可视化的判断工具。若网络运营者已充分履行了法定审查程序, 如部署了经过审计的技术模型、实施了人工复核机制、建立了及时处置与上报制度等, 且以上程序均得到了行政管理部门的确认,就足以证明网络运营者已经尽到了合理注意义务, 主观上不存在过错, 进而满足《行政处罚法》规定的无过错可免予行政处罚的条件。换言之, 若网络运营者未部署适当的技术模型、未实施人工复核制度、未建立及时处置与上报制度等, 则可直接推定其存在主观过错, 因而具备可归责性。2025年2月, 北京市互联网信息办公室依法对北京快手科技有限公司平台多个直播间涌现大量色情低俗内容的事件处以警告和1. 191 亿元人民币罚款, 并在处罚理由中载明“快手平台未履行网络安全保护义务, 未及时处置系统漏洞等安全风险, 未对用户发布的违法信息立即采取停止传输、消除等处置措施, 情节严重, 影响恶劣”。由此可见, 该处罚决定充分考察快手公司是否在事先建立了完善的违法信息识别与处置程序, 是否及时修复了系统漏洞, 以及在事中是否对违法信息及时有效采取了停止传输、消除等处置措施。这起案件中, 行政执法机关充分考量主观过错要件,体现了程序义务范式在实践中的应用价值。 “要求平台依据主观过错承担法律责任, 是平台算法走向‘负责任’(accountability) 的必由之路。”程序义务范式克服了结果责任范式下长期存在的主观过错认定困境与逻辑悖论。第一,解决了过错认定标准模糊的问题。程序义务范式将抽象的“注意义务” 转化为前置的、具体的制度建设、技术部署、程序执行、及时报告等客观标准, 行政管理部门不再陷入“网络运营者投入多少才算足够” 的主观判断, 只需在日常工作中依法对其采取的措施予以审查认定。第二, 解决了网络运营者举证困难问题。网络运营者证明自己不存在主观过错时, 不再需要证明是否已采取必要措施或穷尽了一切可能, 而只需证明依法履行了相关程序义务, 且在发生相关事件时, 依据相关程序进行了处置。在举证时, 相关的制度文件、算法日志、审核记录、处置台账等证据, 以及行政管理部门的确认也易于固定, 使网络运营者举证负担大幅降低。 (四)程序义务范式适配网络违法信息审查的技术逻辑 网络信息的审查并非完全属于法律判断, 而是高度依赖机器与人工协同的复合型工作。“这要求治理者既要善于通过法律规制平台, 又要善于基于技术治理平台, 重视将新型技术工具纳入法律制度框架中。”审查违法信息的技术路径决定了网络运营者无法实现违法信息绝对精准的识别与拦截, 而只能追求在技术能力范围内最大限度实现风险可控的动态治理, 程序义务范式正是对这一技术现实的理性回应。 在维护公共利益领域, 法律赋予网络运营者采用严格的注意义务, 网络运营者需要最大限度地采取识别发现违法情形并规避损害后果的措施。从履行注意义务的技术运行机理来看, 网络运营者普遍采用“机器识别+人工识别” 的方式对违法信息进行监测识别。这一技术路径决定了对违法信息审查的局限性。首先, 网络运营者不具有审查特定违法信息的专业性。较之淫秽、赌博、暴力等信息而言, 审查《网络信息内容生态治理规定》所禁止传输的“反对宪法所确定的基本原则” “危害国家安全” “泄露国家秘密” 等高度抽象、敏感、依赖相关行政管理部门指导或认定的违法信息类型, 网络运营者并不具备相应的专业判断能力与法定认定权限, 难以通过机器或者人工的方式准确识别。这就形成了法律要求网络运营者承担公法上的监管义务与网络运营者自身并不具备判断权限和专业能力之间的矛盾。2024年修订后的《保守国家秘密法》第34条用“网络运营者发现涉嫌泄露国家秘密”的表述取代了2010年《保守国家秘密法》第28条“网络运营者发现涉及泄露国家秘密” 的措辞, 正体现了立法者对网络运营者审查能力的清晰认知。其次, 网络运营者难以精准识别实时违法信息和变形违法信息。“删除网上内容不仅是社交媒体的平台标准或算法技术设计的结果, 也取决于人工智能定义并决定哪些内容被视为仇恨言论的能力。”对于视频直播平台而言, 直播内容具有高度即时性与不可预测性, 违法信息往往在毫秒级内生成、传播, 难以被实时捕获; 而文字、图片类内容则常通过谐音、变体、隐喻等变形方式规避识别和审查, 且其内涵具有高度语境依赖, 同一表述在不同场景下可能合法或违法, 需结合上下文、发布者意图及传播效果综合判断。这种动态性与模糊性进一步放大了技术识别的固有局限。这种局限性并非完全是网络运营者主观过错所致, 而是由网络运营者对相关信息的知悉范围受限、人工智能技术识别能力有限、法律概念模糊、人类语言表达的复杂性等因素共同决定的。因此, 法律对网络运营者的责任设定必须立足于这一客观现实, 通过程序义务的合理配置将法律对网络运营者设定的义务, 由结果责任范式转向程序义务范式。网络运营者审查违法信息的程序义务范式, 具有三个技术特征: 一是不要求审查违法信息在结果上绝对准确, 但要求在事前建立与业务类型、规模等相匹配的技术审查程序, 定期更新模型、优化样本库、提升识别能力, 并获得行政管理部门的确认; 二是不要求网络运营者对所有信息实现上传前事前审核, 但要求根据信息类型、模态建立分级分类审核机制, 对高风险类信息实施重点监测或采用人工复核等机制, 对低风险类信息进行常规审核; 三是不要求网络运营者对所有信息的违法性作出终局判断和处置, 但要求建立涉嫌违法信息的快速上报与协同处置机制, 根据行政管理部门的指导和要求及时响应、采取相关措施。