互联网新业态、新模式、新文化蓬勃发展，大量新型内容形式、文化产品不断涌现，对互联网内容治理也提出了新要求。随着技术的不断发展，从PGC、UGC到AIGC，数字内容生产也进入高速时代，内容数量突破性增长。

党的十八大以来，监管部门也在接连推出一系列举措，加强内容监管联合治理。在规章制度上，密集出台内容安全治理相关法律法规；在监管执法上，结合网络生态问题持续开展“清朗”、“净网”、“剑网”、“护苗”等专项行动，建立政府决策执法、社会监督、平台整治的综合治理执法体系；在治理方式上，对网络内容治理的颗粒度逐渐细化，推动我国网络内容治理进入超级治理阶段。然而，部分互联网信息内容服务企业仍存在对主体责任认识不充分、履职不到位、管理不规范、制度机制不完善等问题。

对此，经过对内容安全管理相关指标的大量深入调研和分析研究，网易易盾发布内容安全领域首个成熟度模型——《互联网信息服务数字内容安全能力成熟度模型》，通过可定性、可量化且操作性强的内容安全能力标准评价体系，帮助企业对旗下平台内容安全能力定期自我评估，识别可能存在的风险并建立全方位内容生态治理体系，以提升平台内容安全风险防范和应对能力。

01

企业内容安全治理是持久战也是动态战

内容安全的风险管理不仅是一场无时无刻不能松懈的持久战，更是一个需要持续迭代和完善企业安全框架的动态过程。

基于服务近万家头部企业数字内容安全的经验沉淀，网易易盾认为，构建和提升企业内容安全风控能力，有五大核心关键：

在充分考虑这些原则的基础上，《互联网信息服务数字内容安全能力成熟度模型》将企业不同阶段的风险管理及应对策略纳入范围：

1、事前规划：在风险管理的初始阶段，企业需要从组织结构、制度流程、意识形态等多个维度进行全面规划。这不仅要求管理层给予足够的重视，还需要确立一套清晰的安全政策和规范，为后续的风险控制打下坚实的基础。

2、事中管控：在业务内容的整个生命周期中，企业需要能够实时地发现并处置风险，确保风险处于可控状态。关键要素包括：

安全标准：建立一套完善的安全标准，确保所有业务流程和操作都符合安全要求。

内容检测技术：运用先进的技术手段，对内容进行实时监控和分析，及时发现潜在的风险。

安全运营：建立专业的安全运营团队，负责日常的风险评估、监控和应急响应。

3、事后监测：在风险管理的后期阶段，企业需要进行异步的风险管理，这包括：

风险点发现：通过回顾和分析，发现在事前和事中阶段可能遗漏的风险点。

数据驱动：利用数据分析和工具，对风险管理过程进行评估，找出改进点，从而不断提升风险管理能力。

02

四维坐标

锚定平台内容安全能力成熟度

经过大量的调研分析研究和分析内容安全管理相关的一系列指标特征，网易易盾提出考量企业内容安全体系的“四大坐标”：通用管理能力评价、内容生命周期管理评价、外部评价和成熟度等级四大模块，并制定定性与定量的评估维度和指标，提升标准的合理性和可操作性。

1.通用管理能力评价：指信息服务提供者在安全管理组织架构、安全制度以及标准化流程体系的建设情况，是企业在安全管理中应共同具备的、最重要的、最基本的能力。

2. 内容生命周期管理能力评价：《模型》将内容的生命周期分为生产、处理、发布、传播、存储、销毁等六个阶段，内容生命周期管理是针对六个阶段制定相应的技术和策略的双重安全保障措施，以降低内容安全风险。

3. 外部评价：指由非本机构或非直接利益相关者对某一组织、项目或服务进行的系统性评价。针对企业内容安全方面的外部评价，包括公众信用评价、行政监督评价、社会责任担当。

4. 成熟度等级：根据企业平台规模、舆论属性或社会动员能力划定不同类型企业成熟度等级建设目标，然后结合二级、三级指标达成情况进行评估，确保评估结果的客观性。

03

已有近百家互联网企业

参与首批成熟度调研

为使标准符合企业实际情况，网易易盾的安全专家以书面调研、网络问卷和实地走访等形式相继对近百家互联网企业开展调研，并为其中提供互联网信息内容生产、发布、交互等服务的企业提供《内容安全能力成熟度等级评估报告》。

首批参与调研平台覆盖不同规模、不同业务形态和产品功能形态，从结果来看，有72%的平台的内容安全成熟度达到S3已定义级及以上，也就是说大部分企业具备基础安全管理体系，但达到成熟度比较高的S4和S5等级的企业较少，分别占9.3%和7.4%。

28%的平台处于S2已管理级，这类多数为初创企业、中小企业或数字化转型中的企业，对内容安全认识不足。

与此同时，调研分析结果显示，企业建议等级达成率仅为40.7%，半数以上企业的安全能力与其业务规模、舆论属性或社会动员能力不匹配。

文章纠错