TCSMPTE 12-2021 网络视听节目内容审核系统技术与应用要求

中国电影电视技术学会团体标准T/CSMPTE12—2021网络视听节目内容审核系统技术要求Technologyrequirementsforinternet-basedaudio-videoprogramcontentauditsystem2021-11-29发布2021-11-29实施中国电影电视技术学会发布T/CSMPTE12—2021I目次前言................................................................................II1范围..............................................................................12规范性引用文件....................................................................13术语和定义........................................................................14缩略语............................................................................15总体架构..........................................................................25.1概述..........................................................................25.2内容审核运行体系..............................................................25.3安全保障支撑体系..............................................................35.4运维保障支撑体系..............................................................36内容审核运行要求..................................................................36.1内容审核......................................................................36.2送审主体管理（可选）..........................................................56.3审核组织管理（可选）..........................................................56.4审核培训管理（可选）..........................................................56.5审核监测分析..................................................................66.6数据接口......................................................................66.7系统性能......................................................................67安全保障支撑要求..................................................................77.1总体安全......................................................................77.2数据安全......................................................................77.3冗余备份......................................................................77.4网络安全监测..................................................................77.5内容安全监测..................................................................88运维保障支撑要求..................................................................8参考文献.............................................................................9T/CSMPTE12—2021II前言本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草。请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别这些专利的责任。本文件由中国电影电视技术学会标准与测试专业委员会归口。本文件起草单位：国家广播电视总局广播电视规划院、成都音像出版社有限公司、成都九天星空科技有限公司、北京广播电视台新媒体集团、国家广播电视总局监管中心、国家广播电视总局广播影视信息网络中心、湖南广播影视集团有限公司、湖南快乐阳光互动娱乐传媒有限公司、北京时代远景信息技术研究院有限公司、优酷信息技术(北京)有限公司、北京百度网讯科技有限公司、深圳市腾讯计算机系统有限公司、北京爱奇艺科技有限公司。本文件主要起草人：肖辉、董升来、张娜、陈奇、王俊斐、杨木伟、王宇、岑明聪、刘宁芳、郭梦浩、汪丽、彭洁、路琨、王宝石、黄冬、刘春学、周建威、唐彭卉、苏永强、周平、宋峥、靳萌萌、衡岳、张亦弛、侯顺伟、刘冬丽、武阳、于丽丽、晋良子、于嘉慧。T/CSMPTE12—20211网络视听节目内容审核系统技术要求1范围本文件规定了网络视听节目内容审核系统的总体架构、功能、数据接口、性能、安全性、运行维护等方面的技术要求。本文件适用于网络视听节目内容审核系统的设计、开发、建设、验收、运行和维护。2规范性引用文件下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。GB/T22239—2019信息安全技术网络安全等级保护基本要求GB/T28827.1—2012信息技术服务运行维护第1部分：通用要求GM/T0054—2018信息系统密码应用基本要求GY/T317—2018电视台信息系统运行维护服务通用要求3术语和定义下列术语和定义适用于本文件。3.1网络视听节目内容审核系统internet-basedaudio-videoprogramcontentauditsystem在网络视听节目内容播出前，对相关主体拟播出的网络视听节目作品和用于宣传、介绍作品等目的而制作的图文及音视频内容进行审核的系统。3.2违规内容violationcontent含有我国相关法律、行政法规和国家规定禁止的或不得制作和传播的情节、画面、台词、音效、人物、字幕等要素的内容。4缩略语下列缩略语适用于本文件。AI人工智能（ArtificialIntelligence）API应用程序接口（ApplicationProgrammingInterface）APP应用程序（Application）FTP文件传输协议（FileTransferProtocol）HTTP超文本传输协议（HyperTextTransferProtocol）RPC远程过程调用（RemoteProcedureCall）WEB全球广域网（WorldWideWeb）T/CSMPTE12—202125总体架构5.1概述网络视听节目内容审核系统总体架构通常由内容审核运行体系、安全保障支撑体系和运维保障支撑体系组成。系统总体架构示意图如图1所示。图1系统总体架构示意图5.2内容审核运行体系5.2.1基础设施层基础设施层将已虚拟化的计算资源、存储资源和网络资源通过网络提供给应用系统使用和管理。5.2.2数据资源层数据资源层为上层审核应用提供基础数据支持，包括但不限于审核信息、送审主体信息、审核员信息、审核组织信息、审核规则、审核课程信息、行为检测信息、其他信息等相关信息库。5.2.3应用支撑层T/CSMPTE12—20213应用支撑层为应用层提供管理支撑、工具支撑、服务支撑。管理支撑提供用户管理、权限管理、日志记录、审计等管理功能；工具支撑提供自然语言处理、视频解析、人脸识别、图像识别等工具；服务支撑提供业务检索、数据分析、AI审核、API/RPC调用等服务功能。5.2.4系统应用层应用层综合利用下层各项资源，对系统用户提供网络视听节目内容审核的相关功能模块，包括但不限于内容审核、送审主体管理、审核组织管理、审核培训管理、审核监测分析等应用功能模块。5.2.5系统交互层交互层面向系统用户，提供网络视听节目内容审核的用户访问交互接口，使用计算机、智能手机、平板电脑等不同类型终端通过WEB、公众号/服务号、APP应用方式访问实现。5.3安全保障支撑体系保障系统安全运行的防护支撑体系。5.4运维保障支撑体系保障系统稳定运行的维护支撑体系。6内容审核运行要求6.1内容审核6.1.1审核规则库系统应具备违规内容审核规则库，支持对审核规则的策略配置，按照相关行业审核规范要求，对网络视听节目内容进行审核。6.1.2审核内容系统支持的审核内容应包括但不限于：点播节目、直播节目、用户上传节目、评论信息、弹幕信息、账号信息、短视频、广告素材等。6.1.3智能审核应具备网络视听节目内容智能审核功能，实现对节目的辅助审核，具体要求包括：a)应提供图像智能审核功能，鉴别图像是否包含违规内容；b)应提供文字智能审核功能，分析文本语义是否包含违规内容；c)应提供视频智能审核功能，支持对视频按照关键帧或定时抽帧的方式进行图像提取、特征识别、分析和比对，判断是否包含违规内容；d)应提供音频智能审核功能，支持对普通音频、方言类音频和多语种音频（例如：英语）进行语音识别、分析和比对，判断是否包含违规内容；e)支持审核任务分配，对智能审核后的节目和审核结果，应自动建立人工审核任务并分配给系统审核小组或者指定审核小组进行人工审核；f)支持根据人工审核和人工标注的结果，对智能审核模型进行优化训练和迭代更新，以保障违规内容的及时、有效检出；T/CSMPTE12—20214g)支持审核结果作为结构化标签，对接到内容智能分析系统中，以配合后续进一步的节目内容编辑、剪辑应用。6.1.4人工审核系统分配的人工审核任务，应提供智能审核后的节目原文件、智能审核过程中对节目进行识别、抽帧等处理的中间结果以及智能审核标注的疑似违规内容信息，人工审核操作事项包括但不限于：通过、修改、删除等。6.1.5人工标注对审核员发现的智能审核未标注的违规节目内容，系统应提供审核数据人工标注敏感标签的功能。6.1.6人工抽检应支持按系统预设的比例抽取审核通过和未通过的节目内容审核结果数据进行人工抽检复核。6.1.7审核结果管理应支持将节目内容审核结果和审核进度状态通过系统交互层接口反馈给节目送审主体，并应长期保存节目内容审核报告（包括但不限于节目标识信息、审核过程记录，违规原因及结果），保存时间不少于180天。6.1.8审核沟通工具应在系统内提供与审核流程相关联的即时通讯、人员群组、留言等多种沟通工具，用于审核过程协同和审核结果沟