1、明确责任
明确谁对审核标准负责、谁来牵头,明确审核标准的负责人,职责明确、责任到人;审核标准的维护,一般由策略团队或培训团队牵头负责;
2、建立审核员培训制度
可分设初审、复审、策略、质检、培训等业务组,对公司业务涉及的所有形态的信息内容,包括图、文、音视频,进行 7×24 小时全天候的内容审核及监管响应。同时,为了不断提升审核人员的安全意识和审核技能,建立审核员相关培训管理制度,搭建审核员系列培训体系。
3、建立舆情预警机制(机审+人审+复审)
做好信息安全的事前监管,可设置舆情机审监测、用户举报、监管部门对接等方式建立舆情预警机制,确保对各类安全事件做到第一时间有效拦截处置。
运用舆情系统搜索境内外网络传播的有害言论和热点问题,并在规定时间段内进行分享。根据政策要求,实时调整搜集方向,确保全面预警,对审核遇到热点事件进行舆情评估并制作舆情工作报告,上报主管部门。
4、建立三级审核流程规范
根据主管部门统一的工作部署,按照“严要求部署、高标准落实”原则,采取“预防、技防、人防、群防”四类工作措施,建立“机器+人工+巡查举报”三级审核流程,全面开展信息安全审核工作,确保公司产品信息安全保障工作落到实处,不断提高信息安全治理水平。
在机器审核方面,基于大数据精准化层级管理应用,对用户生产的内容数据进行等级管理,建立不同层级违规、违法内容数据库,通过人工智能技术对违规、违法等内容进行建模,并持续丰富完善模型数据库,提高审核效率和准确率
5、定义禁止出现的内容
可参考根据2019年1月9日中国网络视听节目服务协会公布的网络短视频内容审核标准的100条细则
(一)攻击我国政治制度、法律制度的内容;
(二)分裂国家的内容;
(三)损害国家形象的内容;
(四)损害革命**、英雄烈士形象的内容;
(五)泄露国家秘密的内容;
(六)破坏社会稳定的内容;
(七)损害民族与地域团结的内容;
(八)违背国家宗教政策的内容;
(九)传播恐怖主义的内容;
(十)歪曲贬低民族**文化传统的内容;
(十一)恶意中伤或损害人民军队、国安、警察、行政、司法等国家公务人员形象和共产党党员形象的内容;
(十二)美化反面和负面人物形象的内容;
(十三)宣扬封建迷信,违背科学精神的内容;
(十四)宣扬不良、消极颓废的人生观、世界观和价值观的内容;
(十五)渲染暴力血腥、展示丑恶行为和惊悚情景的内容;
(十六)展示淫秽色情,渲染庸俗低级趣味,宣扬不健康和非主流的婚恋观的内容;
(十七)侮辱、诽谤、贬损、恶搞他人的内容;
(十八)有悖于社会公德的内容;
(十九)不利于未成年人健康成长的内容;
(二十)宣扬、美化历史上侵略战争和殖民史的内容;
(二十一)其他违反国家有关规定、社会道德规范的内容;
根据细则描述,在涉政、色情、违禁、暴恐四大类的基础上,对违反《中华人民共和国英雄烈士保护法》、倡导历史虚无主义、违背公序良俗、不能正确引导未成年人正确价值观等内容需进行处理。