被忽视的内容安全,App领域成了重灾难区
近年来,各类互联网企业接连不断因内容违规问题被罚。
企业有意自查,对内容进行把控,却处处是难题。
行业到底怎么了?或者,更多想问的是我们的内容安全屏障到底怎么了?
各家互联网平台都不约而同地开始升级风险管控力度,预防网暴能力,新上线“风险提醒”“发文警示”等功能,整治不当私信和不当评论,推动形成预防网暴的合力。
在加强风险管控的背后,是网暴已达到猖狂的程度。
就拿近期的案例而言,上海姑娘因打赏外卖员200元被网暴跳楼;19岁女孩直播中被怂恿喝农作物药品,类似事件则多次被推上热搜,而这只是互联网内容安全问题的冰山一角。
今年3月份,人民日报连发三篇评论斥责网暴。
更早之前,中央网信办也开展了“清朗·2022年春节网络环境整治”专项行动,其中重点整治任务中,排在首位的就是“网暴、散播谣言等问题”,包括借疫情、社会热点事件等挑动,进行人肉搜索、攻击等情况。
针对此次专项行动,中国信通院与网易、博特智能等企业在2022年也完成了面向互联网信息服务类企业的《内容审核体系成熟度评估规范》,该规范将能帮助互联网信息服务类企业全方面梳理内容安全体系,及时查漏补缺,协助互联网信息服务类企业开展“自查自纠”。
就在近期,中国信通院再次牵头会同阿里、网易、中国移动、博特智能、YY直播、映客直播等互联网信息平台、机器审核服务商,召开了内容审核机审能力调研会,重点对互联网信息平台在文本、图片、视频、音频领域的机审能力进行了深入调研,将为国家有关部门开展后续规范工作提供科学依据。
这也预示着内容安全领域的相关行业标准即将出台,平台对展示用户内容的审核负责任,将被正式规范约束。
内容安全 有些不安全
不断产生的海量内容,不仅代表着更多的流量,也预示着巨大的内容风险藏身其中,更可能导致社会性的事件。
如何保证内容的合规和安全,把控内容的风险,既是一个行业挑战,也是一个巨大的商机。
如果把目光从国内转向国外,你会发现,App内容巡查平台,内容安全在全地球已经发酵到了“难承其重”的程度,成为不少事件发生的开始。
欧盟在2016年就宣布与Facebook、Twitter、YouTube和微软就控制网络不法言论展开合作,互联网巨头们集体签署了一项行为准则,承诺“接到举报后24小时内屏蔽和删除相关言论”。
国际上的互联网巨头为何如此高度地配合,甚至到了舍生忘死的程度?究其根源在于监管力度的不断加码,App内容巡查重要性,如果没在规定时间内下架相关内容,将面临高达5000万欧元的罚款,平台还必须每六个月上报一次自己对犯法内容的处理结果。
回到国内,监管力度同样保持高压红线。
但因内容审核把握不严,App内容巡查软件,屡被处罚的企业依然不少,难道是犯法成本太低了吗?
据不完全统计,2015-2021年期间,电商、图片版权、企业服务、社交、网络文学、直播音视频、影视、出海、教育、信息平台、网络文学行业,App内容巡查,近2万多个互联网产品服务因不同程度涉网暴等违规受到监管处罚,严重者更被下架整改数月。
其中不乏国内耳熟能详的互联网企业产品,而App领域则成了内容安全频发的重灾难区。
强监管只是影响结果的其中一个因素,但要把内容安全完全依靠于它,就有点牵强。
那客观来说,我们应该依靠什么来战胜“互联网毒瘤”?
内容巡查
不同业态可配置不同巡查标准
提前设置计划巡查时长,通过巡查用时(超时完成、提前完成、平均用时)等数据,分析各巡查路线用时区间数,辅助管理者制定合理的巡查时长。
内容巡查实现人员排班智能化、任务调度自动化、巡查作业移动化、监管考核实时化、业务数据可视化。
对巡查结果进行人工校验,人工拓展挖掘。
准确掌握海量挖掘数据和内容巡查路径。
App内容巡查-信工博特智能科技公司-App内容巡查重要性由北京信工博特智能科技有限公司提供。
“博特智能稿件审核,APP内容巡查,网站与新媒体内容监测”选择北京信工博特智能科技有限公司,公司位于:北京市朝阳区光华路SOHO1期,多年来,博特智能坚持为客户提供好的服务,联系人:葛总监。
欢迎广大新老客户来电,来函,亲临指导,洽谈业务。
博特智能期待成为您的长期合作伙伴!