阿里聚安全2015内容安全年报

1/ 15 2/ 15 摘 要  UGC内容在互联网+环境下剧增，执法机关管控力度趋严。随着互联网+的发展，UGC类交互网站、移动应用等渠道在互联网的占比越来越重，信息量的增长也带来内容安全隐患的增加，随着“净网2015”等专项活动的展开，国家立法机关对网络违禁信息的管控力度逐步趋严。  2015年重大信息安全事件频繁爆发，内容安全防控形势依旧严峻。北京三里屯优衣库不雅视频事件、快播公司涉黄事件等引起全民讨论的信息安全热点事件,无一例外的发生在具有交互性质的平台上。其特点在于交互信息的来源不可预测,传播速度快,对传统纯粹依靠人力审核、规则判断的信息安全管控带来了极大的挑战。  内容安全管控难点重重。如：不了解国家内容安全管控标准、无完整的情报运营体系、无完整的内容安全运营体系、无专业算法或技术能力、信息安全投入精力多、成本大。  未来内容安全管控依然面临巨大挑战。如社区化趋势将更加凸显、信息产生的实时性提升了信息安全事件预警的难度、内容形式的多样性提升了违规内容识别的难度、事件传播的爆炸性提升了违规事件处理的难度、社区分类的垂直性提升了对信息安全管理专业化的要求。 3/ 15 目 录 摘 要 ............................................................... 2 第一章 2015年内容安全形势 .......................................... 4 1.1. 随着互联网发展，各类渠道产生的UGC信息越来越多 ........... 4 1.2. 2015年，国家在法律法规层面加强了对网络信息内容安全的管理 . 5 1.3. 近年来，执法机关对互联网违规内容的管控和处罚不断趋严 ..... 5 1.4. 2015年内容安全事件频发 ................................... 6 第二章 内容安全的管控难点及解决方案 ................................. 9 2.1. 内容安全管控的主要难点 ................................... 9 2.2. 阿里聚安全信息安全解决方案 .............................. 11 第三章 未来内容安全管控的新趋势 .................................... 13 3.1. 信息产生的实时性带来了内容安全事件预警的挑战 ............ 13 3.2. 内容展现方式的多样性带来了违规内容识别的挑战 ............ 13 3.3. 事件传播的爆炸性带来了违规事件应急处理的挑战 ............ 14 3.4. 社区分类的垂直性提升了对内容安全管理专业化的要求 ........ 14 4/ 15 第一章 2015年内容安全形势 随着互联网业务的迅速发展，互联网上的信息内容带来了爆炸式的增长。由于缺乏对网络活动进行有效监督和管理的措施，致使互联网内容安全风险增加，在网络上传播赌博、色情、暴力等内容的事件层出不穷，严重污染了整个互联网的环境。2015年，国家对非法信息整治的法制不断完善，各行业也越来越重视。 1.1. 随着互联网发展，各类渠道产生的UGC信息越来越多 不同行业，对信息安全的要求和重点也有不同，信息内容的展示途径也有所不同，当下的途径可分为以下四类： （1） 平台服务商 （2） UGC类网站或移动应用 （3） 非交互网站 （4） 非交互移动应用 图1 信息内容展示途径的分类 随着互联网的逐渐普及和网络技术的不断发展成熟，用户与渠道的交互无处不在。UGC类交互网站、移动应用在互联网中的占比也越来越重，它们逐渐成为人们生活中获取信息的主要工具。但与此同时，信息内容安全风险也在迅速增大，如何保障信息安全、快速、准确传递，如何建立信息安全联动机制，共同维护互联网行业健康发展，迫在眉睫。 5/ 15 1.2. 2015年，国家在法律法规层面加强了对网络信息内容安全的管理 《中华人民共和国刑法修正案（九）》开始施行，该法案于2015年11月1日起施行，其中有不少条文针对高发、多发的网络违法行为增补新罪。如《刑法修正案（九）》第二十九条，新设刑法第二百八十七条之一，将当前借助互联网实施危害社会的一些网络行为予以入刑。该规定的范围涉及设立网站、通讯群组、发布消息的上网行为，还包括在网络空间传授犯罪方法的行为，与网络用户都息息相关。 《网络安全法》和《反恐法》草案也已逐步向社会各界公开征求了意见，立法机关正在按程序推进。 1.3. 近年来，执法机关对互联网违规内容的管控和处罚不断趋严 忽视内容安全有可能会面临严重后果，2015年扫黄打非办组织了“净网2015”专项行动，深入整治网上淫秽色情等有害信息，严厉打击制售传播淫秽色情信息的违法犯罪分子，对违法违规的互联网企业和相关责任人进行严肃处理，坚决斩断传播链和利益链，有效净化了网络空间。 通过“净网2015”专项活动，在互联网战场共处理59起网络淫秽色情重点案件,如江苏张家港“1·26”微信传播淫秽物品案、天津“3·10”贩卖传播淫秽物品案等。截至11月份，已宣判13起，行政处罚结案11起。同时各地有关部门共查办此类案件1215起，关闭淫秽色情网站20650个，删除各类有害信息100余万条。 在2015年5月底至7月底、8月初至9月底的两次重拳整治“微领域”行动中,国家扫黄打非办先后公布了34起微领域传播淫秽色情信息案。一批违法违规企业被依法处罚，一批违法犯罪人员被严厉惩处,其中广东省相关部门关闭违法空间、微博主页12万余个，解散违法通讯群组3100个，关闭微信账号293个、微信公共账号36个；浙江查办嘉兴平湖金某利用微信群传播淫秽物品案等7起利用微云盘、微信平台传播淫秽色情信息的重点案件，形成震慑；江苏健全技术监控平台，对全省粉丝量5万以上的1100多个微博账号逐一排查，形成全网监测体系。 6/ 15 图2 2015年全国扫黄打非专项活动 未来，国家执法机关将会持续开展相关专项整治行动，深入排查“利益链”，依法追责，严加整治，维护社会和谐稳定，确保绿色网络。 1.4. 2015年内容安全事件频发 回顾2015年内容安全热点事件,无一例外都发生在具有交互性质的平台上。其特点在于交互信息的来源不确定、传播速度快,对传统纯粹依靠人力审核、规则判断的内容安全管控带来了极大的挑战。  7.15北京三里屯优衣库不雅视频事件 2015年7月14日晚，一段拍摄于北京优衣库三里屯店的不雅视频在微信朋友圈被大量转发。随后该视频被转发至微博平台，开始大规模传播发酵，2小时内转发量过亿。 7/ 15 图3 优衣库不雅视频事件发展流程  “17”APP涉黄下架事件 2015年9月29日，“17”APP被Apple Store和Google Play相继强制下架。据报道，下架的原因是因为8月28日和9月3日的两次严重直播涉黄事件。2015年8月28日，一男童在“17”APP上直播妹妹洗澡过程; 2015年9月3 日，一对男女在“17”APP上直播性爱过程。 在下架前，用户总量已经达到700万人，日活跃用户数达70万人。 图4 “17” APP涉黄下架事件发展流程 8/ 15  快播公司涉黄事件 2015年2月6日，深圳快播科技有限公司王欣、吴铭等人因快播平台涉嫌传播淫秽物品牟利罪已被海淀区人民检察院提起公诉。北京市海淀区人民检察院认为，快播公司及其主管人员王欣、吴铭、牛文举、张克东的行为均已触犯了《中华人民共和国刑法》第三百六十三条、第三百六十六条、第三十条、第三十一条之规定，构成传播淫秽物品牟利罪。 图5 快播涉黄事件流程 9/ 15 第二章 内容安全的管控难点及解决方案 2.1. 内容安全管控的主要难点 近年来，随着快播等重大信息内容安全事件的不断发生、新法规的不断出台以及社会关注度的不断提升，信息内容安全管控已不仅是各政企事业单位的重点，也逐渐演变成社会热点问题和国家信息安全层面的问题。然而管控好信息安全，也存在以下难点。  不了解国家信息安全管控标准 国家已先后出台《互联网信息服务管理办法》、《计算机信息网络国际联网安全保护管理办法》等多部法律法规要求，如何解读这些相关法律规定,如何定义违规信息,如何把握管控尺度等,需要有与政府及监管单位的沟通渠道，以及时掌握国家管控的‘风向标’。  无完整的情报运营体系 违规信息管控的关键还在于如何从庞大的信息中收集相关情报，并做出快速响应。当今社会信息布点广泛，传播有多重途径，每个分散的传播节点都可能成为信息爆发的节点，若无爬虫相关技术或专门舆情收集系统，仅单纯依靠人工进行单点信息收集，运营成本较大的同时还有可能造成信息遗漏;将繁冗并且错综复杂的信息提炼成可运用可部署的信息安全情报也需要专业人员的支持。 面临“无渠道”、“无数据”、“无系统”、“无专家”的多重境地，信息安全的管控耗费大多数企业的运营成本与精力。 图6 完整的情报运营体系 10/ 15  无完整的信息安全运营体系，无法及时应对违规事件 如果要做到违规信息的全覆盖，并对违规事件能够实现快速响应，则需要完整的信息安全运营体系，包括情报、风险运营、规则优化、算法迭代等各个链条，是一套完整的运营体系，而一般的企事业单位无内容安全的管控经验并且无相关能力，以优衣库事件为例，如果拥有完整的运营体系，则在紧急事件的应对上会更从容。 图7 优衣库不雅视频事件的信息管控处理流程  无专业算法或技术能力 处在互联网飞速发展的时代，很多企业迅速崛起，但是信息安全检测却跟不上业务前进的步伐。仅依靠人工进行信息审核过滤，人力成本巨大，随着审核团队不断扩大，团队的人员管理也是管理者需要面对的问题。 依靠智能机器识别内容是必然的选择，但是从技术角度上看，想要做好机器智能识别内容并不容易，首先，要有专业的算法团队去支撑产出算法模型。其次，为了保证算法模型的高准确率、高召回率需要海量的样本及机器资源去学习和训练，而海量的样本又需要做打标之后才能投入训练，临时性人力投入巨大，无法做好人员管理。再次，如何获得丰富的样本，迅速的进行样本分类打标，以供算法训练迭代也是痛点。  信息安全投入精力多、成本大 1、精力多：除资金和人力的成本投入外，信息安全管控还需要企业投入大量时间、运营、审核、计算等多方面精力，而且即使投入也未必在短时间内能有显著效果。 2、成本大：传统的信息安全管理手段主要依靠全量的人工审核，然而随着人力成本的增加及人力的局限性，不仅无法保证违规信息的全量覆盖，还在成本上对企业造成巨大的负担，而且随着业务的快速增长，依靠人工的管控模式扩展能力差，无法跟上业务发展的节奏。 11/ 15 2.2. 阿里聚安全信息安全解决方案 针对于这些难点，阿里聚安全推出了内容安全产品，为用户提供一站式的内容安全服务体验，帮助企业、开发者在复杂多变的互联网环境下快速发现文本、图片、视频内的违规内容，保障业务的信息内容安全。 图8 阿里聚安全–内容安全产品功能  推出全链路的信息安全服务 阿里聚安全-内容安全以“服务体验”为核心，从业务实践、舆情情报分析、数据样本收集、业务场景细分、众包打标、算法迭代6个环节打造全链路的内容安全服务体验。 图9 阿里聚安全-内容安全全链路的信息安全服务体系  助力“爱唱”，建立智能化内容安全运营模式 以前主要依靠人工方式对公开信息进行内容审核，但由于无相关技术或算法能力可能会造成风险的遗漏，另外随着业务的快速增长， 无法及时找到熟悉业务的审核人员，另外也可能带来人力成本的大幅度增长，阿里聚安全能有效解决以上问题，并且通过阿里聚安全提供的人工智能内容安全识别服务，本来需要1天审核的数据半天就能