平台直播自律白皮书

1 平台直播自律白皮书今日头条|抖音短视频|火山小视频|西瓜视频 012 平台直播自律白皮书 平台直播自律白皮书今日头条|抖音短视频|火山小视频|西瓜视频今日头条|抖音短视频|火山小视频|西瓜视频前言据国家统计局相关数据显示，近年来我国文化及相关产业保持平稳快速增长，占国民生产总值比重稳步上升，对促进经济转型升级、平稳健康可持续发展发挥了重要作用，我国文化产业正进入全面创新发展的新阶段，正朝着将文化产业在“十三五”期末发展成为国民经济支柱性产业的目标阔步前行。也正是在这样的背景下，网络直播行业迎来了蓬勃发展，直播凭借低门槛、高互动等特点揽获了大批用户，并不断改变着人们的社交、娱乐方式，成为广大人民群众精神文化生活中的重要组成部分。中国互联网络信息中心发布的数据显示，截至2018年12月底，网络直播用户规模已高达3.96亿。与此同时，随着网络直播行业的发展，网络主播们通过直播展现自身才华、追求美好生活、实现个人价值，网络直播也正在成为解决就业的新领域。但在直播行业蓬勃发展的同时，各种问题也相伴而生。有不少直播平台出现了涉黄、涉暴等违反法律法规和社会公序良俗的内容，造成了不良的社会影响。深入来看，网络直播在抵制不良内容方面面临实时性强、并发数多、审核维度多的等几大难题。实时性强，网络直播不同于文字、图片等内容类型，极强的互动性和实时性，给直播内容审核提出了违规内容必须实时阻断的技术要求。并发数多，网络直播平台主播数量庞大且流量高峰集中在晚间，短时间内大量直播同时开始并进行；审核维度多，直播内容、主播身份、观众互动、直播间周边等都是直播内容审核的构成部分。正是在这样的背景下，监管部门不断完善网络直播行业相关的法律法规。但直播行业的发展十分迅速，新业态、新形势和新发展层出不穷。这就要求，除制定严格的法律规章外，网络直播平台本身的平台自律也不可或缺。平台方必须不断完善自律机制，将社会监督与内部自律相结合，才能形成互相监督、互相促进、共同进步的良好风尚。 0302 平台直播自律白皮书 平台直播自律白皮书今日头条|抖音短视频|火山小视频|西瓜视频今日头条|抖音短视频|火山小视频|西瓜视频目录不断完善直播内容审核的流程与机制主播注册与开播的审查机制直播内容的审核机制用户举报监督的处理机制制定严格的内容审核标准和惩处制度严格禁止违法违规行为，并不断细化、更新行为规范制定直播违规分级处罚措施和主播安全分级制度致力于构建积极向上的直播内容生态机制化的主播挖掘、运营、培训体系产品化的观众引导与保护常态化的发起正能量话题挑战并引入优质内容0408101618202426283237所谓平台自律，是指直播平台作为直播运营方，需要严格遵守《网络表演经营活动管理办法》等相关法规制度，落实企业主体责任，严格主播资质管理，健全内部管理制度，强化审核队伍建设，加强从业人员培训，不断夯实自律基础。积极运用先进技术，通过大数据、人工智能、云计算等技术提升管理能力；积极接受社会监督，畅通举报渠道，健全受理流程，提升监督效果。近年来，今日头条、抖音短视频、西瓜视频和火山小视频均上线直播功能。今日头条、抖音短视频、西瓜视频和火山小视频四大平台对平台自律一贯给予高度重视，先后参照《网络表演经营活动管理办法》、《互联网直播服务管理规定》和《互联网信息服务管理办法》，制定了《直播间行为规范》、《用户信息管理制度》和《应急管理制度》等平台规章，建立了完备的直播审核体系，用行业内“最严”的标准规范直播内容和行为，营造健康绿色的直播环境。此白皮书即为四大平台自律工作的介绍和总结。有良好秩序，才有美好生活。推动直播行业健康有序发展，是社会公众的需求也是直播平台的使命。今日头条、抖音短视频、西瓜视频和火山小视频将不断推进平台自律工作，不断优化直播内容生态，促进行业健康发展，为营造清朗的网络空间添砖加瓦。第一章第二章第三章 0504 平台直播自律白皮书 平台直播自律白皮书今日头条|抖音短视频|火山小视频|西瓜视频今日头条|抖音短视频|火山小视频|西瓜视频做好平台自律，首先要建立、健全直播内容风险发现和防范的流程与机制，这是平台自律的坚实骨架。为了防范直播各环节产生的风险，今日头条、抖音短视频、西瓜视频和火山小视频平台建立了完整的审核流程。从主播注册&开播，到直播过程中，再到直播结束后的举报环节，层层加码，不断完善直播内容审核的流程与机制。 平台直播自律白皮书 平台直播自律白皮书今日头条|抖音短视频|火山小视频|西瓜视频今日头条|抖音短视频|火山小视频|西瓜视频 内容审核流程与机制1主播注册把关 ：“实名验证+人脸识别”，确保人证一致。未成年人等用户不允许开播主播培训：成立Live直播学院，提升主播艺能和内容安全意识构建主播信用管理体系，建立主播健康分制度，对主播进行安全评级常态化发起正能量话题活动：25分贝计划优质内容加权推荐：如传统文化表演直播构建积极向上直播生态407举报监督，净化生态直播间观众行为指导5观众青少年模式过滤：无法开播、无法看直播、无法充值未成年人识别：资料验证+视频图像抽帧识别未成年误充值退款机制：用户提供资料，平台核实后退还未成年人用户保护机制3实现直播间无死角、全覆盖式审核。范围包括直播间行为、主播及用户个人资料等“机器+人工”高效审核审核标准实时更新、落实细节直播内容审核206 平台直播自律白皮书 平台直播自律白皮书今日头条|抖音短视频|火山小视频|西瓜视频今日头条|抖音短视频|火山小视频|西瓜视频 一、主播注册与开播的审查机制《互联网直播服务管理规定》第十二条规定：互联网直播服务提供者应当按照“后台实名、前台自愿”的原则，对互联网直播用户进行基于移动电话号码等方式的真实身份信息认证。今日头条、抖音短视频、西瓜视频和火山小视频的直播平台实行严格的实名开播制度。成为主播前，必须登记包括但不限于真实姓名、联系电话、身份证号码等相关详细，并通过芝麻信用进行人脸认证，以保证“人证一致、有案可查、有据可依”。直播的内容风险，主要来自网络主播的不良言行。在主播注册、开播环节加强主播资质的认定和审核、主播资料的核查与留底，让审核机制和平台自律从直播的源头环节发挥作用，才能防患于未然。1、主播的实名注册根据国家的相关法律法规，开启直播必须进行实名认证审核，是否去认证？取消现在去提示火山直播平台主播注册步骤2、开播的资质判定平台自律，除严格规定“具备什么资质可以开播”之外，也对“什么资质的用户完全无法开播”制定了相应标准。在今日头条、抖音短视频、西瓜视频和火山小视频的直播平台上，以下用户不允许进行主播注册和开播： 不满十八岁的未成年人 港澳台、外籍人士（需向监管部门报备同意） 曾被列入身份证黑名单的用户注：芝麻实名认证只支持中国大陆身份证。身份证黑名单用户均为严重违规用户，拉黑身份证时，对其身份证认证过的历史账号，也采取永久封禁账号处理。填写用户身份信息，如真实姓名、联系电话、身份证号。签署主播签约协议。主播阅读完“主播签约协议”，明确自己的权利和义务后，点击同意协议。利用芝麻认证，进行人脸识别，确保开播人和身份证持有人一致。第三步第一步第二步1230908 平台直播自律白皮书 平台直播自律白皮书今日头条|抖音短视频|火山小视频|西瓜视频今日头条|抖音短视频|火山小视频|西瓜视频 1110 平台直播自律白皮书 平台直播自律白皮书今日头条|抖音短视频|火山小视频|西瓜视频今日头条|抖音短视频|火山小视频|西瓜视频二、直播内容的审核机制1、内容审核范围直播内容，是直播行业风险的主要载体，也是审核机制和平台自律发挥其作用的重中之重。直播平台上的所有内容都需要经过系统审核，审核通过后才会被推荐给用户。今日头条、抖音短视频、西瓜视频和火山小视频的直播审核系统采用人工审核和机器模型拦截相结合的方式。截至2019年5月，以火山小视频为例，火山直播平台上的违规内容：营造清朗的网络环境，应实现对直播平台内所有内容的无死角、全覆盖式的审核，压实平台的主体责任。在今日头条、抖音短视频、西瓜视频和火山小视频的直播审核系统中，直播内容审核不仅指主播在直播间的行为，还包括了主播及用户在直播平台上的所有个人资料、直播、发言等。包括但不限于：112235674关注XXXXXXXX:X XXXXXXXXXXX XXXXXXXXXXXXXXXXXX:X XXXXXXXXXXXXXXX:X XXXXXXXXXXXXXXXXX:⋯⋯X XXXXXXXXX XXXXXXXXXX6784XXXXXXXXXXXXXX35关注XXXXXXXX:X XXXXXXXXXXX XXXXXXXXXXXXXXXXXX:X XXXXXXXXXXXXXXX:X XXXXXXXXXXXXXXXXX:⋯⋯X XXXXXXXXX XXXXXXXXXX火山号：xxxxxxxxxxx举报关注主页@TA1XXXXX28主播行为个人昵称头像直播间封面直播间背景直播间标题直播间贴纸直播间行为个人昵称头像直播间评论用户行为根据法律法规和监管部门要求，今日头条、抖音短视频、西瓜视频和火山小视频制定了一套严格的审核标准《直播间行为规范》以及对应的违惩制度，打击直播间的违规行为（具体内容详见第二章）。这套标准不仅规定了主播行为的基本准则，也列出了每一个具体的违规行为，将监管部门的要求落实到细节中、落实到实处去。以色情低俗为例，在监管部门“禁止一切色情、大尺度、带有性暗示直播内容”的要求和方针下，今日头条、抖音短视频、西瓜视频和火山小视频的直播审核系统列出了现已知的所有带有性暗示的行为，如色情偷拍、展示动物性行为、两性话题等。针对每一个违规行为，直播平台会根据严重程度给予中断到永久封禁的不同处罚。此外，社会公序良俗也在平台制定标准的考量范围内。哗众取宠、恶搞、拜金、抽烟喝酒、迷信封建、侮辱女性等内容，都被直播平台严厉禁止。面对层出不穷，花样百出的违规行为，审核标准会不断进行调整和更新。每周，直播平台的运营人员会根据一线审核人员反馈的案例和运营需求更新标准。如有突发的舆情和指令，标准会做到实时调整。2、内容审核标准《直播间行为规范》在主播页面上被突出展示，以提醒主播遵守规则火山直播平台列出了低俗歌曲的曲目一上线即被平台的审核流程直接拦截由用户举报后也被迅速拦截现平台日均拦截违规直播间超过个93%24007% 13 平台直播自律白皮书今日头条|抖音短视频|火山小视频|西瓜视频3、内容审核流程抵制和防范网络直播中的不良内容，如同加强版的捕鱼，不仅要捕到鱼，更要求不能有漏网之鱼。直播平台的内容审核标准是渔网的力度，决定了是否能捕到鱼；直播平台的内容审核流程则是渔网网格的密度，决定了是否会有漏网之鱼。对于直播间内随时变化的直播内容，实时监测一直是网络直播平台的一大难题。在设计直播审核流程时，今日头条、抖音短视频、西瓜视频和火山小视频采用了“机器+人工”的方式。今日头条、抖音短视频、西瓜视频和火山小视频将人工智能技术广泛应用在了直播审核工作中，通过神经网络视频理解模型、语音识别、智能关键词等技术，“机器”帮助审核人员第一时间发现和锁定违规直播内容，保证了直播内容审查的准确性和全面性。对于机器发现的疑似违规直播间，审核人员会进行逐个细致审核。而针对机器模型认定不违规的直播画面，直播平台也有“机器兜底策略”：由人工复审团队抽检机器放出的直播间是否违规。直播平台正在不断升级审核技术，优化审核策略并收到了良好的效果。经长期治理，2019年的直播间违规率已同比下降了58%。直播间违规率58%同比下降20182019评论自见／禁言直播中断直播推荐／自见消息推送处罚用户01010101000 110101010111011101直播审核系统风险评估体系机器模型数据类型实时高危审核评论监控审核图片审核实时热门审核切片视频审核 其他周边审核质检进行双审回执风险模型语音识别技术词表管理反作弊调用送审人工审核操作命中机器模型直播画面封面标题评论语音举报信息其他周边数据输送12直播平台人工审核后台消息回执 平台直播自律白皮书今日头条|抖音短视频|火山