上海总部的审核力量本身不足,而且内容审核这个工作的离职率相当高,年前离职的空缺,年后因为疫情,一时也不能快速补充新的人进来。
一面是入水口变粗,一面是出水口变窄,自然泡在审核池子里的稿件就越积越多。
3. 新规定带来新的审核标准
去年12月,国家网信办针对互联网内容乱象,出台了《网络信息内容生态治理规定》,明确了网络信息内容服务平台的责任,从2020年3月起正式开始实行。
在刚刚开始正式施行的这一关头,谁都不敢松懈,B站也相应地调整了审核尺度的把关,同时,由于新规定需要更多的培训向基层审核人员普及,也需要时间适应。
4.B站的内容风控审核机制
相较于其他平台,B站的审核属于比较慢的那一种。这当然是由于国情使然,不过也反映出了平台审核机制的效率问题。如何利用机器审核和人工相配合,如何权衡效率和成本,是B站亟需想明白的问题。
插一句,不存在思考“效率和标准松紧”的问题,内容风控不容半点马虎,必须以最严苛标准为准绳,一条违规信息,都可能导致整个平台万劫不复。
二、内容风控策略的核心要点是什么?
对于一款产品来说,其基本业务框架的抽象模型可以总结为“业务”、辅助业务的“增长”、保障业务的“风控”和支撑以上三点的“数据”。
“业务”自然是产品最关键的地方,“增长”“风控”和“数据”都是辅助业务良态运行。对B站的内容业务来说,协调内容生产者和内容消费者,形成良好的内容生态是关键的核心,辅以用户增长(包括用户增长和创作者增长两个方面),并且对社区进行风控。
通过业务的发展和增长、风控的积累,形成用户基础数据、注册信息、浏览行为、视觉偏好、用户标签等数据,然后通过这些数据,再反向支撑业务发展,形成产品内的数据打通。
本文所要着重分析的,就是风控这一环节。 金融产品、信贷产品有风控非常好理解,但其实,所有类型的产品都需要有风控。电商产品要防薅羊毛,社交产品要防欺诈,而内容产品,则是要对平台内容的质量和合规性进行风险控制。
对于内容社区等UGC产品来说,风控线就是生死线。内容和社区产品的风控压力来源于监管侧,风控对象是用户在平台发布的内容。
1. 内容风控要“控”什么?
来自内容侧的风险主要有三类。
政策层面的内容合规,要符合监管的要求。
监管要求的内容可参考最新实行的《网络信息内容生态治理规定》,对于各项违规内容都做了详细规定,大致概括可分为涉政、违禁、暴恐、色情等四类,这部分是政策红线,一旦触及,轻则约谈,重则下架、封禁。
社区氛围的良性导向,如谩骂、隐私等。
这一类型的内容虽然不会触及监管红线,但倘若内容社区充斥各种负能量,对于社区氛围是非常严重的损害,伤及用户体验,导致用户流失,影响产品商业利益。
这一类型内容风控还包括对于产品运营主体的保护,例如对吐槽公司工作人员的内容进行限流处理、对平台和产品的诅咒进行删除等,属于商誉和公关层面的维护,同时也是对产品官方公信力的维护。
社区用户安全的保证。
对于内容和社区产品而言,平台内一定会存在导流、灰产、诈骗等不法手段,如何保护平台内用户的财产安全和产品体验,是非常关键的,互联网发展至今,导流、诈骗等行为往往是成熟的灰黑产产业链所为,他们拥有丰富的反监查和防过滤经验,揪出他们并进行处理,需要平台与其斗智斗勇。
2. 内容风控的方法和手段
在最早期的阶段,对内容进行风险控制,只能通过编辑人工进行审核。这种方式需要大量的人力物力,而且稿件审核需要时间长,时效性也被大大削弱。一般的公司,很难负担起庞大的内容审核团队。
之后,诞生了关键词过滤等手段,成为成本较低,并且使用最为广泛的内容风控措施。对于命中预设的违禁关键词的内容,直接阻止发出或者转交人工审核。这种方式性价比极高,耗费成本小,但基本可以过滤掉大多数的违规内容。