UGC信息审核——如何降低审核延时

9 评论 9643 浏览 112 收藏 10 分钟

对于一个成熟产品,我们在网上创建的任何UGC信息都会被审核,只是审核的方式各不相同,对审核速度的感知也不一样。本文对“降低审核延时”方面的内容进行了分析,一起来看一下吧。

18 年毕业,从毕业至今一直从事产品工作,工作的一部分一直和风控相关,只是不全是风控,以及不同时间段工作重点不同,做过包括直播风控、登录注册风控、审核体系搭建、生态治理、内容治理、内容安全、反作弊、风控中台等工作。

想结合着自己做过的、用过的、见过的、搜集资料研究过的总结成经验,在不泄露公司机密的前提下,尽量详细的写成系列文章。不只是复盘概念和框架,可能会是些具体的策略和直接可用的经验。

一方面作为自己总结经验,以后更熟悉的运用。另一方面可以为行业做一些贡献,毕竟,风控行业容易涉及公司机密、逻辑太隐藏,比较难能从公开资料学习到直接可用的经验。

打算先围绕曾经的 OKR 展开,即我做过的事项展开来写,先以各个小点切入,然后再放入整个风控框架中去,最终会形成下图的框架(未完全按风控架构的逻辑梳理)。

今天先聊一个问题,降低审核延时。

一、审核

非相关专业的人不一定很清楚,对于一个成熟产品,我们在网上创建的任何 UGC 信息都会被审核,包括头像昵称、签名,微信发布音频/视频/文件/图片/文本,微博、小红书发布动态,B 站发布视频等都无一例外。

只是由于机审/人审、先发后审/先审后发、隐性处罚/降低分发等导致我们不知道自己被审核了。

二、目标:审核速度满意度

我们团队有一个体验型的指标,审核速度满意度,即用户对所发布内容被审核时间长短的满意度,这个指标会影响生产者生产体验,进而影响他们留存。

一些人拿到这个指标可能就开始着手思考怎么降低审核延时了,但这是一个主观性的指标,最主要的是让用户感觉很快,而不只是在绝对值上做到真的很快。

三、用户不感觉到慢(感官)

我们产品原来在用户发布的内容上有一个状态,用户能看到自己的内容处于「审核中」,所以会觉得慢。权衡利弊后,将审核状态去掉,让用户对审核无感知。

注:不一定所有都适合去掉,得根据自己业务决定,例如我前司,是设计师上传自己的作品,然后被审核,这个就不适合去掉审核状态。

四、缩短审核延时(绝对值)

在去掉审核状态后,开始缩短审核延时绝对值,但也并不一定是需要针对所有用户统一缩短。

1. 降低部分用户延时

可以优先降低有被快速被审核需求的人的延时。

我们产品虽然不直接展示审核状态,但未经审核的内容依然不支持分享,用户在分享时依然会提示,当前作品正在审核中。所以可知,无分享需求的人对审核是无感知的,需要分享的人才知道审核的存在。

注:此为考虑安全原因,若未经审核的内容被分享出去,依然可能出现安全问题。

例如某红书就存在这个风险点,不管发布的任何东西,发布成功即可立即分享(未过机审,且和账号无关,我用新注册的账号发布确定违规的文本+违规图片测试过),可查看小图、部分文本,此时存在风险的内容已经被传播出去(读者朋友可以自行测试,但温馨提示,红线类内容不可随意乱试)。

但不知道他们是否是为了便于用户分享,是在考虑了风险和收益后,接受这种低概率风险存在的。下图内容还处于审核中,但可分享至微信,依然可看到部分文字和图片。

所以,我们可以针对不同渠道来源、不同等级、不同信用分、不同标签等调整审核优先级。

例如,有分享需求的用户,高优先级审核(具体判断有分享需求的用户,可根据自己产品来判断,这涉及具体逻辑,不适合展开写了)。

例如,无延时需求的内容,低优先级审核,如运营账号发布的内容(即使是公司内部员工,不同人对风险的把控、专业度也是不一样的,即使是运营人员发布,也有可能会触及风险点,也需要被审核)。

2. 降低全体用户延时

对于我们,延时长和短,只是相差了大约 10min。对平台分发几乎无影响,对用户消费几乎无影响,对审核无感知的用户也无影响。所以解决其他全体用户的延时已经相对没那么重要了,这里可简单提下我们用过的一些策略,对于其他产品可能有帮助。

1)基于数据分析发现当前延时的主要原因

——例如出现生产波峰,导致审核出现积压,则可调整人力安排。

——例如审核人员在审核列表上看了上百条后,才操作一次通过,导致大量内容已经被审核人员判断为通过,只是还未在界面上操作,导致内容一直处于审核中,则结合审核效率和审核延时综合考虑,将页面展示内容缩小到一定值。

——例如细化机审策略、优化机审的算法模型,提升召回率、准确率,进而提升机审直接处理率,减少推到人审量级。

——例如待审列表中还包含用户已删除内容,则将已删除内容从待审列表中踢出(用户发布成功立马删除,所以也不必要再审核)。

2)设置兜底策略

当延时≥一定值之后,则由先审后发流程,变为机审风险较小但又推到人审的改为先发后审流程。避免一些系统或人为原因,影响线上用户。

注:这需先评估对于你们平台先发后审的风险是否可接受。

3)设置对相关指标的监控

当延时≥一定值的待审量也≥一定值之后,可预警,邮件/短信或其他方式通知到审核管理,排查是否哪里出了问题。

五、对满意度提升效果

上面的这些策略大致从前到后,带来的满意度提升效果也是从强到弱。

还有很多细节、策略,以及如何思考的想详细写,但容易违反公司机密,还是不展开写了。

最后,大家有啥关心的话题可在评论中提出,对于我知道的,且不泄露公司机密的前提下,尽量托盘而出。

本文由 @Aaron 原创发布于人人都是产品经理。未经许可,禁止转载

题图来自Unsplash,基于CC0协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 写的真好

    来自湖北 回复
  2. 好奇,你们的满意度指标是怎么获取的,看nps数据吗

    来自湖北 回复
  3. 大佬看到 也可以加个微信聊聊哈!18600809134

    来自上海 回复
  4. 我这遇到一个问题:审核员每天都抢一些低危或一些简单好审的队列审核,一些高位队列总是放到最后凑量,容易造成积压。针对上面问题最近在思考派单模式,类似打车或者外卖的派单逻辑,就是审核队列待审内容按照队列优先级和积压情况进行混排,审核人员进入审核页面按照以上队列优先级领取待审内容,无法自己指定队列审核。 以上问题想请教下大佬,你这边有什么可以借鉴的经验或解决思路吗。感谢了~~~

    来自上海 回复
    1. 自动派单,根据待审任务的剩余审核时间做动态排序;可惜我们的研发说计算量太大,暂时没做…

      来自北京 回复
    2. 嗯嗯 响应时间做为一个策略权重项了,整体多个通道打乱排序,附加一些权重策略,先进先出,高权重优先分发

      来自上海 回复
    3. 研发不给力的话可以让审核组长或者管理人员给每个列表根据以往case 平均审核时长及难易程度配置权重,分配审核员每日专列表审核,轮流进行。灵活配置如临时病假等。管理人员实时监控业务池积压和延迟,突然出现某列表爆量,动态分配审核员。月底根据每列表审核量×权重计算最终审核量核算绩效。

      来自天津 回复
  5. 我有几个违规收审核的问题咨询,但是不太方便直接在评论中文,是否可以加好友沟通下v:hdd5664

    来自湖北 回复
  6. 人力岗投入成本大,在细节上更需要一些奇思妙想。提升用户体验重中之重,用的好满意度高产品知名度也会随之上升。

    来自山西 回复