编辑导读：你能在一个平台看见的内容必定是经过平台审核合格之后出现的，这其中就包括机器审核和人工审核。审核是对产品风险的把控，是维护网络生态环境中重要的一环。本文将围绕平台的内容审查系统进行分析，希望对你有帮助。

所有的互联网产品，在发布内容的时候都会面对层层的审核。审核是对产品风险的把控，尽可能减少产品中出现的“垃圾”内容，维护网络生态环境。

内容是由多方面组成的，一条“合格”的内容想在网络上传播，根据平台调性的不同，会需要全方面的审核，但是内容安全审核是所有平台必不可少的，以下简单地为各位介绍审核系统的逻辑。详细的拆解之后会单独再拿出来写，希望可以帮到各位理解内容审核系统。

一、审核系统的目的

审核系统的目的，总的来说可以分为三部分:

• 对前端平台风险的把控
• 量化并提升审核人员的工作效率
• 促进平台业务方向的增长

二、构建审核系统

1. 对前端平台风险的把控

平台审核系统最核心的目标其实就是对前端平台风险的把控，尽可能将威胁到平台安全的内容及时检查并清理。对于风险的把控主要可以分为两部分，一是机审，二是人审。

平台风险，怎么解决平台风险，用户发布内容会经过层层的审核，通过机审→人审→质检的过程，尽可能提前的发去现和解决风险。

• 机审：按照制定好的规则对内容进行审核，审核规则也需要根据政策和平台现状一直去维护，一般机审可以帮助过滤90%以上的内容。确定有问题的会被自动删除，边界比较模糊的会进入人工审核。
• 人审：机审无法判断的边界模糊的内容会进入人审，虽然机审帮咱们过滤了很多，但人审部分还是必不可少的。

YouTube 在今年初，将内容人工审核团队大量裁撤，全部替换成为 AI 进行内容审核。在今年4-6月的所有内容审核都没有人工的参与，导致被下架的视频数几乎翻了一番，大部分用户发起申诉后有半数视频都通过了人工二次审核重新上线。

质检：通过抽样的方式，对机审抽样来判断机器的审核规则是否过于严厉，对人审抽样来判断审核同学的工作是否符合标准。也可以通过对平台内容的巡检，来看是否存在没被发现的问题。

2. 量化并提升审核人员的工作效率

对于企业来说，判断是否需要系统支持业务，最大的希望肯定是这个系统能帮助企业赚钱，或者说是能帮助企业省钱。审核系统对于内容平台来说，没有很好的办法去刚正面，去实打实的赚钱，但是可以帮助企业节约一部分人效上的开支。

对于新来的审核同学：对于新入职的审核同学来说，咱们最希望的肯定是他能尽快熟悉系统，能尽快上手开始操作走流程，在实际操作过程中，能尽可能少的遇到问题，就算遇到了问题也能尽快解决，尽量不要去影响平台内容审核的时间，能让用户有更丝滑的体验。针对这方面，咱们可以给一些专业名词增加字段解释，让审核同学一下就能看懂。还有设置专门的操作流程使用说明，定时维护，这样新入职的审核同学也能尽快上手遇到问题能快速解决。

对于现有的审核同学：系统对于已经能熟练操作的审核同学能带来的更多的是一个帮助提升审核效率和规范的作用。提升时效让审核同学审的更快更方便，比如系统帮助审核同学审核文字的时候高亮关键词，审核视频的时候保证抽帧图的准确和及时等。规范操作其实也可以理解为让审核同学的每一步操作有迹可循，所有关于审核的操作全部记录下来，比如审核时长，审核时效，页面停留时长等，这样既保证了内容在平台内流通的时效，也保证了人员不会被浪费，由量化工作去提升人效。比如可以自定义一屏的展示条数，增加审核同学的效率。

3. 促进平台业务方向的增长

一个完整的平台，后台支持系统是必不可少的一部分。审核系统更多的是规避风险，但同样也可以促进平台的增长。

审核系统对于平台的影响可以从以下几个方面去考虑：

• 审核效率，优化进审时间和机审时间，根据报表反馈数据去判断按平台每个时段数据量的多少去分配审核人员，提升审核效率。让用户的情绪及时得到传播。
• 报表数据准确，定期产出系统数据周报月报，根据审核内容数据量的多少和提前预设的标签，也可以得出平台的现状和面临的问题，使用“数据+标准=结论“的方式定期产出周报，帮助平台实现增长。

三、总结

以上是我对审核系统的理解和一点看法，希望能帮到各位理解内容审核系统。

本文由 @Five 原创发布于人人都是产品经理，未经作者许可，禁止转载。

题图来自 unsplash，基于CC0协议