内容安全专家谈：如何成为专业型人才？

    2022-04-19 22:18:13　来源: “网络安全研究”微信公众号

    作者简介：

    一刀老师，互联网内容安全行业资深人士。曾任职多个互联网头部平台，负责多款亿级DAU产品内容安全业务，在策略管理、团队管理、政府事务等方面拥有十余年积累。本系列文章是一刀应国信网安邀请对内容安全从业者进行分享。

    国信网安也欢迎内容安全同仁投稿、分享。

    本系列将分三期《内容安全业务专业篇》、《内容安全业务管理篇》、《内容安全行业价值篇》在国信网安公众号“网络安全研究”进行连载分享，本期为第一章《内容安全专业篇——如何成为专业型人才？》。

    审核员作为内容安全行业常见的入门岗位，经常被人“诟病”门槛低、没前途。有句话说“事在人为”，还有一句话说“三百六十行，行行出状元”。这两句话都试图传递给我们一个信号“任何事物只要投入努力和热情，才能获得成功”。在内容安全行业也是一样，入门职级与高级岗位并存，且是递进关系。这个行业不乏年薪几十万、上百万的资深经理、总监，甚至还有更高的职位和待遇。入行门槛低也正是方便切入的一个机会，通过刻苦积累、优质成长你也可以成为百万年薪的一员。当然门槛低也不代表任何人都能踏进来，也需要你在知识储备、业务素养、学历学识方面有一定基础。

    今天我们就聊聊，我们如何才能成为有深度的内容安全专业型人才？

    内容安全业务的专业度如果按照一定逻辑和适配度去归纳，可以从审核体系复杂度和审核团队规模递增两方面来看。

    如图举例这些岗位的核心职能（岗位较多，仅以初审、质检、回查举例），根据不同产品形态、不同架构体系会有略微的差别。但是从内容安全风控体系的视角看，只有达到了职能所预期的价值，才可以确保产品的内容安全，绝非只是有“这个角色”就够了。

    职责权重的升级、团队规模的递增，不仅仅是职责和数字的变化，而是个人、团队的专业度是否能承担责任、解决问题、达到目标。

    如图中所示，风险拦截是内容安全最基本的目标，也是需要长久维持的能力。风险拦截是基础，在风险拦截之上还需要多一份保险，就是风险兜底。同时对于风险的拦截还需要前置，风险前置则需要更精深的专业度。

    风险拦截、风险兜底、风险前置三项搭建扎实后，就要开始兼顾内容质量（用户体验、内容优质度）。

    在做内容质量的同时，仍需谨记“风险拦截”能力永远是内容安全部门的核心职责，如果丢弃，不仅人站不稳，楼还会塌。最上层，定义为“平台责任”，如果做到这一步，那这个产品才能实现用户体验、内容安全、内容质量三驾马车的并驾齐驱。

    上图，是想传递一个信号，不管你处于内容安全行业哪一个角色，都需要“专业度”，随着你的工作年限增加，“不可替代”的属性也随之增加。因为内容安全行业崛起的时间并不长，行业内仍然极度缺乏专业人才。

    有一个机会很多、薪资又极高的岗位，这里展开聊聊：

    “策略专家岗”

    该岗位至少有三个职责内涵：

    1、规则制定：制定审核规则，指导一线对内容进行标准操作；

    2、策略制定：根据治理目标，制定具体安全动作、产品策略；

    3、项目管理：跨团队协调进度、推进策略落地、达到安全目标；

    “规则制定”其目的是为一线审核操作人员提供参考标准，追求的是N个人的统一认知，这样才可以保证平台所有内容对观众、对发布者是“一致的”。

    首先，一线审核岗不是一个人，而是一群人，甚至几千人。“一千个人就有一千个哈姆雷特”，所以认知差异是普遍存在的。

    解决认知差异，就要尽量避免“主观”判断，在规则书写时，尽量避免如“性感、引起不适”等务虚的词汇。内向型可能觉得穿背心就是性感，外向型会觉得只要不透视就都不算性感。

    其次，规则是否大而全。通过不断丰富的案例去补充标准覆盖面是没有问题的，但是需要善于总结这类内容的核心操作方针。比如，针对低俗舞蹈，核心是对其动作色情诱导，着装暴露进行管控。在这个统一认知下，可以列举如钢管舞、软功等常出现低俗画面的舞蹈种类和案例。总结来说，核心提炼是统一认知的关键，细节是辅助或验证认知。举个例子“杀人偿命”，这个是社会的普遍认知，至少可以在有此动机时，进行结果约束。至于，过失杀人、正当防卫等，是细节论证。

    最后，规则是否需要频繁修改。在实际工作中，规则会根据新的要求进行增加、迭代，但是规则本身是结合平台安全和策略能力去梳理的。作为规则制定的角色，需要梳理一套制定规则的流程机制。频繁变更，会增加培训成本，降低执行效率并导致错误率的上升。

    关于标准制定，可以参考文章：

    互联网企业如何制定内容安全审核标准？

    “策略制定”其目的是高效、全面达成内容安全治理目标。需要对执行效率、产品能力、项目管理进行统筹，并保障结果。

    首先，需要对治理目标有充分的解读，了解清楚为什么去做这件事。可以提供几个参考维度，下发范围、发布单位、内容风险程度。这几点至少可以让你得到一个初步结论“如果没有治理好，会造成多大程度的影响。” 

    其次，对于每一个有“生态”的平台来说，治理手段从不是单一的，高效的策略，非常依赖这些“治理手段”。它可以弥补人工执行“效率低”的问题，也可以维护平台的“用户体验”。根据第一步的判断，结合“治理手段”制定策略方案。

    一个高效的方案，不可或缺的是跨团队协作。在没有任何管理权责，甚至“利益关系”之下，如何推动项目落地，非常考验推动者的“专业度”。一是对于业务判断的专业度，二是对于沟通技巧、项目管理的专业度。

    总的来说，策略制定的角色并不强依赖于可复用的工作经验，因为各平台的“治理手段”能力和基因是不一样的。所以，很多大厂员工跳槽到小平台后极度不适的情况屡屡发生。做好策略制定，需要多积累内容安全知识，多探究“治理手段”背后的逻辑。同时我也推荐大家可以加入“内容安全交流群”，多与行业前辈沟通交流。（添加微信“guoxinwangan”告知平台及岗位性质，核实后拉你入群）

    从内容安全专业性的角度这里重点介绍了策略专家的岗位，是尝试通过一个岗位职能的解析、能力项的分析，看到这个行业不管做什么角色，专业能力是第一要务。如果你处在一线审核的角色，正是积累基础知识的好机会，没有好的积累，未来也将无法接触和晋升到策略岗、管理岗等其他高阶的岗位。

    下一期将介绍内容安全业务管理，会从如何做好内容安全业务管理、团队管理的角度来分享。