内容安全专家谈:如何成为专业型人才?
2022-04-19 22:18:13 来源: “网络安全研究”微信公众号
作者简介:
一刀老师,互联网内容安全行业资深人士。曾任职多个互联网头部平台,负责多款亿级DAU产品内容安全业务,在策略管理、团队管理、政府事务等方面拥有十余年积累。本系列文章是一刀应国信网安邀请对内容安全从业者进行分享。
国信网安也欢迎内容安全同仁投稿、分享。
本系列将分三期《内容安全业务专业篇》、《内容安全业务管理篇》、《内容安全行业价值篇》在国信网安公众号“网络安全研究”进行连载分享,本期为第一章《内容安全专业篇——如何成为专业型人才?》。
- 低职级与百万年薪并存是机会所在 -
审核员作为内容安全行业常见的入门岗位,经常被人“诟病”门槛低、没前途。有句话说“事在人为”,还有一句话说“三百六十行,行行出状元”。这两句话都试图传递给我们一个信号“任何事物只要投入努力和热情,才能获得成功”。在内容安全行业也是一样,入门职级与高级岗位并存,且是递进关系。这个行业不乏年薪几十万、上百万的资深经理、总监,甚至还有更高的职位和待遇。入行门槛低也正是方便切入的一个机会,通过刻苦积累、优质成长你也可以成为百万年薪的一员。当然门槛低也不代表任何人都能踏进来,也需要你在知识储备、业务素养、学历学识方面有一定基础。
今天我们就聊聊,我们如何才能成为有深度的内容安全专业型人才?
- 内容安全专业岗 -
内容安全业务的专业度如果按照一定逻辑和适配度去归纳,可以从审核体系复杂度和审核团队规模递增两方面来看。
内容安全专业性环节图例
如图举例这些岗位的核心职能(岗位较多,仅以初审、质检、回查举例),根据不同产品形态、不同架构体系会有略微的差别。但是从内容安全风控体系的视角看,只有达到了职能所预期的价值,才可以确保产品的内容安全,绝非只是有“这个角色”就够了。
职责权重的升级、团队规模的递增,不仅仅是职责和数字的变化,而是个人、团队的专业度是否能承担责任、解决问题、达到目标。
- 用户体验、内容安全、内容质量 是三驾马车 -
安全与质量关系图
如图中所示,风险拦截是内容安全最基本的目标,也是需要长久维持的能力。风险拦截是基础,在风险拦截之上还需要多一份保险,就是风险兜底。同时对于风险的拦截还需要前置,风险前置则需要更精深的专业度。
风险拦截、风险兜底、风险前置三项搭建扎实后,就要开始兼顾内容质量(用户体验、内容优质度)。
在做内容质量的同时,仍需谨记“风险拦截”能力永远是内容安全部门的核心职责,如果丢弃,不仅人站不稳,楼还会塌。最上层,定义为“平台责任”,如果做到这一步,那这个产品才能实现用户体验、内容安全、内容质量三驾马车的并驾齐驱。
- 内容安全策略岗职责是什么?-
上图,是想传递一个信号,不管你处于内容安全行业哪一个角色,都需要“专业度”,随着你的工作年限增加,“不可替代”的属性也随之增加。因为内容安全行业崛起的时间并不长,行业内仍然极度缺乏专业人才。
有一个机会很多、薪资又极高的岗位,这里展开聊聊:
“策略专家岗”
该岗位至少有三个职责内涵:
1、规则制定:制定审核规则,指导一线对内容进行标准操作;
2、策略制定:根据治理目标,制定具体安全动作、产品策略;
3、项目管理:跨团队协调进度、推进策略落地、达到安全目标;
- 如何进行规则制定?-
“规则制定”其目的是为一线审核操作人员提供参考标准,追求的是N个人的统一认知,这样才可以保证平台所有内容对观众、对发布者是“一致的”。
首先,一线审核岗不是一个人,而是一群人,甚至几千人。“一千个人就有一千个哈姆雷特”,所以认知差异是普遍存在的。
解决认知差异,就要尽量避免“主观”判断,在规则书写时,尽量避免如“性感、引起不适”等务虚的词汇。内向型可能觉得穿背心就是性感,外向型会觉得只要不透视就都不算性感。
其次,规则是否大而全。通过不断丰富的案例去补充标准覆盖面是没有问题的,但是需要善于总结这类内容的核心操作方针。比如,针对低俗舞蹈,核心是对其动作色情诱导,着装暴露进行管控。在这个统一认知下,可以列举如钢管舞、软功等常出现低俗画面的舞蹈种类和案例。总结来说,核心提炼是统一认知的关键,细节是辅助或验证认知。举个例子“杀人偿命”,这个是社会的普遍认知,至少可以在有此动机时,进行结果约束。至于,过失杀人、正当防卫等,是细节论证。
最后,规则是否需要频繁修改。在实际工作中,规则会根据新的要求进行增加、迭代,但是规则本身是结合平台安全和策略能力去梳理的。作为规则制定的角色,需要梳理一套制定规则的流程机制。频繁变更,会增加培训成本,降低执行效率并导致错误率的上升。
关于标准制定,可以参考文章:
- 如何进行策略制定?-
“策略制定”其目的是高效、全面达成内容安全治理目标。需要对执行效率、产品能力、项目管理进行统筹,并保障结果。
首先,需要对治理目标有充分的解读,了解清楚为什么去做这件事。可以提供几个参考维度,下发范围、发布单位、内容风险程度。这几点至少可以让你得到一个初步结论“如果没有治理好,会造成多大程度的影响。”
其次,对于每一个有“生态”的平台来说,治理手段从不是单一的,高效的策略,非常依赖这些“治理手段”。它可以弥补人工执行“效率低”的问题,也可以维护平台的“用户体验”。根据第一步的判断,结合“治理手段”制定策略方案。
- 如何进行项目管理?-
一个高效的方案,不可或缺的是跨团队协作。在没有任何管理权责,甚至“利益关系”之下,如何推动项目落地,非常考验推动者的“专业度”。一是对于业务判断的专业度,二是对于沟通技巧、项目管理的专业度。
总的来说,策略制定的角色并不强依赖于可复用的工作经验,因为各平台的“治理手段”能力和基因是不一样的。所以,很多大厂员工跳槽到小平台后极度不适的情况屡屡发生。做好策略制定,需要多积累内容安全知识,多探究“治理手段”背后的逻辑。同时我也推荐大家可以加入“内容安全交流群”,多与行业前辈沟通交流。(添加微信“guoxinwangan”告知平台及岗位性质,核实后拉你入群)
从内容安全专业性的角度这里重点介绍了策略专家的岗位,是尝试通过一个岗位职能的解析、能力项的分析,看到这个行业不管做什么角色,专业能力是第一要务。如果你处在一线审核的角色,正是积累基础知识的好机会,没有好的积累,未来也将无法接触和晋升到策略岗、管理岗等其他高阶的岗位。
下一期将介绍内容安全业务管理,会从如何做好内容安全业务管理、团队管理的角度来分享。
-
士力架道歉,网友质疑将台湾定位成“国家”
近日,有网友发现士力架发布的活动将台湾与其他国家并列,将台湾定位成“国家”。宣传视频显示,该活动仅在韩国、马来西亚和台湾举行。
넶119 2022-08-08 -
-
网红确认食用国家保护动物,账号已被封禁
平台方也应加强审核把关工作,对此类猎奇向视频重点关注,同时也要留意用户的举报等反馈,进行及时处理,以避免违法视频的影响范围扩大。
넶156 2022-08-03 -
-
接连曝出祭奠日本战犯事件?民族情感不容被亵渎也不应被消费
网络平台的内容审查人员也需要具备足够的历史常识,牢记侵华战争、台独港独等伤害民族尊严和破坏国家主权的相关人物和事件,加强对此类信息的审查力度和警惕性。
넶56 2022-08-03