首页科技快讯我，鉴黄师，做审核生意年入几千万

我，鉴黄师，做审核生意年入几千万

来源：晰数塔互联网快讯时间：2021年04月06日 13:55

编者按：本文来自微信公众号“投中网”（ID:China-Venture），作者：冯颖星，36氪经授权发布。

这一期《后窗》，我找到了从事内容审核业务的一线从业者、从0到1搭建内容审核体系的互联网大厂内容安全总监，以及All in内容审核的创业者。

大家好，这里是投中网「后窗」栏目的第三期。这是一档关于职场+人的栏目，在这里，我们照见职人另一面。透过个体化的故事，去观察人的处境与产业前沿的变化。

两年前，一部讲述Facebook审核员的纪录片《网络审查员》在圣丹斯电影节上映。豆瓣上有人评论，“这是新时代最残酷的职业”。85分钟时间，是一场关于血腥、暴力、色情乃至煽动性内容对上万名“人肉”个体心理素质的挑战。

但剔除猎奇因素，影片表达的主题背后，是一场关于全球资源大调配，暗藏与万亿互联网公司做生意的巨大商机。

陈太锋说他是国内最早嗅到这一商机的“先锋之一”。

他曾是国内某知名独角兽公司的副总裁。一年多前，开始从北京向南一路迁徙，在江苏如皋扎营，揽下了多家互联网大公司的内容审核业务，“你能想象么，我一个人一年做了大几千万元业绩。”

也就在陈太锋“南迁”的这一年，人民网内容审核业务增速高达166%，并计划将审核团队从300人扩增到3000人。这一年财报发出后的投资者沟通会上，内容风控业务几乎成了现场被问及频次最高的事情。

《后窗》栏目做到第三期，有人问我，你们这个栏目是不是就是寻找财富故事？并不尽然。在这个栏目里，我想探寻个人努力的结果与时代周期的关系。

这一期《后窗》，我找到了从事内容审核业务的一线从业者、从0到1搭建内容审核体系的互联网大厂内容安全总监，以及All in内容审核的创业者。当我向他们分别抛出另一个受访者现阶段所遇到的困惑，发现他们竟然彼此相熟。透过本期栏目，他们将隔空进行一次对话，或许能够解答这条产业链上的很多疑惑。

并且，他们都不避讳那个调侃性称谓——鉴黄师。

张凯硕某千亿市值互联网公司内容审核部门负责人

“下属找到我，觉得自己‘脏了’。”

从2015年进入我现在的这家公司算起，在这个行业我已经做了6年，现在是一家互联网公司内容审核团队的经理。如果用一句话来形容我工作的日常，工作分配机和心理按摩师。

从基层审核员做到管理岗，带上百人的团队，每天都在想信息和人员调度怎么统筹、谋划和管理，还要对状态不对的下属进行心理疏导。做我们这一行的，尤其是刚毕业的新员工，一开始接触大量之前他/她看不到的东西，心理上有可能消化不了。

印象最深刻的是，有个女同事，刚干了几个月，崩溃了，每天看大量血腥、色情、暴力、诈骗等违法信息，觉得自己“脏了”。那一阵子我就总是安慰她，“那些内容并不是生活的全部，只是别有用心的人扰乱秩序的恶意行为，就把它当成个活儿嘛”。心理素质不强，立场不够坚定的人确实做不了这行。

但其实，我也是从那个阶段过来的。入行的时候我才24岁。当时就想找一份每天呆着就能上班的工作，不要抛头露面的到处跑，于是入了行，怎么说当时也算互联网大厂。

这一行劳动量特别大，基层审核员7×24h工作制，三班倒，音视频、动图、文章都要涉及。就拿审文章来说，一名审核员一天大概要审2000篇文章，没有体力、耐不下性子、坐不住，这一行干不了。说白了，有点青春饭内味儿。

相对应的是，薪资并不高，我入行的时候月薪4000元起，现在新入行的审核员上涨到了8000元左右，但还是比互联网公司其他岗位要低。内容审核领域分为两层，技术会做初级筛查，人工进行更细致的过滤，我一开始做的就是后边人工审核的这部分。当然啦，如果你干得好，每年有30%的涨薪也再正常不过。

行业的门槛也不高，2015年前后，专科就行，经验比学历重要，但现在必须是本科起步，甚至得是一本。这种转变是工作内容使然，5年前，基层审核员无非是刷一些色情、暴力、血腥图片，纯粹意义上面对受众的违法信息，识别难度不大。但道高一尺魔高一丈，现在，像我之前以为的“呆着干活儿”的招数已经不灵了，需要思考的场景越来越多，如果理解能力不够，这个工作是干不来的。

学历和这份工作之间的关系，我觉得存在一个悖论。能不能把这份工作做好，最直接的关联是一个人的见识和知识储备，但每次招学历高的人进来，我总觉得差点意思。你再去看这个行业的老师傅，对信息的判断和应急处理能力，确实“味儿对了”。

说实话，这两年，我带上百人的团队，能把这份工作做得好的人并不多。

这一行做的时间久了，也会有疲倦的时候，就像你去打扫一个房间。总有打扫干净的一天，但做内容审核这个工作，怎么扫啊扫啊，这个房间一直打扫不干净，而且越来越难打扫。我也不是没动过离开的念头，但是每次在我很疲惫的时候，恰好就赶上我升职，从这个角度来说，在这一行也是有点甜头的吧。

这两年，我慢慢的察觉我们这个岗位在公司的位置也在发生转变，对外接触重要部门的机会越来越多，是会觉察到机会是比之前多的。我爱人跟我是同行，不过她现在已经转去做数字运营了。

赵宵某互联网大厂内容安全总监

“《网络安全法》实施之后，再大的厂子都禁不住罚。”

楼上说自己是互联网大公司，但从内容审核角度来说，只能算是“小厂”。原因很简单，字节、快手、腾讯、微博这种公司属于复杂社区，音视频、文字、帖子各种内容形式全覆盖，这种属于“大厂”没啥毛病；但做搜索业务、问答业务起家的平台，覆盖的内容形式少，即便市值超千亿的公司或者位列BAT，他们的审核员的含金量与复杂社区审核员的含金量一定是不同的。内容审核业务上的“大小厂”区分，与常规的互联网公司的“大小厂”区分，并不是同一个概念。

一般来说，“小厂”的审核员来“大厂”面试，很难跃级；与此同时，“小厂”又很难招到“大厂”的审核员。不过话说回来，我自己也是在所谓的“小厂”中摸爬滚打出来的，十几年前我入行，从0搭建起老东家的内容审核团队，也眼见着互联网行业的兴起，网络内容传播的无序和失控所造成的危害逐渐形成全球共识，这个岗位在一家公司中的重要性越来越高。举个简单的例子，四年前，我们甚至还没有《网络安全法》，对于违规的处罚相对粗糙。2017年《网络安全法》颁布，违规信息处罚单条上限为50万元，管理的颗粒度越来越细，即便是“大厂”，海量的信息冲击之下，也真的禁不住罚。

毫无疑问，这是一个巨大的市场。世界各大互联网巨头都在加大内容审查的投入，主要体现在两个方面：1.审查技术的研发和应用不断加强；2.人工审查领域的投入不断加大。

像腾讯、字节这样的“大厂”，内容审查人员至少有上万人。全球范围来看，不少互联网巨头的审查人力资源都在全球调配。据我所知，2019年Facebook在全球雇佣的内容审查人员已经超过3万人，其中，仅印度IT外包商高知特（Cognizant）一家，为Facebook提供审查外包服务的团队规模就已经达到6000人。

此外，菲律宾、马来西亚、印尼等国均有多家公司为推特、亚马逊及谷歌、Facebook等巨头提供内容审查外包服务。从这个角度来说，这确实是一个快速增长的新兴行业，不管是“大厂”还是“小厂”，大家都有这方面的诉求。

关于“机审”还是“人审”，大小厂之间也有区别。“大厂”机审可能占90%以上的比例，需要制定详尽的安全策略，机器能把绝大多数和黑白内容审核掉，人审的更多是在于“灰色地带”，占比可能连10%都不到。中小互联网公司的内容没有那么多，技术过滤相对简单，人力参与的比例会更大，甚至有些会占到50%。

在我看来，机器替代人审是大势所趋，需要多维的研判才需要人来研判。我正在做这套多维研判的工具，好让新手审核员能够快速上手。

要说审核员的上升路径，无非是纵向与横向两种。纵向向上是审核负责人；比较牛的审核员可以横向向上，比如风险评估、风险控制、舆情及GR的岗位，也可以转岗去做产品和运营。但实话说，能从审核员岗位上闯出来的人并不多，100个人里大概有8-10个能成功转型。

为什么有审核员可以转型去做GR？他们甚至做到VP岗位，因为业内公认GR最好状态是，既能懂安全业务，又能懂得沟通方式，这是一个内外兼修的岗位。内容审核员确实是最懂安全业务的一批人之一。

做这一行做久了，难免会有职业病。这十多年，甭管我在哪，国内还是国外，手机时刻不离身，焦虑已经成为常态。不管是信息安全还是技术安全，不可控的因素实在太多，随时都在想，“今天千万别出事”，总怕有审核不到位的地方。另外，高度敏锐也算是职业病之一吧，有时候经常冷不丁冒出许多感想，时不时在朋友圈发个“小作文”。

陈太锋内容安全创业者

“专业的机构和不专业的机构摆在一起竞争，觉得难受的时候，也正是机遇来临的时刻。”

赵总的压力，我们可以分担。甭管“大厂”还是“小厂”，但凡涉及到内容与传播，大家都渴望去接受合规化管理，但是并不是所有的企业都有能力或承载力去独立完成内容安全的业务，这也是我们内容审核创业者的机会所在。于是，2019年我创办了国信聚安。

进行内容安全创业是因为前同事的一句话点醒。有一天她突然跟我说，“每天去跟大家沟通内容安全，沟通审核，很多人都不懂，尤其跟创业公司沟通时，他们更不懂。咱们在这个行业做的这么好，为什么不能把这方面的能力对外输出？”也许当时她只是无心感慨，我却当了回事儿，而且这个行业确实是我的专长和兴趣所在。

这个行业的现状和大趋势是，风平浪静之时，内容审核部门存在感并不高，但一旦出了岔子，对于整个公司都有可能是灭顶之灾。

单从内容审核外包来看，某种程度上这一行确实是人员密集型工作。要么企业自己做，要么外包，但对于大公司来说，这么大体量的人力资源调配，招聘成本、用工风险和企业的运行效率都会受到影响，如果是上市公司，还有可能影响公司人均产能财务报表。我们要做的，就是为这类企业提供一站式内容安全整体解决方案，帮他们解决内容风险和用工风险。

目前，我的客户有国内排名前三的社交平台、最大的国产手机厂商、市场占有率最高的教育公司。但你能想象么，我们800多人的团队，目前商务拓展人员只有我一个。

这些公司跟我们合作的业务主要有两部分，一是内容的安全审核与合规审核，二是数据标注。在提供服务的过程中，我们还会给企业提供内容安全整体解决方案的咨询服务，诸如如何搭建高效的内容审核平台、怎么利用人机审核提升效率、如何完善日常管理流程制度等等。

诚如楼上所说，这一行分为两类，技术安全与内容安全。像360、奇安信、绿盟等公司这类提供技术安全服务的公司很多，内容安全公司的业态却相对匮乏。目前的竞争格局更多是传统人力资源的外包，纯业务方向的外包比较少。这也就是赵总所说外包公司的审核质量稂莠不齐的原因，业内普遍还是以“买人头”的方式运转，但内容审核行业也有淡旺季，人头也不能等同于质量，确实会有资源配置上的浪费。于是，我们在业内首创了按量计费的业务模式，这样一来方便质量管理，二来也能提高人效。目前，我们的人效高出行业内平均水平大约30%。

我把审核业务放在江苏如皋，一个江苏省辖的县级市，基地目前大约有800位审核员。选择这个城市的原因一是人力成本较低，二是方便管理，当地政府还会有一些政策扶持。不同于其他人力资源外包公司，我们的审核员分为培训岗、审核岗、质检岗、舆情岗、重点项目专项维护岗。其中，我们最大的成本支出之一在于培训岗，每一个员工的招聘，都要通过笔试和心理测试，来综合评估人员的安防背景与心理素质，紧接着是22天的理论知识培训，培训之后再进行考试，一个完全合格的审核人员至少需要有半年的时间成长。

这个行业的门槛并没有外界臆想的那么低，我培养一个员工太不容易了，所以各种福利保障和工作内容调配都要尽可能让他们舒适。

如果说有什么让我会产生心理波动，也就是与做人力外包的公司产生竞争的时候。对于一部分客户来说，因为预算局限，挑选供应商时，供应商的能力只占他们考量要素的40%，价格则占到60%，一旦涉及价格战，我就会比较难受。

前不久一家选了人力资源外包的客户，没多久就在审核团队搭建和业务承建的过程中爆雷了，兜兜转转还是找到我们来解决问题，这也说明现在这个行业的竞争和发展还处于草莽时期。

2020年，我的公司做了数千万元的业绩。这个行业不像互联网风口行业，踩对了节点会突然有数量级的爆发，一着不慎就会跌下神坛，我们会一直平稳往上涨。

创业者一定会时时刻刻想着如何提高企业的运行效率。现在，我有大量的精力都在找寻技术伙伴一起合作，或者引入内容安全技术领域的资金来互为补充。我认为，至少5年内，机审都不能完全替代人审，长久的经验积累搭建的模型会成为这个行业另外一个难以替代的因素。

（应采访者要求，张凯硕、赵宵为化名）