互联网

离职内容审核员的口述:“我把内容扒给你看”

2018/9/7 20:59:00

摘要:这是来自于一家互联网公司一名离职内容审核员的口述。用户上传内容后,都是先审核,再发布。资本通过算法和审核系统,为用户创造了一个“美丽新世界”。这位刚刚大学毕业、踏入社会的青年,决定着他们的用户能看到什么。

我刚毕业的时候,急需一份工作。理由很简单,我欠别人几百块钱,答应那个月还。我在二本学校学新闻,曾在北京一家报社实习,本可以留下,但是因为身体原因,我当时不想做新闻了。

在网上,我看到一家互联网公司招视频编辑。我会编视频,能拍能剪,就去投了。我一个学长也在那家公司,就帮我内推。不到三天,电话过来,让我去面试。

面试一共有三轮。

第一轮是业务组组长,女的,属于管理层最低的那个级别。面试很简单,自我介绍,问我做过什么。然后她说,你知道一些关于网络审核的规则吗?我们聊了一会儿,这就过了。其实我到这时候才知道,这是视频审核。要早说是视频审核我绝对不去。

第二轮是大组组长。他很忙,过来时搬个笔记本在手上,一直在回复别人。自我介绍完,他问,你对审核有什么看法,这是审核你知道吗?我说知道。你有意见吗?我说没有意见。都那个时候了,有什么意见,还欠别人钱呢,干吧。

第三轮是人力,这是个坑。他跟我算来算去,补贴绩效什么的,最后说一年给我15万,你知道我多美吗?入职才发现,被他骗了,一年到手的钱可能就零头多一点。

入职当天同一小组一起有三个人。一个和我一样,是个二本男。还有一个女的,是中国地质大学的。听说,我来的半年前这个部门叫审核部,才三四十人,一年后离职时,整个审核部已经到了一万人。

据说,211的研究生我们部门也有,北大的也有。但我不了解,都是听说的。入职培训分三个部分。先整个公司的培训。介绍我们是一家什么样的公司。其实就是讲集体感,咱们是一家人。

互联网公司的人用词讲究,不讲未来的发展前景什么的,他讲我们的愿景是什么。然后跟你讲,这个部门比较特殊,安全性比较高。

然后签合同,也就半天结束。接下来是大组培训,关于审核的基本知识,比如说什么内容敏感,一个个详细说,让你明白。前两个大约一天半时间,最后是小组培训,差不多两三天,内容是具体的工作操作细则。

我们的办公环境非常好,是互联网公司那种窗明几净的大厦,吃喝不愁,福利很多,也有休息室。

一开始,我还很高兴。我也爱说话,会和同事开个玩笑。但后来,基本不说话了。因为工作量太大,一天审核的视频要2500条才不算落后,每个人都很累。所谓休息室,很少有人会进去休息。

我们全年无休,人休审不休,上班时间有四类:早班、晚班、小夜、大夜。

早班从早上到下午,晚班从下午到夜里,小夜从下午到凌晨,大夜从夜里到早上。中间是无缝拼接,保证时刻有人在岗。排班一开始是大组长排,一般是一周早班,一周晚班,一周小夜,中间有大夜再往里填,很简单。

后来有段时间,变成机器用算法排,真不是人排的。我说不是人排的是个脏话,因为真没法上。

你的生物钟全乱了,晚班接早班,大夜班之后休一天接早班,你也变成了机器的一部分。所以后来又改为人排。

互联网公司讲究扁平化。你可以跟你的小组长、大组长,整个业务部门的负责人,整体的负责人,乃至CEO创始人对话,他会给你解决问题,他会听你的话。

他们管这个叫扁平化心态,就是玩文字游戏,你真的和创始人讲,他不会说什么,但是下面的人,你的头儿,他们骂死你。

2

在整个公司框架中,审核是和技术、运营并列的大部门。要掌握这个公司的内容分发,内容方面的核心数据都在我们这。

审核流程是机器和人工共同审核。

机器审核是说,用户上传视频后,机器会自动识别一些东西。那是一种人工智能模型,它认为有风险,就会先给你拦下来。

加菲猫就会被拦截,因为它黄色的面积太大,而且跟人腿很像。一些关键词触发后直接不能上传,还有一些会飘黄,提示人工注意。机器审核的同时人工也在审核,就是我们这儿的初审。

我们的审核后台主要显示三块:视频标题、封面截图和视频关键帧。审核有问题的,就降权,甚至下线。

降权有几种方式:订阅可见,就是只有订阅粉丝才可以看到,别人看不到;仅作者本人主页可见,你还以为自己发了,其实别人看不到,发了等于没发。不过,这些在用户界面都是看不见的。

一般来说,我20秒内足以审完一条视频。速度再慢,1分钟也肯定能审完。初审之后是盲审。他们会按一定比例,将审核过的视频进行提取,再进行审核。

最后还有一个回查组,大约二三十个人,每天在资料库里来回巡查,看有没有违规的视频。我们审核的作者账号主要可以分为四类,自媒体,群媒体,新闻媒体,还有一些政务机构。

审核标准很少针对新闻媒体和政务机构。比如一些自媒体发视频,我们就要审核有没有版权。有版权的视频,就不能私自过审。

也有个例外,比如某个古装剧,版权方会在我们这里搞一些小号来发。但发这个剧的号太多了,哪些是版权方,哪些不是,其实一线审核员分不清。

这种情况下就会出现备注,也就是版权的白名单。白名单在页面上有一个备注,就说此号发什么可以过,发什么不可以过,发哪些内容我们特殊处理,不必要追随标准。

所有审核标准的制定,都掌握在运营和标准制定组手上。用户上传的内容,什么能过什么不能过,标准全由他们制定。审核标准也经常更新,不过时间不定。

根据外界环境,有时候一天变几次,有时候半个月变一次。标准的制定除了法律法规的底线之外,还有些也凭质检组个人喜好。最搞笑的例子是露肉。我到现在都没明白,到底什么意思。

这个拿捏很诡异,露了多少算露。你看那个模特,虽然穿的长裤长袖,但是也可能被下。他们就会说,你看肩膀,露出来了。

3

怎么更改审核标准呢?这是一套复杂的流程。我们先跟运营说,运营再跟产品说。然后是各种开会,算成本。

算你改这个标准,能拦截多少视频,拦截视频会给公司带来多少流量损失,少挣多少钱,值不值。比如晒大白腿那种,是低俗的吧,但有时候就是不低俗。如果是整改期,就收紧,整改期过了就放。

为什么这样弄?这是运营的要求。要吸引用户留存,增加日活。

没几家互联网是靠阳春白雪起家的,都是靠低俗,才能吸引很大的用户流量。流量就是钱,你如果下得太狠,就没有流量,广告费就会低,收入就会减少,亏损比例就会大,公司就运营不下去。总之,审核标准第一是安全,第二是让用户停留时间长,第三是流量。

能挣到钱就行,这也是公司的价值观。现在讲究算法推荐。所谓算法,其实是有一定的商业利益在里面。都是跳舞的视频,凭什么推荐这个人,你想过吗?算法的坏处就是,你没有信息的接收权利。

你要看什么,我就一直给你看什么,其他事情你可能就不知道了。这就是传播学里的议程设置,传统媒体做不到,分发平台可以做轻松做到。

用户收到的信息不是他想要的全部信息,只是我们想让他看的,被我们过滤过的,是我们允许他看的。记住我这个词,允许。

但我不认同这种价值观。有人曾经说过,算法没有价值观。从专业上来说,这话没错。算法就是机器,机器能提供给你好的,同时也能给你提供坏的,它的价值观在于你是怎么选的,怎么喂它。

但这不能代表产品没有价值观。那不就是说,用户想看大长腿,就全是大长腿。小孩子想看黄片,你就可以推黄片,是不是这个道理?

你说这个价值观,我怎么认同。我没法认同。你什么都算成本,都为了钱去,就特没意思。有些程序的设计者内心是非常邪恶的。他拿什么试你?我第一次用我们公司的APP,给我推的第一个视频就是狗交配的。这是属于漏放的,但这就是试探。算法在试你,你爱看什么。你只要点进来,它就开始推荐。

你要是做过新闻,真正在报社呆过,肯定看不上这个工作。为什么?这跟你的价值观不一样。它就为了钱,没有启蒙教育意义,也没有责任心。

你像我们写稿子,说这是希望能给老百姓带来一点改变,能为弱势群体做些什么,是吧?人家这就是,我能赚多少钱,你这效益什么样,成本是多大?

那些上传特别低俗视频的用户,我考虑他干什么,本来就是垃圾生产者。大家审美都已经烂到这种地步,我为什么不把你往上拉一拉。

公司占据着这么大规模的用户,可以润物细无声地教育、影响他们,只要稍微要点脸,像个人一样活,就会是一个非常好的公司。因为所有人都在看你,非常信任你。

你现在搞什么?你给大家看什么?看配狗的。有一个211大学生,到我们这上班来,干了三天就走了。临走撂了一句话,你们就是狗腿子。对,我们就是狗腿子。因为公司要活命,公司要挣钱,你只能这么做。

4

可以说,只要是互联网公司,都有审核。这在国际范围内也是一样,脸书也有内容审核,为用户去掉色情暴力的东西。要了解一个公司的审核,首先要了解它的审核逻辑,它审核的是什么。

比如婚恋网站的审核,可能就是审核你资料、评论里是不是有招嫖信息。

一般而言,互联网都是先审后发。一个国内知名的社交平台,很多人以为是先发后审,其实也是先审后发。

我们的审核状态很简单,只有全网可见、订阅粉丝可见和本人可见三种,但那个社交平台有十几种。那是一个非常成熟的完整的审核体制,根据不同人和不同内容的安全评级,它会通过机器和人工在最快的时间内,给你一个状态。有时候你虽然看着发出去了,也有人看见了,但可能只是好友可见,或者粉丝可见。

所以它与我们不同在于,它有时间差,发出去肯定会有人看到。不过,敏感词你还是发不出去,机器就拦下来了,因为命中了禁发词,禁止发送。一些审核为了用户体验,也是必须的。

我审过印象最深的视频,是四川一个工地,一个18岁的小孩,赤身裸体,在工房里看电视。他是手淫,他又不是手淫,他拿了一只老母鸡。你说这种东西我能给你发吗?我绝对不能。我不能保证这个视频小孩子看不到。他看到他学怎么办,一辈子就毁了。只是我一念之差毁了人一辈子,有多大罪。我爷爷死的时候我掀开布看他的脸,就觉得麻木。

我为什么会没感觉,是我看过太多死人的事情。暴恐的那些,割人头,挖眼珠。还有一些新闻,飞行员失事,脑浆了一地,眼睛爆出来了。我们拦截这个,你说做的是不是好事呢?

我觉得也挺有意义,对吧?入职七个月就可以叫老审核员,因为人员流动性太大。天天看死人的视频,谁受得了,看得都吐了。

其实,审核这职业一直都有,只不过以前传统媒体时代不多,或者说比较隐蔽。部门最早入职的是领导,有审过10年视频的,有审过20年视频的。

在可预见的未来,人工审核不会消失,这个行业只会越来越大。如果我在里面待10年,我以后可能就会带一个特别大的公司,专门接别的公司业务,审核信息。

这是个趋势,因为信息传播越来越多,自审的东西非常多。机器为什么不能取代人?是因为机器是人喂出来的。视频的样式,在不断翻新,不断地增多,如果没有人喂,机器就是废物。

即使现在AI可以自主学习,像阿尔法狗那样,但是这个东西是带有价值观,有思考在里面的。如果机器会思考,那就是另一个问题了。所以人工审核不会消失,这在我们公司和业内,都是共识。

我一直想离职,钱也少,心理压力也大。我们的口号有几个:认真审、别出错、执行效率要高。整个办公室都贴着横幅,严防死守安全关这一类。

晋升渠道特别小。要升小组长,熬一年两年,领导喜欢你,你会来事,会说话,业务还好,就有可能提拔了。但这基本也到头了,升不上去了。我经过两个小组。

第一个组长非常好,是个女的,比较关心人,觉得还挺温暖的。第二个组长是男的,他学考古的,然后来这儿做审核。我这人的脾气是直来直去的那种,但他有问题就不说,觉得领导说什么就应该是什么。我跟他关系就僵了。

他们组长之间也会有一些矛盾,还搞孤立。特没劲。我的同学都去做新媒体、广告去了,收入是我的几倍。我当时在班上算尖子生,结果混得很差。很多同学都以为我是鉴黄师。我说这行跟鉴黄差远了。

你要光让我看黄片,我不用看,直接就下了,还快,对我没有任何影响。我巴不得审核黄片,让我缓缓心情。

我每天看那种低质视频,一个傻逼跟你说教,教你如何做人,职场上该如何说话。这种视频,一天听一百个、听两千五百个,你听吧。一天能接受,一个月、一年都这样,你会干吗?同事们普遍觉得这是份垃圾工作,没有任何前途。KPI考核也不公平,升职空间也没有。

我到后来就易怒,抑郁。有一段时间我就不想活,想死。整个人休息也休息不过来,住的地方、公司、住的地方、公司,一个人所有的都为了公司存在。逼得我没办法,去玩了一圈,还稍微缓点了。

我想,只要离职了,就贼开心。我发现离职的同事,都是这样。离职之后第一个选择,就是自己待一些日子,或者选择出去玩,然后干自己想干的工作。很少有直接跳槽的。大家都太累了。

当然也有做的得开心的,比如一个同事,211大学的,比我早来四个月,一路顺风顺水。

手里也有生杀大权,能制定审核标准,你做一个小时的视频他一句话就能下线。但他什么都不懂,还问我一些审核常识问题,都是培训过的。

有人曾经说过,为什么网上发的一些东西,莫名其妙就没了,都是一帮什么都不懂的小屁孩,坐在办公室删的。

我现在明白了,我就是那帮小屁孩。这份工作对我今后也没什么帮助。我只能说,让我知道了现实生活中还有太多我们平时看不见的事情在发生。这是唯一的好处。

— 完—

作者:刘子珩

来源:卢松松博客,欢迎分享,(QQ/微信:13340454)


版权声明
本文仅代表作者观点,不代表艾瑞立场。本文系作者授权艾瑞专栏发表,未经许可,不得转载。

专家介绍

  • 卢松松

    总访问量:2813026
    全部文章:708
卢松松被多家机构评为中国“百强自媒体”和“IT博客50强”,搜狗联盟唯一个站合作伙伴,创业者(站长)大会唯一个站媒体,目前中国访问量最大的独立博客之一。网络营销风云人物,多篇文章被杂志、报纸转载发表。
  • 合作伙伴

  • 官方微信
    官方微信

    新浪微博
    邮件订阅
    第一时间获取最新行业数据、研究成果、产业报告、活动峰会等信息。
     关于艾瑞| 业务体系| 加入艾瑞| 服务声明| 信息反馈| 联系我们| 广告赞助| 友情链接

Copyright© 沪公网安备 31010402000581号沪ICP备15057083号-1