互联网

人工审核路艰难 内容安全之路该如何走?

2020/3/5 15:23:00


近年来,快手、抖音等平台大规模发布招聘信息,面向全国新增招聘3000名内容审核编辑岗位,将目前的审核团队从2000人扩大至5000人。今日头条在去年也表示,要将运营审核队伍扩大增至10000人。不光是在中国,2018年Facebook创始人扎克伯格在接受媒体采访时也表示,公司将会有20000人致力于网络安全和内容审查的工作。

很多人认为内容审核员有着轻松的工作,但其实内容审核并不像一般人们认为的只有鉴黄这一种。更多时候,他们所面对的是黄色、暴力、涉恐、等高敏感度的信息,更忍受着长期精神和身体上的压力。然而,内容安全审核的路程才刚刚开始。

人工智能可以缓解内容审核压力么?

当前,人工智能技术的发展为各行各业带来便利。面对专一性较强的工作,AI可以在高准确度、高效率和持久性上完胜人类。然而,它们很难提升内容审核的精确度。以鉴黄师为例,人工智能的鉴定只能将海量视频和图片中的疑似黄色内容筛选出来,它可以将审核范围从无边无际中圈出一个范围,但并不能像人一样理解每张图片中内容的准确含义。

比如一张衣着暴露的图片,如果整张拿给AI去识别,它可以能认出这张图有安全隐患。然而,如果将图片切成数份并打乱顺序呢?如果是人,大脑就会立即思考,并还原出这张照片的原貌,而AI还不行。

虽然AI的审核准确度不如人类,但是随着内容生产数量的骤增、用户体验及负面事件风险提高以及审核标准严苛细化,各种各样非标准化审核管理系统犹如一块巨石压得审核工作者喘不过气。很多内容的含义并不能用标签化的方式来判断,这是人工审核容易犯难的地方,而除了鉴别各类内容,人工审核还不得不应对杂乱无章的审核管理体系,这对于加快人工审核速率没有一点帮助。针对这一问题,业内的企业纷纷提出自己的想法,对内容审核监测做出了提升。

例如去年12月,Facebook宣布拨款1.3亿美元建独立“删帖法庭”。作为美国社交网络巨头Facebook除了爆出不计其数的侵犯隐私丑闻之外,还遭到了对于用户内容缺乏监管、给社会和青少年造成不良影响的批评,Facebook开始采取各种措施,监管内容,其中一个措施是设立一个类似“删帖法庭”的内部机构,来决定哪些用户言论或者内容必须删除或可以保留。除此之外,比如国内目前内容审核技术比较突出的极链科技Video++,也推出了全栈式智能内容安全审核引擎神眼系统,都在为人类审核员进行减负。

更多平台需要高效的内容审核机制

不光是互联网企业自身,包括公司化运营的微信公众号、微博、抖音大V们,都需要专门的内容审核服务。从年初人民网开始暴涨开始,内容审核就已经开始受到重视,人民网公告显示,2018年第三方内容审核业务收入同比增长约166%。未来几年,视频、AR/VR内容会随着5G发展而爆发,内容审核的需求也必将跟着水涨船高,客户会越来越多,市场空间和规模会越来越大。不光是互联网企业自身,包括公司化运营的微信公众号、微博、抖音大V们,都需要专门的内容审核服务。除了少数大型互联网可以自建团队之外,其它的中小企业,都只能靠第三方审核服务,大量的需求催生了一个新行业:第三方内容审核服务。这些第三方机构看到了问题背后的商机,研发出内容审核风控系统,专门提供给内容相关企业。不过,第三方内容审核的进入壁垒较高,包括技术壁垒、人才壁垒、管理壁垒。

除了少数大型互联网可以自建团队之外,其它的企业,都只能靠第三方审核服务,大量的需求催生了一个新行业,那就是第三方内容审核服务。这些第三方机构看到了问题背后的商机,研发出内容审核风控系统,专门提供给内容相关企业。

在今天的互联网舆论环境下,不同的平台为自己制定的审核标准也不同,有的严格,有的宽泛,这是各家平台的权利。但随着平台的发展,雇佣和培训人员的速度很难跟上平台的发展步伐,网站上的内容可以在一天中的任何时间发布,这意味着内容审查人员必须24小时不间断工作,但这样的工作时间,可能无法保证审核的精确度。即使拥有一个强大的内容审查团队,也很难进行无偏见审核,这也是AI内容审核开始发挥作用的时候。未来,内容审核系统的升级,不光是品牌驱动、产品需求的刚性体现,也更应该去努力满足社会需求。

版权声明
本文仅代表作者观点,不代表艾瑞立场。本文系作者授权艾瑞专栏发表,未经许可,不得转载。
  • 合作伙伴

  • 官方微信
    官方微信

    新浪微博
    邮件订阅
    第一时间获取最新行业数据、研究成果、产业报告、活动峰会等信息。
     关于艾瑞| 业务体系| 加入艾瑞| 服务声明| 信息反馈| 联系我们| 广告赞助| 友情链接

Copyright© 沪公网安备 31010402000581号沪ICP备15021772号-10

扫一扫,或长按识别二维码

关注艾瑞网官方微信公众号