2022年春节开工第一天,一则网友爆料国内某互联网公司一位审核人员因过年期间加班脑溢血猝死的消息登上了微博热搜。
尽管该公司很快发布公告称,该员工“在事发前一周内未存在加班等情况”,但在这条消息下方,关于审核员工作强度高、压力大、待遇差的吐槽仍然充斥了评论区。
事实上,在内容平台对信息负有审核责任已成为共识的今天,全球同此凉热。早在2018年,一名自称被安排到一个需要经常查看强奸、谋杀和自杀照片的岗位后患上了创伤后应激障碍(PTSD)的前Facebook审核员,对该公司发起的诉讼案,就曾引发媒体对这一群体生存状况的广泛关注。
如今,在Facebook更名为Meta,全球网民开始畅想元宇宙、web3.0美丽新世界的2022年初,“猝死”的悲剧再次将这个互联网的幕后职业带入公众视野。
有人好奇,内容审核员是干什么的,又是哪些人在做这份工作?这个职业何以与PTSD、猝死等词汇相关联?如何能改善他们的工作环境?
靠“肝”工作
一些人将内容审核员等同于网络鉴黄师,在他们的想象中,一间小屋、一台电脑、边看片边赚钱,这份工作自带福利。也有一些人以为,审核员们轻点鼠标就能控制网络世界的黑白善恶,决定网民能看到什么不能看到什么,更掌握着内容发布者的生杀大权,是拥有极高权力的线上警员。
而真正的从业者,会在回答“拿到了内容审核岗的offer,纠结要不要去”的提问时,写下一句“别来,快逃”。
实际上,“鉴黄”只是审核员复杂工作内容中的一部分,而且远不是“宅男”想象的那般轻松。BOSS直聘“职业百科”上对内容审核员的定义是:根据国家有关政策法规及内容平台相关管理制度,对用户在平台上发布的内容(文字、图像、音频、视频、程序、游戏等)进行审核处理的人员。
简单来说,审核员的职责是阻拦各类违禁信息在互联网平台出现,给它们贴上相应的标签并删除。
由于网络上的信息瞬间可涌入海量,需要不间断审核,加上蓄意违规者喜欢挑深夜和节假日发布内容,全年无休、24小时在线,夜班、白班各12小时两班倒或三班倒成了各家互联网公司内容审核员最常见的工作制度。
为了保证审核员的工作量和准确率,平台一般会通过计件、抽检来考核其业绩,审核内容类型不同,相应的考核标准也不同。比如有新闻资讯平台审核员表示一天要审1000篇文章,如果是审核跟帖或评论,达标量是5万条,图片的审核量在16000张左右,而一位短视频审核员一小时可能要审700条视频才算合格。
一条行业入门指南贴下方,有用户回答“内容审核一天的工作流程是什么”时现身说法,“上班就开始肝,肝完还肝”“吃饭都在审核”“一秒一个都审不完”……
更大的挑战来自于审核内容对人的精神冲击。一部名为《网络审查员》的纪录片揭示,审核员因为长期直面色情、暴力、凶杀、欺凌等等各种普通人难以想象的图像、视频、直播、文字等信息,普遍遭受着精神压力甚至会患上严重的心理疾病。
永远“缺人”的职业
“人均自媒体”的时代,网络信息愈发庞杂,这对运营者的信息安全责任、用户管理能力提出了更高要求,互联网行业对内容审核员的需求量也在逐年增加。
2018年4月,因用户传播低俗不良信息被约谈,多家互知名联网公司先后宣布招聘数千到上万名审核人员;2019年1月,中国网络视听节目服务协会发布《网络短视频平台管理规范》,提出平台审核员数量应和短视频条数匹配,审核员人数应当在本平台每天新增播出短视频条数的千分之一以上,彼时,快手公开数据显示,平台每天上传短视频超过1500万条;2020年以来,数字化内容更广泛渗透于网民生活,互联网信息服务合规要求下,“加大内容审核力度”成为各大平台的集体动作。
而随着互联网服务场景的丰富,审核员的工作也在逐渐细分。比如,近年来在线招聘的渗透率持续提升,职位审核成为审核领域需求增长最快岗位之一。
2020年7月,内容审核正式成为人社部等三部门盖章确认的新工种,官称互联网信息审核员。至此,这个长期隐身于网络世界背后的职业,得到了空前的关注度。
内容审核员职位JD 中,常见“能接受加班”“夜班”等任职要求
从BOSS直聘平台上的招聘信息来看,内容审核岗位的学历门槛不高、待遇一般,但这项工作对人员的体能要求却不低,比如“要能接受熬夜”“能适应倒班”。以北京地区为例,普通审核员月薪普遍在4k-8k,2020年,北京住房整租房平均租金82.6元/平方米·月,以此推算,光是租一个20平的房子可能就将花去超30%的税前工资。当然,这是一个计件工种,想多挣,就要多加班。
压力与收入不对等,似乎成了审核员这个职业领域常年“缺人”显而易见的原因。事实上,更深层次的问题还在于,这份工作对人本身的“摧残”与“消耗”,让很多从业者不打算、也几乎没有办法长干——劳动时间长、强度高、技术含量低、工作枯燥乏味,对比车间流水线工人,有人把审核员比作数字普工。
缺人的“互联网劳动密集型”岗位远不止审核员这一个工种,与审核员类似的岗位还包括标注员、大数据训练师、客服等等。业内人士经常自嘲,自己是互联网与人工智能时代的“人工”。
在线客服、数据标注员、AI训练师、内容审核员等,高强度重复性工作,被称为“互联网劳动密集型”岗位
媒体形容他们的工作内容,或如西西弗斯往山上推巨石一般单调而无望,或需要每日“聆听”客户的无端指责、谩骂,或在雇员规模庞大的外包公司背负来自公司的考核,一切有如互联网底层工作者的残酷物语。
减少“西西弗斯”
客观的现实是,作为网络世界的“安全员”和“清道夫”,内容审核人员和现实生活中清洁工、服务员、快递小哥等普通劳动者一样,虽然干着网络世界里的脏活、累活,但于整个系统来讲不可或缺。
为了能招到人,一些招聘者会把岗位名称合理美化,比如把“内容审核员”改叫“内容风控师”,把“客服”改叫“用户支持专员”,这样“听上去重要很多”,但效果微乎其微。
与强调职业崇高伟大相比,采取行动改善工作环境、降低职业伤害的发生率等显然更为实际。这也是近几年全球科技公司正在努力的方向。
2020年,Facebook宣布对诉讼案中的11000多名审核员给与经济赔偿之外,还表示将对内容审核程序进行修改,包括更改审核工具,将视频变为黑白模式等等。谷歌也是相似的做法,2019年,该公司表示正致力于开发机器学习系统来抓取包含不良内容的视频。
严格的安全审核规则流程中,他们承担的心理压力和隐患被看见和重视。2021年,BOSS直聘成立心理服务关怀中心,面向“有解决情绪困扰、想要自我成长、改善生活、提高工作效率等需求”的员工,提供专业的心理关怀服务。再比如, 2018年6月,Facebook发言人Carolyn Glanville就曾公开表示,每一个进行内容审查的办公室和承包商都有心理健康服务。
提高技术的能力和作用,也是国内各大互联网公司集体选择。
早在2018年,字节跳动人工智能实验室主任马维英曾透露,抖音一直在使用人工智能进行辅助审核,“通过自主研发的AI技术,字节跳动节省了超过十万的审核人力成本。”
除了自研技术,国内还涌现了数美科技、极链科技Video++等一众在线风控SaaS公司,如今,依托强大的技术手段,一些特征明显的色情、暴力、恐怖等内容可以由机器直接过滤掉,大大减少了审核人员直接接触有害内容的频次和他们的工作量。“以图片内容为例,机器的过审率可以达到85%左右。”一位电商平台技术人员称。
给员工薪资、晋升机会等制度保障及职业规划等方面的指导,正在成为很多公司改善审核员工作境遇的新举措。在那起赔偿5200万美元的Facebook诉讼案中,审核员同样也得到承诺,改善办公室环境、增加心理帮扶团队、审查员如若不适可以提前结束工作且工资不受影响等等。