2020年7月6日，人社部联合相关部门发布9个新职业及一些职业发展出的新工种，“互联网信息审核员”赫然在列。
内容审工作常被认为枯燥乏味、乏善可陈。
简言之，从业者的日常，就是依据法律法规与平台规则，对文字、图片及视频等各类内容进行逐一筛查。
他们既要过滤违法违规的不良信息，又要应对用户投诉与误判争议。
作为互联网世界的“守门人”，他们在莎拉·罗伯茨的同名研究著作中被称为“幕后之人”——隐于屏幕之后，每天面对着成百上千条充斥着暴力、色情、谣言的内容，用双眼和鼠标过滤着这些潜藏在海量信息中的污垢。
莎拉·罗伯茨 著 罗文 译 广东人民出版社
图源丨@北京日报
用户眼中抹杀创意的“暴君”
平台幕后消耗资源的“累赘”
求职者眼中需要“避雷”的苦差
用户眼中的“暴君”——“大口四方”
兴起于晋江文学城的“口口文学”在今天已成为网络流行梗。在类似的网文创作平台，敏感词屏蔽机制已成为被调侃的“众矢之的”。
系统将违规或疑似违规词替换为“口”或者“口口”，读者需要靠上下文“解密”阅读，被调侃为“文字加密文学”。
在前些年，平台的规则是：“脖子以下都被禁”，即作品中只要描写到脖子以下的身体部位都会被标为异常。
诸如“口口文学”或“脖子以下都被禁”的审核机制，让作者与读者啼笑皆非。
屏蔽词机制的滥用，使得原本正常的作品难以流畅得当地表达，缔造了众多外人眼里的笑料。
在更为严苛的平台规则下，许多文章甚至难以过审。
这在朴素的创作者和消费者那里，更是直接意味着创意的抹杀。
用户对内容审核的不满，核心是自身表达与平台规则的冲突。
创作平台为了保障作品不触及法律底线，往往采用了“一刀切”的审核机制：规则模棱两可时，审核的具体落实与执行往往矫枉过正。
类似敏感词的处理，一旦涉及，就全部屏蔽，以至于不考虑任何语境铺垫。
这样的审核“重判”不仅在各种网文平台肆意扩张，也蔓延到了其他文化娱乐领域。
图源丨小红书
内容审核员在上述过程握有核心权力，可以决定一条内容的去留，犹如法堂上的“法官”——如果说法官判决需要平衡的是法条与判例，那么审核员需要平衡的就是平台规则与具体内容。
对于绝大多数审核员来说，决策意味着责任与“背锅”：
遵守平台规则标注异常是职责所在，而保障内容原貌就要冒违法违规的风险。
相比之下，后者显得太得不偿失。这就形成了业内部分平台“宁可错杀一万，不可放过一条”的荒诞现象。
因审核抹杀内容价值的例子不胜枚举。
2016年9月，挪威作家汤姆·埃格兰（Tom Egeland）在脸书上发布一张1972年普利策奖的照片《战火中的女孩》。照片记录了越战期间，孩子赤身裸体奔跑嘶叫的场面，他们背后是身着制服的美国士兵。
平台幕后的“累赘”——无法创收
对平台公司而言，安全是正常运营的前提：为全面筛查违规内容，内容审核岗不能不设。
然而它难以直接创造收益，却带来巨大的支出成本。
作为人力需求较为密集的行业，平台审核的支出主要用于支付员工工资。
一方面，平台招聘审核员看重其对规则的理解力和精确的判断力，这就对审核员的学历、经验等背景提出了更高的要求。
就学历而言，这一职位招聘通常需要本科学历，只有经验较为丰富的专科学生才能迈过入职门槛。
另一方面，审核员个人的知识背景与实操经验存在差异，无论是对书面审核规则的理解，还是对同类内容的评判标准，都可能出现偏差。
这就要求企业对审核员开展长达数月的带教与多轮培训，由此产生的隐性成本是无法规避的。
“事实上，正式的审核过程也会产生巨大的沟通损耗，”资深从业者万叶分享，“以暴力血腥违规为例，不同人有不同的理解：
A认为某条内容呈现血迹应当被打成异常，但B觉得血迹仅仅是特效——前者可能首先考虑到保障自己工作的准确率和绩效，后者却认为内容没有违规，理应留存。”
万叶直言：“我们不可能一直补规则的漏洞。如果将这种带有争议性的案例拉齐放入表格，那么不出一年整个文档将会卡爆。”
审核员每天与疑难案例以及自己的同事“斗智斗勇”，审核效率自然大大降低。
需求错配导致沟通成本居高不下，不仅是横向的同事沟通的问题，也发生在纵向的规则学习上。
“每年一出台新的文件，我们的规则就要变化。可能政策一变动，我们的尺度要求就得收紧。”
频繁的规则变动和瞬息万变的网络形势加剧了审核的负担。
万叶透露，甚至领导班子的人员变动都会影响审核人员的学习培训。“在这种高压环境下工作显然是痛苦和低效的。”
对平台而言，审核市场报价代表着基本的支出。
文本和短图文的报价集中在1分到3分钱，而视频报价则集中在1角到3角。
以视频平台为例，日活流量千万级别的视频网站用于网络安全部门的消耗就超出万元。如果纯靠人工筛选一条条内容，消耗成本将是天文数字。即便通过基本的机器初筛，企业也将支付较高的维护费用。
无论是人力筛选、培训，内部沟通还是外包，在哪一个环节，内容审核对于企业而言都不是划算的买卖。
“不得不”设置的安全部门，带不来流量，带不来客户，也带不来收益。
这就是内容审核岗在众多平台难以被重视的原因。
求职者“避雷”的苦差——困苦焦灼的“鉴黄师”
审核员在求职者眼里是需要“避雷”的岗位，他们还有另外一个名字——鉴黄师。
他们的工作日常，需要应对来自生理、心理、职业发展亦或社会舆论等各方的压力。
作为人力密集行业，传统内容审核岗需要耗费大量精力与时间。
以短视频平台审核团队为例，人均每天需审核超2000条视频，工作时间12小时。
而最基本的图片审核，这个数字甚至达到惊人的25000张。如遇突发舆情，审核压力更会骤增。
资深从业者万叶透露，某平台视频审核员，登入系统后，每条内容的审核时长不能超过18秒，也不能低于3秒：低于3秒系统会判定速度太快罔顾质量；而高于18秒则会被判定效率太低。
审核员连续工作一小时后才能获得10分钟的休息时间。这样的工作，他们每天要持续八小时以上。对长期从业者而言，数以年计的工作，日复一日，皆是如此。
就工作内容而言，审核员每天要面对大量暴力、血腥、色情、诈骗等不良内容。
长期浸润在极端内容中，他们长期处于高压应激状态，极易出现焦虑、抑郁、失眠等心理问题。《幕后之人》一书中刻画了许多审核员工作后的创伤反应。
凯特琳：“很多内容对我来说不成问题，很多血腥暴力内容虽然会让其他人无法承受，但对我来说没什么……但有时候还是会看到一些不堪入目的内容，我需要休息片刻，和同事聊聊天，心里想着：’这太可怕了，我需要回归正常生活。‘”
乔希说：“对我来说，真正让我心烦的是暴力视频里面的声音。跟血腥场景相比，我更受不了别人遭受暴力时的尖叫和哭喊。幸好，我不需要听声音，只需要看图片，这让我的工作简单了不少——这就是所谓审核员的钢铁的意志吧。我可能很难解释清楚，我的工作并不难，只是看一个人能够承受多少、能够消化多少。”
马克思：“我无法想象有谁在做完一天的工作之后，还能够若无其事地从座位上径自离开。你无法摆脱它，不管你愿不愿意。我们每个人对此都心知肚明，就像我说的，我们从来都不会直接讨论工作，但工作总是阴魂不散。
曾有一部名为《网络审查员》的纪录片，讲述的是Facebook视频审核员的真实状况。
影片中描述了一个细节：一个审核直播视频的审核员，眼睁睁地看着屏幕里的人给自己套上绳索、踢掉凳子，在镜头面前拼命挣扎，最后脖子断了，像木偶一样垂下来。
更可怖的是，这场直播一共有3000位观众，有人沉默，有人起哄，有人看笑话。
普通求职者通常难以长期忍受这样的职业。又因技术难度不高，公司通常将其设为低薪、高周转的基层岗位：无编制、无晋升通道、无专业门槛。许多公司为降本增效，直接将这部分工作外包。
万叶透露业内乱象：“会出现这种情况，今年你是某外包公司名义上的正式员工，明年公司以‘换供应商’的由头让你签合同，把你换到另一家公司，这样你的司龄就直接清零了。相当于重新打工。”
外部环境极其严峻。审核员们没有稳定的晋升通道，工作内容机械重复，缺乏技术含量，难以积累可迁移的职业技能，跳槽时选择面极窄。
社会舆论也带给他们许多偏见。
“鉴黄师”的名号自然地被传播开来，他们也应对着难以想象的外部压力。据调查，至少有60%的审核员不愿公开谈及他们的工作内容。
缺乏外部人际关系的了解和支持，他们只能与同事“惺惺相惜”获得有限的正反馈。
结语
了解这份工作后，我们才明白“鉴黄”背后藏着不为人知的压力与疲惫。
他们需要直面人性中最阴暗的角落，承受着高强度工作带来的身心消耗，却很少能收获聚光灯下的认可。
但正是这些无名者的坚守，才让我们的网络家园更清朗、更安全。
在数字时代的浪潮中，内容安全这个话题从未缺席。
迎接我们的不是一台台冰冷的“审核机器”，而是有血有肉的守护者、共建者。
破除偏见，看见审核员们的付出；传递关切，尊重他们的价值——这是对每一位内容审核员最基本的敬意，也是我们迈向认知安全的第一步。