2009年，脸书刚刚开始设立审核员制度时，他们的工作主要是屏蔽聚会上的裸照。2016年大选之后，面对舆论对其政治操控的指责，公司的审核员数量激增三倍。
在美国知名记者史蒂文·利维（Steven levy）眼中，受雇于脸书（Facebook）的内容审核员们就像是网络街道上的影子清道夫，在白天工程师们忙完回家之后，他们才悄悄出来工作。
把“将世界变得更开放”作为创业愿景的扎克伯格，的确带来了人类历史上最大范围的互联，同时也打开了一个潘多拉的魔盒。海量的有害信息被人们随意地传到互联网上，有些牵涉杀人、自杀、虐待，有些则牵涉种族、宗教、性别和政治操控。脸书的用户还经常在不了解当地文化的情况下冲到其他国家，导致了很多问题。如利维所说，“多年来，被赋予争议活动家权力的光环效应，让脸书对其他国家可能遭受的侵权行为视而不见”。
很多人一直以为是人工智能在帮助脸书删除所谓“不良信息”。但事实上，至少到目前为止，脸书的内容“看门”人大都不具备科技公司所偏爱的精英学位和工程背景，而是外包公司从社会底层招募而来。作为公司外包项目的员工，绝大部分一线审核员与脸书的工程师、设计师甚至信息审核规则的制定者们几乎没有任何接触。他们不能参加公司的全员会议，也没有资格获得员工奖金。
利维在书中介绍了这些审核员的工作状态。他们每小时的薪酬不会高于15美元，每天都要面对强奸、非法手术、屠杀和没完没了的裸照。他们需要迅速看完数量惊人的内容——脸书对他们的“期望值”是每天400条，这意味着，他们用于决定一个视频或帖子存在与否的时间只有40秒。在极少数情况下，一些令人犹豫的问题会被交给脸书的工作人员解决。这样的工作状态让几乎每个审核员都需要接受心理治疗。
随着脸书用户量的迅速增长和舆论指责的激增，内容审核员的数量也相应上升。2009年，脸书刚刚开始设立审核员制度时，他们的工作主要是屏蔽聚会上的裸照。2016年大选之后，面对舆论对其政治操控的指责，公司的审核员数量激增三倍。到了2019年，审核员数量已达1.5万人。
在翻译《Facebook：一个商业帝国的崛起与逆转》这本书之前，译者之一桂曙光想象不到“内容审查员的工作负荷如此之大，又如此简单粗暴”。在这位京北投资创始合伙人看来，脸书这样的大型社交媒体所担负的巨大信息负荷，可能造成的影响远非主张开放、透明、自由、分享的扎克伯格能够预料。在这个日活用户30亿的平台上，每天有源源不断的文字、视频和音频被产生出来，脸书每天都需要把来自世界各地的不同素材包装成产品。“而相比之下，传统媒体的功能只是自己采购素材，自己加工而已。”
审核员的工作并不容易，很多时候，他们作出的规定符合规则指南，却又导致非常负面的结果。2016年9月，一个叫汤姆·埃格兰（Tom Egeland）的挪威作家在脸书上发布了一个帖子，其中包括一张获得1972年普利策奖的照片《战火中的女孩》。这张照片反映的是越战期间，一个小女孩赤身裸体被汽油弹烧伤而痛苦地尖叫、奔跑的场景；她的身后，是一群穿着制服的美国士兵。按照脸书的规则，婴儿期之后的儿童裸照是不能出现的，所以他们就把这张照片删除了。埃格兰非常生气，反复上传这张照片，后来，系统居然把他的账号一封了事。这件事后来被上达到脸书总部，总部依然支持删除照片，认为不应轻易为某一幅作品破例。后来，事情越闹越大。挪威最受欢迎的报纸刊发了这个消息，编辑将脸书讥讽为“世界上最具影响力的编辑”。挪威首相也转发了这张照片，结果还是被删。很快，脸书被各种质问淹没了。这件事引爆了脸书的公关危机，同时也成为脸书内容审核政策的一道分水岭。扎克伯和和桑德伯格不得不做出决定，改变了政策，将“新闻价值”纳入内容审核的总体规则中加以考虑。
在桂曙光看来，面对Facebook这样的社交媒体的审查员，就像是“需要大学教授来教幼儿园”——在这个有着几十亿人的网络帝国里，有时候可以极其简单地处理，但一旦涉及需要灵活地把握信息的意义与价值时，就又像引导一个幼儿正确地开启他们的人生那样，困难重重又压力巨大。
《Facebook：一个商业帝国的崛起与逆转》
