新浪科技讯北京时间6月24日早间消息,据报道,美国许多社交媒体平台雇佣了大批内容审核员,他们的使命就是删除有害内容。这些审核员在删帖时是否经常犯错?实际的情况可能超出您的想象。
在15个月之前,Meta(之前的Facebook)创办了一个独立的内容监管委员会,委员会的使命是监督审核员们的工作。而在这15个月之内,该委员会就发现了130多个存在问题的删帖决定。
在审查这些删帖样本案例之后,Meta公司得出了一个结论:内容审核员在执行公司政策时一共犯下了51次错误,换言之,内容审核员四成的删帖工作出现了错误。
如果这些样本能够广泛代表Meta平台的用户内容,则这意味着审核员被发现的错误只是冰山一角。
就在本周,Meta内容监管委员会宣布,在处理Facebook平台和Instatram的用户内容上,委员会一共接到了110万次投诉。
网民对于删帖行为的严重不满,再加上审核员的错误判断,这些事实似乎证明了美国亿万富豪马斯克最近在收购Twitter网站时的一个观点,那就是应该尽量减少对言论内容的审核控制。
马斯克公开表示,之所以要收购Twitter,其中一个原因是要消除对于网络言论的障碍(只要这些内容合法)。不过,最近一段时间,马斯克立场有所软化,表示事情可能不想他想象的那么简单。
上个月,马斯克表示,他将会删除Twitter平台上“对世界有破坏性”的帖子,与此同时,他也会用各种策略,比如限制某些推文的传播范围,暂时封禁某个用户的账号。
上周,马斯克对Twitter员工也表示,将和平台上骚扰其他用户的不良行为做斗争。
各种迹象表明,在内容管理上,马斯克将会面临和Meta一样的挑战。
对于Facebook的东家来说,网络霸凌和骚扰信息的处置是用户反映的最不满意的两个领域,占到了内容审核委员会所有投诉的三分之一。其他用户不满意的领域,还包括Meta对网络仇恨言论以及煽动暴力内容的处置。
如果马斯克对Twitter内容进行审核监管,而且还要防止引发用户大规模抱怨,他可能要采取比Meta更严格的措施。
Meta让一个外部独立委员会来对审核员的删帖行为做“马后炮”式的决定,这相当于拱手放弃了平台涉及到用户体验的一个重要方面。
当然,Meta的做法有利有弊,可以让公司和一些删帖争议保持距离,通过让外部独立机构处理删帖争议,Meta相当于“外包了正义和良心”。
Meta的外包行为,也让外界看到了处理删帖纠纷的难度,如何对网民“语言和言论”执行公司的一条硬性规定,这颇具挑战。
在内容审核委员会发布的第一个报告中,委员会称在前15个月中,他们一共只处理了20宗纠纷,在14宗纠纷中,委员会修改了Meta审核员的删帖决定。和委员会接到的海量投诉相比,这些处置的案例数量只是九牛一毛。
对于Meta来说,公开某些删帖争议的处置细节也有一些好处,可以让一部分炮轰社交媒体“审查言论”的批评声“闭嘴”。要知道,在网络平台上,并不是非黑即白,还有灰色地带。
这个独立的审核监管委员会,也给Meta带来了一些不适。委员会要求Meta提供更多有关删帖过程的信息,另外在删帖决定上必须向用户保持更加透明。另外在Meta正在打造的元宇宙中,这个监管委员会也希望在内容审核政策方面获得话语权。
独立监管委员会的运作,可以让Meta把精力放在重要工作上,Meta也可以对外表明:我们在回应外界的压力和呼声。这样的监管委员会也可以消除另外一种声音,那就是让政府机构来监管网络平台的用户内容。
从一个小样本四成的差错率,可以看出,内容审核工作的准确度不高。人类的言论内容本来就是模糊的,人类审核员自身的判断也会犯错误,这使得言论监管政策执行起来很难。
如果马斯克成功收购了Twitter,在内容监管和删帖上,他可能需要吸取Meta的一些教训。另外一方面,马斯克一直不害怕成为网络争议风暴的主角,因此在监管全球网民言论方面,这位全球首富其实正盼着在媒体聚光灯下、发挥他个人的影响力。