原标题：英国近40%“高考”预估成绩被降分取代实际考试的算法打分为何引众怒？
据美国有线电视新闻网（CNN）报道，为了防控新冠疫情，英国今年未举行A-Level和GCSE考试（分别相当于中国的高考和中考），转而借由一套算法得出考生相应成绩。
报道称，然而，在关键的A-level考试成绩（即英国“高考”成绩，分数范围为A*-E）“放榜”后，英国民众惊诧地发现，近40%的学生成绩低于教师给出的预估分数，而这或将使成千上万的英国学生与名校失之交臂，并因此引发了考生和家长的抗议。
▲抗议“高考”成绩过低的英国学生。图据CNN
为此，英国资格认证和考试监管办公室（Ofqual）主席罗杰·泰勒出面道歉。他表示，英国教育部之前与Ofqual合作，设计出“尽可能公平的模式”，但“很明显评分过程导致了更严重的不一致，且无法通过申诉程序解决”。据悉，目前英国政府已宣布改变成绩计算政策，以教师的评估作为最终成绩。
然而此番波折也引发无数人思考，在算法、大数据被普遍运用的今天，为何还会类似于此次“对背景较弱的学生产生算法偏见”的情况？在更广泛的应用领域中，人们又该如何更积极地消除算法偏差与算法偏见呢？
英国“高考”成绩近40%遭降分
英工党领袖：年轻人的机会破灭了
在接受CNN采访时，18岁的菲利普表示，算法有可能会导致他今年“失去进入大学学习法律的资格”。菲利普是英国今年30多万名应届高中毕业生中的一员。CNN报道称，“放榜”当天，当这些学生醒来的时候，他们会发现，很少有人能获得至关重要的A级考试成绩。
▲学生们在英国教育部外举着标语抗议。图据CNN
菲利普就读的中学位于伦敦西部，他的老师们预测他可以获得2个A级和1个B级——这个成绩能确保他较为顺利地进入名校埃塞克斯大学并学习法律。
当地时间8月13日，英国全面放榜A-Level成绩。当天，菲利普在家中试图访问埃塞克斯大学网站以确认他是否被录取。回忆当时的情景，他告诉CNN记者：“我在楼上试图加载该校网站，我妈妈也在楼下做同样的事情。她试图打开这个网站，然而很快就被拒绝了。”
菲利普补充说：“我感觉不太好。我对此很不满，但身边每个人的情况都和我差不多。”
菲利普被拒绝的原因是算法给他评定的最终成绩是1个B级和2个Cs——未达到埃塞克斯大学的录取标准。据了解，菲利普的情况并不是个案。受算法影响，今年近40%学生的成绩被降了级，其中35.6%的学生成绩低于老师预期，另有3.3%的学生成绩下降了两个等级。
▲受算法影响，近40%学生的A-level成绩被降了级。图据BBC
此外，公立学校的学生比私立学校的学生受到的打击更大，许多人可能会因此失去自己心仪的专业和学校。
对此，英国工党领袖基尔·斯塔默爵士表示，“今年的考试成绩显然出了大问题。近40%的年轻人的成绩被降低了，这涉及成千上万的年轻人，他们的机会破灭了。”
算法被指向富裕学生及地区倾斜
众多学生走上街头抗议
此事让学校、学院和学生都充满了愤怒，一些青少年在英国教育部外举行了抗议活动。相关视频在社交媒体上迅速传开，包括一些青少年高呼“去死吧，算法”的画面。经过几天的连续报道，英国教育大臣加文·威廉姆森宣布，学生们将获得老师预测的成绩，而不是该模型分配的分数。
据了解，选择通过算法来划定考生成绩的目的原本旨在“确保公平性”。它通过老师们预测的成绩和对学生的排名来确定成绩。但至关重要的是，它还参考了考生所在学校的历史表现，这最终使得那些来自富裕家庭的学生更加受益。
在英格兰，向父母收取高昂费用的私立学校通常只实行小班化教育。因此，英国政府采用的算法对私立学校老师预测的成绩给予了更大的权重。CNN报道指出，英国私立学校的学生通常比那些在公立学校被降级的同龄人更富有。
而在更宏观的层面上，许多人发现苏格兰资格认证局（SQA）在调整学生成绩时存在明显的“区别待遇”：贫困地区的学生通过率比老师预估的降低了15.2%；而富裕地区的学生通过率仅下降6.9%。
▲抗议“高考”成绩过低的英国学生。图据CNN
牛津大学计算机科学系高级研究员海伦娜·韦伯说：“我们所面临的复杂性之一就是算法如何保证公平。您可以看到一个论点，政府表示希望获得与去年相似的结果。在全国范围内，这可以说是公平的，但是它完全错过了对个人的公平。”
韦伯补充说：“显然，这种算法反映了前几年发生的情况，但问题是，它并没有反映学校在今年可能有所改善的事实。这对公立学校的影响要比对那些平均成绩一直较高的私立学校的影响要大。”
他愤怒地向CNN表示：“算法认为，如果学生以前在学校就没有达到过高分，现在就无法获得高分。这让我觉得这个算法是在对一部分人‘施恩’。”
“算法偏差”导致“算法歧视”
英国内政部遭起诉
事实上，从社交媒体、签证申请系统，再到面部识别技术甚至考试评分，当今社会的许多领域都会使用算法。CNN评论指出，对于资金相对拮据的政府和追求创新的科技公司而言，该技术的确可以解放生产力。但是，专家们长期以来一直就普遍存在的“算法偏差”提出警告，与此同时，随着自动化流程的日益普及，对歧视的指控也越来越多。
NPO法律机构Foxglove的联合创始人科里·克里斯德指出，眼下全英学生“高考”成绩低，是因为该算法复制了所用原始数据中存在的偏差。而这“只是算法偏差的冰山一角”。
▲有专家指出，算法偏差普遍存在且影响深远。图据Techxplore
克里斯德告诉CNN，不要单单将政策问题归咎于技术的缺陷，据悉，其所在机构“Foxglove”已就“滥用数字技术”提出了指控。
近日，Foxglove和英国移民福利联合委员会向英国内政部发出质疑，目标直指其使用的旨在流式处理签证申请的算法。这个英国民间慈善团体声称，该算法对“某些国家的申请人有偏见”，使来自相关国家的申请人更有可能被拒签。“筛查系统存在反馈循环，过去的偏见和歧视被输入计算机程序，加剧了未来的偏见和歧视。”
英国内政部发言人则告诉CNN：“我们一直在审查签证申请流媒体工具的工作方式，并将重新设计流程，以使其更加简化和安全，但我们不接受英国移民福利联合委员会在司法审查中提出的指控。鉴于该诉讼仍在进行中，我们不宜再发表评论。”
对方呼吁加强对算法的监督
英政府已对A-Level成绩作出让步
英国社会活动家和技术专家告诉CNN，他们希望有关算法的近期辩论能使英国政府相关部门加强对算法技术的监督。牛津大学计算机科学系高级研究员韦伯称，“目前英国缺乏相关的监管监督，但在相关法规出台之前，公司也可以选择自我监管。”
事实上，一些科技公司在算法监督方面的声音也越来越受瞩目。
今年6月，社交应用Instagram的首席执行官亚当·莫塞里曾在一份名为《关于公司多元化努力》的声明中写道：“某些技术可能会重复有偏见的社会思考模式。尽管我们做了很多工作来帮助防止产品中出现潜意识偏差，但我们需要更加认真地研究我们所构建的基础系统，以及需要做更多的工作来避免这些偏差影响决策。”
▲众多科技公司也在努力修正其产品的“算法歧视”。图据BRINK
莫塞里特别指出，在他看来，分发和算法偏见是Instagram尤其需要改进的领域之一。据悉，Instagram新成立的公平和包容团队将负责调查美国黑人、西班牙裔和其他少数族裔用户受到该公司算法的影响，并将其与对白人用户的影响进行对比。
尽管目前相关公司董事会和学术界仍就如何纠正并消除“算法歧视”和“算法偏差”争论不休，但毫无疑问，这些自动化系统一直以各种微妙的方式决定人们的生活。
对于菲利普来说，英国政府用算法来取代考试的做法使他陷入困境。他告诉CNN说：“我们给埃克塞特大学发了电子邮件，并打了电话，他们陷入了混乱。”他补充说，他希望自己能“夺回”自己的专业。
目前，英国高校方面也纷纷出面表态，如牛津大学就表示，他们会优先考虑公立学校的失学学生：“我们已经仔细考虑了所有今年没有达到成绩的申请者的个人情况。我们现在已经为其中的300多名学生提供了入学机会，远远多于前几年。其中绝大多数是英国公立学校的申请者，来自贫困家庭。”
红星新闻记者王雅林罗天
责任编辑：杨杰
