首页 > 互联网 > 正文

“算法取中”监管:“阈值”最终应回到劳动力市场验证

文/澎湃新闻记者陈宇曦

对算法的监管,有了最新的尝试。

7月26日,市场监管总局、国家网信办等七部门联合发布《关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》(简称:指导意见),其中提到不得将“最严算法”作为考核要求,通过“算法取中”等方式,合理确定订单数量、准时率、在线率等考核要素,适当放宽配送时限。

何谓“最严算法?如何做到“算法取中”?

对此,澎湃新闻记者专访了上海人工智能研究院技术总监沈灏。

沈灏介绍,算法指的是在大数据的支持下,通过不断获取最优解,提高整个系统的效率。在很多场景下,算法及其所代表的人工智能技术,正成为人们的辅助工具,大幅提高了工作效率。“近年来我们一直在强调人工智能伦理,以人为本地把算法作为劳动者的助手,而不是对手。”

但在外卖行业,算法存在特殊性——算法与劳动者紧密相关,它用纯理性的结果,为劳动者订立考核标准。沈灏指出,本质上最严算法和算法取中没有特别严格的定义,“不断刷新最优解作为新的衡量标准来使用,可理解为最严算法。

去年人物杂志《外卖骑手,困在系统里》一文,引发了大众对“最严算法”的担忧。文章描述了支撑外卖系统运行的智能算法,为“实现劳动价值的最大化和高效化”,不断压缩外卖骑手的送餐时间,继而引发交通安全等系列问题。

在这一背景之下,如何让算法更具人性化,成为各方关注的焦点。在沈灏看来,此次的指导意见,意义在于给出了明确的方向,“明确不得将最严算法作为考核的要求,就像不能把奥运冠军的水平作为普通人的考核标准。”

摒弃最严算法作为考核要求后,指导意见提出了通过“算法取中”等方式,合理确定考核要素。沈灏指出,算法取中是一个相对模糊的概念,很难定量,通常是设置一个适当的阈值来进行技术实现。

判定阈值设定是否合理,“(需要)接下去需要针对各个业务领域大量地调研,深入每个场景,最终制定一个相对有量化指标的实施方案,有理可据地去对企业的算法做监管。”

“建立一套评价标准体系,有了标准之后,才可以比较定量地去处理算法和劳动者之间的关系。”沈灏表示。

要求“算法取中”在技术上实现的难度不大,更考验的是“企业管理层如何平衡企业利润和大众预期。”

“企业的运行效率短期肯定会受一定影响。因为算法本身提供了非常理性的结论,企业按照算法提供的结论去做,理论上可以达到最高的效率。”沈灏说。“但这只是一个纯理性的结果,长此以往会引发更多的问题,从别的角度影响企业的运行效率。但把时间轴拉长,更有战略眼光、更有社会责任感的企业,能够在劳动者的幸福感和企业运行效率之间找到平衡点,使之成为企业持续发展的势能。”

在意见提出后,如何真正将“算法取中”落实,首都经济贸易大学劳动经济学院副教授、中国新就业形态研究中心主任张成刚曾向澎湃新闻记者表示,政府可以成立专业机构,来做算法的审查测试,更直接的办法是对劳动力市场运行结果做监测。

作为技术领域的专家,沈灏也认同这一做法。“它是传统方式,也是很有效的方式。因为对算法本身来说,可能就是程序员调一个值的的问题,到底调50%还是调80%,数值对应的依据和结果分别都是什么,最后还得回到劳动力市场,去印证50%或者80%是否合理。”

对算法的监管,是数字经济治理的重要一环。《关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》出台的一个背景是,2020年12月,中共中央印发了《法治社会建设实施纲要(2020-2025年)》。

在依法治理网络空间一节,实施纲要提出,制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法,以及加强对大数据、云计算和人工智能等新技术研发应用的规范引导。

不过,目前还有很多尚待进一步探讨的问题,比如当监管部门对算法提出要求,算法如何接受审查,可以向谁公开,公开到什么程度?《指导意见》暂未做出进一步的披露。

“对于人工智能企业来说,算法作为主要的产品,如果全部放开,很容易被复制,不是一个能够长期良性循环的模式。”沈灏表示。

相关阅读:
AI独角兽第四范式拟赴港上市,背后强大资本阵容加持 马斯克:要不是受精力所限 我想造架电动飞机