首页 > 互联网 > 正文

清华教授:外卖骑手算法困境是综合性问题,需各方参与才能平衡

“一个负责任的人工智能体系不只要有效率,还有公平和安全。”近日,清华大学人工智能治理研究院副院长梁正在北京智源大会“AI安全与产业治理”论坛上说。

梁正过去半年一直在关注数字劳工问题,从外卖骑手“困在”系统里这个案例他看到,算法背后指向的是一个综合性的社会问题,需要各方的参与才能达到一种平衡。

梁正认为,平台在开发、设计、部署相关算法的时候要把相关利益方的利益考虑到,包括对人的尊重,如何保护弱势群体。同时,还要区分哪些问题是算法本身的,哪些是由于算法的不当使用造成的,找到问责主体,区分解决。

安全问题也是论坛上专家们极为关注的。其中,虽然算法安全问题目前仍处于刚“兴起”阶段,但它的危害不容小觑。瑞莱智慧RealAI联合创始人刘荔园说,去年她看到行业里很多人脸识别的应用受到了攻击,相关黑产给用户造成了大规模损失。这些漏洞除了是由深度学习技术本身的缺陷导致,还有恶意攻击者对数据或样本进行“投毒”(通过在训练数据里加入伪装数据、恶意样本,进而导致训练的算法模型决策出现偏差),故意影响AI模型的攻击行为。

阿里安全资深算法专家何源则观察到,以电商场景为例,算法的漏洞可能导致非原创图片逃逸检测,还可能威胁到网站安全和商家权益。自动驾驶场景受到攻击的后果则更为严重。百度安全主任架构师包沉浮透露,模型鲁棒性(模型面对一定变化时的表现是否稳定)的欠缺将导致自动驾驶系统在对抗环境或光线、天气条件多变的复杂环境中发生错误识别。这甚至会危害到生命安全。

解决人工智能的安全可控问题变得越来越迫切。论坛期间,清华大学联合阿里安全、瑞莱智慧发布了首个全面的AI攻防对抗基准平台,该平台可实现对AI防御和攻击算法的自动化评估。

当越来越多的算法深度介入人们的生活中,必然带来相关的社会问题。但要让人工智能更加安全可控,仅有技术支撑还不够,这背后还需要行业标准、法律规范等配套的基础设施。(文/AI财经社唐煜编/赵艳秋)

相关阅读:
易买得和NAVER或成为eBay韩国新东家 优酷诉VIP视频被破解:要求停止侵权行为,赔偿150万经济损失