首页 > 科技圈 > 正文

小鹏汽车“盗脸”!你被偷走的脸,存在多大安全隐患?

小鹏汽车“盗脸”!你被偷走的脸,存在多大安全隐患?

文|新浪科技周文猛

编辑|韩大鹏

划重点:

1、“偷脸”、“盗脸”事件近期频发。小鹏汽车擅自采集43万张消费者的人脸照片被处罚,另有男子趁女友熟睡时,用人脸识别功能验证进入对方账户转钱,后被判刑。

2、一位AI安全企业人士向新浪科技透露,目前人脸识别系统“漏洞”很多,有些技术人员为提高体验,用牺牲“准确率”的方式保证“通过率”,这在业内很常见。

3、一个亲身经历的极端案例是,有不法分子利用AI图片活化工具生成3D图像,骗过银行系统并直接骗走逾千万元资金,而银行始终未察觉。

昨日媒体报道,造车新势力小鹏汽车因线下门店擅自采集43万张消费者的人脸照片被罚款10万元,这一数量远超被3·15点名的宝马汽车的100倍。

无独有偶,两天前也有一则关于人脸识别的新闻——广西合浦人黄某辉趁女友熟睡时,用其指纹解锁手机,翻开对方眼皮,用人脸识别功能验证进入对方支付账户,转走15.41万元……最终,黄某辉被判处有期徒刑三年六个月,并处罚金人民币2万元。

两起案例中,前者是上市公司,采购并使用违反相关法律条款的第三方供应商“盗取”顾客的脸。后者则是趁对方防备不佳,利用人脸识别实施犯罪。

这不禁让人思考,那些被偷走的“脸”,存在哪些安全隐患?谁才是背后的“推手”?

为什么“盗脸”事件频发?

根据徐汇区市场监督管理局处罚文件,2019年3月1日,小鹏汽车与某公司签订《小鹏汽车门店客流监测项目框架合同》,花费173822.77元购买相应的门店客流监测项目服务,用以进行门店客流统计和分析,对进店人数、男女比例、年龄及购买力等进行分析,用以辅助开展门店销售。

事发后,小鹏汽车表示,由于对相关法律条款的不熟悉,误采购并使用了违反了相关法律条款的第三方供应商(悠洛客)的产品。同时其对本次行政处罚表示完全服从,并对此事做出深刻反省。

小鹏汽车盗脸事件发生后,网友们调侃道,“以后去买车,是不是要戴面具了?”。也有网友直接呼吁称,“希望国家可以控制下大数据,一想到每时每刻都有人在偷窥,真觉得细思极恐。”

另有分析人士指出,小鹏汽车此次行为可能包含多种原因,一方面可能是为改善接待流程,更好地服务于到店客户。另一方面,也很可能是寻找潜在买家,主动进行精准推销。

而对于男子趁沉睡中的女友防备不佳刷脸盗走15万资金一事,网友们也义愤填膺。“我早就强烈建议取消指纹、刷脸开机支付功能了,这只是盗窃存款,更恐怖的是用手机发信息给债权人确认债务,债务是个无底洞”,广东广强律师事务所律师吴杰臻评价指出。更有网友直接评价道,“网络安全现在有好多隐患,加强防范,最好不要用指纹和人脸识别”。

当然,上述有些说法过于偏激。但人脸识别技术,到底有哪些安全隐患?

人工智能安全企业瑞莱智慧高级产品经理张旭东告诉新浪科技,由于人脸识别技术主要由数据和算法驱动,不像人一样具有常识和应急能力,这导致的结果是,人脸识别技术在实际运用过程中,对于突发事件与认知盲区,往往不能很好地应对,“即使是在面临沉睡中的人员眼皮被翻开的情况下,也能做出通过验证的错误决策”。

还有更极端的情况。他透露,一些人脸识别系统甚至于会出现在不眨眼的情况下,用笔杆从面部晃一晃便能被识别为眨眼,并最终通过验证的情况。

他坦言,在实际的技术采用过程中,为了保证人脸识别系统的用户体验度,技术使用方往往更看重人脸识别系统的验证通过率,而不是因为过于严苛的识别问题,让很多人通过不了验证。而这导致的结果是,为了保证“通过率”和真人不被误判,技术人员往往会牺牲一定的技术识别准确性,转而看重通过率,而这也导致了人脸识别技术验证准确率的下降。

“试想,如果一家服务超过10万人的企业可以毫无底线地收集顾客人脸等数据信息,那如果这些数据被网络黑客恶意攻击并获取后,其产生的负面影响,恐怕将不再仅仅只是隐私泄露这么简单。”业内人士对新浪科技说道。

毕竟在此之前,一些有关于“医保卡被人脸识别盗刷”、3D面具骗过人脸识别系统盗刷的新闻报道,便已层出不穷。一些网络黑产从业者,甚至还利用电商平台批量倒卖非法获取的人脸等身份信息和“照片活化”网络工具等,以开展非法盈利。

3D图像能骗过银行系统?

张旭东讲述了一个亲身案例。他表示,有不法分子利用AI图片活化工具生成3D图像,骗过银行系统并直接骗走逾千万元资金,而银行始终未察觉,直至用户发现后,银行才得知系统遭遇“诈骗”。

“在银行系统提取出的一些后台办卡审核信息中,甚至还带有一些图像合成软件制作的水印痕迹,但因为当时审核人员检查不仔细,并没有发现这是非法诈骗办卡”,张旭东说道。

而在此之前,安徽省合肥警方侦破的一起案件中,作案人员也曾利用AI人工智能技术,非法伪造他人人脸动态视频,欺骗电信运营商后台审核人员完成手机卡注册,而这些注册好的手机卡,最终被卖给犯罪团伙用于电信网络诈骗、网络赌博、洗钱等犯罪活动。

据报道,在嫌疑人制作的视频中,人物是可以依照输入的指令做出眨眼、张嘴、皱眉等多种精细动作,模仿人物表情变化。而且为了实现以假乱真,人物的刘海还能不时随风飘动来模拟拍摄时的轻微晃动,有的视频背景也是可以动的,画面效果非常逼真。

“将一张静态的自拍照输入软件后,嫌疑人只需要数十秒就能够将照片变为相应的动态视频,可以念数字而且能做到实时的,看起来难以置信的事情,通过软件在很短的时间内就能完成”。

结语

人脸识别是一把双刃剑。随着监管对于用户隐私及数据保护的越来越为重视,用户们对于隐私泄露事件的容忍度越来越低,经历过野蛮生长的人脸识别技术及相关企业,也将不断地被置于监管和舆论的风口浪尖之中。

小鹏汽车以及刷脸盗窃这两起案件之后,或许还将会有更多采用人脸识别技术的企业主体被公之于众,接受法律的惩戒与舆论谴责。新兴技术的发展固然为人们带来了便利,但也确实产生了新的威胁。对于更多的开发人员与技术采用者而言,技术的发展可以中立,但将技术运用于何种领域与场景,都需要业内的合规思考与监管机制来约束。

相关阅读:
特斯拉车机新功能:能显示轮胎是否过度磨损 谷歌为“创新AR设备”组建操作系统团队