作者：马亮
大数据和人工智能技术日新月异，也使用户画像、算法推荐、精准推送等定制化服务日益流行。但是，这些新技术和新应用在为人们提供便利化服务的同时，也成为侵害消费者权益的热点领域。个人信息过度采集和滥用、“大数据杀熟”等问题，成为近些年来人们广泛关注的议题，也成为《个人信息保护法》（草案）的重点关注问题。
8月17日，十三届全国人大常委会对个人信息保护法草案进行三审。草案对个人信息处理规则作出了进一步完善，并对应用程序（App）过度收集个人信息、“大数据杀熟”等问题作出了有专门规范。全国人大常委会法工委发言人臧铁伟指出，此次三审将明确界定利用个人信息进行自动化决策的概念，规定其应遵循的基本原则，并明确个人信息处理者应当采取的措施和遵循的要求。
草案指出，用户画像、算法推荐等自动化决策是指“通过程序自动分析、评估个人的行为习惯、兴趣爱好或者经济、健康、信用状况等，并进行决策的活动”。比如，短视频平台根据用户的浏览记录等数据，为其精准推送他们最可能感兴趣的短视频，就是一种典型的自动化决策。
草案规定，自动化决策应当遵循合法、正当、必要、诚信、目的明确、最小化处理、公开透明、信息质量、责任等个人信息处理原则，并以充分告知和知情同意作为应用前提。草案明确，自动化决策应坚持透明、公平、公正，不得在交易价格等交易条件上对个人实行不合理的差别待遇。与此同时，草案赋予个人选择的充分权利，个人有权拒绝是否采用自动化决策，而个人信息处理者不得以用户不同意为由拒绝提供产品或服务。
如何防范“大数据杀熟”？
互联网时代使个人信息成为整个社会关注的焦点，无论是个人隐私泄露还是“大数据杀熟”，都反映了个人信息保护的至关重要性，也使《个人信息保护法》（草案）的每次修订和审议都万众瞩目也备受争议。
一方面，自动化决策为企业追求商业模式创新提供了巨大空间，也使消费者可以获得更加精准高效的产品和服务。另一方面，一些企业“科技向恶”，滥用自动化决策服务于商业逐利，严重侵害了消费者权益。在如“巨兽”般的互联网巨头面前，用户个人的力量是微弱的，所以来自法律的救济也是必要的。因此，我们乐见《个人信息保护法》（草案）对个人信息过度收集、“大数据杀熟”等问题予以针对性规范，尽可能使个人信息保护的天平向消费者一端倾斜。
在大数据、人工智能技术等尚未普及的时代，商家“欺生”还是“杀熟”，往往取决于买卖双方的信息不对称、讨价还价能力以及市场竞争格局等因素。比如火车站、高速公路“路边摊”等商家，往往认定消费者是“一锤子买卖”，加之判断他们人生地不熟，所以会以次充好、质次价高和坑蒙拐骗。
与之相比，对于以“回头客”为主的商家来说，考虑到多次博弈的可能性，就不敢如此放肆。从企业推广获客的角度来说，为新用户提供折扣等优惠活动是可以理解的，但是对老用户“杀熟”却是站不住脚的。“杀熟”之所以会发生，就在于企业利用了客户对它的信任，所以一定程度上是一种不道德的商业行为，也很难长久下去。
在商业世界也有所谓的“看人下菜”，就是根据潜在消费者的购买力来定价，进而实现利润最大化。虽然“人不可貌相”，但是商家却精于以貌取人，通过人们的穿着打扮、举手投足、交通工具等来判断并差别化对待。
新技术使得商家可以设计更加复杂的算法，更加隐蔽地对用户进行欺诈，因此“杀熟”等差别化对待就成为可能，并且日益呈现系统化、规模化和泛化的趋势。比如，一些用户反馈某些网购平台会根据用户的使用年限、消费记录等数据，为其“量身定制”过高的价格。
一些消费者反映使用苹果手机购物的价格偏贵，就是一种低级的“大数据杀熟”。这是因为App可以轻松判断用户使用的是苹果手机还是其他高端手机，据此推测用户的购买力和价格敏感度，并有针对性地调高价格而赚取超额利润。
诸如此类的新应用看似是商业模式创新，实则是一种“皇帝的新衣”，和过去的“欺生”或“杀熟”相比“换汤不换药”，只不过其应用的技术和手段更加隐蔽和复杂罢了。换句话说，当“计算”沦为“算计”时，科技就难以向善。考虑到“大数据杀熟”是一种隐匿性很强的欺诈，其背后的“算法黑箱”往往难以揭开，因此需要采取更加有效的措施进行打击，才能避免科技进步带来的道德滑坡和福利损失。
首先，“大数据杀熟”是一种主观故意的精巧设计，因为采取了系统化、自动化、批处理的方式来执行，任何人都可能是潜在的受害者，并可能因使用App而遭遇“算计”。
因此，这意味着需要内部人的配合和举报，才能发现“大数据杀熟”是否存在，并搜集可以将违规者绳之以法的有效证据。所以，《个人信息保护法》应考虑建立“吹哨人”制度，效仿金融监管领域的重奖制度，鼓励企业内部人举报“大数据杀熟”等违规行为。
其次，“大数据杀熟”之所以会浮出水面并广受关注，同顾客的警觉和觉醒有关。一些人多次使用某种App后发现了背后的“猫腻”，甚至自费搜集证据来揭露“大数据杀熟”。这意味着要加强App相关的消费者权益保护，特别是通过宣传教育来提升消费者的维权意识和能力，使他们能够拿起法律武器来维护自己的合法权益。与此同时，在治理“大数据杀熟”的初期，“职业打假人”可能也有利于对相关企业形成震慑，使他们不敢越雷池一步。
此外，要发展点评、比价、测评等第三方独立监督机构，强化其对“大数据杀熟”等违规行为的外部监督，使之成为政府监管的有力补充。比如，最开始电商网店往往注重“打新”而不顾顾客的权益，但是顾客点评机制建立以后，顾客反馈会影响商家的商誉、获客和复购，所以倒逼商家更加以顾客为中心。消费者自觉吃亏而维权，但是往往因为“大数据杀熟”的专业性强而难以成功。一些比价和测评网站推出的专业服务，则使消费者可以货比三家不吃亏，也反过来倒逼App洁身自好。
最后，很多企业会以身试法地采取“大数据杀熟”等违规行为，同成本收益的理性计算有关。“大数据杀熟”有很强的隐蔽性，被发现的可能性较低，但是获取的超额利润却很高，这使一些企业屡试不爽。为此，要提高《个人信息保护法》对“大数据杀熟”等违规行为的处罚力度，使他们能够敬畏和尊重消费者权益。考虑到这种系统化和自动化的差别化待遇会对所有用户带来负面影响，因此应提高量刑和处罚水平，通过一些标志性案例的“天价罚单”形成行业警示效应。
（作者马亮为中国人民大学国家发展与战略研究院研究员、公共管理学院教授，研究方向为政府创新、数字治理与绩效管理，出版有《目标治国：官员问责、绩效差距与政府行为》《公共治理的向度》等著作。）
