1月4日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》（以下简称《规定》），今年3月1日起施行。
作为国内首部算法相关的规定，此次发布或许是行业未来逐步打造系统性监管机制的开始，将给“大数据杀熟”等普通消费者斥责已久而又无可奈何的行为套上笼头。
制度化监管“大数据杀熟”等行为
线上消费、衣食住行、娱乐产品……进入数字经济时代，算法进入了我们日常生活的方方面面。通过对大数据的收集分析，越来越多的企业开始利用算法推荐向用户提供产品和服务。然而，消费者在享受个性化服务与便利的同时，也往往要面临算法对个人权益的反噬。近年来，平台大数据“杀熟”、个人隐私被泄露、商家利用算法诱导消费等情况层出不穷。与之对应的是，大数据和算法推荐作为技术本身，遭遇了部分消费者的抵触与排斥，但又无可奈何。不论是从消费者权益保护的需要出发，还是为数字经济长远的良性发展考虑，对算法推荐以及相关企业予以规范化、制度化的监管，出台相关规定都十分必要。
《规定》要求，提供算法推荐服务，应当遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德，遵循公正公平、公开透明、科学合理和诚实信用的原则。算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。不得利用算法推荐服务诱导未成年人沉迷网络。不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇。
游走在法律边缘的算法推荐
数据已经成为当今时代最重要的生产要素之一。去年以来，大数据在国家战略层面进一步得到支持。2021年11月，工信部印发《“十四五”大数据产业发展规划》，12月27日，中央网络安全和信息化委员会印发《“十四五”国家信息化规划》。
与此同时，大数据侵害用户权益、有违技术伦理的呼声也此起彼伏，案例触目惊心。2016年，西安的魏则西患上滑膜肉瘤，因为百度搜索的竞价排名机制，选择了一家由百度靠前推荐但实际技术非常落后的医院，最后浪费了治疗时机，救治不及而去世。
作为一种数据的收集和分析技术，大数据对待信息有着“宽进严出”的特点，在收集信息的过程中，大数据对已经发生的关联或不关联的、同质或不同质的海量数据进行收集、检索、分析和挖掘，游走在侵犯消费者隐私的边缘。消费者在一个平台、一个搜索引擎查询浏览的信息数据，立刻会通过各种渠道被分享传播给其他的平台和网站。一些企业和平台对个人信息进行的收集利用，往往不会对用户告知。在信息输出端，即算法推荐之时，又严格控制消费者能够接收的信息，通过对信息的甄选、修补，增强企业自身的用户黏性和舆论支持。
近年来，大量消费者反映，在旅游、外卖、购物平台遭遇了大数据“杀熟”。以外卖平台为例，同样的平台、店铺、菜品、下单时间，经常会出现老用户的外送费、菜品价格都比新用户贵的情况，而这种价格的改变通常是平台私下进行的，消费者并不知情。另一方面，部分平台依靠算法，驱使外卖员超负荷运转，实现自身的利益最大化。同时，利用算法诱导用户沉迷、过度消费的现象也屡禁不止。包括网络游戏、电商平台和直播、短视频平台在内，大量的商家通过算法模型，反复调节操纵消费者的消费体验，诱导消费者不退出服务。
数据立法任重道远
2021年我国数据立法取得重大进展，《中华人民共和国数据安全法》和《中华人民共和国个人信息保护法》先后出台。针对平台进行算法推荐中可能存在的损害用户权益问题，个人信息保护法第二十四条规定：“个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。”从法律层面禁止了大数据“杀熟”这种不公开、不透明的价格歧视。同时规定“通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式”。
目前，一些国外国内的网页、手机端平台，已经在采集个人信息和推送时，向用户提供了选择的渠道，用户可以拒绝被收集浏览记录在内的个人信息，也可以拒绝广告的推送。但仍然存在大量的企业和平台，在收集信息时不予告知，甚至利用手机后台偷偷上传收集到的个人资料，这一问题亟须整治。
算法推荐与大数据的滥用，损害的不仅是一般消费者的利益，也对市场的公平竞争造成恶劣影响。某些具有市场支配地位的平台企业，利用算法进行有倾向性的信息推荐，对竞争对手进行负面宣传，而对平台自身与自己生态圈内合作伙伴予以赞颂，并通过内容的曝光度给予优待，以精心打造的信息茧房，提高用户黏度，打压竞争对手口碑，并结合商业手段，迫使消费者与商家“二选一”。目前，在这一方面《中华人民共和国反不当竞争法》与《中华人民共和国反垄断法》都已有相应规定。
国浩律师（南京）事务所合伙人朱红兰律师表示，个人信息保护法等相关法律在整个监管体系中，基本作用于事后对监管问题的及时修正和治理，以及为算法推荐、大数据等技术的应用制定了法律层面的原则。相比之下，此次《规定》事前明确规则，加强了对相关平台、企业的指引，让企业明确违法边界，合法合规经营。未来也需要包括第三方平台与国家机构的认证与监管，打造事前、事中、事后的完整监管链条。
技术伦理为算法纠偏
为吸引顾客流量、提高用户黏度，同时对抗市场竞争，一些平台与企业利用算法推荐，采取了大数据“杀熟”、算法诱导和利用信息推荐打击对手等不合法合规的手段，甚至造成一些极端事件的发生，让众多消费者质疑算法的技术伦理问题。
大数据“杀熟”本质是一种价格歧视，而与传统商业的“看菜下碟”不同，线上消费的消费者之间缺少交流，接收的商业信息相对单一，平台利用这一点，以及前期培养的用户信任，对新老用户进行差别定价；部分平台制造信息茧房，利用平台对消费者进行误导、洗脑，抹黑竞争对手，这些都是在技术伦理上值得关注的问题。
大数据早已不局限于衣食住行的基本消费，网络影视剧平台、短视频平台和直播平台也纷纷利用大数据提供服务和吸引流量。算法诱导让用户过度消费的行为，利用算法注册虚假账号并雇佣网络“水军”进行流量造假，在媒体平台进行控评，在微博等平台进行刷榜、刷热搜等。对于未成年人等特殊群体，一些平台也没有进行内容上的甄别和修正，甚至有部分不法企业，对未成年人推送色情、赌博内容，谋取利益。资本逐利，在技术伦理的边界游走。
南京数字经济科技学会理事长姚国章教授对此表示，面对算法带来的负面问题，要重视进行规范，通过法律手段和强化监管，给算法套上笼头。“从商业逻辑来讲，利用大数据，包括算法推荐来为自己引流、盈利无可厚非，也很难界定过程中的伦理问题。”姚国章教授指出，“因此，现在需要的首先是进一步更细节化的监管，确保消费者的权益不受侵害，不受到价格歧视。通过监管和整治，推动行业自律。作为平台，要努力实现信息收集这一过程的公开透明，给消费者足够的知情权与选择权。”
技术进步是为人的幸福服务的，不应该成为人的新枷锁。技术手段的运用，不仅需要法律的规范，也需要技术伦理的纠偏。
江苏经济报记者 黄建国 见习记者 孙炜杰
