摘要: 算法推荐服务是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息的服务。其在满足人们多元化需求的同时也产生了技术异化、信息失真泄漏、欺诈顾客等风险，对电子商务发展具有不可小觑的打击，应从多个维度协同治理。随着《电子商务法》的出台，以期构建生态环境良好的互联网信息服务环境，规制滥用算法推荐技术的法律风险。
Abstract: Algorithmic recommendation service refers to a service that provides information to users using algorithm technologies such as generative synthesis, personalized push, sorting and selection, retrieval and filtering, scheduling and decision-making. While meeting people’s diverse needs, it also generates risks such as technological alienation, information distortion and leakage, and customer fraud, which have a significant impact on the development of e-commerce and should be addressed through collaborative governance from multiple dimensions. With the promulgation of the Electronic Commerce Law, it is expected to build an Internet information service environment with a good ecological environment and regulate the legal risk of abusing algorithm recommendation technology.
1. 引言
在当今数字化时代，电子商务已经成为人们生活中不可或缺的一部分。为了提高用户的购物效率和满意度，电子商务平台广泛采用算法推荐技术。算法推荐通过分析用户的历史行为、偏好和需求，为用户提供个性化的商品推荐和服务。然而，算法推荐在带来便利的同时，也引发了一系列风险和问题，对消费者权益、市场竞争秩序和社会公共利益构成了挑战，算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用导致的问题也深刻影响着正常的传播秩序、市场秩序和社会秩序，而“大数据杀熟”现象正是算法推荐在互联网购物中滥用所造成的乱象[1]。因此本文选择从“大数据杀熟”的成因这一角度入手，通过对经营者、算法和消费者三方面之间进行分析，在法律适用、算法规制、监管机制和权利救济层面上，揭示“大数据杀熟”的现实困境，进一步深入探讨“大数据杀熟”的治理路径是防范化解安全风险的需要，也是促进算法推荐服务健康发展、提升监管能力水平的需要。
2. “大数据”杀熟的成因分析
“大数据杀熟”行为的出现有各种各样的原因，原因大致可以分为几个方面，首先在算法技术等客观条件和商家逐利天性的主观因素下滋生了“大数据杀熟”行为；其次，对于数据信息的获取和利用的不平衡地位，更加加剧了“大数据杀熟”行为的泛滥；最后，在后续监管和救济认定等方面的难度，也使得“大数据杀熟”行为持续性的猖獗和存在。
2.1. 算法的隐蔽性与商家的逐利性
大数据时代，网络服务提供者的信息提供以及背后的算法并不透明，并且大部分用户对于电子数据和信息也是知之甚少，只有极少部分用户能对算法原理有明确认知，因此对平台本身的运作过程以及算法背后的人为操作分类推荐等对有关消费者而言是无法进行准确分辨的。在大数据信息背景下，一个个分散的数据毫不起眼，对于分析消费者偏好似乎无法起到很大的作用，但是积沙成丘，大量数据被人为收集汇合整理，使得散乱的数据具有了一定的经济价值。数据背后的经济价值驱动着众多的平台者挖掘利用新技术，进而获取用户一切可利用的个人信息，这是商家出于逐利心理的天性，也是滋生“大数据杀熟”行为的重要因素[2]。
2.2. 监管上的缺失以及追责的不完善性
由于法律本身所具有的滞后性这一特点，对于规制电子购物平台多为事后补救和事后处罚，这也导致了相关问题在实务中存在着许多规制困境，这也是“大数据杀熟”行为猖獗的另一原因。尽管近年来持续出台众多关于个人信息保护和电子商务如何运行以及算法推荐管理等的相关规定，但是在现实生活中，真正面对“大数据杀熟”行为时，由于当前大数据高速发展，大数据自身具有模糊性、隐蔽性和复杂性等特征，大多数消费者不容易发现自己被杀熟。
除了监管体系的不完善性之外，追责体系也存在一定的不足，具体表现为追责规范在事前事中事后阶段均存在缺失，在app出台前缺乏成熟的规范对该类app的合规性进行审查，使得从最初的诞生之时合法合规并未深植在企业经营者的意识之中；在事中未建立规范性、持续性的检查标准和制度，企业经营者未定期上传和汇报相应的运行规范，监管部门对此也没作出相应督促和指导；在事后阶段，未建立审计监督等监督机制，对于运行过程中出现的问题未及时处理和解决，对于屡屡触犯制度规范的企业未给予相应的警告和处罚亦或者处罚力度较小，不能达到威慑和教育作用；在人才方面，没有相应素质的人才和专业队伍的保障，使得规制“大数据杀熟”的监管力度和追责体系没有落到实处。因此监管部门在监管上的缺位以及当前的监管追责体系不完善等众多原因均会导致“大数据杀熟”难以连根拔除。
2.3. 信息获取和使用的不对称性
大数据信息由于其本身的模糊性和隐蔽性，交易双方从一开始便处于不对称地位，消费者本身就处于劣势地位，而平台者处于优势地位，且这种不对称愈发加剧。经营者对于所收集信息的便捷性和用户整合利用信息的困难性形成鲜明对比。平台、经营者根据app的用户协议等繁琐、晦涩的流程以及利用用户对使用app的迫切使得用户同意其获取信息，便捷获取的大量数据为“大数据杀熟”行为的发生，提供了最基本的数据基础。反观用户，大部分用户无法意识数据的价值，事前对于自身隐私的相关数据未采取相应有效的保护措施，使得各种互联网平台能够轻易获取用户数据，加剧了双方之间的信息失衡，即使少部分用户注意到app可能会都对自身隐私造成泄露也会因为对该app的需求，而不得不许可平台对相关信息的采集。
3. 算法推荐风险的现实困境
3.1. 法律适用困境
当前对算法推荐主要是通过《消费者权益保护法》《价格法》《电子商务法》《反垄断法》《个人信息保护法》这几部法律规范进行规制，但这些法律规范对于“大数据杀熟”这一行为的规制采用的是模糊性规定甚至未将其纳入规制范围内，从而导致“大数据杀熟”的适用标准模糊不清，对于“大数据杀熟”的规制也因此落入到真空地带。可以从以下几个方面去分析算法推荐风险的法律适用困境，首先是，价格歧视。“大数据杀熟”是指企业利用大数据技术对不同的消费者进行差异化定价，通常是对老客户或忠诚度高的客户收取更高的价格。这种行为可能会破坏市场的公平竞争环境，因为它违背了传统的一价定律，即相同的商品或服务应该以相同的价格出售给不同的消费者。而我国当前对于价格歧视主要是通过《反垄断法》与《反不正当竞争法》来判定的，通过判断企业是否在市场中处于支配地位，再来进行下一步认定是否存在价格歧视。但如今算法的发展使得中小型企业也可以做到“杀熟”，因此对于互联网领域的价格歧视认定是否仍然需要“具有市场支配地位”作为判断平台是否“杀熟”的标准。
从反垄断角度来讲，“大数据杀熟”可能增强实施该行为企业的市场力量。一方面，企业利用此方式获取更高利润，能投入更多资源巩固市场地位；另一方面，新进入市场的企业因无法与掌握大量用户数据的企业竞争，难以吸引客户、获取市场份额，导致市场进入壁垒提高，限制了市场的竞争活力，阻碍了新企业的进入和创新发展，从而实现反垄断的效果。现阶段虽有相关法律规范进行规制，例如《反垄断法》《禁止滥用市场支配地位行为暂行规定》等，但实践中大量的“大数据杀熟”以及算法推荐是达不到反竞争的，只有在少见的特定情况下才可达到反竞争效果。二是正当理由的抗辩被滥用。前文所述的法律规范因为均未对“大数据杀熟”这一问题作出明确界定，更未对“正当理由”明确定义，平台可以利用算法的隐蔽性、系统漏洞等抗辩，导致从反垄断角度规制“大数据杀熟”效果大打折扣[3]。
3.2. 信息失真、泄露困境
信息化时代个人信息早已深度卷入技术风险之中，算法推荐需要收集大量的用户数据，包括个人信息、浏览历史、购买记录等。如果平台对用户数据的保护不力，就容易导致消费者隐私泄露。此外，算法推荐的过程也可能涉及到用户数据的滥用，进一步加剧了隐私泄露的风险，这破坏公众对于社会公信力，严重影响公共秩序的稳定[4]。这些虚假信息逼真程度之高，往往以十分令人相信的方式呈现给社会公众，尽管人们也会忽略一部分与他们认知不符的谣言和绯闻，但当此类信息达到一定数量时，很难让人不得不注意并相信其中的内容[5]。算法推荐还会基于用户的历史行为和偏好进行推荐，容易使用户陷入信息茧房。用户只能接触到与自己兴趣相似的信息和商品，限制了用户的视野和思维，导致信息的单一化和同质化。
4. “大数据杀熟”规制路径
最早对协同创新进行科学界定的是麻省理工学院的彼得·葛洛，他认为协同创新是指由自我激励的人员所组成的网络小组形成集体愿景，借助网络交流思路、信息及工作状况，合作实现共同的目标[6]。在互联网信息传播的过程中，用户、政府、行业竞争对手及其他利益相关者之间面临各种类型的冲突，协同创新理论则是通过利益之调整，在其之间打造一个动态平衡的环境。要实现有序化正当化的算法推荐服务，既要发挥政府的主导作用，还需要多元治理主体的广泛参与，积极发挥平台、行业组织与用户的作用。
4.1. 加快完善制度建设，促进外部规则
首先应当从全局出发，现阶段对于此类行为规制最优解是应尽快明确大数据杀熟的概念、构成要件等，让监管和执法有法可依，确立规制算法推荐服务的法律义务和一般准则，从而有效避免在认定上的模糊性。及时细化相关规定。根据技术的新变化以及出现的新问题，对涉及相关问题的现行法律规范，适时完善或出台相关的政策和法律法规，例如拓宽《反垄断法》对于价格歧视主体的认定范围，与行政监管体系相配合，协力维护互联网信息服务领域的健康有序发展。最后，坚持问题导向，增强监管政策与法律法规等制度的针对性和实效性。及时改革那些对互联网信息服务领域治理造成阻碍的制度，包括不利于其发育成长的一些体制机制障碍。最后探索运用多重治理工具，实现动态监管。用“技术”去制约“技术”，以“商业伦理”治理“技术”，以“法律”规范技术，积极探索监管科技的发展与实践。
4.2. 形成多元化监管格局
应当形成从内到外、从机关到个人的监管格局。通过政府设立统一的监管平台，对大数据进行网络监控，将常规监管升级为即时监管。并且建立政府内部的协同监管机制，在行业自律形成之前，政府承担主要监管责任，通过多种方式，对电商平台可能存在的杀熟行为进行实时监督，并保障执法的有效性[7]。积极促进行业内部自律监管体系，做到不推诿，保证监管都能落到实处。最后要呼吁社会公众协同监管。利用社会监管的优势，积极向监管机构反馈，实现对“大数据杀熟”的社会监督[8]。
合理划分责任边界，实现多元共治。一方面，基于“合法性–能力–责任”这一原则合理界定政府与平台、行业组织、用户之间的责任边界，根据治理主体能力的差异合理分割监管权力，充分发挥各个治理主体在多元共治中的积极性，实现政府部门监管、平台履责、行业组织自律以及用户监督。另一方面，要加强引导，如积分体系、等级提升、信用体系等，激发用户、平台等多元主体的参与热情以及在虚拟空间的成就感，吸引各个治理主体参与。并且，要建立长效的惩戒机制，构建良好的治理环境。通过互联网信息服务领域多元共治，将平台治理的各方利益主体的诉求、能力与资源进行整合，以发挥每一主体的比较优势，通过形成共识推动治理实践开展。
4.3. 畅通利益诉求通道
一方面，信息时代以其显著的交互性特征，应当借助政府网站、政务微博、政务微信、在线申诉或新闻发布会等多个平台，保障消费者及用户能够及时反馈自身诉求，这些平台作为桥梁，促进了各方意见和观点的有效沟通，增进了相互理解，为不同主体间的顺畅交流提供了坚实支撑，有助于及时且高效地解决矛盾。另一方面，采取有效、理性且克制的行动方式至关重要。特别是在处理商家与消费者之间的关系时，必须寻求权益的平衡点。我们不能因消费者在电商环境中的相对弱势地位，就无限制地向消费者端倾斜，这种做法不仅会挫伤商家的积极性，还可能阻碍算法技术等关键领域的健康发展。
综上所述，信息时代背景下，我们应充分利用各类政务平台保障消费者权益，同时坚持有效、理性、克制的行动原则，确保在维护消费者权益的同时，也兼顾商家的合理权益，共同推动电商环境的和谐与进步。
5. 结语
算法技术无疑是人类社会的进步标志，也是科技发展不可阻挡的趋势。然而，它所潜藏的不公正与不平等问题，已对消费者的隐私权及基本权益构成了侵害。因此，采取法律手段进行有效规制显得尤为迫切。尽管《电子商务法》已存在，但其仍有待完善。在互联网信息服务领域，加强针对算法推荐的规章制度建设，既是防范和化解安全风险的需求，也是推动算法推荐服务健康发展、提升监管效能的必然要求。为此，我们必须采取多种措施，严格规制算法价格歧视行为，以确保消费者的合法权益得到切实维护。这不仅是法律的要求，也是促进算法技术健康、公正发展的必要之举。