摘要: 随着电子商务的深度发展,算法已成为平台进行资源配置的核心驱动力。然而,算法在提升效率的同时,因其自身存在的技术壁垒,以及使用过程的不规范,从而引发了算法歧视问题,对市场公平与消费者权益构成严峻挑战。通过检视我国以《电子商务法》《消费者权益保护法》《反垄断法》等为核心的现行法律框架,当前在规制算法歧视方面存在规制衔接不畅、归责原则困境、举证责任失衡与监管审查受限等局限性。为此,亟需构建一个以算法公平为核心理念的多元协同法律规制体系,完善算法歧视相关实体法规,健全企业、行业、执法机构等多方联动监管模式,以及畅通司法救济渠道,优化司法审查工作机制。最终达到切实保障消费者公平交易权与平台内经营者的公平竞争权,促进电子商务市场的健康有序发展。
Abstract: With the profound development of e-commerce, algorithms have become the core driving force for platforms in resource allocation. However, while algorithms enhance efficiency, issues such as technical barriers and irregularities in their application have led to the emergence of algorithmic discrimination, posing serious challenges to market fairness and consumer rights. An examination of China’s current legal framework, centered on the E-Commerce Law, the Consumer Rights Protection Law, and the Anti-Monopoly Law, reveals limitations in regulating algorithmic discrimination, including fragmented regulatory coordination, difficulties in establishing liability principles, imbalanced burden of proof, and constraints in regulatory oversight. To address these issues, it is imperative to establish a diversified and collaborative legal regulatory system with algorithmic fairness as its core concept. This includes improving substantive laws related to algorithmic discrimination, strengthening a multi-stakeholder supervision model involving enterprises, industries, and enforcement agencies, as well as facilitating judicial relief channels and optimizing judicial review mechanisms. The ultimate goal is to effectively safeguard consumers’ right to fair transactions and the fair competition rights of businesses operating on platforms, thereby promoting the healthy and orderly development of the e-commerce market.
1. 引言
数字经济时代,电子商务平台凭借其强大的网络效应和数据优势,深刻改变了传统的交易模式与社会经济运行方式。随着数字经济的蓬勃发展,我国电商市场规模持续扩大,据国家统计局发布数据显示,2024年网上零售额突破15万亿元,算法技术作为电商平台的“核心引擎”,已实现从“辅助工具”到“决策主体”的转变。然而,技术的“双刃剑”效应在此领域尤为凸显。算法在追求效率、利润最大化的过程中,可能基于用户的地理位置、消费历史、设备型号、甚至行为偏好等特征,实施不合理的差别对待,即“算法歧视”。近年来,备受社会关注的“大数据杀熟”现象便是其典型体现,实际上也是一种“价格歧视”。算法歧视问题不仅直接侵害了消费者的知情权、选择权和公平交易权,也扭曲了平台内经营者之间的公平竞争环境,长期来看将侵蚀市场信任基础,抑制创新活力。与人类传统歧视相比,算法歧视具有高度的隐蔽性、结构性、复杂性和系统性[1]。其决策过程的不透明性,往往被视为“黑箱”,使得歧视行为难以被察觉和验证;而其基于海量数据自动生成的结果,又常常以“技术中立”或“个性化服务”之名行歧视之实,对现行法律规制体系构成了巨大挑战。尽管我国已相继出台《电子商务法》《个人信息保护法》《反垄断法》等法律法规,为规制数字市场提供了初步的法律依据,但这些规定在面对快速演进、高度技术化的算法歧视问题时,仍显得原则性强而操作性不足,存在规制盲区与实施困境。因此,如何立足中国法律实践,构建一个有效且可持续的算法公平性保障法律框架,已成为亟待深入研究的重大课题。本文即围绕此问题展开。文章首先将对电商平台算法歧视进行法律界定并剖析其典型表现与危害;其次,系统梳理现行法律框架并深刻揭示其规制局限性;最终,致力于提出一套体系化的、兼具前瞻性与可操作性的法律规制路径,以期为完善我国相关立法、强化监管执法与推动平台规范运营提供理论支撑与智识参考。
2. 电商平台算法歧视的法律界定与典型表现
2.1. 电商平台算法歧视的法律界定
算法歧视并非一个全新的概念,而是传统歧视在算法社会的延伸与异化。从法学视角观之,其并非严格的法律概念,而是常见于学术与媒体报道中,用以描述经营者在商业活动中利用算法技术侵犯消费者权益、导致不公正结果的一系列行为[2]。算法歧视的核心内涵是指,在电子商务活动中,算法系统基于法律所禁止或道德上不相关的特征(如用户身份、消费能力、历史行为等),对相对人(消费者或经营者)进行不合理的差别对待,导致其遭受不公正的结果或损害。在数字经济背景下,经营者通过掌握消费者的职业、偏好、经历与支付能力等海量信息,为其绘制“信息画像”并贴上“标签”,以此精准推测其交易意愿与价格承受上限,最终制定出高度个性化的营销策略。这看似是为了便捷消费者的消费体验,但实则是通过“算法定义经济”,改变了“同物同价”的传统定价模式,使商品价格不再围绕商品价值本身,而取决于每个消费者对该商品的主观定价,由此产生了算法歧视消费者的现象。追本溯源,普遍观点认为算法歧视属于一种算法偏见,与机器学习密不可分,是机器学习的产物,也就是说算法是机器学习的结果,算法歧视是机器学习形成或强化的歧视[3]。
2.2. 算法歧视的典型表现形态
在电商平台的具体运营中,算法歧视主要体现为对消费者和对平台内经营者两个维度。
2.2.1. 对消费者的歧视
根据中国消费者协会于2021年1月提出的六种涉及消费者权益的算法歧视,将算法歧视按照行为类型分为了推荐算法、评价算法、价格算法、排名算法、概率算法、流量算法等歧视消费者行为。对上述六种行为表现的形成要素进行分析,可概括为:
(1) 价格歧视,即大数据杀熟行为,这是最为公众所感知的算法歧视。平台利用算法对用户进行画像分析,针对价格敏感度低、品牌忠诚度高或消费能力强的“熟客”制定更高的价格,而对新用户或价格敏感型用户则展示优惠价格,构成不公正的价格差别待遇。这种差异化定价在实践中具体表现为:针对不同消费能力的用户展示不同价格;根据不同系统的手机设备收取不同的费用;对表现出特定商品偏好的用户抬高价格;用户多次搜索浏览某商品后遭遇价格上涨的偏差待遇;对待新老用户呈现不同价格;为不同地区的消费者推送不同的价格区间等。
(2) 信息获取歧视。平台利用算法对用户进行区分,并实施不均衡的信息收集策略。平台的搜索排序算法和推荐算法可能并非完全按相关性或质量排序,而是倾向于优先展示支付了更高广告费的商家、平台自营商品或能带来更高利润的商品,从而限制了消费者获取全面、中立信息的权利,操纵了其选择空间。例如常见的“个性化推送”“个性化定价”。
(3) 服务获取歧视。在配送、售后服务等方面,算法可能根据用户的价值评估进行差异化处理,例如为“高价值”用户提供更快的配送速度、更宽松的退换货政策,而歧视其他用户。实践中,经常出现资深用户与普通用户在获取平台服务时的差别待遇。
2.2.2. 对平台内经营者的歧视
(1) 流量分配歧视,即搜索排序不公。平台通过算法调整搜索排名、推荐权重,利用算法在搜索结果显示中,对自营业务或有战略合作关系的商家给予优先展示,而对其他中小经营者或不配合平台要求的商家进行不合理的降权或屏蔽,直接影响其曝光度和交易机会。
(2) 平台规则适用歧视:算法在自动执行平台规则(如违规处罚、信用评级)时,可能对不同的经营者采取宽严不一的标准,构成选择性执法。
(3) 数据资源获取歧视:平台在利用其收集的海量数据时,可能通过算法只向部分合作方开放有价值的数据洞察,而对大多数经营者封闭,形成数据垄断下的竞争不公。
算法歧视的危害是深远且多层次的。首先,它直接侵害了消费者的基本权利,包括知情权、选择权和公平交易权。其次,它严重破坏了公平竞争的市场秩序,使竞争从质量、服务和创新的比拼,异化为对平台流量和算法规则的迎合,扼杀了中小经营者的生存空间和创新动力。最后,从宏观层面看,算法歧视侵蚀了社会信任基础,加剧了“信息茧房”和群体割裂,最终将阻碍电子商务行业乃至数字经济的健康、可持续发展。总之,不管是出于促进数字经济深度健康发展的考虑,还是基于保护个体消费者权利、维护正常竞争秩序的市场目标,我国相关法律都应对算法歧视保持足够的警惕,防止算法歧视损害后果的发生[3]。
3. 电商平台算法歧视法律规制的现状
我国已初步形成以“法律–行政法规–部门规章–指南”为层级的电商平台算法歧视规制体系,覆盖消费者权益保护、市场竞争、个人信息保护等多个领域。在规制算法歧视行为方面,《消费者权益保护法》《电子商务法》《反垄断法》《反不正当竞争法》《个人信息保护法》等均有涉及,但这些法律在适用算法歧视行为场景时,适用范围会受到既有违法构成要件的束缚和限制。
3.1. 立法层面:现行法律规范存在缺陷
正如前文所述,面对算法技术本身的动态变化以及算法歧视所具有的隐蔽特性,个体不易察觉,也难以举证,对于算法歧视的规制过程便存在巨大挑战,维权困难,缺乏可行救济渠道。尤其面临当前人工智能的广泛应用,甚至出现平台自营行为与人工智能自主决策的混淆,难以清晰辨别。此外,法律滞后性与稳定性的天然属性使得现行法律规范往往不能涵盖新问题新状况,因而对于日新月异的算法歧视行为,法律规制便难免存在困境。
《消费者权益保护法》并未明确将算法歧视纳入规制范围,消费者仅可根据该法第8条、第10条、第55条中有关消费者知情权、公平交易权以及消费欺诈的规定进行法律救济。其中第8条保障了消费者的知情权,要求经营者必须向消费者提供有关产品和服务包括价格、性能、产地等在内的真实信息。但是第8条中所指的应当向消费者提供的真实情况,受限于合同的相对性,仅仅包括价格等商品服务的有关信息,不包含其他相对人的有关信息,并且算法价格歧视行为的重点是差异化定价,而消费者知情权则侧重于保障消费者所购买的产品或服务的内容是否知悉。此外,实践中消费者往往面临着举证困难甚至举证不能的情形,并且算法通常作为平台经营者的一种营销工具,经营者往往会以算法并非商品为由而对消费者的知情权进行抗辩。因此通过上述权利很难实现对算法歧视的有效规制。
电子商务平台是数字经济时代算法价格歧视的主要实施主体,因此必然要受到《电子商务法》的约束。对此,《电子商务法》第18条规定,电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务的搜索结果的,应当同时向该消费者提供不针对其个人特征的选项。也就是说,《电子商务法》允许电商经营者利用算法对消费者提供个性化的推送及服务,但基于消费者权益保护的考量,应当同时提供非个性化推送服务,保障消费者的自主选择权。也有学者认为,这实质上是赋予了消费者“算法拒绝权”,突破了“全有或全无”的技术强制。然而,该条款的表述较为笼统简洁,仅考虑了“个性化推送”的歧视行为,缺乏对算法价格歧视行为的规定,也没有明确说明“个性化推荐”与价格歧视的直接相关性,这就导致在实践中,很难将电子商务平台的价格歧视行为与《电子商务法》进行有效对接,缺乏实效性。
《个人信息保护法》第24条从知情同意和公开透明两个角度对“在交易价格等交易条件上实行不合理的差别待遇”进行了相应的规范,但是由于缺乏现实基础难以真正落实,规制效果欠佳。一方面,电商平台大多将隐私协议与平台使用挂钩,若不接受平台提供的隐私协议,用户将无法顺利使用该平台。这种现象实质上是平台利用了数字经济时代消费者对互联网的高度依赖,淡化了用户的信息数据保护意识。尽管用户不愿意成为“大数据杀熟”的对象,但为了便捷生活,只能被迫勾选所谓的“我已知悉全部内容”,法律所赋予的“个人反对权”流于形式。另一方面,由于隐私政策通常冗长且难以理解,用户往往怠于仔细阅读,导致他们在行使数据权利时面临诸多困难。隐私政策的复杂性和专业性使得用户难以充分理解和行使自己的权利。电子商务平台对价格歧视行为的公开持保守态度,在目前主流的电子商务平台的信息条例中,为避免理解歧义,平台仅提到根据用户的信息进行个性化推荐,从未有平台直接将个性化定价行为列在隐私政策中,以此掩盖背后算法歧视的意图。即使遭遇用户投诉,平台往往都是予以否认。这也就导致了传统法律上的规制机制难以在现实中落实。在实践中,个人数据权利经常受到多个主体的侵害,这使得侵权行为的认定变得异常复杂,因果关系的梳理变得困难重重[4]。
在反垄断领域,自2008年《反垄断法》实施至今,我国已经形成了以《反垄断法》为核心,以1部行政法规、8部国务院反垄断指南和6部部门规章为主要框架的具有中国特色的反垄断法律规范体系[5]。针对平台算法歧视行为,《反垄断法》第22条第1款第6项规定了“没有正当理由,对条件相同的交易相对人在交易价格等交易条件上实行差别待遇”的反垄断法价格歧视条款。此外,2021年2月国务院发布的《关于平台经济领域的反垄断指南》(以下简称《反垄断指南》)第12条也对平台运用算法技术、大数据等从事的不公平价格行为进行了规定。尽管如此,在面对算法歧视侵权时,现有相关法规的规定层面相对宽泛,尚欠缺对反垄断执法提供精准、明确的实操指引,导致实施效果不尽如人意。首先,《反垄断法》的相对人范围虽然很广,但要求实施算法价格歧视行为的实施主体应当具有市场支配地位。实践中电商平台数量庞大,无法按照传统市场标准,例如“相关市场竞争范围”“市场份额”,认定其在相关市场中是否具备市场支配地位。其次,有关“交易相对人”的认定也存在歧义。通常来说,消费者是平台实施算法歧视行为的主要作用对象。但有学者指出反垄断法领域主要解决的是商家之间相互的法律关系,交易相对人应当是经营者。因此,相关规定并未明确交易相对人的范围,在适用法律进行规制时必然面临着主体身份难以认定为交易相对人的困境。最后,“没有正当理由”作为反垄断法律制度认定价格歧视行为的重要一环,并没有对此进行详尽的解释。这使得价格歧视行为在认定过程中存在较大的不确定性,平台可能以交易风险、经济效率等为由进行抗辩,对此只能在司法实践中进行具体考量,这也进一步削弱了适用《反垄断法》规制算法歧视的可能性[6]。
3.2. 司法层面:算法侵权责任认定与司法审查困境
随着数字经济的发展和电子商务平台的普及,算法歧视侵权的问题愈演愈烈。由于涉及多方利益,责任主体认定困难,消费者维权不易。同时,算法歧视侵权责任的归责原则标准存在争议,直接导致侵权责任构成要件难以满足和证明,加大了司法诉讼的难度。并且算法自身的专业性、隐蔽性、复杂性,导致了对算法歧视引发的民事侵权行为司法审查的困境[7]。
基于算法歧视的概念多元性与不确定性,不同主体对于其产生的原因可能存在分歧。有些观点认为算法歧视是算法自动化决策的结果。在这种观点下,算法被视为一种中立的工具,其歧视性的行为可能源于算法本身的设计逻辑或数据处理方式。即算法歧视是一种客观现象,而非平台经营者的主观行为。然而,也有学者将算法歧视视为一种由技术或数据缺陷导致的“偏见”,认为算法歧视的产生可能源于技术的不完善或数据的局限性,从而导致算法在处理信息时产生了偏差。此时,算法歧视便是一种可操控的技术漏洞,是可以通过技术升级来纠错,与平台紧密相关。
这也直接导致了算法歧视行为侵权的归责原则存在争议。归责原则是确定行为人民事责任的理由、标准或根据[8]。司法实践中,法院对于算法歧视侵权行为均选择适用过错责任原则,即行为人存在“过错”是重要的构成要件,责任主体只有在知晓自己的行为及后果,并且可以自由选择是否作为的时候,才应该承担法律责任[9]。然而,算法自动化决策的运行逻辑使算法歧视行为缺乏主观过错的认定机制,现实中经常出现经营者以算法自动化决策不存在主观意图为由进行抗辩,导致消费者举证困难,从而逃避侵权责任的承担。如在刘丽莉与快手公司、李德丽网络侵权责任纠纷案,北京互联网法院民事判决书(2019)京0491民初3719号中,快手公司认为,热门推荐属于系统算法自动推荐,事先无法预知热门内容,也无主观意图将涉案内容推上热门,快手公司不构成侵权。
这进一步加大了司法审判工作的审查难度。一方面,法院需要认定涉事的算法模型是否存在设计本身的侵权性。也就是说,应当对算法技术在设计之初到设计完全投入使用时的逻辑合法性审查。另一方面,若算法设计本身不存在缺陷,因后期不当使用而导致侵权行为发生,也是法院所需要着力审查的方向。由于算法的高度隐蔽性,所谓算法“黑箱”的不为人知、不能打开也不能从外部查知的技术特性,很难了解算法背后的逻辑、运作方式和目的。再者,随着互联网的普及,平台的经营多以服务大众、便捷消费为宗旨,面对海量用户信息,不可避免地出现合理范围内的差异化服务。如何掌握这种合理差异性与平台不当决策之间的度,也是法院在个案、类案、同案审判工作的重点难点。
4. 构建电商平台算法公平性保障体系
4.1. 完善实体法律规制,多法配合实现共治
反垄断法和其他法律手段相配合,主要体现在和《电子商务法》《消费者权益保护法》之间的相互配合,并且相较于电子商务法与消费者权益保护法,反垄断法的执法更具威慑力,实施效果也更为显著[10]。
首先,应当优化《反垄断法》市场支配地位的认定,适当拓宽《反垄断法》的主体范围。在认定平台经营者的市场支配地位时,平台经营者对用户的支配力、活跃的用户数量与用户时间占比、用户对平台经营者的依赖程度等,可以作为认定平台经营者市场支配地位的重要因素[11]。对拥有高额用户数量与用户时间比的网络平台经营者利用算法作为获得、维持市场力量的工具而从事的限制竞争行为,应纳入反垄断法规制的视野[12]。
其次,《电子商务法》作为顺应数字经济与互联网而生的法律,是应对数字经济灵动性风险的有效措施,呼应着互联网贸易的新特点与诉求,更应当发挥其规制电子商务行为的功能作用[6]。《电子商务法》中应当对电商经营者利用算法技术实施价格歧视的行为予以规制,并同时兼顾电商贸易经济效率与消费者的权益。具体而言,应当明确算法歧视行为的构成标准,根据“电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务的搜索结果的,应当同时向该消费者提供不针对其个人特征的选项,尊重和平等保护消费者合法权益”的规定,正确把握电商平台的相关行为是否具有非法性。
最后,规制算法歧视应当以保护消费者权益为宗旨。对于《消费者权益保护法》第29条的模糊规定,建议在保障消费者知情权、公平交易权的基础上,着重保护消费者的自由选择权,包括选择进入权与选择退出权。具体而言,消费者应当享有选择不同价格商品的权利,享有是否将自己的信息交给经营者的权利[13]。在保护消费者权益和促进平台创新之间寻求平衡,可以建立信息披露制度,确保消费者获取充分信息的权利得到维护[14]。
4.2. 多方协同监管,强化执法力度
在明确对算法歧视规制的利益平衡要义,充分认识到现有体制规制算法歧视消费者困境后,应当对算法歧视行为进行全面有序的监管,对此从企业、行业、执法机构等维度制定协同规制方案,构建多元共治新格局,设立专门的算法监管机构和队伍以加强对算法的监督与管理是应有之义。首先,要求企业自身监管。在平台开发初期,对于算法的设计与运用规划是企业内部的决策,应当由企业主动采取监管措施。企业可以尝试聘请算法顾问,对于符合特定条件和规模的互联网企业设置算法顾问岗位,聘用掌握专业技能和法律知识的人才作为算法顾问,主要负责数据透明化处理和算法解释工作[15]。其次,发挥行业协会的技术专业性,强化对算法设计、研发和应用过程中的道德约束[16]。行业协会作为一个领域内专业人士与权威代表的自律性自治组织,应当对于行业内部的职业道德伦理进行规范与监管。正如有学者所述“对算法嵌入伦理道德的价值是有必要的,它强调设计符合伦理原则的算法,为人类提供帮助或者算法自身在某种程度上具有伦理决策的能力”[17],因此通过行业协会从算法德性与技术伦理层面对算法进行商业伦理监督审查,可以有效避免算法在运用过程中出现的歧视问题。最后,强化行政监管如市场监督管理局与网信办等部门协同,配合推动行业组织制定算法伦理自律公约,引入第三方专业机构进行算法审计和认证、鼓励公众和媒体监督,形成治理合力。例如,可以参考借鉴美国的算法可审计原则,鼓励由独立的第三方机构对算法进行预先审查,要求相关企业主动如实记载算法的设计、决策、使用数据,预防算法歧视。
4.3. 准确侵权责任认定,优化司法审查机制
公正司法作为维护社会公平正义的最后一道防线,对维护社会公平正义具有重要引领作用。司法裁判是算法歧视消费者的法律规制方式的重要组成部分[18]。基于此,为使算法更好地服务消费者,应以便宜消费者标准作为违法审查标准基础,防止算法价格歧视行为野蛮生长。在归责过程中,应以过错责任原则为基础,对确定产生算法歧视后果的平台适用无过错责任原则。同时,因消费者难以凭个人能力打破信息技术壁垒,无法充分举证行为人的过错,对于算法歧视侵权诉讼的举证责任,应当采取特殊规则,即实行举证责任倒置和过错推定原则。
此外,对于算法歧视司法审查工作中存在的难题,可以通过优化审查机制加以纾解。可以采取“形式–实质”相结合审查模式,注重过程与结果并重。例如在“赵某某与浙江某网络公司网络服务合同纠纷案”中,法院指出电子商务平台提供的检索服务系为方便消费者在海量信息中迅速找到所需商品信息而设,是电子商务平台为了撮合交易所提供的服务,该服务有别于搜索引擎提供的检索服务。在评判电子商务平台提供的检索服务是否符合约定时,应区分平台性质,从设立目的角度出发,明确电子商务平台提供的检索服务在精准度的要求上应低于搜索引擎提供的检索服务标准。在评判平台是否存在算法歧视时,应充分考虑人工智能在语义分析理解方面的发展阶段,根据技术发展程度不断调整裁判尺度。在目前机器尚无法准确理解人类语言的前提下,在个案裁判时,应将计算结果放置于“弱人工智能”这个技术发展阶段进行考量,并综合考虑平台是否设置有弥补算法软肋的措施,进而正确评判平台提供的基于关键词的模糊算法的合理性。
5. 结语
电商平台的算法歧视是数字经济发展到特定阶段所面临的严峻挑战,它扭曲了市场机制,侵害了个体权利,考验着法律体系的回应能力。当前,我国现有的法律框架虽已触及算法治理问题,但远未形成系统、有效的规制方案,其在穿透算法黑箱、认定法律责任、平衡举证负担和提升监管效能方面存在显著不足。为此,必须进行制度创新,构建一个多元协同的法律规制体系。这一体系的核心在于将“算法公平”确立为基本法律原则,并通过完善实体法规则、健全以分级透明度和算法影响评估为核心的程序性机制、创新监管执法模式、畅通权利救济渠道等具体路径,实现对算法歧视的全过程、多维度治理。这不仅是保护消费者和经营者权益的迫切需求,更是引导平台经济回归创新本源、保障我国数字经济行稳致远的必然要求。未来的研究可进一步深入到算法公平的具体技术标准与法律标准的衔接、不同行业场景下算法歧视的特殊规制等更具操作性的层面。