1. 问题的提出
大数据时代,万事万物皆可以数据化的形式存在于网络空间,旧数据在不断运用于网络空间的同时,新数据也在不断的产生,对这些数据进行分析、处理和运用的过程涉及庞大的计算量,远非人工算力所能解决。算法技术恰好能够完美解决这一问题。与传统的决策模式不同的是,算法可以通过程序性指令、机械学习等方式在极短的时间内作出相应的决策,极大地提升工作效率。
在海量数据的分析处理过程中,网络平台凭借大数据算法正在获得一种新的权力——算法权力。网络平台的算法权力并未脱离传统权力的本质,在算法社会关系中,算法权力是一种算法技术控制者在算法决策应用过程中,利用自身的数据资源优势与技术优势而生成的对算法决策对象的影响力和控制力 [1] 。一方面,算法权力的应用有助于网络平台维护网络空间秩序,为平台经济提供良好的发展环境;另一方面,于算法决策对象而言,该项算法权力看不见亦摸不着,但却无时无刻处在算法权力的笼罩之下。由于算法技术的复杂性、算法决策程序的不透明等,算法权力对算法决策对象所产生的影响力与控制力难以衡量,算法决策对象无法理解算法决策机理,算法权力的正当性遭受质疑。在算法权力不断嵌入社会生活的今天,如何平衡平台与用户的权益,促进算法的逻辑构造趋向公开、透明?基于此,本文尝试从算法解释的角度,探究网络平台算法权力的规制方法。
2. 网络平台算法权力的形成
一般而言,论及“权力”当在公法层面进行讨论,那作为私主体的网络平台何以拥有这一具有“公法属性”的算法权力?这是规制网络平台算法权力所要面临的首要问题。
2.1. 算法技术是网络平台算法权力的形成的基础
算法技术的不断革新促进了算法权力的形成。在数字社会,数据、算法和算力三者交互,促进了现实空间与网络空间的深度融合,构成了庞大的数据关系网络体系。其中,算法技术是数据产生商业价值的变革性因素。在传统计算机时代,算法仅仅是一种计算机程序,随着科学技术的不断发展,机器学习和深度学习算法取得了巨大的突破和进展。伴随着数据的快速增长,数据挖掘和大数据分析的需求也日益增加。算法能够从纷繁复杂的数据中学习和提取模式,从而支持决策制定、市场分析、个性化推荐等应用。
网络平台因算法技术屏蔽而取得算法权力。网络平台利用算法技术维持平台内部的正常经营秩序。一方面,网络平台借助算法技术手段对用户不合规行为进行监控、审查和自动化决策,对已发现的违法违规行为进行处罚;另一方面通过运用评分算法对用户进行画像,激励用户进行合规经营 [2] 。但网络平台对数据资源和专业技术知识的垄断,进一步导致算法决策机理越来越难以为用户所理解,网络平台借由技术屏障达成了平台内部技术化统治 [3] 。对用户进行画像的过程广泛的依赖于深度学习算法技术,而深度学习算法技术是一种端到端的算法技术 [4] ,其能够适应新数据的同时亦具有极高的隐蔽性和不确定性。网络平台将深度学习技术运用到日常的经营管理中,悄无声息中,影响或支配用户行为。
2.2. 平台规则是网络平台算法权力形成的理据
平台规则为网络平台算法权力取得合法外衣。用户欲使用网络平台,享受其所提供的网络服务,必先接受网络平台所提供的平台服务协议,并在使用过程中遵守平台规则。其一,网络平台通过平台服务协议或者平台规则获得收集、使用用户数据的权利,再通过算法模型预测用户的偏好特征,从而引导用户的行为。网络购物平台的个性化推荐服务通过利用用户的基础个人信息,诸如性别、年龄、身份等,以及在使用过程中产生的浏览、搜索、交易习惯等数据,促使用户画像模型不断贴合用户本身,进而影响用户的购买意向。其二,网络平台通过平台规则获得规制平台内用户行为的权利。依据《中华人民共和国民法典》、《中华人民共和国网络安全法》以及《中华人民共和国电子商务法》的相关规定,网络平台可以通过服务协议、交易规则以及技术等手段对平台内的交易行为进行规制。例如,微博用户协议中载明“用户知悉并同意,微博平台有权根据技术规则通过检测验证等方式判断用户帐号所发布的信息是否为垃圾信息,并采取相关措施予以处理”,微博用户接受该平台规则,也将被动接受网络平台关于内容监管的算法决策结果。由此,网络平台依据平台规则获得算法权力。
总之,在网络平台算法权力已然客观存在并渗透到社会生活方方面面的情形下,以“算法权力”刻画平台算法所发挥的作用和影响,是一种颇有冲击力的认知方式,既体现了算法技术革新给网络平台带来的变化,又契合了算法作用和影响的特质 [5] 。
3. 网络平台算法权力滥用的现实表现
以算法为核心的商业模式被广泛得以应用,算法技术在促进社会经济飞速发展的同时,亦不可避免的存在一些负面效应。算法权力以个人数据为基石,借力于算法技术,并最终作用反馈于用户个人。权力的正当性在于其是否能够向权利合理转化并反作用于权利,使得权力与权利相互调和,从而平衡社会的利益关系 [6] 。因而,算法权力的滥用将直接影响用户的个人权利。
3.1. 影响个人自主决定权
个性化推荐服务是当下互联网行业的主要发展趋势。在个性化推荐过程中,网络平台算法权力的负面效应体现在影响个人的自主决定权。无疑,量身定制的个性化推荐服务切实的满足了用户“我想什么”的需求,但当一个社会按照它自己的组织方式,似乎越来越能满足个人的需要时,独立思考、意志自由和政治反对权的基本的批判功能就逐渐被剥夺 [7] 。算法虽然为我们节省了时间和精力,但也在一定程度上影响个人自主决定的权利。个人自主决定权体现个人自由意志,个人自主决定权的实现有赖于个人基本的判断能力与决定能力,个人的判断能力与决定能力受价值观的影响。通过复杂算法,内容平台可以根据用户注册的个人信息,包括性别、年龄、籍贯等以及使用过程产生的用户数据,包括浏览记录、收藏记录等,不断“猜你喜欢”,并推送相关内容。但是,将个人包裹在自己感兴趣的领域内,个人很难理性地拒绝这种“投其所好”的行为 [8] 。近来,某短视频app的男性用户发现,在浏览同一条关于家庭矛盾的短视频时,男性用户的前端评论支持男方,女性用户的前端评论支持女方,这种评论区个性化定制,无疑是一个危险的信号。某种程度上,经由算法分发符合“个人视角”的事实,是在进一步强化原有的“个人视角”,这些事实似乎是客观的,但当它们被放置在人们的“视角”下时,就成为了影响主观判断和态度的重要手段 [9] 。较于前述事实的输出,个性化定制的评论区固化了小众观点的输出,进而加剧群体化差异,影响个人价值观判断。
3.2. 影响消费者的公平交易权
网络平台算法权力在电子商务领域的负面效应体现为对消费者消费行为的影响与控制。首先,平台通过整合消费者的基本信息如性别、年龄、职业等以及消费者在使用过程中产生的浏览记录、搜索记录、购物习惯等,利用算法提取其中的个人特征,评估与预测消费者的消费偏好与消费习惯,有针对性地进行用户画像,达到千人千面的效果。其后,在对用户画像的基础上,网络平台利用推荐和过滤算法进行定制化推荐和差异化定价,通过向消费者提供碎片化信息进而影响其购买行为,实现价格歧视。
对于消费者来说,网络平台的算法权力所构筑的价格歧视严重影响其公平交易权的实现。一方面,由于高度的技术专业性,掌握算法决策内在机理的网络平台与普通用户之间存在着巨大的“数字鸿沟”,由0和1构成的数字代码看似简单,但内里蕴藏着无限奥秘,普通用户无法透过简单的数字代码了解价格形成背后所运用的算法决策的原理、逻辑过程和结构。另一方面,由于算法黑箱的存在和信息的不对称性,网络平台所实施的价格歧视很难被发现。算法技术本身具有极强的隐蔽性与不透明性,并且,相较于平台具有较高的资源整合能力,消费者作为被收集信息的一方,处于信息的弱势地位,无法基于充足、准确的信息作出意思表示,平台则利用自身的信息优势转嫁成本 [10] 。
3.3. 加剧个人隐私受侵害风险
网络平台算法的运作始终建立在海量数据基础之上。算法决策分为两个环节,其一在于对数据进行分析整合 [11] 生成特征信息,其二是将特征信息输入,作出针对个人将采取具体行动的决定。由此可见,算法的运作模式始终离不开数据的参与。故而,算法权力的滥用极大可能对数据的重要组成部分——个人隐私数据构成严重威胁。
对于网络平台而言,特征生成的过程即是对用户画像的过程,用户画像越贴合、越完整,算法的决策效果越高。为追求利益的最大化,网络平台往往在收集用户数据的过程中,过度收集个人数据,包括了个人的生理特征、运动数据、行踪轨迹甚至是个人的社交信息,以求能够最大限度地攫取个人数据中的商业价值。面对繁杂的隐私条款,用户可能直接忽略其内容而接受,抑或是在充分阅读后为享受平台所提供的服务而不得不接受其隐私条款。这种看似便利和高效的服务,实则以暴露个人隐私为代价。并且,由于算法技术程序的不可逆性与高效性,个人隐私数据未经同意而被不合理使用将在社会层面对个人的生活安宁造成不可逆的严重后果。
4. 网络平台算法权力的规制:开展算法解释
算法是一柄双刃剑,网络平台利用其促进网络空间的治理,优化平台内部运营环境,同时也存在滥用的风险。网络平台算法权力的滥用使得用户的个人权益得不到保障,为对抗这种复杂而又难以理解的技术权力,一个行之有效的途径就是增强算法决策的透明度进而提高其可理解性与问责性 [12] 。用户质疑网络平台算法权力的正当性,是因其不理解算法权力背后的逻辑构造,因此,基于诚实信用的理念,网络平台应当积极回应缺乏技术背景的用户的质疑,对算法权力背后的逻辑构造作出合理解释,保证算法权力的程序正当性。
4.1. “以人为本”与算法解释的融合
网络平台开展算法解释,首先要坚持以人为本的算法治理理念。如前所述,网络平台算法权力的滥用会影响个人自主决定的权利,个性化定制的推荐内容、评论内容容易让个人困于信息茧房之中。坚持以人为本的治理理念,更多地应该考虑“赋权于人”,强化人的主体性地位 [13] 。个人是社会生活的参与主体,算法技术以个人的需求为导向,但不应该成为左右个人自由意志的工具。在算法决策的过程中,强化个人的主体地位,意味着个人不再是算法技术操纵之下的参与者,而是网络平台算法权力有力的监督者。对于影响个人自由意志的算法决策,个人有权对算法决策发出质疑,享有获得算法解释的权利,进而拥有对算法决策的选择权与拒绝权。
然而,当前的算法解释大多面向算法领域的专业技术人员或者学者,缺乏专业技术知识的个体被屏蔽于算法解释之外。如何以通俗易懂的语言解释复杂的算法决策是开展算法解释所面临的首要问题。从解释内容来看,网络平台开展算法解释,不是从技术层面的逐一解释,而是如何使用户理解算法权力背后的逻辑与功能。由于我国还未对算法解释的具体内容加以规定,司法实践层面也仅是确立平台应对算法的逻辑构造进行解释,故而可以借鉴域外开展算法解释的一些做法。欧盟的《通用数据保护条例》(以下简称GDPR)以“个体赋权”的形式,赋予算法相对人算法解释权,并指出应以一种“简洁、清晰和易懂的语言”解释“数据画像及有关的逻辑程序和有意义的信息,以及此类处理对数据主体的意义和预期影响”。具体而言,开展算法解释应以用户为中心,以用户需求为导向,以一种通俗易懂的语言解释算法决策。例如,对个性化推荐算法,网络平台可以利用容易理解的知识辅助用户理解算法个性化推荐的结果,向用户披露个人信息对个性化推荐结果的权重影响。以用户友好的方式解释算法决策的逻辑构造,提升用户对于算法决策的判断能力,才能最大的发挥个人的主体作用。
4.2. 反价格歧视与反事实解释的搭建
数据为王的时代,掌握海量数据信息的网络平台拥有更多的话事权,且在算法技术的加持下,网络平台通过用户画像实施差异化定价,普通消费者只能被动接受差异化定价的结果,更甚至,由于算法黑箱的存在,消费者无法发现自己被差异化对待。合理的价格是公平交易的核心,而理解算法定价的机制则是判断价格是否合理的前提 [14] ,因此一部分人呼吁打开“算法黑箱”以对算法定价的机理进行解释。用户质疑算法权力的正当性,进而要求网络平台给予合理解释,但平台方往往藉由商业秘密或者知识产权为合法理由拒绝披露算法的逻辑构造。一方面,打开算法黑箱,公开代码确实不利于算法技术的保护,平台丧失核心竞争力,其经济损失难以估量;另一方面,由于缺乏专业的技术支持,即使披露算法的源代码,用户仍无法了解算法权力对其切身权益的干预与影响。
为平衡网络平台与消费者之间的权益,网络平台可采用不打开算法黑箱的反事实解释。以消费者的角度出发,用户需要了解影响算法决策对商品或者服务价格的关联性。反事实解释属于因果关系解释的一种,它不涉及算法内部的逻辑构造,而是依赖导致决策的外部事实。反事实解释旨在提供一种对输入数据做出最小改变以获得不同决策结果的方式,其应用于电子商务领域,消费者可以通过改变目标商品的特征,而获得完全不同推荐结果,从中选择符合自身需求的决策结果。由此看来,反事实解释不仅便于用户理解算法决策的理由,而且提供更改输入特征以改变预期算法决策结果的可能 [15] 。
4.3. 隐私保护与算法信任的重塑
网络平台进行算法决策的过程离不开数据,数据主体的隐私数据极易暴露在算法视野之下。网络平台与用户个人基于平台规则或者平台服务协议而建立起服务与被服务、管理与被管理的关系,用户个人基于对平台方的信任让渡其数据的使用权,但算法黑箱的存在给个人隐私带来了隐患,算法权力的异化加剧了个人隐私受侵害的风险。用户对个人隐私的忧虑在不断的冲击平台与用户之间的信任关系。对于隐私保护这一话题,学界已经从国家层面、社会层面以及个人层面等进行了探讨。本文中,笔者期望通过算法解释的方式重塑平台与用户之间的信任感与认同感。
个人数据在算法的运作下,被快速的传播与利用,同样,被侵害的个人隐私数据一经泄露,可能在短短几分钟之内被广泛地传阅与复制,对数据主体所造成的影响与损失难以挽回。因此,保护个人隐私,仍要强调事前救济。具体到算法解释中,即网络平台应提供算法事前解释,侧重告知用户算法的原理、设计目的以及在该算法决策过程中个人数据的使用权重与影响,进而以防范隐私数据泄露的风险。尽管,我国算法备案制度已要求不同类型、等级的网络平台进行算法备案,披露其所运用算法原理与使用目的,但已按要求完成备案的平台数量较少,且其备案内容趋于一致,个人无法从中获取有效信息,算法黑箱的问题并未得以改善。基于权责一致性,网络平台的算法权力可能危及个人的合法权益,由此,应提供相应的救济机制,对网络平台科以事前算法解释义务,以增强用户的信任感与认同感。
5. 结语
大数据时代,算法权力滥用所招致的风险不容小觑,算法运用过程中所暴露的隐患远不止于此。面对算法权力的滥用,如何保证算法技术创新和保护的同时,实现算法权力与个人权利的平衡是当下算法治理的焦点。本文通过对算法权力的形成进行分析,针对信息茧房、价格歧视及隐私泄露的问题,尝试从算法解释的视角,从算法治理理念、算法解释方法和算法解释时间等角度提出具体的解决方案。诚然,从法律层面规制算法权力的举措不止于此,且我国也尚未形成完备的法律规制体系。但一切的法律制度体系都应以人为本,体现出人民的意志与思想,开展算法解释也正是回应人民的需求。