摘要: 数字社会以算法为核心、以网络平台为载体，其中的个人信息因此具有了可计算性，即算法识别性。本论文旨在研究数字法学的核心，即算法的相关问题。随着算法在各个领域的广泛应用和持续发展，算法决策对个人权益、公平性和社会秩序等方面产生了重要影响。本文将探讨算法的法律属性以及算法决策的规范路径，分析现行法律框架中的不足，并提出完善法律规制的建议，以确保算法决策的公正、透明和可解释性。
Abstract: Some scholars have noted that in the digital society, algorithms are at the core, and network platforms serve as the main carriers, giving personal information a calculable nature, known as algorithmic identifiability. This paper aims to examine the core issues of digital jurisprudence, specifically those related to algorithms. With the widespread application and continuous development of algorithms across various fields, algorithmic decision-making has significant impacts on individual rights, fairness, and social order. This paper will explore the legal attributes of algorithms and the regulatory pathways for algorithmic decisions, analyze the shortcomings in the current legal framework, and propose recommendations to improve legal regulations to ensure the fairness, transparency, and interpretability of algorithmic decision-making.
1. 算法
1.1. 算法的含义
数据、算法和算力的强力结合，以一种极具颠覆性和创新性的方式推动人类迈入算法社会。在商业场景中，从新闻推荐到购物推荐，从金融投资到职场评估，算法逐渐成为继“政府–市场”之后的第三只“无形之手”，强力推动数字经济的蓬勃发展。在公共领域，算法逐渐成为影响决策的重要力量，仅次于政府和专家，涵盖了司法审判、智能警务、福利分配和信用评估等多个方面，既独立又辅助地推动智慧决策的实施。当算法深度嵌入复杂的应用场景，深入到我们生活的方方面面时，这种看似理性的算法却引发了一系列危机，如“算法歧视”“算法合谋”“算法霸权”“算法黑箱”“算法短视”等问题频现。算法是数字法学研究的核心范畴，属于数字法学的关注对象。在学术研究中，学者们普遍认同“算法”可作广义和狭义之分。广义上的“算法”是指“对特定问题求解的步骤描述”，其应用不仅限于数学和计算科学，还涵盖社会科学等领域。狭义上的“算法”则指的是计算机科学中“用于执行计算或解决问题的一系列指令”。在本文中，算法主要指的是狭义上的算法。
1.2. 算法的法律属性
在此之前要强调的是算法与数据之间的关系。尽管从概念上可以清楚地区分算法、数据和结果，但是它们在现实生活中往往混合在一起，影响判断。受冯·诺依曼结构的影响，大多数计算机将数据和代码存储在同一内存空间中，而代码则是算法的载体，使得算法与数据和结果相互交织。算法与数据之间的关系密切且复杂。算法作为一组明确的规则和步骤，是处理数据的工具，通过将原始数据转化为有用的信息和知识，帮助我们理解和预测现象。反过来，数据则是算法运作的基础材料，算法无法执行其功能而没有数据。两者之间存在相互作用，数据不仅是算法的输入，还能生成新的数据输出，形成数据的闭环。此外，算法的性能和效果高度依赖于数据的质量和数量，优质多样的数据可以提高算法的准确性，而低质量数据可能导致错误决策或歧视性结果。通过反馈机制，算法在处理数据时可能产生的新数据会进一步用于优化其性能。与此同时，数据与算法的关系还涉及可解释性，复杂算法可能产生难以理解的结果，因此需要对数据处理过程进行解释，以增强用户信任。此外，在处理个人数据时，算法必须遵循相关法律法规，以保护数据主体的隐私权和安全。因此，算法与数据之间可视为互补与互动的关系，算法依赖于数据，而数据通过算法实现其价值。
由于算法与数据和结果之间的关系日益复杂，实践中有时难以明确区分。在界定算法的法律性质时，部分人可能会误将算法视为数据或结果，认为它们是同一种事物。正因算法与数据、结果之间的紧密联系，一些国家或地区在无法直接监管算法时，选择间接对数据和结果进行规制。要明确算法的法律属性，需遵循相应的法律原则来进行厘定。
尊重劳动成果原则。算法是信息社会的重要组成部分。人们每天在使用各种智能算法，然而算法的研发过程投入巨大，研发者的劳动成果往往不为人所知。算法设计和维护并非易事，各大行业巨头的崛起也多凭借数代人的努力而成。在数字社会中，算法的实施被用于版权保护等方面，面对版权侵权的挑战，版权方持续向网络服务提供商施压，要求其采取技术手段打击侵权行为。例如，在数字时代，算法被用于版权保护。在现代数字社会中，越来越多的互联网用户通过在线平台创作和分享视频、文字等内容，这其中存在着大量侵犯版权的情况。面对版权侵权行为的泛滥，版权人在纷纷呼吁版权监管部门加大执法保护力度的同时，不断对网络服务提供商施加压力，要求其采取技术措施加强对版权侵权作品的打击力度[1]。
维护公共安全原则。虽然重视算法研发者的劳动成果，但这并不意味着算法保护可以替代监管，反而应在两者之间保持平衡。保护算法并不意味着放弃对其的监管，算法的规制同样重要。如果算法被恶意利用，可能会严重威胁公共安全。因此，只有同时重视保护与监管，才能确保算法朝着积极的方向发展。算法的动态性也使得其在运行过程中可能发生变化，为监管带来挑战。但为维护公共安全，监管必须应对这些困难。强调公共安全原则并不等于要求算法公开，两者不能混为一谈。
促进创新原则。算法的进步可以在很大程度上推动科学技术的发展，进而促进社会的进步，有学者断言，“算法是未来的基石”[2]。因此，界定算法的法律属性时，不应妨碍其进步或阻碍行业创新。首先，要尊重算法研发者的劳动成果，明确算法的法律属性，保障研发者的知识产权与合法权益，激励持续创新。其次，保护算法行业的创新需要转变治理思维，依法打击破坏算法的行为，保障算法权利人的利益。同样，鼓励创新并不意味着要求算法公开。
关于算法的法律属性有诸多争议，其中不乏认为是专利或是正当程序等。但是出于以上考量，将算法的法律属性界定为商业秘密较为合适[3]。对于算法的法律属性存在多种观点，有人认为算法应被视为专利或程序，但基于以上考量，将算法界定为商业秘密可能更为适合。作为数字法学的基础，算法具有极高的商业价值，申请专利意味着算法公开，这可能会带来合规风险并损害企业的市场竞争优势。因此，许多企业选择不申请专利保护。随着算法市场的发展，算法的研发突破了商业资质的限制，个人或非正式团队逐渐成为研发主体，算法外包、交易和维护将形成新的市场服务。随着元宇宙的构建，算法在信息技术和元宇宙的安全与稳定中起到关键作用。如果无法妥善保护算法的合法权益，算法创新可能缺乏动力，进而影响科技进步。因此，算法治理与保护必须同步进行，二者缺一不可。因此，将算法的法律属性定义为商业秘密，是保护和治理算法的最佳选择。
2. 算法决策的概述
算法决策是通过特定算法模型对输入数据进行处理和分析，以得出决策或预测结果的过程，广泛应用于金融、医疗、交通和市场营销等领域。核心概念包括算法、数据和决策过程，算法是一系列明确的规则和步骤，而数据则是算法决策的基础，其质量直接影响输出结果。在金融领域，信用评分算法帮助银行评估贷款申请；在医疗领域，诊断算法支持医生的临床决策；在市场营销中，推荐系统根据用户历史行为推送个性化产品。算法决策的优势在于高效率、准确性和一致性，但也面临透明性不足、数据偏见和责任归属模糊等挑战。因此，作为一种现代化决策工具，算法决策正在改变传统决策方式，同时亟需有效的治理和监管以应对新出现的问题。
2.1. 算法决策问题提出
技术权力的绝对化日益威胁人类的主体性，自动化决策常常处于黑箱之中，使得决策过程变得模糊不清。决策者不仅难以理解决策背后的原因，还很难要求撤销或修正结果，企业也很难对错误的自动化决策结果负责。由于数据采集本身存在固有偏差，以及算法设计者在模型权重设定中可能嵌入的个人偏见，加之技术本身尚未充分揭示的缺陷，导致错误且带有歧视的自动化决策结果屡见不鲜。例如，美国消费者金融保护局和司法部的调查发现，ALLY金融公司使用了针对少数族裔的歧视性汽车贷款定价系统，导致超过23.5万名少数族裔借款人支付了更高的利率；卡内基梅隆大学的一项研究也表明，谷歌的在线广告算法更频繁地向男性展示高收入工作的广告。此外，不公平的自动化决策往往隐含对特定群体的歧视，这种歧视在算法的重复价值判断中得到了强化。基于碎片化个人数据分析的定向信息推送固化了人们的偏好与认知，造成信息壁垒和信息茧房。尽管算法在将数据转化为知识方面创造了价值，但同时也削弱了人与人之间的叙述性和显性交流，对个人的合法权利造成了重大挑战[4]。
2.2. 算法决策现存的问题
任何权力都有可能异化，而这种异化本身并不可怕，真正令人担忧的是它可能被忽视，或者即便察觉到也未能及时纠正。算法决策异化是指在算法广泛应用的背景下，算法技术与人类主体之间的关系发生变化，导致决策权和责任的转移与模糊。这一现象主要体现在决策过程的透明度和可解释性降低，使得算法成为名义上的决策主体，从而模糊了参与者之间的责任界限。异化的原因包括算法决策的黑箱特性，使用户和决策者难以理解其运作原理，影响对结果的信任；算法设计中可能存在的偏见和不公正性，尤其在数据选择和模型训练过程中，可能导致歧视性结果的生成；以及算法决策结果受到人类干预时，责任归属变得复杂，难以明确划分算法设计者、数据提供者和决策执行者之间的责任。最终，算法决策异化可能引发一系列社会和伦理问题，如对弱势群体的歧视、个人隐私的侵犯及公众对算法的不信任。因此，如何有效管理和规范算法决策过程，以防止其异化现象的扩展，成为亟待解决的重要课题。
第一，自主选择的空间正在缩小。算法黑箱削弱了个人权利的行使。算法黑箱将决策权置于一个由技术复杂性构成的不透明环境中，使得决策相关方因缺乏必要的信息而难以有效应对和反制，从而在信息获取和决策能力上处于不利地位。当个人无法察觉自身权利被侵害的事实时，就很难及时采取措施维护自己的权益。在这种个人权利受到侵蚀和削弱的背景下，算法决策权的影响力不断扩张。
第二，算法适用领域无序扩张[5]。算法适用领域的无序扩张主要体现在多个方面。首先，行业边界逐渐模糊，算法被广泛应用于金融、医疗、教育和公共安全等各行各业，导致传统行业规范难以适应新兴算法应用的需求。其次，监管滞后使得算法的快速发展超出了现有法律框架的适用范围，缺乏相应的监管措施，从而使其在某些领域的使用缺乏透明性和问责机制。此外，随着算法在决策中的广泛应用，相关的技术和伦理挑战也日益突出，包括算法偏见和数据隐私泄露等问题，这些问题在不同领域的算法应用中往往得不到充分重视。同时，算法效果依赖于大量数据的支持，但在无序扩张中，数据的收集和使用往往缺乏规范，带来隐私和安全风险。
第三，算法打破了传统的权力专属决策结构。算法决策系统的研发和建设不能仅依靠公共机构独立完成，由于技术的高度专业化和复杂性，必须有多个实体参与设计和实施，并对各自环节负责。通过政府采购第三方技术与服务，掌握核心技术的私营机构得以参与决策系统的设计、部署和运行管理。在私营主体介入后，决策权的异化现象容易出现，原因有二：首先，与传统决策方式相比，公共机构对各个环节的控制能力受到限制，行政权力的专属性受到挑战，这使得公共机构不仅难以全面理解决策系统，还可能失去对其的绝对控制。其次，算法设计和构建过程的私有化可能导致特定利益和价值导向的功能被嵌入算法技术，进而追逐私利。如果技术黑箱被不良意图的资本利用，并在公共领域中应用，可能会导致难以察觉的技术应用风险和潜在的社会风险。
3. 算法决策的法律规制
3.1. 现行有关算法立法条款
目前，我国尚未建立针对算法的系统性法律框架，相关条款主要分散在现有的网络立法中。我国关于算法的主要立法进展体现在2022年3月1日发布的《互联网信息服务算法推荐管理规定》上，该规定对算法推荐服务提供者的行为进行了全面规范，包括建立违法和不良信息识别机制、加强用户模型和用户标签管理、提高算法透明度和可解释性等，并特别针对未成年人、老年人、劳动者等场景配置了相应的行为规则，同时赋予个人对抗算法决策的权利。此外，我国还通过《网络安全法》《数据安全法》和《个人信息保护法》等法律法规为算法的安全和合规使用提供了法律基础。《电子商务法》第40条要求电子商务经营者明确告知用户关于搜索算法和竞价排名商品或服务的信息。1《电子商务法》第18条则规定，电子商务经营者必须为消费者提供不基于其个人特征的推荐选项。2从治理效果来看，结合算法治理与平台治理能够提升监管机构的执法效率与便利性。同时，平台企业在法律实施过程中出于发展与竞争的需求，体现了一定的守法激励，这在一定程度上缓解了个体赋权模式下行动能力有限和激励不足的问题。然而，单纯依赖平台义务和责任的治理机制可能会导致整体社会成本的增加[6]。“监管机构—平台—用户”的线性监管路径具有平台责任边界不清的风险，对平台施加过多的义务和责任可能会对产业发展造成负面影响。同时，平台合规成本的增加也不利于行业中小平台的生存、发展和竞争。因此，我国的算法治理尚缺乏系统性，不仅应用场景受限，也未能充分关注算法应用生态中各方主体的责任与权利边界。未来的算法治理方案应在超越现有框架的基础上，进行系统化的制度重建。
3.2. 算法决策的治理路径
恐惧往往源于对未知事物的担忧，算法决策风险主要来自于人和技术两个方面，但最重要的因素在于算法技术本身及决策控制者的价值观。因此，需要将这些因素纳入法律规制框架中，明确算法控制者与数据主体之间的权利与义务关系。迫切需要建立一个由“立法、监督和协作”组成的治理体系。
3.2.1. 算法自动化决策风险的立法控制
从监管的角度来看，监管部门应当制定《算法监管准则》，包括比例原则、知情原则和数据来源披露原则等。准则中可以规定算法决策者需适当公开部分设计文档，配备合格的算法维护及管理人员，并保存监督检测过程中的各类算法检测记录。同时，必须明确算法决策中责任主体对特定对象的影响，采取“穿透”问责的方式来厘清法律责任的最终承担者[7]。为了有效应对算法自动化决策带来的风险，首先应当从立法层面对算法的使用进行全面的规范。这包括制定专门的法律法规，明确算法的设计、实施和应用的法律责任。法律应要求算法控制者在决策过程中提供足够的信息披露，包括算法的基本功能、输入数据的来源、决策依据等。透明性不仅有助于提升公众对算法决策的信任，也能为受影响的个人提供申诉和纠正的基础。立法应明确算法决策的公正性要求，禁止算法在决策过程中基于种族、性别、年龄等特征进行歧视性处理。此外，算法控制者需定期进行算法审计，确保其决策不含有潜在的偏见，并采取必要的纠正措施。法律应明确在算法决策中各参与方的责任，尤其是在决策错误或造成损害的情况下，如何追究相关责任人的法律责任。建立有效的问责机制，以确保算法决策的后果能够得到合理的处置和赔偿。
3.2.2. 监管部门对算法决策异化的防控
算法决策系统涉及多方参与者，包括算法设计者、决策者和数据主体等。由于决策过程缺乏透明性且难以解释，算法如果成为名义上的决策主体，可能为参与者之间推卸责任提供借口。因此，应设立专门的科技监管机构，赋予其在算法决策风险方面的监督、管理和问责职能，以逐步建立一个涵盖算法伦理评估、外部监督、内部审计和第三方制约的监督体系。此外，还需建立算法技术评估机制、算法决策行为审计制度以及对算法决策错误的问责机制。从权利与义务的角度看，算法决策者在提供算法服务时获得使用权，而决策者与用户之间的法律关系应被视为信托关系。在信义义务的框架下，算法控制者应承担勤勉、忠诚和信息披露的责任，以促进“负责任算法”的实现[8]。
3.2.3. 多主体共建共治共享的协同治理
算法的多主体共建共治共享的协同治理模式强调在算法决策过程中，政府、企业、学术机构、社会组织和公众等各方利益相关者共同参与，以实现更加公正、透明和有效的决策。该模式通过建立共建机制，使不同主体在算法开发和应用中协同推进规范与标准的制定，同时实现信息的透明与共享，降低信息不对称，增强公众的信任感。在责任共担方面，各方应明确其在算法治理中的责任与义务，通过问责机制确保参与者对其行为负责。此外，采用动态反馈机制，对算法的效果进行定期评估，及时调整和优化算法，确保其适用性与有效性。通过这种多主体的协同治理模式，算法能够更好地服务于社会发展需求，同时在保障公众权益和维护公平正义方面发挥重要作用。
4. 结语
针对因数据无界性引发的个人信息、隐私安全，甚至国家安全隐患，构建维护网络空间安全的系统性数字法律制度已成为数字社会相较于传统线下社会更为强调的核心法律目标。尽管如此，从数字法学的基本原理和价值追求来看，其与传统法学并无实质性区别。法学的基本价值始终应当是维护和促进个人的行为自由与尊严平等，数字法学也应遵循这一原则。毕竟，数字社会最终维护的依然是线下社会中自然人的切身利益[9]。在数字社会的背景下，算法不仅成为推动经济与社会发展的核心力量，同时也引发了一系列法律与伦理问题。本论文探讨了算法的法律属性以及算法决策的规范路径，分析了当前法律框架中的不足，并提出了相应的改进建议。通过明确算法与数据的关系，我们认识到算法的法律属性应视为商业秘密，以保障其创新性和市场竞争力。同时，算法决策的透明性与可解释性至关重要，只有通过合理的法律规制与治理框架，才能有效防控算法决策带来的风险与异化现象。为实现算法决策的公正与透明，建议构建多主体参与的协同治理模式，使各方利益相关者共同参与，形成良好的法律与社会环境，确保算法在服务社会的同时，保护个人权益与维护公平正义。
NOTES
1《电子商务法》第四十条：电子商务平台经营者应当根据商品或者服务的价格、销量、信用等以多种方式向消费者显示商品或者服务的搜索结果；对于竞价排名的商品或者服务，应当显著标明“广告”。
2《电子商务法》第十八条：电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务的搜索结果的，应当同时向该消费者提供不针对其个人特征的选项，尊重和平等保护消费者合法权益。