算法歧视的法律规制与数字公平平台之构建
Legal Regulation of Algorithmic Discrimination and the Construction of a Digital Equity Platform
DOI: 10.12677/ojls.2025.136183, PDF,    科研立项经费支持
作者: 美丽娅·玉素甫江*:同济大学法学院,上海;昭通学院管理学院,云南 昭通;凡 净#:昆明理工大学国土资源工程学院,云南 昆明;昭通学院地理科学与旅游学院,云南 昭通;张 豪, 李亮锦, 田顺帅:昭通学院地理科学与旅游学院,云南 昭通
关键词: 算法歧视数字公平合规标准法律代码化数字法学Algorithmic Discrimination Digital Fairness Compliance Standard Legal Codification Digital Jurisprudence
摘要: 数字社会中,算法歧视的法律规制面临传统反歧视法范式失灵与技术治理碎片化的困境。以算法歧视的法律规制为核心,通过对美国COMPAS算法在刑事司法中的歧视等案例分析,解构算法歧视的生成机理,揭示其本质是数据偏见、算法黑箱与权力异化的权利侵害链条,提出技术合规、法律嵌入、社会共治的治理路径,通过法律代码化将技术标准上升为数字社会的“软性宪法”,并设计合规标准的全过程治理平台,重构数字正义的实现路径,推动算法治理从事后救济迈向全过程法治,为破解算法治理的“科林格里奇困境”提供方案。
Abstract: In the digital society, the legal regulation of algorithmic discrimination faces dual challenges: the failure of traditional anti-discrimination legal paradigms and the fragmentation of technology governance. Focusing on the legal regulation of algorithmic discrimination, this study deconstructs its generative mechanisms through case analyses such as discrimination in the U.S. COMPAS algorithm within criminal justice. It reveals its essence as a chain of rights infringement comprising data bias, algorithmic black boxes, and power alienation. The research proposes a governance framework integrating technical compliance, legal embedding, and social co-governance. By codifying legal standards into “soft constitutional” norms for the digital society and designing a whole-process governance platform with compliance standards, it reconstructs the pathway to digital equity. This approach shifts algorithmic governance from post-hoc remedies to comprehensive rule of law throughout the entire process, offering solutions to overcome the “Collingridge Dilemma” in algorithmic governance.
文章引用:美丽娅·玉素甫江, 凡净, 张豪, 李亮锦, 田顺帅. 算法歧视的法律规制与数字公平平台之构建[J]. 法学, 2025, 13(6): 1293-1300. https://doi.org/10.12677/ojls.2025.136183

参考文献

[1] 李志颖. 算法歧视的两副面孔及其法律规制[J]. 交大法学, 2024(1): 148-161.
[2] 吕斯轩, 胡创. 算法歧视的法律规制探析[J]. 青岛科技大学学报(社会科学版), 2024, 40(2): 80-90.
[3] 朱宝丽. 数据正义, 算法歧视与规制[J]. 征信, 2023, 41(3): 8-12.
[4] 彭海青, 于坤. 美国刑事风险评估领域的人工智能技术[J]. 中国审判, 2022(13): 72-73.
[5] 张振声. 犯罪人风险行为评估技术新进展——COMPAS系统评介[J]. 辽宁公安司法管理干部学院学报, 2022(3): 2-13.
[6] 罗国师. “算法控制”下外卖平台与骑手的关系研究[J]. 电子商务评论, 2024, 13(3): 5599-5605.
[7] 王士博, 王海霞. 区块链技术与个人数据保护规范的内源性冲突及调和路径——以欧盟GDPR为例[J]. 情报杂志, 2023, 42(2): 142-150, 165.
[8] Ryan, P., Crane, M. and Brennan, R. (2021) GDPR Compliance Tools: Best Practice from Regtech. In: Filipe, J., Śmiałek, M., Brodsky, A. and Hammoudi, S., Eds., Lecture Notes in Business Information Processing, Springer International Publishing, 905-929. [Google Scholar] [CrossRef
[9] 闫晶晶. “赶时间的人”——外卖骑手权益保障问题引起最高检关注[EB/OL]. 检察日报.
https://www.spp.gov.cn/spp/zdgz/202305/t20230504_613026.shtml, 2023-05-04.
[10] 李娜. 外卖骑手权益保障的悲喜与共鸣[EB/OL]. 检察日报.
https://www.spp.gov.cn/spp/zdgz/202204/t20220428_555557.shtml, 2022-04-28.
[11] 牛彬彬. 数字平台算法决策歧视的认定与规制[J]. 天津大学学报(社会科学版), 2024, 26(1): 52-64.
[12] 刘培, 池忠军. 算法的伦理问题及其解决进路[J]. 东北大学学报: 社会科学版, 2019, 21(2): 119-125.
[13] 闫慧. 算法时代的数字公平问题思考[J]. 图书馆建设, 2022, 318(6): 4-6.
[14] 黄伟庆. 数字时代下算法技术风险规制的法治理性与路径选择[J]. 智慧法治集刊, 2024(1): 264-275.
[15] 胥望军. 数据驱动下的算法创新与挑战[J]. IT经理世界, 2024(2): 94-96.
[16] 万岩, 史书扬. 基于文献计量的算法偏见研究综述[J]. 软件导刊, 2023, 22(1): 243-248.
[17] 王宛菁, 吴泽, 林嘉怡. 大数据背景下算法失衡的挑战与应对[J]. 现代商贸工业, 2024, 45(15): 34-36.
[18] 李国昊, 梁永滔, 苏佳璐. 破除数字平台企业算法黑箱治理困境: 基于算法透明策略扩散研究[J]. 信息资源管理学报, 2023, 13(2): 81-94.
[19] 刘卓红, 郭晓晴. 资本增殖, 劳动异化与算法权力[J]. 西南大学学报(社会科学版), 2024, 50(2): 85-94.
[20] 杨世琦, 蒋海松. 系统论视域下生成式人工智能异化风险治理[J]. 河南科技大学学报(社会科学版), 2025, 43(1): 36-43.
[21] 田思路, 李帛霖. 雇主算法权力: 法理构造, 内涵特征与规制路径[J]. 社会科学, 2023(1): 169-180.
[22] 吴雪. 算法自动化决策偏见风险的法律应对[J]. 警戒线, 2023(12): 49-52.
[23] 杨帆, 夏君韬. 欧盟《人工智能法案》中的人工智能战略[J]. 智能物联技术, 2024, 56(6): 9-13.
[24] 何深睿. FTC如何监管数据经纪公司? 以X-Mode公司处罚决定案为例[J]. 中国审判, 2024(12): 70-73.
[25] 沈芳君. 生成式人工智能的风险与治理——兼论如何打破“科林格里奇困境” [J]. 浙江大学学报(人文社会科学版), 2024, 54(6): 73-91.
[26] 褚尔康, 张钰. 法律代码化的理论逻辑与技术路径[J]. 科技与法律, 2022(6): 126-134.
[27] 张济彬, 喻仲文, 桂慧. 论社会设计中参与式设计合作的基础[J]. 包装工程, 2024, 45(20): 402-413.
[28] 国瀚文. 大型平台预防性反垄断规制研究[J]. 经济责任审计, 2024(2): 86-92.
[29] 赵雪静, 马冉. 数字经济时代平台垄断规制的演变——以欧盟《数字市场法案》为鉴[J]. 哈尔滨学院学报, 2024, 45(1): 64-68.