算法歧视的认定标准

被引:18
作者
宁园
机构
基金
中国博士后科学基金;
关键词
算法控制; 算法歧视; 横向权力; 区分决策; 差别不利后果; “大数据杀熟”; 评分算法;
D O I
10.14086/j.cnki.wujss.2022.06.015
中图分类号
D922.16 [文教、卫生管理法令]; TP311.13 [];
学科分类号
030103 ; 1201 ;
摘要
学界有关算法歧视规制的研究,欠缺算法歧视的认定这一逻辑前提,导致反算法歧视的规制范围过宽,算法应用与算法正义之间的矛盾被过分夸大,有必要明确算法歧视的认定规则。算法歧视以横向权力关系的存在为必要前提,不存在横向权力关系则算法歧视不成立。当算法控制者以用户固有的、难以改变的特性对其进行分类,并单方决定适用于用户的算法规则,用户只能被动接受决策结果而无退出算法系统之自由时,横向权力关系形成。在算法歧视的具体认定上,算法歧视以区分决策为行为要件,以用户遭受差别不利对待为结果要件。算法控制者若能证明差别对待具有合理性,则不构成算法歧视。搜索算法、人机对话算法对社会歧视的单纯呈现,以及社会经济发展、算法应用普及不平衡导致的算法红利分配失衡,均因欠缺区分决策要件,不构成算法歧视;“大数据杀熟”、评分算法所造成的差别对待并非必然构成歧视,须进行个案分析。
引用
收藏
页码:154 / 165
页数:12
相关论文
共 12 条
[1]   算法歧视的民事责任形态 [J].
潘芳芳 .
华东政法大学学报, 2021, 24 (05) :55-68
[2]   论人工智能算法的法律属性与治理进路 [J].
王德夫 .
武汉大学学报(哲学社会科学版), 2021, 74 (05) :29-40
[3]   人工智能时代个性化定价算法的反垄断法规制 [J].
周围 .
武汉大学学报(哲学社会科学版), 2021, 74 (01) :108-120
[4]   算法消费者价格歧视反垄断法属性的误读及辨明 [J].
喻玲 .
法学, 2020, (09) :83-99
[5]   人工智能的算法偏差及其规避 [J].
闫坤如 .
江海学刊, 2020, (05) :141-146
[7]   智能互联网时代的法律变革 [J].
马长山 .
法学研究, 2018, 40 (04) :20-38
[8]   美英两国就业歧视构成要件比较 兼论反就业歧视法发展趋势及我国立法选择 [J].
谢增毅 .
中外法学, 2008, (04) :613-629
[9]  
经济与社会[M]. 商务印书馆 , (德)马克斯·韦伯(MaxWeber)著, 1997
[10]  
Harm and Fault in Discrimination Law: The Transition from Intentional to Adverse Effect Discrimination[J] . Denise G. Réaume.Theoretical Inquiries in Law . 2011 (1)