算法决策损害责任构成的要件分析

被引:22
作者
商建刚
机构
[1] 上海政法学院经济法学院
关键词
算法歧视; 算法决策损害; 黑箱效应; 产品责任; 惩罚性赔偿; 归责原则;
D O I
10.19404/j.cnki.dffx.20221103.002
中图分类号
D922.16 [文教、卫生管理法令]; D924.3 [分则];
学科分类号
030103 ; 030104 ;
摘要
算法决策的高速发展与其模糊的归责机制和相对后滞的裁判标准间形成了巨大鸿沟。算法黑箱理论认为,算法决策者无需对算法决策造成的损害承担法律责任。客观上,算法决策内部的构建和自学习的缺陷会造成相对人直接损害,算法决策系统受到外部偏差数据的影响会造成相对人间接损害。主观上,算法决策控制者对决策目标先决已定、决策进程可干预以及逃逸风险可度量。算法决策控制者通过算法应用场景与手段限制、数据与算法系统自身适恰性保障等手段可有效地介入算法决策过程,进而有能力避免损害后果的发生。算法“解释权”理论无法消除算法决策的“非知”,应在尊重算法决策“非知”的基础上赋予算法决策控制者作为产品提供者法律责任。
引用
收藏
页码:44 / 57
页数:14
相关论文
共 38 条
[1]   算法侵害责任框架刍议 [J].
王莹 .
中国法学, 2022, (03) :165-184
[2]  
人脸识别技术的风险与法律规制[J]. 余圣琪.上海法学研究. 2020(02)
[3]  
AI人脸识别技术滥用的法律规制[J]. 尹菡.上海法学研究. 2020(02)
[4]   基于信任的自动化决策:算法解释权的原理反思与制度重构 [J].
丁晓东 .
中国法学, 2022, (01) :99-118
[5]   算法侵害类型化研究与法律应对——以《个人信息保护法》为基点的算法规制扩展构想 [J].
王莹 .
法制与社会发展, 2021, 27 (06) :133-153
[6]   “算法权力”的异议与证成 [J].
谭九生 ;
范晓韵 .
北京行政学院学报, 2021, (06) :11-21
[7]   算法歧视的民事责任形态 [J].
潘芳芳 .
华东政法大学学报, 2021, 24 (05) :55-68
[8]   算法决策权的异化及其矫正 [J].
蔡星月 .
政法论坛, 2021, 39 (05) :25-37
[9]   论自动化行政中的瑕疵指令及其救济 [J].
胡敏洁 .
北京行政学院学报, 2021, (04) :81-88
[10]   人工智能时代的法学教育变革 [J].
余耀军 ;
高利红 .
新文科教育研究, 2021, (02) :56-69+142