通用模型的伦理与治理：挑战及对策

被引：27

作者：

滕妍 ^{[1
]}

王国豫 ^{[2
,3
]}

王迎春 ^{[1
]}

机构：

[1] 复旦大学哲学学院

[2] 复旦大学生命医学伦理研究中心

来源：

中国科学院院刊 | 2022年 / 37卷 / 09期

关键词：

人工智能; 通用模型; 风险; 治理; 科技伦理;

D O I：

10.16418/j.issn.1000-3045.20220505003

中图分类号：

B82-057 [道德与科学技术];

学科分类号：

01 ; 0101 ;

摘要：

通用模型是近年来人工智能发展的重要方向之一。随着模型研发应用的增多，模型的社会和伦理影响受到广泛关注。文章从通用模型的特性出发、分析了模型在算法、数据和算力3个层面潜在的伦理挑战，包括不确定性、真实性、可靠性，偏见、毒性、公平、隐私及环境问题。进一步从技术哲学的视角分析了数据驱动的模型在人与世界关系中的中介性作用及所产生的“镜像”效应问题和透明性问题，提出了人与世界关系的新形态是以模型（数据）为中介的，即“人-模型（数据）-世界”关系。最后，从治理技术和治理机制两方面反思了当前的应对措施及局限性。建议建立开放式、全流程、价值嵌入的伦理规约机制，保障通用模型在合规、合伦理的框架下发展。

引用

页码：1290 / 1299

页数：10

共 11 条

[1] 人工智能如何“说人话”?——对于自然语言处理研究的哲学反思 [J].

徐英瑾 ;

陈萌 .

自然辩证法通讯, 2022, 44 (01) :10-19

[2] 构建数字化世界的伦理秩序 [J].

王国豫 ;

梅宏 .

中国科学院院刊, 2021, 36 (11) :1278-1287

[3] 充分理解涌现性,慎重对待转基因 [J].

赵斌 .

科学家, 2013, (02) :88-89

[4] 技术评估的方法与价值冲突 [J].

C.胡必希 ;

王国豫 .

自然辩证法研究, 2005, (12) :40-43+61

[5]

Release Strategies and the Social Impacts of Language Models[J] . Irene Solaiman,Miles Brundage,Jack Clark,Amanda Askell,Ariel Herbert-Voss,Jeff Wu 0003,Alec Radford,Jasmine Wang.CoRR . 2019

[6]

Explaining and Harnessing Adversarial Examples[J] . Ian J. Goodfellow,Jonathon Shlens,Christian Szegedy.CoRR . 2014

[7]

Intriguing properties of neural networks[J] . Christian Szegedy,Wojciech Zaremba,Ilya Sutskever,Joan Bruna,Dumitru Erhan,Ian J. Goodfellow,Rob Fergus.CoRR . 2013

[8]

Emergence as a Construct: History and Issues[J] . Jeffrey Goldstein.Emergence . 1999 (1)

[9]

Some Studies in Machine Learning Using the Game of Checkers. II—Recent Progress[J] . A. L. Samuel.IBM Journal of Research and Development . 1967 (6)

[10]

Multimodal neurons in artificial neural networks. Goh G,Cammarata N,Voss C,et al. https://distill.pub/2021/multimodal-neurons . 2021

← 1 2 →