人在回路型AI训练的基本流程与交互模型研究

被引：9

作者：

余欣 ^{[1
]}

朝乐门 ^{[2
,1
]}

孟刚 ^{[1
,3
]}

机构：

[1] 中国人民大学信息资源管理学院

[2] 数据工程与知识工程教育部重点实验室(中国人民大学)

[3] 郑州科技学院财经学院

来源：

情报资料工作 | 2022年 / 43卷 / 05期

关键词：

AI训练; 人在回路; AI训练师;

D O I：

暂无

中图分类号：

TP18 [人工智能理论];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ;

摘要：

[目的/意义]如何使AI(Artificial Intelligence)智能体在内的AI生态系统能够“明物理、通事理和懂人理”是AI治理的核心命题。而AI训练，尤其是人在回路型AI训练为此问题提供了解决方案。[方法/过程]首先，采用流程分析方法，提出人在回路型AI训练的基本流程；其次，结合人在回路思想和AI训练流程，提出了AI训练的交互模型；接着，通过对Indeed、Linkedin、智联招聘、拉勾和百度百聘五家招聘网站上发布的AI训练师的招聘公告进行分析，探讨了AI训练师的岗位职责与能力要求。[结果/结论]AI训练不能停留于对AI智能体知识和技能维度的训练，而更应重视对其进行人文和社会维度的训练。为此，AI训练可分为预训练和再训练两种，分别侧重于使AI智能体具备“明物理、通事理”和“懂人理”的能力。人在回路型AI训练的基本流程和交互模型的提出为AI训练，尤其是基于人文和社会维度的AI再训练提供了理论参考。

引用

页码：34 / 41

页数：8

共 9 条

[1] 物理-事理-人理系统方法论25周年回顾——溯源、释义、比较与前瞻 [J].

寇晓东 ;

顾基发 .

管理评论, 2021, 33 (05) :3-14

[2]

Magellan[J] . AnHai Doan,Pradap Konda,Paul Suganthan G. C.,Yash Govind,Derek Paulsen,Kaushik Chandrasekhar,Philip Martinkus,Matthew Christie.Communications of the ACM . 2020 (8)

[3]

Augmenting the algorithm: Emerging human-in-the-loop work configurations[J] . Tor Gr?nsund,Margunn Aanestad.Journal of Strategic Information Systems . 2020 (2)

[4]

Trick Me If You Can: Human-in-the-Loop Generation of Adversarial Examples for Question Answering[J] . Eric Wallace,Pedro Rodriguez,Shi Feng,Ikuya Yamada,Jordan Boyd-Graber.Transactions of the Association for Computational Linguistics . 2019

[5]

Human-in-the-Loop Feature Selection[J] . Alvaro H. C. Correia,Freddy Lecue.Proceedings of the AAAI Conference on Artificial Intelligence . 2019

[6]

Autonomous tools and design[J] . Stefan Seidel,Nicholas Berente,Aron Lindberg,Kalle Lyytinen,Jeffrey V. Nickerson.Communications of the ACM . 2018 (1)

[7]

Internet of Things – Will Humans be Replaced or Augmented?[J] . Paul A. Pavlou.GfK Marketing Intelligence Review . 2018 (2)

[8] Cost-Effective Active Learning for Deep Image Classification [J].

Wang, Keze ;

Zhang, Dongyu ;

Li, Ya ;

Zhang, Ruimao ;

Lin, Liang .

IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS FOR VIDEO TECHNOLOGY, 2017, 27 (12) :2591-2600

[9]

Learning behaviors via human-delivered discrete feedback: modeling implicit feedback strategies to speed up learning[J] . Robert Loftin,Bei Peng,James MacGlashan,Michael L. Littman,Matthew E. Taylor,Jeff Huang,David L. Roberts.Autonomous Agents and Multi-Agent Systems . 2016 (1)

← 1 →