人工智能指数 2021 年度报告 斯坦福大学 以人为本人工智能研究院 （斯坦福HAI） 人工智能指数 2021年度报告 2 2021年人工智能指数报告 简介 欢迎来到第四期人工智能指数报告! 今年，我们 大大增加了报告中的数据量，扩大了合作的外部组织 范围，更加严格的校准了我们的数据，并加深了我 们与斯坦福大学以人为本人工智能研究所（Human- Centered Artificial Intelligence，HAI）的联系。 人工智能指数报告跟踪、整理、提炼和可视化人工智能 相关数据。其使命是为政策制定者、研究人员、高管、 记者和普通公众提供公正的、经过严格审核的、来源于 全球的数据，以形成对人工智能这一复杂领域的直观感 知。该报告旨在成为世界上最可信、最权威的人工智能 数据和洞察来源。 COVID与人工智能 2021年的报告从多个角度展示了COVID-19对人工智能 发展的影响。在“技术性能”一章中具体讨论了一家 人工智能初创公司是如何在COVID-19大流行期间使用 基于机器学习的技术来加速COVID相关药物发现的。“ 经济”一章中的分析表明，人工智能的人力招聘和私人 投资并没有受到COVID-19大流行的不利影响，这二者 在2020年期间都有所增长。不过，受到COVID-19的影 响，2020年更多人选择通过虚拟会议的方式参加了人 工智能研究会议，这种虚拟会议形式导致了会议出席人 数的大幅飙升。 本期报告变化 2020年，我们对来自政府、行业和学术界的140多名读 者进行了调查，了解他们认为报告最有价值的内容以 及我们还应该改进的方向。读者们建议改进的主要问 题是： 技术性能。我们在2021年大大扩展了这一章节，并 加入了更多自己的分析。 多样性和伦理数据。我们在今年的报告中收集了更 多的数据。不过，根据我们的调查，人工智能的多 个领域中目前仍然缺乏与多样性和伦理问题相关的 有益信息。 不同国家之间的比较。读者普遍对比较多个国家之 间的人工智能指数感兴趣。在今年的报告中，我们 做了如下改进： 收集了更多数据，以便进行国家间的比较，特别 是与经济学和文献计量学有关的数据； 纳入了对不同国家采取的各种人工智能战略以及 这些战略如何随着时间的推移而演变的全面总 结。 公开数据和工具 2021年人工智能指数报告的附录部分提供了原始数据 和互动工具。我们邀请人工智能界的各位成员以与您工 作和兴趣最为相关的方式使用这些数据和工具。 原始数据和图表：报告中所有图表的公开数据和高 分辨率图像均可在Google Drive上找到。 全球人工智能活力(GlobalAIVibrancy)工具：我 们今年对Global AI Vibrancy 工具进行了改版，可 以根据22个指标对多达26个国家进行比较，同时 提供了更好的互动可视化服务。更新后的Global AI Vibrancy 工具能够根据用户偏好，对各国的相对 地位进行透明的评估。此外，我们确定了相关的国 家指标以表征国家层面的政策优先事项。Global AI Vibrancy 工具中还显示了包括发达经济体和新兴市 场的人工智能卓越中心。 人工智能测量中的问题：2020年秋季，我们发布了 人工智能政策中的测量：机遇与挑战，该报告 阐述了2019年秋季AI Index主办的会议上讨论的各 种人工智能测量问题。 人工智能指数 2021年度报告 3 目录 2021年人工智能指数报告引言 2 九大要点 4 人工智能指数指导委员会和工作人员 5 如何引用该报告 6 致谢 7 报告要点 10 第1章 研发（R Ber- nard Ghanem (阿卜杜拉国王科技大学); Cees Snoek (阿姆斯特丹大学) 人工智能人才流失与教师离职 Michael Gofman (罗切斯特大学); Zhao Jin (长江商学院) 自动定理证明 Geoff Sutcliffe (迈阿密大学); Christian Suttner (康宁股份有限公司) 布尔可满足性问题 Lars Kotthoff (怀俄明州大学) 企业在人工智能研究会议中的代表 Nuruddin Ahmed (韦仕敦大学艾维商学 院); Muntasir Wahed (弗吉尼亚理工大 学) 会议参与者 Maria Gini, Gita Sukthankar (AAMAS); Carol Hamilton (AAAI); Dan Jurafsky (ACL); Walter Scheirer, Ramin Zabih (CVPR); Jrg Hoffmann, Erez Karpas (ICAPS); Paul Oh (IROS); Pavlos Pep- pas, Michael Thielscher (KR) 人工智能会议中的伦理 Pedro Avelar, Luis Lamb, Marcelo Prates (南里奥格兰德联邦大学) ImageNet Lucas Beyer, Alexey Dosovitskiy, Neil Houlsby (Google) MLPerf/DAWNBench Cody Coleman (斯坦福大学), Peter Mattson (Google) 分子合成 Philippe Schwaller (IBM 欧洲研究院) 可视化问答 Dhruv Batra, Devi Parikh (乔治亚理 工学院/FAIR); Ayush Shrivastava (乔治亚理工学院) 你只看一眼（YOLO） Xiang Long (百度) 人工智能指数 2021年度报告 9 建议和专家评论 研究生 报告及网站技术支持 Alexey Bochkovskiy; 百度飞桨计算机视觉团队; Chenggang Xu (长江商学院); Mohammed AlQuraishi (哥伦比亚大学); Evan Schnidman (EAS Innovation); Fanghzhen Lin (香港科技大 学); David Kanter (MLCommons); Sam Bowman (纽约大学); Maneesh Agrawala, Jeannette Bohg, Emma Brunskill, Chelsea Finn, Aditya Grover, Tatsunori Hashimoto, Dan Jurafsky, Percy Liang, Sharon Zhou (斯坦福大学); Vamsi Sistla (加州大学伯克利分校); Simon King (爱丁 堡大学); Ivan Goncharov (Weights Nancy King (报告编辑); Michael Taylor (报告数据可视化); Kevin Litman-Navarro (Global AI Vibrancy 工具设计与开发); Travis Tyler (人工智 能指数网站设计); Digital Avenues (人工智能指数网站开发) 人工智能指数 2021年度报告 10 第1章研发（R Radford et al., 2016; Liu Karras et al., 2018; Karras et al., 2019; Goodfellow, 2019; Karras et al., 2020; AI Index, 2021 目录 53第2章章节预览 人工智能指数 2021年度报告 DEEPFAKE检测 图像合成技术的进步在给人类带来威胁的同时，也带 来了新的机遇。例如，近年来研究人员利用合成图像 技术的突破，开发出能够生成人脸合成图像的人工智 能系统，这些系统可以将这些人脸合成图像叠加到照 片或电影中其他人的脸上。人们把这种生成技术的应 用称为“deepfake”。生成错误信息和制造（主要是 歧视女性的）色情制品等都属于恶意使用deepfake的 方式。为了解决这个问题，研究人员正在开发一种新 的检测技术。 Deepfake检测挑战（DFDC） Deepfake 检测挑战（DFDC）于2019年9月由 Facebook创建，旨在衡量deepfake检测技术的进 展。DFDC要求参赛者从大约100000个剪辑过的公共 数据库中训练和测试他们的模型。参赛者提交的材料 是根据对数损失函数评分的，这是一种基于概率的 分类标准。较小的对数损失意味着能够更准确地预测 deepfake视频。根据图2.1.8， 2019年12月至2020年3 月间，随着参赛方法或模型的不断改进，对数损失下降 了约0.5。 2.1计算机视觉-图像 第2章： 技术性能 1/6/2020 1/16/2020 1/26/2020 2/5/2020 2/15/2020 2/25/2020 3/6/2020 3/16/2020 3/26/2020 0.0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 日志丢失 0.19 deepfake检测挑战：log损失 来源：Kaggle，2020 |图表：2021 AI指数报告 图 2.1.8 目录 54第2章章节预览 人工智能指数 2021年度报告 人体姿态估计 人体姿态估计是从一幅图像中估计人体各部位或关节 （手腕、肘部等）位置的问题。人体姿态估计是一种 经典的“全方位使用的”人工智能功能。能够完成这 项任务的系统可用于一系列工业场景的应用中，例 如，为时尚行业构建增强现实场景、基于人群躯干的 行为分析、监视人们的特定行为、协助分析现场体育 直播和体育赛事、将一个人的动作映射到虚拟化身 中，等等。 上下文中的公共对象（COCO）数据集： 关键点检测挑战 上下文中的公共对象（COCO）是一个用于目标检测、 分割和字幕显示的大型数据库，包含33万幅图像和150 万个目标实例。它的关键点检测挑战任务要求机器同 时检测到一个物体/一个人，并在图像中标定他们的身 体关键点，比如一个人的肘部、膝盖和其他关节。该 任务基于平均精度（Average precision，AP）来评 估算法，AP是一种可用于测量目标检测器精度的测量 标准。图2.1.9显示，在过去四年中，该任务中算法的 准确度提高了约33%，最新算法的平均准确度达到了 80.8%。 2.1计算机视觉-图像 第2章： 技术性能 07/2016 01/2017 07/2017 01/2018 07/2018 01/2019 07/2019 01/2020 07/2020 50% 60% 70% 80% 90% 平均精度 80.8% COCO关键点挑战：平均精度 来源：COCO排行榜，2020年|图表：2021年AI指数报告 图 2.1.9 目录 55第2章章节预览 人工智能指数 2021年度报告 上下文中的公共对象（COCO）数据集： DensePose挑战 DensePose，即密集人体姿态估计，是一项从二维图像 中提取人体三维网格模型的任务。2018年，DensePose 系统公开之后，Facebook建立了DensePose COCO。 这是一个大规模数据库，其中包含了在50000张COCO 图像上进行的图像到曲面的对应关系的标注。自 此，DensePose被作为标准的基准数据库使用。 COCO-DensePose挑战的任务包括：检测人、分割人 体，以及估计属于人体的图像像素和模板3D模型之间的 对应关系。该任务使用测地线点相似性（GPS）测量计 算平均精度，GPS测量是用于测量估计点与图像中身体 点的真实位置之间的测地线距离的对应关系匹配程度得 分。该任务的准确度从2018年的56%提高到了2019年 的72%（图2.1.10）。 2.1计算机视觉-图像 第2章： 技术性能 03/2018 05/2018 07/2018 09/2018 11/2018 01/2019 03/2019 05/2019 07/2019 09/2019 50% 55% 60% 65% 70% 75% 平均精度 72% COCO Densepose挑战：平均精度 来源：arXiv 搜索； 优化 AI的多代理系统 哲 学 AI AI（通用） 音 频 处 理 2019-20欧盟27国按内容领域划分的专门AI项目（占总数的百分比） 来源：欧洲委员会联合研究中心，2020图表：2021年AI指数报告 占专门AI项目总数的百分比 图 4.3.2 人工智能相关课程中讲授的内容 在欧盟三个层次的专业人工智能课程中，哪些类型的 人工智能技术最受欢迎？数据表明，迄今为止，机器 人技术和自动化是专业学士和硕士课程中最常开设的 课程，而机器学习在专业短期课程中占主导地位（图 4.3.2）。随着短期课程越来越受到已经工作的专业人 士的青睐，机器学习已成为人工智能专业发展和实施 的关键能力之一。 人工智能伦理和人工智能应用也非常重要，这两个领 域在三个课程级别的教育中都占有相当大的份额。人 工智能伦理，包括安保（security ）、安全（safety） 、问责（accountability）和可解释性(explainability) 的相关课程，平均占课程总数的14%，而人工智能应 用的课程，如大数据、物联网和虚拟现实课程，所占 份额也类似。 目录 122第4章章节预览 人工智能指数 2021年度报告 第4章： 人工智能教育 4.3欧盟及其他地区的 人工智能教育 0 100 200 300 课 程 数 量 美 国 英国 欧 盟 27国 澳大利亚 加 拿大 挪威 瑞士 2019-20年按地理区域和级别划分的AI专业计划数 来源：欧洲委员会联合研究中心，2020图表：2021年AI指数报告 学士 硕士 短 期 课 程 图 4.3.3 国际比较 欧盟委员会联合研究中心的报告将27个欧盟成员国 的人工智能教育与欧洲其他国家进行了比较，包括挪 威、瑞士和英国，以及加拿大、美国和澳大利亚。图 4.3.3显示了2019-20学年所有国家1680个专业人工智 能课程的总数。美国提供了比任何其它地区都要更多 的人工智能专业课程。就人工智能专业硕士课程数量 而言，欧盟27国紧随其后。 美国提供了比任何其它地区 都要更多的人工智能专业课 程。就人工智能专业硕士课 程数量而言，欧盟27国紧随 其后。 目录 123第4章章节预览 人工智能指数 2021年度报告 要点：人工智能人才流失和教师离职 罗切斯特大学的研究人员迈克尔戈夫曼和长江 商学院的赵瑾于2019年发表了一篇题为人工智 能，教育和创业的论文，探讨了大学生领域特 定知识与创业和吸引资金能力之间的关系。8 对 于学生人工智能知识差异的来源，合著者使用了 2004年至2018年间人工智能教授离开大学进入 产业界的数据，他们称之为“前所未有的人才外 流”。他们使用从LinkedIn手工收集的数据，还 使用了从Scopus学术出版物和会议数据库收集 的作者从属关系对LinkedIn搜索的结果进行了补 充。 这篇论文指出，人工智能教师的离职对那些毕业 于这些教授曾经工作过的大学的学生创办的人工 智能初创公司有着负面影响。在教师离职后的几 年里，对未来的人工智能创业者会产生寒蝉效 应。与本科生和硕士生相比，博士生受到的影响 最大。当取代离开的人工智能教授的是排名较低 的学校的教师或未获得终身教职的教授时，这种 负面影响会加剧。 第4章： 人工智能教育 要点 2004 2005 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015 2016 2017 2018 2019 0 10 20 30 40 教职人员数量 北美人工智能教职人员离职数量统计 来源：Gofman and Jin, 2020 | 图表：2021年AI指数报告 终身教职 离职总数 非 终 身 教 职 图 4.4.1 8 更多细节请见人工智能人才流失指数（AI Brain Drain Index） 目录 124第4章章节预览 人工智能指数 2021年度报告 第4章： 人工智能教育 要点 要点：人工智能人才流失和教师离职（续） 根据戈夫曼和赵瑾提供的2019年的最新数据，图 4.4.1显示，经过两年的增长，北美地区大学人 工智能教师离职进入产业界的总人数从2018年的 42人下降至2019年的33人（其中28人是终身教 职员工，5人未获得终身教职）。2004年至2019 年间，卡内基梅隆大学的人工智能教师离职人数 在2019年最多（16人），其次是乔治亚理工学 院（14人）和华盛顿大学（12人），如图4.4.2 所示。 0 2 4 6 12 14 168 10 系 科 人 数 卡 内 基梅隆大学 乔 治 亚理工学院 华盛顿大学 加 州大学伯克利分校 多伦多大学 斯坦福大学 南加州大学 德 克 萨 斯大学奥斯汀分校 密歇根大学 伊 利诺伊大学厄巴纳香槟分校 加 利福尼亚大学圣地亚哥分校 普渡大学 哈佛大学 2004-18年按大学分的北美（含大学联盟）的AI系科数量 来源：Gofman a nd Jin, 2020图表：2021年AI指数报告 图 4.4.2 目录 125第5章章节预览 人工智能指数 2021年度报告 第 5 章 人工智能应用的伦理挑战 人工智能指数 2021年度报告 目录 126第5章章节预览 人工智能指数 2021年度报告 第5章： 人工智能应用的伦理挑战 概述 127 章节要点 128 5.1人工智能原则和框架 129 5.2全球新闻媒体 131 5.3人工智能会议的伦理 132 5.4高等教育机构的伦理教育 134 章节预览 第5章 访问公开数据 目录 127第5章章节预览 人工智能指数 2021年度报告 第5章： 人工智能应用的伦理挑战 概述 概述 随着以人工智能为动力的创新在我们的生活中变得越来越普遍，人工智能应用的伦理 挑战也越来越明显，并受到审查。如前几章所述，使用各种人工智能技术可能会导致 意外且有害的后果，例如隐私侵犯，基于性别、种族/族裔、性取向或性别认同的歧 视，以及决策不透明等问题。在部署之前应对现有的伦理挑战，建立问责制的、公平 的人工智能创新-从来没有任何一个时期像现在这样重要。 本章讨论了随着人工智能应用的兴起而出现的伦理问题。首先，本章内容着重讨论了 最近激增的描述人工智能原则和框架的文件，以及媒体如何报道人工智能相关的伦理 问题。然后，回顾了在人工智能会议上提出的与伦理学相关的研究内容，介绍了世界 各地大学的计算机科学（CS）系正在提供什么样的伦理学课程。 人工智能指数团队发现，关于这一主题的数据非常少。尽管不少团体在人工智能伦 理领域输出了一系列的定性或规范性成果，但该领域仍然缺乏可用于衡量或评估更 广泛的关于技术发展的社会讨论与技术本身发展之间关系的基准。技术性能一章涉及 的一部分内容是美国国家标准与技术研究所（National Institute of Standards and Technology，NIST）对人脸识别性能的研究，重点是偏见。弄清楚如何创造更多的 定量数据对研究界来说是一个挑战，但它是一个非常有用的重点。决策者敏锐地意识 到了与人工智能相关的伦理问题。不过，人类更容易管理自己能够衡量的东西，因此 找到将定性论点转化为定量数据的方法是这一过程中必不可少的一步。 目录 128第5章章节预览 人工智能指数 2021年度报告 第5章： 人工智能应用的伦理挑战 章节要点 自2015年以来，提交给人工智能会议的论文标题中包含伦理相关关键词的论文数量有所增 长。不过，在主要人工智能会议上标题能够匹配伦理相关关键词的论文平均数量多年来仍 然较小。 2020年，与人工智能伦理道德使用相关的五大最受关注的新闻话题分别是：欧盟委员会发 布的人工智能白皮书，谷歌解雇伦理研究员蒂姆尼特盖布鲁（Timnit Gebru），联合国 成立的人工智能伦理委员会，梵蒂冈的人工智能伦理计划，以及IBM正在终止其人脸识别 相关业务。 章节要点 目录 129第5章章节预览 人工智能指数 2021年度报告 自2015年以来，政府、私营企业、政府间组织和研究/ 专业组织一直在致力于编制规范性文件。这些规范性 文件描述了管理人工智能应用的伦理挑战的方法。这 些文件，包括原则、指导方针等，提供了解决问题的 框架和评估各种组织内部开发、部署和管理人工智能 的战略。这些人工智能原则和框架讨论了一些共同的 主题，包括隐私、问责、透明度和可解释性。 人工智能原则的发布标志着组织正在关注并建立人工 智能治理的愿景。不过，所谓伦理原则的泛滥也遭到 了伦理研究人员和人权实践者的批评，他们反对不准 确地使用与伦理有关的术语。批评人士还指出，这些 原则缺乏体制框架，在大多数情况下不具备约束力。 此外，由于存在模糊性和抽象性问题，这些原则无法 为实施人工智能相关的伦理准则提供指导。 波士顿人工智能伦理实验室的研究人员创建了一个工 具箱，用以跟踪不断出现的人工智能原则。2015年至 2020年间，共发布了117份与人工智能原则相关的文 件。数据显示，研究和专业组织是最早推出人工智能 原则文件的组织之一，而私营企业是迄今为止所有组 织类型中发布人工智能原则出版物数量最多的组织（ 图5.1.1）。根据图5.1.2，截至2020年，欧洲和中亚的 出版物数量最多（52），其次是北美（41），东亚和 太平洋地区（14）。在推出伦理原则方面，2018年， 包括IBM、谷歌和Facebook在内的科技公司以及英 国、欧盟和澳大利亚政府机构的表现最为突出。 5.1 人工智能原则和框架 第5章： 人工智能应用的伦理挑战 5.1人工智能原则和框架 截至2020年，欧洲和中亚 的出版物数量最多（52）， 其次是北美（41），东亚 和太平洋地区（14）。在 推出伦理道德相关的具体 原则方面，2018年，包括 IBM、谷歌和Facebook 在内的科技公司以及英 国、欧盟和澳大利亚政府 机构的表现最为突出。 目录 130第5章章节预览 人工智能指数 2021年度报告 2015 2016 2017 2018 2019 2020 0 10 20 30 40 新的AI伦理原则数量 45 28 23 17 2 2 20 16 13 12 9 6 5 5 7 7 2015-20年按地区划分的新AI伦理原则数量 来源：AI伦理实验室，2020图表：2021年AI指数报告 东 亚 和 太平洋 欧 洲 及 中亚 全 球 拉 丁 美 洲和加勒比海 中 东 和 北非 北 美 南 亚 Figure 5.1.2 第5章： 人工智能应用的伦理挑战 5.1人工智能原则和框架 2015 2016 2017 2018 2019 2020 0 10 20 30 40 新的AI伦理原则数量 45 28 23 17 2 2 19 13 1511 11 4 4 9 6 8 5 3 2 2 2015-20年按组织类型划分的新AI伦理原则数量 来源：AI伦理实验室，2020图表：2021年AI指数报告 研 究/专业组织 私 人公司 政 府间组织/机构 政 府机构 图 5.1.1 目录 131第5章章节预览 人工智能指数 2021年度报告 0% 5% 15% 20%10% 有关AI道德的新闻报道总数的百分比 指 导，框架 研 究，教育 面部识别 算法偏置 机 器 人 ， 自 动 驾驶汽车 AI可解释性 资料私隐 企业努力 2020年按主题划分的AI伦理新闻覆盖率（占总数的百分比） 来源：CapIQ、Crunchbase和NetBase Quid，2020年|图表：2021年AI指数报告 图 5.2.1 新闻媒体是如何报道人工智能技术的伦理使用问题 的呢？本节分析了NetBase Quid的数据。通过在 LexisNexis的归档新闻数据库中进行搜索，找到与人工 智能伦理 1 相关的文章，涉及2020年6万个英语新闻来 源和50多万个博客。 最终，NetBase Quid搜索发现了3047篇与人工智能 技术相关的文章，其中包括诸如“人权”、“人类价 值观”、“责任”、“人类控制”、“公平”、“歧 视”或“非歧视”、“透明度”、“可解释性”、“ 安全保障”、“问责制”和“隐私”等术语。根据语 言的相似性，NetBase Quid将最终的文章划分为七大 主题。 图5.2.1显示，在2020年，与人工智能伦理原则和框架 相关的文章在最受关注的新闻主题中排名第一（21%）， 其次是研究和教育（20%）、人脸识别（20%）。 2020年，与人工智能的伦理使用相关的五个最受关注 的新闻主题是： 1. 欧盟委员会发布人工智能白皮书（5.9%） 2. 谷歌解雇伦理研究员蒂姆尼特格布鲁（3.5%） 3. 由联合国组成的人工智能伦理委员会（2.7%） 4. 梵蒂冈的人工智能伦理计划（2.6%） 5. IBM终止其人脸识别相关业务（2.5%） 5.2 全球新闻媒体 第5章： 人工智能应用的伦理挑战 5.2全球新闻媒体 1 此方法论正在寻求包含由哈佛研究（Harvard research study）所确认的与AI伦理相关关键字的文章。 目录 132第5章章节预览 人工智能指数 2021年度报告 研究人员正在撰写更多直接关注和讨论人工智能伦理 的论文，从2015年到2020年，这方面的论文提交量 翻了一倍多。为了评估伦理在人工智能研究中的作 用，位于巴西阿雷格里港的南里奥格兰德联邦大学 （UFRGS）的研究人员在人工智能、机器学习和机 器人技术会议的论文标题中搜索伦理相关术语。如图 5.3.1所示，自2015年以来，提交给人工智能会议的论 文中包含伦理相关关键词的论文标题数量显著增加。 进一步，图5.3.2给出了六个主要人工智能会议中所有 出版论文中关键词匹配的平均数。尽管在上一张图表 中已经提到了很多与人工智能伦理相关的内容，但我 们可以看到在主要的人工智能会议上，标题中能够与 伦理相关关键词匹配的论文平均数量多年来仍然非常 低。 不过，人工智能会议正在发生变化。从2020年开始， 伦理议题被更紧密地纳入到了会议议程中。例如，神 经信息处理系统（NeurIPS）会议，这是世界上最大 的人工智能研究会议之一，在2020年首次要求研究 人员在提交他们工作的同时提交一份“广泛影响性” 声明，这标志着伦理问题与技术工作正在更深入的结 合。此外，最近专门关注问责制的人工智能的会议 和研讨会也在激增，这其中就包括了人工智能促进 协会（Association for the Advanced of Artificial Intelligence）举办的新的人工智能、伦理和社会会议 以及公平、问责制会议，以及由计算机协会主办的关 于公平、问责和透明度的会议。 5.3 人工智能会议的伦理 第5章： 人工智能应用的伦理挑战 5.3人工智能会议 的伦理 自2015年以来，提交给 人工智能会议的论文中包 含伦理相关关键词的论文 标题数量显著增加。接下 来的分析会给出六个主要 人工智能会议中所有出版 论文中关键词匹配的平均 数。 目录 133第5章章节预览 人工智能指数 2021年度报告 2 000 2 001 2 002 2 003 2 004 2 005 2 006 2 007 2 008 2 009 2 010 2 011 2 012 2 013 2 014 2 015 2 016 2 017 2 018 2 019 0.00 0.02 0.04 0.06 关键字匹配的平均次数 2000-19年SELECT大型AI会议上提及伦理关键字的论文标题的平均数量 来源：2018年Prates et al.图表：2021年AI指数报告 AAAI ICML ICRA IJCAI IROS NIPS/NeurIPS 图 5.3.2 第5章： 人工智能应用的伦理挑战 5.3人工智能会议 的伦理 2 000 2 001 2 002 2 003 2 004 2 005 2 006 2 007 2 008 2 009 2 010 2 011 2 012 2 013 2 014 2 015 2 016 2 017 2 018 2 019 0 20 40 60 80 论文数量 70 2000-19年AI会议上提及伦理道德的论文标题的数量 来源：2018年Prates et al.图表：2021年AI指数报告 图 5.3.1 目录 134第5章章节预览 人工智能指数 2021年度报告 0 2 4 6 8 10 12 关于AI伦理的主题演讲或小组讨论 大学范围内关于广泛道德规范的本科一般要求课程 CS或其他部门的AI伦理独立课程 CS或其他部门的CS道德独立课程 嵌入CS课程中的道德模块 与AI道德相关的学生团体/组织 2019-20全球顶尖大学CS部门年度AI伦理学提供项目 来源：2020年AI指数 图表：2021年AI指数报告 图 5.4.1 第四章中我们介绍了对世界几所顶尖大学计算机科学 系或学校的调查结果，目的是评估高等教育机构的人 工智能教育状况。 2 在调查过程中，还有一部分内容是 了解计算机科学系或大学是否提供了接触人工智能和 计算机科学伦理方面问题的机会。在完成调查的16所 大学中，有13所报告已经开设了相关课程。 图5.4.1显示，18个系中有11个曾经主办过关于人工智 能伦理的主题活动或小组讨论，其中7个系在其大学的 计算机科学系或其它系开设了人工智能伦理课程。一 些大学还开设了计算机科学领域的伦理课程，包括单 独开设的计算机科学伦理学课程，以及嵌入到计算机 科学课程中的伦理学模块。 3 5.4 高等教育机构的伦理教育 第5章： 人工智能应用的伦理挑战 5.4高等教育机构的 伦理教育 2 2020年11月至2021年1月，我们通过网络分三次向73所大学分发了调查。其中有18所大学完成，回复率为24.7%。这18所大学分别是比利时：卢汶凯索利克大学；加拿大：麦吉尔大 学；中国：上海交通大学、清华大学；德国：慕尼黑路德维希马西米兰大学、慕尼黑工业大学；俄罗斯：莫斯科理工学院经济高等学院；瑞士：洛桑埃科尔理工学院；英国：剑桥大学； 美国：加州理工学院、卡内基梅隆大学（机器学习系）、哥伦比亚大学、哈佛大学、斯坦福大学、威斯康星-麦迪逊大学、德克萨斯大学奥斯汀分校，耶鲁大学。 3 调查没有明确给出“嵌入到计算机科学课程中的伦理学模块”的选项。该内容是填写在“其它”选项中的。我们将在明年的调查中加入这部分内容。 18个系中有11个曾经主办过 关于人工智能伦理的主题活动 或小组讨论，其中7个系在其 大学的计算机科学系或其他系 开设了人工智能伦理课程。 目录 135第6章章节预览 人工智能指数 2021年度报告 第 6 章 人工智能的多样性 人工智能指数 2021年度报告 目录 136第6章章节预览 人工智能指数 2021年度报告 第6章： 人工智能的多样性 概述 137 章节要点 138 6.1人工智能中的性别多样性 139 人工智能学术届的女性 139 人工智能劳动力中的女性 140 参加机器学习研讨会的女性 141 研讨会参加者 141 人员情况详细统计 142 6.2人工智能中的种族和民族多样性 144 美国的新人工智能博士（按种族划分） 144 美国的新计算机博士（按种族划分） 145 计算机科学终身教职教师 （按民族/种族划分） 146 人工智能领域的黑人（Black in AI） 146 6.3人工智能中的性别认同和性取向 147 人工智能中的LGBT群体（Queer in AI） 147 人员情况详细统计 147 LGBT群体从业者的经历 149 章节预览 第6章 访问公开数据 目录 137第6章章节预览 人工智能指数 2021年度报告 第6章： 人工智能的多样性 概述 概述 人工智能系统可能会对社会产生巨大影响，但构建人工智能系统的人并不代表是这些系统 要服务的人。目前，人工智能从业者以男性为主，包括学术界和工业界都是如此。尽管多 年来一直强调这一点带来的不利因素和风险，但从业者的多样性仍然存在很大问题。种族 和民族、性别认同和性取向缺乏多样性，不仅有可能造成权力分配不均，更重要的是有可 能进一步扩大人工智能系统现有的不平等问题，缩小这些系统所能够提供的服务面向的个 人和组织的范围，进而造成不公平的结果。 本章重点介绍人工智能劳动力和学术界的多样性统计。本章内容利用了与各种组织的合 作，包括机器学习中的女性（Women in Machine Learning, WiML）、人工智能中的黑人 （Black in AI, BAI）以及人工智能中的LGBT群体（Queer in AI），这些组织都旨在提高该 领域中某些问题的多样性。不过，本章中的数据并不全面和确凿。在编写本章的过程中， 由于公开的人口资料非常少，人工智能指数团队遇到了很大的挑战。由于缺少数据，我们 很难深入的分析缺乏人工智能劳动力多样性对社会和技术发展的影响程度。人工智能中的 多样性问题是众所周知的，而从学术界和工业界获得更多的数据对于衡量问题规模和解决 问题至关重要。 关于多样性的很多问题并没有纳入本章内容中，例如残疾人工智能专业人士。此外，也没 有通过交叉视角来考虑和分析多样性。其它方面的内容将会在本报告后续的工作中加以讨 论。此外，这些多样性统计数据只能说明部分情况。在人工智能领域工作的少数群体和边 缘化群体每天面临的挑战，以及组织内部导致缺乏多样性的结构性问题，还需要更广泛的 数据收集和分析。 1 感谢Women in Machine Learning，Black in AI以及Queer in AI为提高人工智能的多样性所作出的工作、分享其数据以及对我们的配合。 目录 138第6章章节预览 人工智能指数 2021年度报告 章节要点 十多年来，女性AI专业博士毕业生和计算机科学（CS）终身教职员工的比例一直很低。美国 计算机研究协会（CRA）的一项年度调查显示，北美AI博士项目的女性毕业生人数占所有博 士毕业生人数的比例还不到18%。一项人工智能指数调查结果显示，在世界上的几所大学中 CS系终身教职员工中仅有16%是女性。 CRA的调查显示，2019年，在美国AI博士毕业生新移民中，45%是白人，22.4%是亚 裔，3.2%是西班牙裔，2.4%是非裔美国人。 在过去十年中，白人（非西班牙裔）新毕业计算机博士的比例变化不大，平均约为62.7%。 而同期黑人或非裔美国人（非西班牙裔）和西班牙裔计算机博士的比例则明显下降，平均分 别下降了3.1%和3.3%。 近年来，由NeurIPS合办的Black-in-AI研讨会的参与人数显著增加。2019年参会人数和提交 论文数是2017年的2.6倍，而接受论文数是2017年的2.1倍。 在Queer in AI组织于2020年进行的一项会员调查中，近一半的受访者表示，缺乏包容性是 他们成为AI/ML领域从业者所面临的一个障碍。超过40%的受访者表示，他们曾在工作或学 校受到过歧视或骚扰。 章节要点 第6章： 人工智能的多样性 目录 139第6章章节预览 人工智能指数 2021年度报告 2010 2011 2012 2013 2014 2015 2016 2017 2018 2019 10% 15% 20% 25% 30% 女性新博士生数量（占新AI和CS博士生总数的百分比） 22.1% AI 20.3% CS 2010-19年北美AI和CS女性新博士生数量（占新AI和CS博士生总数的百分比） 来源：2020年CRA Taulbee问卷图表：2021年AI指数报告 575 (83.9%) 男性 110 (16.1%) 女 性 2019-20年度按性别分列的世界顶尖大学CS系的终身 教职 来 源 ：2020年AI指数图表：2021年AI指数报告 575 (83.9%) 男性 110 (16.1%) 女 性 2019-20年度按性别分列的世界顶尖大学CS系的终身 教职 来 源 ：2020年AI指数图表：2021年AI指数报告 图 6.1.1 图 6.1.2 学术届的女性 我们在第四章中介绍了两项人工智能指数调查。其中 一项调查评估了全球顶尖大学计算机系的人工智能教 育状况。另外一项则是计算机研究协会（Com