人工智能技术蓬勃发展的大背景下，大量问题相继出现，如隐私问题、可解释性问题等。因此，人工智能的治理成为重要议题。上海市科学学研究所邀请 50 位全球各领域专家分享他们的见解，并发布了《2019 年全球人工智能治理年度观察报告》。
随着人工智能技术的快速发展，针对人工智能的治理成为热门议题。随着参与方愈加多元、发布的成果海量增加，对于研究者和决策者来说，跟踪所有人工智能治理的研究进展和政策进展已经变成了一项艰巨任务。
基于此，上海市科学学研究所邀请 50 位（44 组）全球各领域的专家，分享他们对 2019 年人工智能治理关键进展的看法，并撰写了《2019 年全球人工智能治理年度观察报告》。
该报告由上海市科学学研究所牵头，联合国际合作伙伴共同完成。在报告编辑过程中，Caroline Jeanmaire、Thilo Hagendorff、Jessica Cussins Newman、Charlotte Stix、Angela Daly、Kwan Yee Ng 和 Nuo Xu 等年轻学者在文字审校方面给予了大量帮助；Stuart Russell、Wendell Wallach 等专家在阅读报告初稿后，对报告的整体框架结构提出了宝贵建议；张达志（华中师范大学）参与设计了报告中的两幅插图。
该报告旨在为每一位关心人工智能治理进展的人，从众多的进展中尽可能地提取出最有影响力的信息：2019 年，对于人工智能的治理，我们到底取得了怎样的进展。
该报告根据所邀请专家的身份把他们的所有观点分为 6 个类别：来自科学家、来自专业研究人员、来自产业界、来自国际组织和来自重要国家和地区——考虑到中国的人工智能治理理念较少被国际上所听到，该报告专门设立了一章讨论中国在这方面的举措。
- 第一部分：人工智能科学家的思考与倡议
- 第二部分：人文社会科学专家的关注与进展
- 第三部分：产业界的实践和探索
- 第四部分：国际组织相关政策进展
- 第五部分：重要国家和地区相关政策进展
- 第六部分：中国举措和声音
第一部分：人工智能科学家的思考与倡议
人工智能领域科学家从科学的角度对当前技术带来的社会影响进行了回应。
比如康奈尔大学教授、图灵奖获得者 John Hopcroft 谈到当前的人工智能并没有带来科学基础上的革命，所以容易出现从「偏见」到「偏见」的可能。
而来自加州伯克利大学的 Stuart Russell 教授，一直在大声疾呼要开发有益的人工智能体系，他和他的同事 Caroline Jeanmaire 回顾了 2019 年这方面的进展。
香港科技大学教授、AAAI 2021 大会主席杨强教授，提倡从技术角度（如开发联邦学习技术），来解决当前人工智能治理问题中很重要的隐私问题。
针对当前的人工智能技术路线，香港科技大学人工智能研究中心主任的冯雁教授认为，现在是时候设置规范的算法审查制度了，并且提出了自己的设想。
而美国路易斯维尔大学的人工智能安全专家 Roman Yampolskiy 进一步认为，不能仅讨论伦理问题，更要关注人工智能系统本身的安全问题。
第二部分：人文社会科学专家的关注与进展
人工智能治理问题也吸引了传统人文社会科学领域专家的注意，并开辟了新的研究方向。
国际关系研究专家、牛津大学人工智能治理中心主任 Allan Dafoe，和他的同事 Markus Anderljung 为我们梳理了 2019 年新建立的人工智能专门机构，从中我们可以看出专业的人工智能治理研究正在快速地建制化。
清华大学公共管理学院的苏竣教授发起了一个有着丰富内容的「社会实验」项目计划，通过这一计划对人工智能的社会影响进行全面深入的研究，他和他的同事介绍了这一计划的主旨和进展情况。
美因茨大学的社会学教授 Petra Ahrweiler 教授有着类似的尝试，她正在发起一个国际联合项目，通过多学科交叉的工作方式展开 AI 评估的探索。
图宾根大学哲学讲师 Thilo Hagendorff 博士提出，经过 2019 年的发展，他认为各界已经迫切地呼吁人工智能的治理应从「软法」向「硬法」过渡。
一些教授指出了本领域进一步研究的方向。
耶鲁大学的科技伦理学家 Wendell Wallach 教授提出了灵活治理，爱丁堡大学 STS 研究所所长 Robin Williams 教授提出了预期治理的概念。匹兹堡大学科学哲学家 Colin Allen 教授发现新闻媒体的关注正在影响人工智能治理。新加坡科技与设计大学城市研究专家 Poon King Wang 用定量的方法研究了人工智能对新加坡就业的影响。宗教学者 Ferran Jarabo Carbonell 强调了人工智能服务于人的必要性。而中国西安交通大学大学科技哲学家王小红教授提出，未来的人工智能治理更应该增进各种文化之间的共识。复旦大学的杨庆峰教授，从哲学层面提出了人工智能治理最基本的三种模式。
第三部分：产业界的实践和探索
产业界作为人工智能应用的前沿，正在密切关注人工智能治理对未来创新方向的影响。
中国人工智能独角兽企业旷视科技的创始人印奇，同时也是中国新一代人工智能治理专家委员会成员，分享了企业自身的探索。
IEEE 标准化协会前主席 Don Wright 介绍了 IEEE 人工智能伦理准则的最新情况。2019 年 OpenAI 引发了关于算法审查制度的讨论，OpenAI 的政策团队介绍了该公司发表 GPT-2 时的波折经历，而剑桥大学未来智能研究中心和生存风险研究中心主任 Seán Ó hÉigeartaig 和美国乔治城大学安全与新兴技术中心战略主管 Helen Toner 则作为观察者，对 OpenAI 在发表 GPT-2 的过程中引发的争论进行了评论。
当然，人工智能治理在企业的人工智能应用中还有很多体现。尤其值得关注的是，硅谷著名的投资人 Steve Hoffman 认为，企业不仅仅是人工智能治理的对象，它们也更有可能发挥力量来解决人工智能伦理问题，这一观点可能对政策制定者有一定的参考价值。
第四部分：国际组织相关政策进展
人工智能治理问题，是科学家、人文社会学者和企业家关心的研究问题，也是政策制定者的重要议题。
在国际范围的讨论中，联合国人工智能和机器人中心负责人，同时也曾经因控制化学武器方面的贡献而获得诺贝尔和平奖的 Irakli Beridze 先生认为，既要看到人工智能带来的伦理问题，也要看到它对一些全球性难题的正面作用。
Cyrus Hodes、Nicolas Miailhe 和 Cussins Newman 三位专家为我们展示了国际组织或政府间机构在 2019 年取得的重要进展，而且他们不约而同地认为，2019 年 OECD 在人工智能的全球治理方面做出了很大的进步，从他们的评论中我们能够发现全球化共识的逼近。
从现状来看，人工智能治理已经是国际关系中的重要议题，中国暨南大学的国际问题专家陈定定教授回顾了这一领域的进展。
第五部分：重要国家和地区相关政策进展
人工智能治理问题在一些重要的国家和地区也有突出进展。
欧盟在人工智能治理领域是全球的积极引领者。欧洲议会议员 Eva Kaili 介绍了欧洲议会关于人工智能治理的主要工作和未来计划。2019 年欧盟发布了「可信赖人工智能指南」，引起全球关注。Francesca Rossi，IBM 研究院人工智能伦理全球负责人和杰出研究员，同时也是欧盟人工智能高级别专家组成员，介绍了该指南中专家组的工作理念和内容。Charlotte Stix 作为该项目的协调员，对该指南制定的组织工作进行了介绍。
英国刚刚脱欧，Angela Daly 博士介绍了英国政府对于人工智能治理的认识，尤其介绍了专门机构数据伦理与创新中心的作用。
联合国秘书长数字合作高级别小组技术顾问、对东亚有着深入观察的 Danit Gal 女士认为，东亚在人工智能伦理和治理方面，有着深刻的传统文化烙印。
来自东京大学、曾参与日本内阁人工智能伦理准则制定的 Arisa Ema 博士，介绍了日本最新的情况。她尤其提到日本产业界开始积极介入人工智能治理工作。
2019 年新加坡在人工智能治理方面取得了巨大的成绩，他们在联合国级别的平台「信息社会论坛世界峰会」上获得了最高奖项。这项重要工作的参与者、新加坡管理大学人工智能和数据治理中心主任吴亦涵（Goh Yihan）和他的同事 Nydia Remolina 介绍了新加坡发布的亚洲首个人工智能治理框架等工作。
作为软件大国的印度在人工智能领域也有很强的发展潜力。来自 Tandem Research 的 Urvashi Aneja 博士对印度在人工智能治理方面的工作提出了更高的期望。
第六部分：中国举措和声音
该报告邀请了与中国人工智能治理相关的政策制定顾问和研究专家，介绍中国正在发生的情况。清华大学战略与安全研究中心主任傅莹认为，在人工智能治理问题上，中国政府的总体基调是开放合作。她也呼吁全球各相关方加强合作，中国和美国作为大国，更应该以合作为主。
科技部新一代人工智能发展研究中心主任、中国科学技术信息研究所党委书记赵志耘研究员，介绍了中国政府在人工智能治理方面的理念，并且全面介绍了中国政府已经推进的各项工作，这对外界系统认识中国人工智能治理是一个很好的机会。
中国科学技术发展战略研究院李修全研究员介绍了中国在人工智能治理方面注重包容发展，关注弱势群体的理念和努力。
科学哲学家、中国社会科学院段伟文教授，从更广泛的视角，介绍了中国各界在人工智能治理和数据治理方面的主要进展。
来自工信部赛迪研究院的栾群博士介绍了中国人工智能产业中的伦理治理进展。
参与中国人工智能标准委员会相关工作、来自中国人民大学的郭锐教授，介绍了在标准制定中所秉承的理念。
值得一提的是，在中国政府的人工智能治理推进中，将一些省市设定为人工智能「试验区」是非常有意义的一种政策工具。上海作为中国最大的城市，在 2019 年被批准为试验区，来自上海市科学学研究所的王迎春博士介绍了相关的情况。
从所有专家的评论中——不管是科学技术的立场、人文社会科学的立场、产业企业的立场还是国际关系的立场、国家地区的立场，该报告挖掘出 2019 年的一些普遍共识性进展。比如，越来越多的专业机构在成立；越来越多的国际共识在达成；越来越多的产业力量在加入。
这份报告或许能帮助学术界、产业界、政策制定者等不同领域的人互通有无，从不同的视角审视人工智能的治理问题，为之后的人工智能技术发展和应用做好准备。
报告下载链接：https://www.aigovernancereview.com/
编辑联系邮箱：globalaigovernance@gmail.com
报告主编：石谦（上海市科学学研究所所长）；执行编辑：李辉（上海市科学学研究所副研究员）、谢旻希（牛津大学人工智能治理中心兼职研究员）。文章为作者独立观点，不代表主办机构立场。
