2019年5月25日，北京—— “《人工智能北京共识》发布会暨北京智源人工智能研究院人工智能伦理与安全研究中心揭牌仪式”在北京友谊宾馆举办。北京市科学技术委员会主任许强、海淀区委常委、副区长李俊杰、北京智源人工智能研究院理事长张宏江、院长黄铁军，以及来自北京大学、清华大学、中国科学院自动化研究所、中国科学院计算技术研究所、新一代人工智能产业技术创新战略联盟等高校、科研院所和产业联盟的代表出席了本次活动。会上，由北京智源人工智能研究院（以下简称“北京智源”）牵头，《人工智能北京共识》对外发布，同时人工智能伦理与安全研究中心也正式揭牌，积极为北京人工智能发展贡献力量。
北京市科学技术委员会主任许强为本次活动致辞，他指出，要充分认识人工智能伦理与安全研究的重要意义，与此同时，鉴于北京市正在加快建设具有全球影响力的全国科技创新中心，在营造人工智能健康发展的生态方面，北京也要起到率先作用。许强最后表示，同时支持开展学术研究与持续规范行业自律是人工智能健康发展的重要保障。
北京市科学技术委员会主任 许强
《人工智能北京共识》正式发布——倡导人工智能健康发展道路
北京智源人工智能研究院院长黄铁军致辞并介绍了《人工智能北京共识》的相关内容，他表示，《人工智能北京共识》由北京智源人工智能研究院联合北京大学、清华大学、中科院自动化所和计算所等人工智能优势研究单位，以及新一代人工智能产业技术创新战略联盟共同研究形成，针对人工智能的研发、使用、治理三方面，提出了各个参与方应该遵循的有益于人类命运共同体构建和社会发展的准则：
北京智源人工智能研究院院长 黄铁军
- 人工智能的研究与开发：提倡要有益于增进社会与生态的福祉，服从人类的整体利益，设计上要合乎伦理，并要体现出多样性与包容性，尽可能地惠及更多人，要对潜在理风险与隐患负责，采取措施控制各种风险，并最大范围共享人工智能发展成果。
- 人工智能技术的使用：提倡要避免误用、滥用，以最大化人工智能技术带来的益处、最小化其风险，应确保利益相关者对其权益的影响有充分的知情与同意，并能通过教育与培训适应人工智能发展带来的影响。
- 人工智能的治理方面：对人工智能部分替代人类工作保持包容和谨慎态度，探索更能发挥人类优势和特点的新工作，开展广泛国际合作，建立全球性的、综合性的人工智能治理框架，共享人工智能治理经验，人工智能的准则与治理措施应灵活自适应，并开展长远战略设计，以确保未来人工智能始终保持向对社会有益的方向发展。
多家机构联合签署《人工智能北京共识》
人工智能伦理与安全研究中心正式揭牌，为人工智能发展健康发展保驾护航
另外，为降低人工智能发展过程中可能存在的技术风险和伦理隐患，北京智源人工智能研究院专门成立人工智能伦理与安全研究中心，中国科学院自动化研究所曾毅研究员任研究中心主任。
北京智源人工智能研究院人工智能伦理与安全研究中心正式揭牌
（左：北京市科学技术委员会主任许强；右：海淀区委常委、副区长李俊杰）
曾毅研究员介绍了人工智能伦理与安全研究中心的主要研究内容。他表示，研究中心将围绕人工智能伦理与安全的理论探索、算法模型、系统平台、行业应用等开展一系列研究，目前主要包括四大方面：
- 低风险机器学习模型与平台的构建，建立机器学习模型安全性的评估体系，并结合具体领域进行验证。
- 开展符合人类伦理道德的智能自主学习模型研究，实现人工智能行为与人类价值观的校准，并在模拟环境与真实场景中进行验证。
- 建设数据隐私与安全示范应用系统，建立数据基础设施、数据分级、权限控制、数据审计、隐私控制平台，最大限度防止数据泄密，降低风险，探索允许用户撤销隐私数据授权的机制及计算平台。
- 构建人工智能风险与安全综合沙盒平台，建设自动检测平台，针对数据与算法的安全性、公平性、可追溯性、风险类型、影响程度与影响范围等方面，对人工智能产品及应用进行风险与安全综合检测与评估，引导行业健康发展。
曾毅最后表示，人工智能伦理与安全研究中心将着力在算法安全评估、安全模型构建、AI综合沙盒建设等方面尽快取得一系列创新性成果，为降低人工智能的风险和伦理隐患提供技术服务，促进人工智能行业的良性健康发展。
人工智能伦理与安全研究中心主任 曾毅
附：《人工智能北京共识（Beijing AI Principles）》全文
人工智能的发展关乎全社会、全人类及环境的未来。下述准则对推进人工智能的研发、使用、治理和长远规划提出倡议。通过推动人工智能的健康发展，助力于人类命运共同体的构建，实现对人类和自然有益的人工智能。
研发
人工智能的研究与开发应遵循以下原则：
- 造福：人工智能应被用来促进社会与人类文明的进步，推动自然与社会的可持续发展，造福全人类与环境，增进社会与生态的福祉。
- 服务于人：人工智能的研发应服务于人类，符合人类价值观，符合人类的整体利益；应充分尊重人类的隐私、尊严、自由、自主、权利；人工智能不应被用来针对、利用或伤害人类。
- 负责：人工智能的研发者应充分考虑并尽力降低、避免其成果所带来的潜在伦理、法律、社会风险与隐患。
- 控制风险：人工智能及其产品的研发者应不断提升模型与系统的成熟度、鲁棒性、可靠性、可控性，实现人工智能系统的数据安全、系统自身的安全以及对外部环境的安全。
- 合乎伦理：人工智能的研发应采用符合伦理的设计方法以使得系统可信，包括但不限于：使系统尽可能公正，减少系统中的歧视与偏见；提高系统透明性，增强系统可解释度、可预测性，使系统可追溯、可核查、可问责等。
- 多样与包容：人工智能的发展应该体现多样性与包容性，尽可能地为惠及更多的人而设计，尤其是那些技术应用中容易被忽视的、缺乏代表性的群体。
- 开放共享：鼓励建立人工智能开放平台，避免数据与平台垄断，最大范围共享人工智能发展成果，促进不同地域、行业借助人工智能机会均等地发展。
使用
人工智能的使用应遵循以下原则：
- 善用与慎用：人工智能的使用者应具备使人工智能系统按照设计运行所必需的知识和能力，并对其所可能带来的潜在影响具备充分认识，避免误用、滥用，以最大化人工智能带来的益处、最小化其风险。
- 知情与同意：应采取措施确保人工智能系统的利益相关者对人工智能系统对其权益的影响做到充分的知情与同意。在未预期情况发生时，应建立合理的数据与服务撤销机制，以确保用户自身权益不受侵害。
- 教育与培训：人工智能的利益相关者应能够通过教育与培训在心理、情感、技能等各方面适应人工智能发展带来的影响。
治理
人工智能的治理应遵循以下原则：
- 优化就业：对于人工智能对人类就业的潜在影响，应采取包容的态度。对于一些可能对现有人类就业产生巨大冲击的人工智能应用的推广，应采取谨慎的态度。鼓励探索人机协同，创造更能发挥人类优势和特点的新工作。
- 和谐与合作：应积极开展合作建立跨学科、跨领域、跨部门、跨机构、跨地域、全球性、综合性的人工智能治理生态系统，避免恶意竞争，共享治理经验，以优化共生的理念共同应对人工智能带来的影响。
- 适应与适度：应积极考虑对人工智能准则、政策法规等的适应性修订，使之适应人工智能的发展。人工智能治理措施应与人工智能发展状况相匹配，既不阻碍其合理利用，又确保其对社会和自然有益。
- 细化与落实：应积极考虑人工智能不同场景、不同领域发展的具体情况，制定更加具体、细化的准则；促进人工智能准则及细则的实施，并贯穿于人工智能研发与应用的整个生命周期。
- 长远规划：鼓励对增强智能、通用智能和超级智能的潜在影响进行持续研究，以确保未来人工智能始终向对社会和自然有益的方向发展。
愿景
按照国家新一代人工智能发展规划总体部署，支持科学家勇闯人工智能科技前沿“无人区”，推动人工智能理论、方法、工具、系统等方面取得变革性、颠覆性突破，引领人工智能学科前沿和技术创新方向，推动北京成为全球人工智能学术思想、基础理论、顶尖人才、企业创新和发展政策的源头，支撑人工智能产业发展，促进人工智能深度应用，改变人类社会生活。
