主理人：刘典

【AI治理知识库】

（下划浏览）

在全球化和技术革新浪潮中，人工智能作为一种颠覆性的技术力量，正在深刻改变全球经济结构和社会秩序，并引发了广泛的关注和一系列复杂的治理挑战。随着AI技术的快速发展和广泛应用，建立有效的国际治理框架变得尤为迫切。AI国际治理知识库关注全球视野下人工智能国际治理的关键趋势与地缘政治背景下的科技和数字治理问题，为关注相关问题的朋友提供及时、有效、严谨、全面的知识信息。

栏目主理人：刘典

复旦大学中国研究院副研究员、清华大学人工智能国际治理研究院战略与宏观研究项目主任

前言：欧盟人工治理体系

人工智能创新的激增引发了制定治理框架的平行竞赛。由于缺乏全面的全球治理结构，国际机构、欧洲及其他大国的倡议、不具约束力的原则和规范以及自愿的公司行为准则激增，形成了复杂的监管和治理格局。欧盟具有里程碑意义的《人工智能法案》旨在为人工智能的约束性、硬性监管树立先例，反映出对以人为本、值得信赖和基于风险的监管的承诺。

虽然欧盟在制定全球议程方面具有领先优势和先发优势，《人工智能法案》可为其他国家政府提供治理蓝图，但目前治理、监管人工智能的竞赛日益激烈，凸显了主要国家对人工智能治理格局话语权的争夺。为更加深入地理解欧盟的人工智能治理体系，同时为理解国内人工智能治理和全球人工智能治理进程所面临的复杂环境，我们对欧盟近年来在人工智能治理领域展现出的态度及其治理规则及予以初步整理。

PART1：欧盟人工智能治理体系发展概况
1.欧盟的人工智能治理立法进程
2.欧盟人工智能治理的重点原则与制度

PART2:欧盟人工智能治理政策重点梳理

1. 2016—2023 年欧盟出台的人工智能治理重要政策文件
2.欧盟人工智能治理的政策走向

PART3：欧盟人工智能治理体系建构的战略考量

1. 欧盟如何占据地缘政治有利条件

2.欧盟谋求主导全球人工智能战略竞争

附件：2016—2023 年欧盟出台的人工智能治理重要政策文件梳理、2018年来欧委会发布的人工智能竞争战略文件

进入 21 世纪以来，包括人工智能（AI）在内的新兴技术发展已成为国际竞争中的重要变量，也成为世界各主要经济体构建技术主权、促进经济繁荣和保障国家安全的重要基石。在人工智能发展方面，欧盟的主要优势在于充分发挥欧洲一体化市场的影响力，在全球树立人工智能技术监管和治理的高标准，以技术治理促进技术自主，其治理政策值得关注和研究。

当前，美国和中国在人工智能技术创新和产业发展方面具有显著优势，欧盟近年来则另辟蹊径，在人工智能治理方面持续发力，加快推进人工智能立法，旨在以高标准伦理监管的先发优势构建 “监管壁垒”，塑造其在人工智能发展方面的全球影响力。从立法维度对欧盟人工治理体系进行考察具有重要意义。
01

欧盟人工治理体系发展概况

01

欧盟的人工智能治理立法进程

2024年1月21日，欧盟《人工智能法案》（Artificial Intelligence Act）(以下简称《法案》）定稿公开，旨在促进人工智能在欧盟内部市场的运用，强调确保欧盟核心价值观不受损害的前提下支持人工智能创新发展。欧盟各国代表达成共识，认为《法案》有望成为全球第一部关于人工智能监管的综合性法律，将对全球人工智能领域相关立法有一定的引领和借鉴作用。

《欧盟人工智能法案》特别标榜了“欧洲价值观”，强调“欧洲价值观”下的人工智能管理，特别关注对高风险人工智能系统的划分和限制，对人工智能监管体系做出一个初步的构想。作为欧盟立法，《法案》在实践上并不能干扰各国法律的执行，其运行还需要各国的共同协作配合。内容上对责任划分和条款细节的缺失使得法案并不完善，过度鼓吹价值观带来的超负监管加大了欧盟人工智能发展的成本，阻碍了产业的发展。尽管《法案》的理念暂时领先，但实行起来还需要各国长期磨合，产生的效果还需长期观察。作为领先之作，《法案》在监管沙盒和促进小微企业发展等方面有许多亮点，为我国人工智能法律的发展提供了借鉴和参考。

从立法历程上看，2021年4月，欧盟委员会发布了立法提案《欧洲议会和理事会关于制定人工智能统一规则（人工智能法）和修订某些欧盟立法的条例》（以下简称《人工智能法案》），开启了人工智能治理的“硬法”道路。2022年12月形成了《人工智能法案》折中草案的最终版。2023年6月，欧洲议会通过了《人工智能法案》的谈判授权草案，并修订了原始提案。2023年12月8日，欧洲议会、欧洲理事会和欧盟委员会三方就《人工智能法案》达成协议，法案规定了对人工智能领域的全面监管。从总体上看，《人工智能法案》在欧盟建立起人工智能开发、使用的道德和法律框架，并辅以《人工智能责任指令》确保落地执行。02

欧盟人工智能治理的重点原则与制度

①算法可解释性和透明度原则

随着自动化决策技术的普遍应用，大数据杀熟、算法黑箱等问题屡有发生。此前，欧盟的《通用数据保护条例》（“GDPR”）便针对算法自动化决策的问题提出了相应的规制要求，将透明度及算法问责原则列入该法案的核心原则之一。该法案第22条也规定，数据主体有权拒绝仅基于算法自动化处理的决策。

②风险分类分级监管与算法安全评估

《人工智能法案》的三次修改草案中，重点引入了以风险为导向，对于AI系统的分类分级监管制度。该法案提出了四种风险类型的AI系统：不可接受的风险、高风险、有限风险和极低风险。该法案对于不可接受的风险以及高风险等级的AI系统提出了严格的规制措施，同时为人工智能设计了全生命周期的规制措施，要求人工智能产品入市前评估和入市后监测，以便从事前、事中和事后共同治理。

自GDPR发布以来，有学者提出将数据保护影响评估制度（DPIA）与GDPR中的公私渠道“协同治理”制度有效联结，构建个人数据权利与算法治理相结合的影响评估机制。其后欧盟的《算法责任与透明治理框架》也提出针对公共机构强制要求实施算法影响评估的要求。

③人工智能的外部问责机制

2019年4月，欧盟《算法问责及透明度监管框架》就算法自动化决策明确了具体的规制路径和政策建议。《人工智能法案》除了上述的评估监测机制外，更是从平台主体的义务、监管机构职责、处罚措施等各方面构建了对人工智能算法的外部问责机制。

02

欧盟人工智能治理政策重点文件梳理

01

2016—2023 年欧盟出台的人工智能治理重要政策文件

02

欧盟人工智能治理的政策走向

2016 年6月，欧盟在官方发布的《欧盟外交和安全政策的全球战略》（EUGS）首次提出了战略自主（Strategic  Autonomy）的目标。2019 年，欧盟委员会主席冯德莱恩将人工智能列为欧洲必须掌握和拥有的关键技术。2020 年，欧盟发布的《欧洲人工智能白皮书》《欧洲数据战略》 等文件均将人工智能视为强化欧盟“技术主权” （technological sovereignty）和“数字主权”（digital  sovereignty）的关键领域。

分析未来欧盟人工智能治理的政策走向，主要呈现出从“软”到“硬”、由“通用”向“专门”的特点。

欧盟在数字治理领域已出台了一系列立法。2018 年 5 月生效的《通用数据保护条例》除了对数据安全、隐私保护等问题做了规范，2022 年 5 月、7 月和 10 月先后发布的《欧盟数据治理法》《数字市场法》《数字服务法》3 项立法也为人工智能治理提供了重要支撑。

针对人工智能治理，欧盟从监管层面入手，其治理框架内的多项主要政策文件都重点关注了人工智能监管领域。首先，欧盟委员会（European Commission）于 2018 年 4 月 25 日发布了《欧洲人工智能战略》，该文件是欧盟首部涉及人工智能监管的规划文件，不仅提出了欧盟人工智能未来发展的战略规划，还提出了保障公众利益、确保可靠性和安全性、促进透明度等人工智能监管的基本原则。

其次，为了推进欧盟成员国之间在人工智能领域的协调发展、协同监管，欧盟委员会于 2018 年 12 月 7 日正式发布了《人工智能协调计划》，旨在建立一个共享和可持续的数据生态系统，提高欧盟在人工智能领域的创新能力，同时强调制定符合伦理规范的人工智能政策，确保人工智能被合法公正和可靠地使用。该计划标志着欧盟开始对人工智能进行统一和协调的监管，以进一步推动欧盟人工智能的发展。

再次，为了进一步实现人工智能可信任发展、防范发展风险，欧盟委员会于 2019 年 4 月 8 日发布了由人工智能专家委员会撰写的《可信人工智能伦理指南》，旨在为人工智能技术的开发和应用提供指导、约束，推动人工智能技术的可持续、负责任和可信发展。

最后，为了系统全面地规范人工智能发展，欧盟委员会于 2021 年 4 月 21 日正式提出了全球首部《人工智能法案》提案。法案草案将人工智能系统分为不可接受的风险、高风险、有限风险和极小风险 4 个类别，并就其全生命周期风险评估和控制提出要求。现如今该法案已经定稿公开，将成为全球首个人工智能治理立法。国际商业机器公司（IBM）认为，与《通用数据保护条例》类似，欧盟的《人工智能法案》可能会改变全球竞争规则。

  表1：欧盟《人工智能法案》主要内容

在人工智能发展方面，欧盟的主要优势在于充分发挥欧洲一体化市场的影响力，在全球树立人工智能技术监管和治理的高标准，以技术治理促进技术自主，其治理政策值得我们持续关注和研究。

03
欧盟人工智能治理体系建构的战略考量
01

欧盟为何积极参与人工智能治理体系的建构

人工智能创新的激增引发了制定监管框架的平行竞赛。由于缺乏全面的全球治理结构，国际机构、欧洲及其他大国的倡议、不具约束力的原则和规范以及自愿的公司行为准则激增，形成了复杂的监管和治理格局。欧盟具有里程碑意义的《人工智能法案》旨在为人工智能的约束性、硬性监管树立先例，反映出对以人为本、值得信赖和基于风险的监管的承诺。

虽然欧盟在制定全球议程方面具有领先优势和先发优势，《人工智能法案》可为其他国家政府提供治理蓝图，但目前治理、监管人工智能的竞赛日益激烈，凸显了主要国家对人工智能治理格局话语权的争夺。对欧盟来说，它将很难驾驭当前的局面。因为它不能仅仅依靠“布鲁塞尔效应”和域外法规来影响国际标准。欧盟面临的进一步挑战包括协调其机构和成员国之间的行动，同时制定一个有凝聚力的欧洲人工智能外交政策方法，既要应对美国驱动的创新主导地位，也要应对中国寻求成为人工智能超级大国的雄心。

为了解决欧洲的人工智能创新滞后问题，欧盟委员会于2024年1月24日公布了一项全面的人工智能创新计划，这是在欧洲培育充满活力和强大的人工智能生态系统的重要举措。为了进一步提升欧洲初创企业的领导力，并在整个欧盟中培养有竞争力的人工智能生态系统，欧盟委员会计划建立所谓的“人工智能工厂”，包括人工智能专用的超级计算机、互连的数据中心，以及从超级计算和人工智能专家到数据专家、研究人员和初创企业的熟练劳动力。

在2023年12月就《人工智能法案》达成政治共识之后，上述措施意图明确，旨在推动欧盟内部可信人工智能的创建、实施和采用。关键的考验在于，如何将这些承诺转化为切实的行动，特别是在欧盟培育一个充满活力和具有全球竞争力的跨境人工智能创新生态系统。

虽然欧盟对负责任的人工智能的承诺值得称赞，但是，在国家和企业竞争的格局中，建立统一的欧洲人工智能外交政策方法、促进与主要合作伙伴的战略联盟、有效实施《人工智能法案》、驾驭多样化的治理举措并建立复杂监管框架的全球制度，仍是欧盟推进人工智能治理所面临的重要挑战，同样也是欧盟关于人工智能战略构想的首要落地点。

02

欧盟谋求主导全球人工智能战略竞争

欧盟对自身的竞争定位是创建“以人为中心(human-centered)”的人工智能（国内也有译为“以人为本的人工智能”)。欧盟强调自己主张构建的人工智能体系是与众不同的，将在保护并尊重人类基本权利和价值观的前提下显著改善公民生活，并有效助力社会和经济发展，并且要让欧盟与成员国共同成为“以人为中心的”人工智能的全球领导者。“以人为中心”的人工智能应该是符合欧盟核心价值观的人工智能，即《里斯本条约》明确的欧盟必须建立在尊重人的尊严、自由、民主、平等、法治和尊重人权，包括少数族裔人权的基础上。这些价值观应该完全融入人工智能技术与系统从开发到应用的全过程。其次，符合欧盟核心价值观的人工智能，更容易获得欧洲用户的信任，并形成成员国之间的合力，以此构建统一的欧洲市场并发挥其独特优势。欧盟从监管入手建构治理体系，并且建立一套道德准则和评估标准判定人工智能是否以人为中心符合欧盟价值观，这将自然地为欧洲市场设立起一道监管屏障。

欧盟人工智能的国际竞争策略并非通常认为的实现技术上的赶超，而是基于欧盟强大的伦理和法律监管框架，为以人为中心的人工智能设下全球标准。基于自身优劣势的考虑，结合国际竞争格局带来的挑战与机会，欧盟选择扛起人工智能治理体系建构的大旗，一方面通过设立非正式的伦理行为指引和正式立法，双管齐下撬动其强大的监管力量，发挥“布鲁塞尔效应”，即虽然欧盟只监管其内部市场，但由于其内部市场的规模足够大，跨国公司为进入该市场而不得不遵循欧盟标准。随着这些公司自愿将欧盟标准延伸至管理其全球业务，欧盟便可改变全球市场。

可以说，全球人工智能竞赛已经产生了一条新赛道，即人工智能治理及监管竞赛，而欧盟是在这条道上占据先发优势的参赛选手。

主编丨刘典

副主编丨王祚

编辑丨朱政宇排版丨赵杨博审核丨梁正 鲁俊群

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG