2023人工智能合作与治理国际论坛“圆桌对话”:构建人工智能全球治理框架

2023年12月8日下午，由清华大学、香港科技大学联合主办的“2023人工智能合作与治理国际论坛”举办首场圆桌对话，对话由《自然•机器智能》主编Liesbeth Venema女士主持，香港科技大学人工智能研究中心主任冯雁教授，清华大学人工智能国际治理研究院副院长梁正教授，澳门大学全球法律研究系主任Rostam J. Neuwirth教授，联合国大学驻澳门研究所研究主管Serge Stinckwich先生，中国工程院院士、浙江大学教授谭建荣作为对话嘉宾，共同就本次论坛主题——“构建人工智能全球治理框架”展开精彩对话与交流。

圆桌讨论

Liesbeth Venema主持圆桌对话

《自然•机器智能》主编Liesbeth Venema指出，此次论坛受到普遍关注，表明学术界在人工智能的治理方面存在着诸多共同的价值理念和观点，但同时也有一系列问题需要讨论和解决。第一，人工智能可能产生风险，但也能帮助我们建立更加公平的国际竞争关系，比如可以为欠发达国家提供更多促进发展和提高代表性的AI工具。如何保障每个国家在全球人工智能发展和治理中享受同等权力需要国际讨论与合作。第二，去年开始，我们已经看到许多AI安全方面的讨论，一部分观点认为AI治理应更关注长期的生存性危机，从而制定更加全面的AI发展和规划方案，一部分则认为应将重点放在短中期内人工智能所出现的问题，生成式AI放大了解决短中期问题的迫切性和重要性，国际社会亟待加强对这些存在争议的AI治理问题展开交流研讨。

冯雁教授发言

香港科技大学人工智能研究中心主任、电子与计算机工程系讲席教授冯雁指出，此次论坛的亮点在于参会者的全面性和多元性，这种开放性正是构建人工智能国际治理框架所必需的，我们必须保持开放心态进行全球性讨论。首先，在文化层面的国际交流。许多西方国家经常出现“人工智能将带来人类毁灭”等悲观论调，背后是来自西方宗教中人类末日论的影响。包括中国在内的亚洲国家却不会如此过度恐慌人工智能的发展，而是更加务实地去思考如何通过人工智能去解决污染、气候变化等现实问题。这种客观务实的亚洲思维有助于消除全世界的AI恐慌，促进人工智能更好的发展。其次，不同岗位人员尤其技术人员和管理人员之间的开放性交流。技术人员不能封闭起来进行科技研发，需要了解人工智能对公共服务的贡献，政策制定者同样需要和科技人员多交流，只有对于技术有一定的了解才能制定更全面的政策。

梁正教授发言

清华大学人工智能国际治理研究院副院长、公共管理学院教授梁正表示，生成式人工智能等前沿技术对人类社会产生了重要影响，我们需要建立基于人类价值的人工智能治理框架。而要将人类价值观嵌入到人工智能系统中，首先需要明确人类价值观。不同国家，不同文化的价值观有所不同，应当重视跨文化的理解，在交流对话的基础上求同存异。与此同时，应当正视世界各国特别是南北方国家之间在人工智能发展上的差异，采取措施弥合不同国家之间的数字能力差距。人工智能的治理与发展需保持平衡，历史上来看，人们对计算机等新技术的出现带来的冲击同样曾表示担忧，生成式AI跟此前的情况非常类似，而随着人工智能的使用壁垒降低、成本下降，更多人能够使用它并创造出新的价值。他还指出，在涉及分散和冲突利益的前提下，不同群体之间很难达成共识，但通过密切协调与互动则可以跨越这一障碍，并通过教育下一代来从根本上解决问题。

Rostam J. Neuwirth教授发言

澳门大学教授、全球法律研究系主任Rostam J. Neuwirth同样肯定了此次论坛的开放性，尤其对于促进南北方国家间AI对话的贡献。Rostam非常担心当前国际社会对于AI竞争的过度强调，比如《纽约时报》的一篇文章提到全球已经开始在人工智能法案上的竞争，这显然是不对的，各国应基于实际情况制定人工智能法案，从而为人工智能的国际治理框架提供重要参考。当前人工智能国际治理的现状就是全球治理体系的一面镜子，促使我们去反思如何将过度分散的国际治理体系引导向全面包容的全球治理体系。Rostam建议各国将人工智能法律作为国际交流与合作的切入口，因为法律本身就是一门全球公用的语言，可以极大消除各国在理解上的分歧。如此，人工智能国际治理就只需要关注一个问题：法律制定如何跟上人工智能的快速发展和变化？尽管这很困难，但人们应该有信心，就像国际贸易规则最终的成功建立一样。

Serge Stinckwich发言

联合国大学驻澳门研究所研究主管Serge Stinckwich指出，我们需要确保AI研发和利用是符合人类利益的，因为人工智能会带来在安全、社会秩序上的颠覆性影响和风险。AI风险不再是理论层面的问题，而是已经真实存在且可以被观察的实证研究对象。当前人类共同面临的问题是，在使用AI工具一段时间后发现，我们对这个工具其实并不了解。因此当务之急就是要对AI工具进行反思和观察研究，这就离不开联合国大学（UNU）这样的国际性学术研究机构，因为它能从更加全面的国际性视角出发关注此问题。此外，Serge同意AI开源对于人工智能公平性的贡献，但这种公平只是针对所有能够上网的用户而言，事实上，世界上还有很大比例的人口无法上网，关注这些群体在全球AI开源中也能享受到公平机会同样值得关注。

谭建荣院士发言

中国工程院院士、浙江大学教授谭建荣指出，人工智能是一个双刃剑。为了更好发挥技术的积极作用，需要进行治理。首先，要确定需要治理的事情，找到一个最大公约数。其次，治理人工智能最根本的方法是依靠技术，遏制其消极的一面，进而实现网络安全、应用安全、信息安全和数据安全等。治理的有效性可以通过人们对人工智能的广泛应用和高效使用来检验。此外，人工智能风险分为两个层面，一个是理论/哲学层面，一个是存在层面。理论上的风险是存在的，现实风险还不至于这么大以及这么快到来。他还提出，机器是人类发明的，人类通过发明机器很可能威胁到自己。在哲学层面上考虑这个问题是完全有必要的，因而采取相应的措施是需要的，但应当适度。总的来说，人工智能正在促使人类进行一场思维革命，以更好地造福人类。

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG

相关报道丨人民网：香港举办人工智能国际论坛 共同构建AI全球治理框架 ，点击“阅读原文”获取更多内容