曾毅丨人工智能全球治理中学者的角色与义务：在联合国为人类治理人工智能会议的发言

点击蓝字

关注我们

曾毅

中国科学院自动化研究所人工智能伦理与治理研究中心主任

联合国秘书长技术特使办公室（UN Office of Secretary General’s Envoy on Technology）在第78届联合国大会期间于纽约举办“为人类治理人工智能（Governing AI for Humanity）”边会（2023年9月20日），商讨联合国秘书长人工智能顾问机构的构建。联合国副秘书长Guy Ryder、联合国副秘书长兼技术特使Amandeep Singh Gill组织并主持会议。联合国教科文组织助理总干事Gabriela Ramos主持了各国科技与人工智能部长的讨论。远期人工智能研究中心主任、中国科学院自动化研究所人工智能伦理与治理中心主任曾毅研究员受邀参会并发言，以专家的身份参与了相关议题的讨论，主要观点总结如下。

01

以学术界的视角审视人工智能治理学术领域的学者在全球人工智能治理中扮演着至关重要的角色，在联合秘书长人工智能顾问机构中应发挥独特而不可替代的作用。首先，学者可以从更科学的视角构建桥梁来汇集科学、产业、公众、政府、媒体等多利益相关方的努力，这意味着要以非常详细和具体的科学方式将来自不同利益相关方的所有要求和关切联系起来。例如，当有人说，作为科技创新者，我们需要让人工智能无处不在时，学者需要指出这是一个非常值得商榷的想法。当看到人工智能的益处，你也许会希望它无处不在，而其潜在风险和技术成熟度，以及必要性，才真正决定了应当限制人工智能在合理的限度进行应用。在我参与起草的《联合国教科文组织人工智能伦理建议书》中明确就提到了与此相关的“相称性”，即适度使用，我们认为并不需要人工智能无处不在，我们需要以恰当的方式适度将其引入社会。生成式人工智能目前已开始探索广泛应用，当它用“我想”、“我认为”等表述论证时，这里存在严重的问题：人工智能模型中的“我”在哪里？它是一个信息处理机器，没有“我”，它不是一个负责任的主体，更不应当这样被拟人化以混淆人与现代人工智能之间的界限。因此，学者应当站出来做负责任的行动，指出倘若如此，我们则并没有以更科学的方式向世界传递正确的信息。这是一个确切存在的问题。作为学者必须将这些真实的信息、真实的世界和真实的人工智能解读给世界，让世界知道人工智能现在只是一个看似智能却并非真正拥有智能的信息处理机器。因此，我们必须采取措施来搭建桥梁并承担责任。学者肩负着许多责任。很多人都喜欢《奥本海默》这部电影，但作为人工智能研究人员，相比之下我们可以做更多事情来让世界变得更美好。例如，对于人工智能，我们可以倡导并实践百分之百的人工智能系统具有安全和伦理框架，我们必须做到这一点。如果你正如奥本海默在开发核武器，作为科学家的选择似乎主要是参与或不参与。但当你正在开发人工智能系统时，你确实有选择。你可以确保人工智能具有安全和伦理框架，从机制设计的角度禁止它做很多事情。因此，与奥本海默的情况相比，人工智能的研发在学者手中掌控的发展方向本应有机会更为可控，我们本可以使世界变得更美好。最后，学者不应为世界制造问题，而是必须为世界解决问题。我们很遗憾地看到：当有人说，这个国家人工智能现在越来越好了，我们该怎么办？居然有作为智囊的学者提出，“我们可以污染他们的数据以阻碍他们的发展”。这种做法真是太可耻了。因此，学者一定要对世界做出负责任的科学贡献，而且不仅是对当今世界，更是为了下一代和他们的孩子们。

02

以跨文化的视角来看待人工智能的未来谈及在当今人工智能治理较少讨论或者相对被忽略的议题，从学者的观察而言，我认为跨文化人工智能治理应当被充分重视并加以实践。我们需要从更跨文化的角度看待人工智能的未来，以从文化互补互鉴的视角为人工智能创造未来。在许多西方国家，会将人工智能视为一种工具，一种信息处理机器；但在东方国家，如日本和中国、韩国部分学者，会认为一种面向长远发展的观点会将未来人工智能视为准社会成员或合作伙伴，尤其是在应对老龄化问题时这变成解决现实问题的一种考虑。而在科幻小说中，人们将人工智能视为全人类的公敌。对人工智能的这些不同看法构成了人工智能角色的三角形，其中的人工智能在任何一个角色下都有不同的挑战需要我们去应对。因此，从跨文化的角度来看待人工智能，我们必须相互学习，了解来自不同视角的未来愿景和挑战。

03

编织全球人工智能发展与治理网络即将成立的联合国人工智能顾问机构的作用也许并不是要推动联合国成立解决所有人工智能相关问题的机构，而是推进可能的联合国的人工智能机构成为编织全球人工智能发展与治理网络的关键节点。各个国家应该有一些国内和参与政府间的、区域性的努力，但这些努力在对接过程中总是会因遇到跨区域性的问题而难以协调。因此，首先需要一个相互关联的无缝网络，将对的问题协调对接到对的机构去解决，再由联合国在顶层统筹协调全球性的机遇与挑战。我们需要一个可以将所有人和所有力量聚集在一起的互联网络，希望学者能够在其中发挥重要而积极的作用。这不单是在为我们自己创造更好的世界，更是为了我们的孩子和未来。因此，希望联合国人工智能顾问机构能通过人工智能赋能为所有人编织一个更互联与和谐发展的世界。

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG

来源 | 本文转载自智能的本质与未来，点击“阅读原文”获取更多内容