博鳌亚洲论坛丨是人类未来还是“终极挑战”，博鳌热议 AI 机遇与风险

过去一年，全球迎来新一轮人工智能（AI）热潮，从ChatGPT的更新迭代，到Sora的出现，大量与 AI 相关的研究快速推进。

“时隔一年回到博鳌，可以看到与 AI 相关的技术产业已发生了翻天覆地的变化。”中国工程院院士、清华大学智能产业研究院院长、人工智能国际治理研究院学术委员张亚勤表示。

而与此同时，AI 潜在的安全风险也引发越来越多的关注与讨论。包括欧盟、联合国等国际组织正加速推动相关监管法案的制定工作。那么，2024年，全球AI领域监管将走向何方？如何推动在全球形成统一的AI治理框架和标准规范？

日前举行的博鳌亚洲论坛2024年年会上，与 AI 相关的分论坛共有三场，分别是科技革命“奇点”离我们有多远、AIGC改变世界，以及人工智能全球治理。钛媒体App简单梳理其中的关键发言。

AI 一日，人间一年

在不少专家看来，AI 技术不仅能显著提高生产效率，在改善人类福祉方面也是潜力巨大。

张亚勤认为，大模型和生成式AI之间的关系是前者为后者提供了基础。他预计，大模型将朝多模态、自主智能和边缘智能方向发展，而生成式AI不再局限于传统的识别任务，还能进行创造和生成工作，如编写代码、设计药物等。

《人工智能：现代方法》作者、加州大学伯克利分校计算机科学系教授、清华大学人工智能国际治理研究院学术委员斯图尔特·罗素表示，“AI改变着创意产业，作者、商业作曲者和艺术家都将被AI取代，这些都很难预测。虽然几十年来有人说技术带来的失业是不存在的，我们有理论可以证明这一点。但现在有人说这种理论是错的，人类的工资可能会变为零。”

咨询公司罗兰贝格全球管理委员会联席总裁戴璞(Denis Depoux)称，大量资本正流入AI领域，尤其是投向开发大语言模型的公司。

他指出，早期AI技术与企业现有系统的集成挑战，正被语言模型所克服，它们成为了关键的接口。这一发展预示着将加速AI的采纳，开启了一系列用例，包括加速工程速度、由机器驱动的产品研发，以及提升服务行业的生产力和质量。

“一个显著的例子是呼叫中心，降低成本往往导致服务质量下降，因为接听电话的人员技能不足，无法恰当地服务客户。用AI替代这些角色可以确保更高质量的服务，将人力资源重新分配到重视个人互动的任务上。”戴璞称，AI的部署推广需要时间，其许多客户正就具体用例“询问非常具体的问题”，这一趋势预计将持续增长。

“ AI 是人类的未来，我们要全力以赴，抢占先机。”在小i集团董事长兼首席执行官袁辉看来，AI 所带来的变革，不仅是改变某些产业，而且会变得像空气和水一样，无处不在。

如今，AI 技术变革加快，AI 一日，人间一年。AI 相关学科发展、理论建模、技术创新、软硬件升级等整体推进，正引发链式突破，推动经济社会各领域从数字化、网络化向智能化加速跃升。

袁辉强调，“数字经济是未来发展的趋势，数字经济的核心是人工智能。谁能通过算法掌控数据，谁就拥有话语权。”

科大讯飞研究院副总裁、研究院院长刘聪表示，“这一波通用大模型浪潮席卷了全球，AI 非常受关注，包括过去一年中国在通用大模型和产业应用也做了非常多的应用。我们在内容的生产、在全自动地完成任务交互上，包括颠覆原来传统的编程，以及科研新范式，都在产生快速的进展。在这个过程中我可能更多地谈在中国我们怎么样做通用大模型。在中国，我觉得我们自己现在跟国际上顶尖水平还是有差距的，这是一个共识，当然这个差距我们也在持续地追赶。在中国我们有一个点就是关于自主可控，关于软硬件自主可控这块还是非常关键的点，我仍然认为，现在整个通用大模型发展是系统性的机制，但是主战场我认为还是底座大模型。从这样一个角度，我们认为在自主可控的硬件平台上去研发可以对标国际顶尖大模型。有了这样的大模型后，我们的行业应用其实有更好的发展舞台，用人工智能+非常有可能成为发展新智生产力的非常重要的引擎。”

刘聪在博鳌期间向钛媒体App等透露，科大讯飞计划在今年6月正式发布对标GPT-4 （Turbo）当前能力的讯飞星火大模型V4.0版本。

建立全球AI治理架构迫在眉睫

“AI发展风险需引起重视。”张亚勤认为，AI发展对算力非常依赖，算法效率低下的问题值得关注。

斯图尔特·罗素坦言，当前的 AI 是错误的方向。

“当前我们所扩展的大语言模型好像黑匣子，他们是看不透的，它们能够满足的目标是我们现在不清楚的，这是错误的方向，我们不应该朝这个方向走。”斯图尔特·罗素表示，中美 AI 领域的竞争是良性的，他不同意“零和博弈”这个说法。

他直言，“如果AI是安全的，能够让人类受益，甚至比人类能力更强，那么它就能够成为人类无限财富的基础，所有的人都可以利用这样的技术，我们很多人都会因此而享受。从这个角度来讲，这个竞争并没有意义。所以核心问题是我们如何安全地与这个技术共存，安全是一个方面。AI系统提供受益是另外一方面。”

首尔大学电子与计算机工程系教授Kyoung Mu Lee则表示：“AI有无限的能力，同时也会带来一些风险。”

他指出，“大家都知道AI发展非常迅速，不能够完全预测它的未来。我们对于AI的恐惧并不是来自于AI巨大的能量，而是来自于我们并不知道AI实际的运作方式，以及将来它会变成什么样子，因为未知所以恐惧。这样一个新的怪物会淘汰我们所有人，还是拯救我们所有人？我们能够控制它吗，或者它会控制我们发生什么样的剧变？因此，我们需要对AI进行好的治理。”

AI将给人类带来怎样的风险与影响？经济发展与合作组织秘书长马蒂亚斯·科尔曼从就业的角度切入。

他认为，AI会给全球劳动力市场带来巨大的动荡，给人类教育和技能的发展造成很大的挑战。有些人可能会在AI导致的劳动力市场动荡中失去自己的就业机会，所以政府要制定相关的政策来应对劳动力市场的变化。

经济发展与合作组织秘书长马蒂亚斯·科尔曼

Kyoung Mu Lee也表示：“我们需要更加务实的监管AI系统，这些大模型会影响到我们的生活，会影响到我们的经济决定，会影响到我们的国家问题。所以AI的影响不是遥远的，而是就在我们的身边。”

布鲁金斯学会高级研究员、清华大学客座教授唐睿思指出，目前人类从AI获得的益处还是有限的，尽管已经有几个大型科技公司变得非常的富有，因为这些公司卖底层的技术。但是对于社会其他成员带来的益处我们并没有看到。

“另外还有一个事实是，如果在2030年达到我们对AI的预期目标，不管这些目标是否正确，我们都需要增加4万个核电站才能够为这些AI机器提供动力，因为它们是极其耗能的。与此同时，大国之间的博弈以及资金与人才的缺乏都会使AI技术的创新延迟或减速，我们如何保证这样的创新不会使全球经济破产。更何况我们所要监管的AI行业现在还不挣钱，我们如何保证AI治理在鼓励技术创新的同时不会给行业带来太多的负担。”唐睿思说。

与会嘉宾表示，目前国际社会在AI治理的基本原则上已达成一定共识，包括以人为本的AI，关注生态体系，关注安全，尊重国际法律等。关键是如何把这些道德规范变成统一的监管框架，包括尽快填补AI数字鸿沟，以及建立全球AI治理架构。

从分散走向协同，全球AI治理需加强对话

全球AI治理架构的建立需要各国加强对话和协同合作。

Kyoung Mu Lee表示，尽管AI系统可能是一家公司或一个国家开发的，但这个AI系统会带来全球的影响，会影响整个人类，所以不只是一个国家的问题。“我们需要各国之间的合作来讨论解决方案，利益相关者应该参与到（监管规则）制定过程中来，使得监管规则变得更加有效。”

科尔曼也认为：“我们需要国际论坛上的对话，比如通过二十国集团，通过金融组织，通过联合国，有不同级别的国际上的对话进行交流，我们希望看到这些会议带来安全的、符合伦理的方式。我们不介意技术创新，但也希望人类不会受到技术创新的伤害。”

值得注意的是，国际上关于AI治理方面的对话依然存在一定的不足与不平等。唐睿思指出，这是因为当前AI行业并没有均衡的分配权利，比如算力本质上是由美国主导的，其他国家的缺口很大。所以如果想要全球推广AI治理的话就必须要依赖美国的技术是好是坏，本质上来讲这就是一种权利的聚集。

“如果（各经济体）想坐这个桌子上参与讨论，我们就必须让每一个国家都找到方法去建立自己的算力、自己的堆站。有两种方法，一个是通过监管，另一个是通过加强合作，当然也要创新。算力是由一小部分国家所控制，因为它非常昂贵，所以我们需要建立自己的算力基础设施，否则没有人可以为此进行负担。手机之所以平价，是因为各国政府、公司花非常多的钱来投资、推广基础设施，各国的人才相互合作，才能够使得手机下降到如此的价格。而在AI领域，美国在做自己的事情，中国也在做自己的事情，所有投资都要再重新发生一次，我们是在冗余的投资，而不是在解决问题。”唐睿思称。

对于这一现象，清华大学公共管理学院教授、院长、人工智能国际治理研究院科技治理方向首席专家朱旭峰分析道：“每一个国家都是自由主权的国家，他们是根据自身的内外部环境做出相应决策的。”

通过研究全球62个国家的300多个AI治理政策，朱旭峰发现，有四个因素会影响到国家AI治理规则的制定：一是国家是否有强有力的创新能力和产业化的能力；二是人口结构，老龄化严重的国家往往更关心AI的发展；三是资本和劳动力市场的关系，比如美国近期有很多汽车生产企业工人罢工、演员罢工等；四是社会规范。如果社会规范更关注的是个人隐私和道德的话，就会建立更加严格的AI治理机制。

清华大学公共管理学院教授、院长朱旭峰“研究是帮助我们理解不同国家在AI治理决策方面所做出的努力，所以对我们普通人来说，我们必须理性地观察不同国家的行为和他们的决策过程，同时每个国家都是遵循理性的，所以AI的全球治理需要国际组织，比如联合国来帮助我们达成。”朱旭峰表示。

弥合AI“数字鸿沟”，实现全人类共享

2024年3月21日，联合国大会通过首个关于AI的全球决议《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》。据悉，该决议的草案由美国发起，并得到中国等120多个联合国会员国的共提或支持。该决议的通过有望促进国际电信联盟等联合国实体在AI问题上进一步开展工作.

关于这一决议，与会嘉宾认为，从中国的角度来看，这个决议仍然有一定的提升空间，比如它并没有充分地提及发展中国家的AI能力建设，以及他们如何能够从AI发展中获益。

朱旭峰也赞同打破全球AI技术障碍。在他看来，从人类文明的角度去看，技术可以分成三类，一类是能源方面的技术，让人类去了解能源，开发更多的能源来利用，比如太阳能。第二类技术就是信息技术，信息技术更多的是促进人类之间的沟通，特别是关注在精英与普通民众之间缺口的弥合。第三类技术是帮助人类提升效率，减少能源的使用。

“AI是横跨第二类技术和第三类技术的，它既是信息技术，可以帮助我们推进一个平权的社会，普通民众也可以获得更多的信息、知识，也有了更多权利和力量。同时AI也是涉及到效率方面的第三类技术，使得我们的社会、我们的工业更加有效率，AI就是如此。这种技术使得世界的资源得以重新分配，不仅是能源，还有其他的资源，像矿产和土地资源。只有少数的人掌握了AI技术行业中的头部。因此，我们必须要打破在AI使用方面的障碍，从而建设一个平权社会。”朱旭峰说。

中国科学院自动化研究所、联合国高层顾问专家曾毅教授表示，未来的 AI 将走向何方，谁能真正引领？AI 走向何方这没有任何一个专家能说清楚，所以根本没有真正的引领方。“我不认为美国真正引领未来的 AI ，我也更不认为中国能引领未来的 AI 。AI 的发展是基础性的、赋能性的技术，这个世界足够大，让中国、美国以及更多的国家在构建基础设施和应用方面都找到机会。但是对于 AI 带来的潜在风险，同样的，世界需要理解和保护人类。所以在这样的问题下，我们确实是首先要共同地探索未来的可能性，那就是全世界如何团结起来真正地为人类安全、人类繁荣构造一个更安全、更可靠、更可信的人工智能，这才是世界更团结的目标。美国不会引领，中国不会引领，世界上任何一个国家都不会。”曾毅表示。（本文首发钛媒体App，作者｜任颖文，编辑｜林志佳）

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG

来源 | 本文转载自钛媒体AGI，点击“阅读原文”获取更多内容