2023人工智能合作与治理国际论坛主论坛Ⅱ——“构建人工智能全球治理框架”成功举办

点击蓝字

关注我们

2023年12月9日，由清华大学、香港科技大学联合主办的2023人工智能合作与治理国际论坛在香港科技大学举行第二场主论坛。本次论坛以“构建人工智能全球治理框架”为主题，汇聚来自全球人工智能领域的顶级专家学者、政府代表、国际组织和企业人士，就应对生成式人工智能等前沿技术挑战，探索制定人工智能全球治理框架，助力构建以人为本、包容、和谐、可持续的世界展开研讨。

清华大学人工智能研究院名誉院长、中国科学院院士张钹，​南安普顿大学计算机科学教授达梅·温迪·霍尔（Dame Wendy HALL），蒙特利尔大学教授、米拉-魁北克人工智能研究所创始人兼科学总监、图灵奖得主约书亚·本吉奥（Yoshua BENGIO），联合国教科文组织驻华代表夏泽翰（Shahbaz KHAN）发表了主旨演讲。论坛由清华大学人工智能国际治理研究院副院长肖茜主持。

肖茜主持论坛

张钹从“为什么治理”、“治理什么”、“如何治理”三个方面出发，作了题为“生成式人工智能时代的AI治理”的主旨报告。生成式人工智能具有“三大能力和一个缺点”，即强大的生成能力、牵引能力、交互能力以及“幻觉”缺点，会产生看似合理但虚构而荒谬的答案，从而容易引发安全问题。人工智能治理包括大模型本身和用户滥用两个方面，其治理路径也从这两方面展开。第一条路径是对齐问题，它可以通过充分利用人机交互的能力来解决，相对而言比较简单。第二条路径是使用问题，它是治理讨论的主要方面。今后要构建可解释和稳健的人工智能理论；开发安全、可控、可信、可靠和可扩展的人工智能技术；推动人工智能创新应用和产业化；特别要把知识同数据、算法、算力三个要素结合起来才能从根本上解决问题。

张钹主旨发言

达梅·温迪·霍尔（Dame Wendy HALL）以“构建人工智能治理的全球框架”为题作了主旨报告。她分析了制定人工智能治理全球框架的重要性，介绍了人工智能发展的历史演进、人工智能对教育和社会的潜在影响，譬如可以利用人工智能改善医疗保健，施行教育改革等；分享了英国、欧盟、美国和中国在人工智能治理方面的最新进展。她认为，欧盟和美国虽然在人工智能原则上达成一致，但在实施方面却存在分歧；对中国提出的人工智能治理框架给予了高度肯定。她强调，要构建全球治理框架以平衡人工智能技术发展与伦理之间的矛盾。

达梅·温迪·霍尔主旨发言

约书亚·本吉奥（Yoshua BENGIO）作了题为“防范人工智能风险：民主治理或技术自由主义？”的主旨报告。他指出，科技赋予了人类超越地球上其他物种的力量，但这种力量会被滥用进而危害人类；要避免人工智能的危害，需要解决两大问题，一是对齐问题及控制挑战，对此应加大投资力度以快速破解技术难题；二是技术滥用，人工智能可能被用来制造武器，引发失控风险，并且这些问题已经出现在真实世界之中，值得高度关注。特别是当人工智能仅由少数人掌控时，将会导致权力高度集中，进而扰乱社会秩序、危害社会稳定。他强调，要对人工智能进行民主化治理；要建立国家规范、签订国际公约，像对待危险生物材料一样对待大模型开发，允许公民社会、独立研究人员、第三方组织对其进行审计和监督；要加大安全研究的投资；由全社会成员共享人工智能的权力和福祉。

约书亚·本吉奥主旨发言

夏泽翰（Shahbaz KHAN）指出，生成式人工智能既有非凡的能力，同时也引发了数据与算法偏见，隐蔽错误结果、冲击劳动力市场等问题。联合国教科文组织的《人工智能伦理建议》倡导采取平衡的方法，在充分利用人工智能的同时降低其风险，确保公平和包容；在人工智能开发中，坚守人类尊严、权利和多样性的价值观；这为人工智能治理提供了一个至关重要的框架。最后，他引用孔子的话，“譬如为山，未成一篑，止，吾止也；譬如平地，虽覆一篑，进，吾往也。”以此呼吁社会共同努力，消除不平等、无知和恐惧的障碍，为人工智能服务全人类、不让任何人掉队的未来铺平道路。

夏泽翰主旨发言

本次论坛为期两天，12月9日上午为第二场主论坛，同日还举办了以“人工智能产业发展与治理”、“人工智能赋能社会科学研究新范式”、“生成式人工智能时代的数字人文与教育”、“前沿大模型风险研判与治理”和“人工智能赋能可持续发展”为主题的分论坛。

本次论坛邀请了来自中国、美国、英国、澳大利亚、法国、新加坡、马来西亚等国内外人工智能治理领域的50多名知名学者参与研讨；多位来自包括清华大学、香港科技大学、南开大学、南京大学、中国科学院大学、慕尼黑工业大学、索邦大学、南安普顿大学、爱丁堡大学以及未来社会、卡内基国际事务伦理委员会、美国战略与安全研究中心等机构的资深专家学者，以及来自Anthropic、xAI、华为、百川智能、智谱AI、安远AI、奇安信、九章云极等知名科创企业的高层管理人员就如何应对生成式AI等前沿技术挑战作了精彩报告。

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG