【AI治理周报-12月第1周】关键词：外交部、134亿美元、美英发布AI指南、防御“对抗性”AI、俄罗斯AI发展战略

点击蓝字 关注我们

AI国际治理观察周报

政府规划a：

外交部:中方愿同各方就人工智能全球治理开展沟通交流与合作

11月28日下午，外交部发言人汪文斌在例行记者会上表示，习近平主席在第三届“一带一路”国际合作高峰论坛开幕式上宣布中方提出《全球人工智能治理倡议》，得到国际社会的高度关注和积极评价。中方愿以落实《倡议》为契机，同各方就人工智能的全球治理开展沟通交流、务实合作，确保人工智能始终朝着人类文明进步的方向发展。

汪文斌介绍，各方普遍认为，《倡议》充分彰显人类命运共同体理念，契合各国发展人工智能的现实需要，为推动人工智能健康安全有序发展作出了独特贡献。一些发展中国家认为，人工智能规则制定不能仅由少数发达国家说了算，应增强“全球南方”在人工智能领域的话语权，推动构建公平、公正的人工智能国际治理体系。不少国家表示，期待同中方加强在人工智能领域的交流合作。

来源：外交部官网

青海昆仑人工智能算力中心正式揭牌并启动运营

11月30日上午，由中共城西区委、城西区人民政府主办的青海昆仑人工智能算力中心揭牌仪式在西宁锦诚大厦举行。这标志着青藏高原第一座智算中心正式揭牌并启动运营。

活动现场，与会嘉宾参观青海昆仑人工智能算力中心办公、展厅区域和北京升哲的研发成果。青海昆仑人工智能算力中心依托三江源国家大数据基地，实现算力资源的托管运营。此次青海昆仑人工智能算力中心揭牌及签约仪式的成功举办，标志着城西区在打造算力产业、发展数字经济方面迈上了新的台阶。未来，城西区将以人工智能、物联网、大数据等新一代信息技术在西宁乃至青海的深度应用和融合发展为基础，全力打造算力产业与数字经济新生态。

来源：新华网

行业洞察：

2027年我国人工智能服务器市场规模将达134亿美元

11月29日，2023人工智能计算大会（AICC）召开，会上国际数据公司IDC和浪潮信息联合发布《2023—2024年中国人工智能计算力发展评估报告》。报告预计，2023年中国人工智能服务器市场规模将达91亿美元，同比增长82.5%，2027年将达到134亿美元，年复合增长率达21.8%。

报告认为，人工智能正在加速从感知智能向生成式智能迈进，人工智能算力需求也因此快速增长。报告预计2022—2027年中国智能算力规模年复合增长率达33.9%，通用算力规模年复合增长率为16.6%。

报告称，中国企业对生成式人工智能的接受度普遍较高。据调研，67%的中国企业已经开始探索生成式人工智能在企业内的应用机会或已经开始进行相关资金投入。中国企业尤其认可生成式人工智能在加速决策、提高效率、优化用户和员工体验等维度带来的价值，并将在未来三年持续提高投入力度；但与此同时，企业需要直面计算、存储等资源短缺，行业大模型可用性待提升以及投入成本高等问题带来的压力。

报告指出，中国人工智能技术正加速迈入全面应用时代，2023年人工智能的行业渗透度排名前五的行业依次为互联网、电信、政府、金融和制造，其中，电信从上一年的第四跃升至第二。报告显示，过去五年（2018—2022年），北京、杭州、上海、深圳、广州、合肥、苏州、重庆等城市在人工智能领域具有较为突出的表现。受到生成式人工智能、智能计算中心投入的影响，2023年中国人工智能城市评估排行榜发生变化，北京依然位居首位，杭州和深圳分别位列第二位和第三位。此外，位居前十的城市还有上海、苏州、广州、济南、合肥、重庆和成都。

来源：科技日报

《北京市人工智能行业大模型创新应用白皮书（2023年）》发布 北京人工智能大模型创新团队数量约占全国一半

11月29日，AICC 2023人工智能计算大会举办。北京市科委、中关村管委会在大会上发布了《北京市人工智能行业大模型创新应用白皮书（2023年）》（以下简称《白皮书》）。

《白皮书》指出，北京是当前国内人工智能领域创新基础最好、人才资源最集中、研发创新能力最强、产品迭代最活跃的地区，现已拥有大模型创新团队122家，数量居全国首位，约占全国的一半。《白皮书》同时也从模型演进、应用领域、应用类型、商业模式等多个角度详细梳理了现阶段北京市大模型应用的典型特点。

《白皮书》对北京市大模型应用案例进行了梳理，从政务、金融、医疗、传统产业赋能、文化旅游、智慧城市等六个行业领域切入，围绕创新性、示范性、经济与社会效益性、可推广性等四个维度，选取18个典型案例，详细分析了各领域用户需求、解决方案、项目成果。

基于案例分析，《白皮书》也进一步提出了目前大模型应用落地面临的挑战：一是算力资源供不应求，成为大模型企业创新研发的重要挑战；二是高质量数据成为严重掣肘大模型行业应用的症结；三是大模型幻觉问题有所改善，但离规模落地尚有差距；四是大模型应用存在“蹭热度”和同质化情况。

来源：人民网

科技公司：

加速行业智能升级 华为云推出首个大模型混合云

11月30日，以“践行深度用云，加速智能升级”为主题的华为云行业高峰论坛2023在北京举办。会上，华为云推出业界首个大模型混合云，并发布《深度用云展望 2025》白皮书及深度用云行动计划，旨在通过创新技术、理论沉淀及行动举措，助力政企践行深度用云，加速智能升级。

据华为混合云总裁尚海峰介绍，华为云Stack 8.3在业界率先实现大模型能力基于混合云部署，提供算力平台、云服务、开发套件和专业服务等完整的AI生产链，帮助政企客户一站式建立专属大模型能力，并针对大模型场景做了四大优化：基于原生混合云能力，用户可以将大模型从本地延伸到边缘和公有云，实现全场景跨云部署；通过软硬协同实现算子融合与混合精度的优化，模型训练性能提升45%；高效完成数据清洗、模型开发和应用开发，降低开发门槛；通过无感断点续训的能力，让AI训练长稳运行30天以上。

此外，华为云全球市场营销与销售服务总裁石冀琳在会上提出五点思考：深度用云就是从帮助企业应用云资源，到帮助企业应用云上的技术与服务；从帮助企业搭建全新的平台底座，到帮助企业进行应用现代化改造；从使用云上的通用技术，到开发行业化解决方案；从提升企业的运维能力，到提升企业的运营能力；从帮助企业提升效率，到打造全新的面向未来的核心竞争力。

来源：人民网

浪潮信息发布源2.0基础大模型，千亿参数全面开源

11月27日，浪潮信息发布“源2.0”基础大模型，并宣布全面开源。源2.0基础大模型包括1026亿、518亿、21亿等三种参数规模的模型，在编程、推理、逻辑等方面展示出了先进的能力。

在算法方面，源2.0提出并采用了一种新型的注意力算法结构：局部注意力过滤增强机制(LFA：Localized Filtering-based Attention)。LFA通过先学习相邻词之间的关联性，然后再计算全局关联性的方法，能够更好地学习到自然语言的局部和全局的语言特征，对于自然语言的关联语义理解更准确、更人性，提升了模型的自然语言表达能力，进而提升了模型精度。

在数据方面，源2.0通过使用中英文书籍、百科、论文等高质量中英文资料，降低了互联网语料内容占比，结合高效的数据清洗流程，为大模型训练提供了高质量的专业数据集和逻辑推理数据集。

在算力方面，源2.0采用了非均匀流水并行的方法，综合运用流水线并行+优化器参数并行+数据并行的策略，让模型在流水并行各阶段的显存占用量分布更均衡，避免出现显存瓶颈导致的训练效率降低的问题，该方法显著降低了大模型对芯片间P2P带宽的需求，为硬件差异较大训练环境提供了一种高性能的训练方法。

当前，源2.0采用全面开源策略，全系列模型参数和代码均可免费下载使用。

来源：人民网

AI国际治理：美英联合发布《安全AI系统开发指南》2023年11月27日，由英国国家网络安全中心牵头，包括美国在内的18个国家共同参与制定了《安全人工智能系统开发指南（Guidelines for secure AI system development）》。该协议以人工智能安全峰会为基础，旨在提高人工智能的网络安全水平，确保设计和使用人工智能的公司在开发和部署人工智能时保护客户和广大公众的安全，以及建立人工智能领域的全球合作。尽管这份由英国牵头制定的协议是全球范围内达成的首个此类指南，然而，该协议却不具有约束力，主要是一般性建议，如监控人工智能系统是否被滥用、保护数据不被篡改以及审查软件供应商等。它将帮助任何使用人工智能系统的开发者在开发过程的每个阶段做出明智的网络安全决策。该指南帮助开发人员确保网络安全既是人工智能系统安全的基本前提，也是从一开始就贯穿整个开发过程，即所谓的“安全设计”方法。该指南从四个关键领域提供了有助于提高人工智能系统安全性的建议，分别是：

• 安全设计
• 安全开发
• 安全部署
• 安全运维

来源：清华大学人工智能国际治理研究院
美国国土安全部致力于在防御“对抗性”AI方面处于领先地位11月29日，美国国土安全部加快了AI技术在业务中的使用案例，只在防御“对抗性”AI方面处于领先地位。AI系统目前正在协助国土安全部开展边境巡逻工作、打击贩毒，并对失踪儿童进行年龄估计等几个关键领域。国土安全部部长Alejandro Mayorkas在小组讨论中表示，国土安全部在利用AI为部门谋取福利的同时，也深刻意识到AI缺乏监管和快速持续创新面临的威胁，因此国土安全部意在防御AI恶意使用，减轻AI特有的风险，例如虚假信息传播、自动化开发生物武器等。来源：Nextgov/FCW美国网络安全官员敦促防范AI威胁11月29日，一位美国高级官员表示，AI快速发展带来的潜在威胁意味着，需要从一开始就在系统中建立保障措施，而不是以后再附加。他表示，“我们已经将这样一个世界常态化了，即技术产品在下线时就充满了漏洞，然后希望消费者去修补这些漏洞。”本月早些时候，领先的AI开发商同意与美国政府合作，在新的前沿模型发布前对其进行测试，以帮助管理快速发展的技术所带来的风险。美国网络安全和基础设施安全局局长Jen Easterly表示，“AI太强大了，发展速度太快了，我认为我们已经尽了最大努力，与世界各国和技术公司一起，从技术角度出发，尽可能安全地构建这些能力。”来源：福克斯新闻印度政府计划出台规定应对AI深度伪造威胁11月24日消息，印度政府警告包括Facebook和YouTube在内的社交媒体公司反复提醒用户，当地法律禁止他们发布深度造假和传播淫秽或错误信息的内容。信息技术部副部长Rajeev Chandrasekhar在一次闭门会议上传达了这一警告，他表示，尽管2022年的规定禁止对儿童“有害”、淫秽或“冒充他人”的内容，但许多公司仍未更新其使用条款。目前，人们对深度造假的担忧日益加剧。深度造假是指人工智能算法对在线视频进行训练后制作的逼真但伪造的视频。印度方面表示，印度正在制定相关规定来解决这个问题。钱德拉塞卡说，这些公司必须在用户每次登录时提醒他们不能发布此类内容，或者通过发出提醒来提高人们对规则的认识。来源：路透社日本首相岸田拟出席达沃斯论坛 表明将主导制定AI规则11月22日消息，首相岸田文雄正考虑出席明年1月中旬在瑞士举办的世界经济论坛年会（达沃斯论坛），并发表演说，他表明，为了安全问题将利用高级人工智能并主导制定AI国际规则。此次会议将是岸田就任首相后首次出席达沃斯论坛。上次日本首相出席该会是在2019年1月，由时任首相安倍晋三出席。鉴于俄乌冲突和中东局势不稳，岸田欲强调国际携手确立能源安全保障的重要性，而日本作为七国集团（G7）轮值主席国，主导了国际规则的制定框架“广岛AI进程”。岸田考虑到“广岛AI进程”，将呼吁建立国际社会能享受AI好处的机制。来源：共同社俄罗斯：将批准新的AI发展战略，以免西方国家垄断AI领域11月24日，俄罗斯总统普京出席了在莫斯科举行的2023年国际人工智能与机器学习大会全体会议，并表示：不能让西方在AI领域形成垄断，俄罗斯的AI发展战略将作出重大变革，包括扩大生成式人工智能和大型语言模型领域的基础和应用研究。普京指出，一些西方在线搜索系统和生成式模型忽视甚至取消了俄罗斯语言和文化。他表示，允许西方垄断AI技术“危险且不可接受”，俄罗斯必须用自己的技术与“有偏见的”西方聊天机器人竞争。普京说：“一些西方搜索引擎以及一些生成模型通常以非常有选择性、有偏见的方式工作……他们没有考虑俄罗斯文化，有时甚至干脆忽略并取消它……许多现代系统都是根据西方市场的西方数据设置。”来源：法新社、联合早报

国际合作：韩美英等国情报机构联合发布AI安全研发指南11月28日消息，韩国国家情报院（国情院）与23个主要国家情报机构联合发布《人工智能体系安全研发指南》。据国情院介绍，美国网络安全与基础设施安全局（CISA）和英国国家网络安全中心（NCSC）主导指南制定过程，其他国家的网络安全机构作为合作伙伴参与其中。具体来看，该指南强调在研发的全过程中采用安全设计的重要性，并提出落实安全责任、确保责任归属明确和透明性、企业经营以安全设计为先的三大原则。该指南还将人工智能体系研发流程划分为设计、开发、推广、运营4个阶段，并涵盖了各阶段应采取的具体措施。来源：韩联社第23次韩中日知识产权局局长会议举行 围绕AI发明权等进行讨论11月30日消息，第23次韩中日知识产权局局长政策对话会议，这是该会议时隔四年线下举行。三方在会上盘点新冠疫情期间线上会议取得的成果，并就近期备受关注的人工智能发明权和AI专利审查标准等交换意见。韩国特许厅（相当于知识产权局）近期针对AI发明权面向普通民众和专家进行了一次问卷调查。特许厅方面表示，与会的中日两国代表团对问卷调查结果表示关注，并要求韩方共享详细的调查结果等最新AI动向。特许厅厅长李仁实表示，此次会议不仅讨论了专利、商标、设计等传统合作事宜，还将三国合作范围拓展至近期备受瞩目的AI、区块链、元宇宙等新兴技术领域。今后将全力推动韩中日三边知识产权合作实现量与质的飞跃。来源：韩联社

社会洞察：生成式AI居今年日本热门商品排行榜榜首11月22日消息，三井住友银行旗下的SMBC咨询公司公布了介绍2023年标志性事件、人物及商品的“热门商品排行榜”。以AI聊天软件“ChatGPT”为代表的“生成式AI”居热门商品排行榜榜首。来源：共同社德国可能放弃对英特尔在德设厂的100亿欧元补贴11月22日报道称，有关德国法院的负面裁决或会导致英特尔失去数十亿欧元的补贴。德国此前曾承诺向英特尔提供近100亿欧元的激励资金，用以在德国建设芯片制造厂。据悉，德国联邦宪法法院发布裁决，推迟了2024年联邦预算，并认为2022年挪用抗疫预算资金，用于“气候与转型基金”（Climate and Transformation Fund）的做法违宪。执政联盟（由社民党、绿党和自民党组成）推迟了预算的最终讨论和批准，导致芯片补贴项目延缓。萨克森-安哈尔特州经济部长Sven Schulze表示：“如果德国不能再支持英特尔设厂的项目，将造成巨大的经济损害，也将严重损害其形象。”来源：路透社

AI巨头动态：AWS与英伟达扩大生成式AI合作 将引入GH20011月28日，AWS和英伟达宣布战略合作，为生成式AI提供新的超级计算基础设施、软件和服务。双方合作的具体内容包括：AWS推出首款结合NVIDIA Grace Hopper Superchip与Amazon UltraCluster扩展功能的云AI超级计算机；NVIDIA DGX Cloud率先配备NVIDIA GH200 NVL32，并首次在AWS上提供此AI训练即服务；英伟达和AWS在Project Ceiba上合作，打造全球最快的GPU驱动AI超级计算机以及最新的NVIDIA DGX Cloud超级计算机，用于英伟达的AI研发以及自研模型开发服务；配置NVIDIA GH200、H200、L40S以及L4 GPU等芯片的全新Amazon EC2实例，大幅提升生成式AI、HPC高性能计算、设计以及模拟类工作负载的性能；在AWS上运行的英伟达软件，包括NeMo LLM框架、NeMo Retriever以及BioNeMo，加速自研模型、语义检索、新药研发等应用的生成式AI发展。
来源：Nvidisnews网站英伟达或将推迟中国特供 HGX H20 AI芯片发布11月24日消息，两位知情人士透露，英伟达已告知中国的客户，HGX H20 人工智能芯片的发布将推迟至明年第一季度。据悉，英伟达为了遵守美国收紧的芯片出口限制，开发出了针对中国市场的最新改良版AI芯片，包括HGX H20、L20 PCIe和L2 PCIe，而被推迟发布的芯片HGX H20是三款芯片中最强大的一款。英伟达或难以在中国市场与华为等中国本土竞争对手保持市场份额。来源：路透社

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理，谨供读者参考，不代表本机构立场和观点

往期回顾

舆情追踪丨人工智能国际治理观察第220期

舆情追踪丨人工智能国际治理观察第219期

舆情追踪丨人工智能国际治理观察第216期

主理人：刘典

编辑：曹筱艺、朱奕霏、王昕晨、陶含孜排版：赵杨博
审校：王祚
终审：梁正、鲁俊群

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG