成立国防AI工作组、制定“复制者”计划……盘点美国推动AI军用国际规范的政策与行动【全球AI战略洞察08】

【全球AI战略洞察】栏目由清华大学人工智能国际治理研究院推出，旨在通过对当前人工智能领域发生的重要信息进行“标注、提炼、解读”，剖析全球AI治理各国家间不同的战略图景，以此描绘人工智能治理领域的国际格局。

栏目主理人：刘典

复旦大学中国研究院副研究员、清华大学人工智能国际治理研究院战略与宏观研究项目主任

前言

近年来，美国将推动人工智能的军事应用作为最重要的优先事项之一，美国国防部及各军种先后出台了人工智能相关战略规划，并成立了相关组织机构加强对军事智能科技的顶层设计；通过加强人工智能管控、加强军事领域人才队伍建设、加大研发资金投入等方式，推动美军人工智能的快速发展和应用。国际层面，美国试图主导军用人工智能和自主系统的全球规范，美国国防部政策事务代理副部长萨沙·贝克（Sasha Backer）表示，美国在负责任地军事使用人工智能和自主性方面一直处于全球领先地位，国防部十多年来一直倡导关于武器系统自主性的道德人工智能原则和政策。以下为近期以来美国关于人工智能军事应用的政策和行动梳理。

【近期美国关于人工智能军事应用的政策和行动梳理】

1. 美国国防部成立生成式人工智能工作组，帮助改善情报和作战规划

日期：2023年8月10日主体：美国国防部事件：成立人工智能（AI）工作组-利马（Lima）工作组目标：以负责任和战略性的方式利用人工智能的力量内容：①评估、同步和利用整个美国国防部的生成式人工智能能力②充分利用国防部与情报界和其他政府机构之间的合作伙伴关系③在分析和集成国防部的大型语言模型等生成式人工智能工具方面发挥关键作用。评价：美国国防部副部长Kathleen Hicks表示，利马特别工作组的成立突显了国防部对引领人工智能创新的坚定承诺。国防部在驾驭生成式人工智能的变革力量时，仍然将确保国家安全、最大幅度地降低风险以及负责任地整合技术作为重点。

1. 美国国防部制定“复制者（Replicator）”计划，对美军无人作战系统大调整

日期：2023年9月7日
主体：美国国防部事件：制定“复制者”计划，准备在未来18至24个月内大量装备无人作战系统目的：形成规模化效应，以美军无人系统的“大规模”应对中国军事力量体系的“大规模”，以继续美国在军事上的全球主导地位特点：①小型化。随着现代技术的发展，特别是支撑情报、侦察、监视的传感器网络的广泛部署以及远程精确打击武器的日趋精准，集合诸多功能的大型作战平台普遍面临着“藏不了、防不住、伤不起”的尴尬。大型作战平台造价昂贵，难以大规模建造和使用；集多种功能于一身，一旦被摧毁，往往造成整个作战体系的坍塌；具有相当象征意义，被摧毁后容易引发国内的政治风波。因此，美军装备发展的天平开始向小型化方向倾斜。②行动智能。随着信息化战争向智能化战争的转变进程起步，美军已经从追求“信息制胜”转向追求“决策制胜”。传感器的广泛部署使得战场信息获取已从“不足”变为“过载”。对信息处理不及时，指挥控制系统往往被海量信息淹没。因此具备智能处理信息功能的武器装备成为研发重点。③便宜可损耗。俄乌冲突充分证明，消耗战依然是未来战争的重要样式。昂贵的大型作战平台对任何国家而言都经不起长时间的消耗，造价便宜、具备杀伤力的“易耗品”可成为维持战争持久力的重要替代方案。④大量装备。“易耗品”通常功能单一、研发周期短，可迅速由“货架商品”转变而来，迅速动员国防工业和商业体系的生产能力，快速形成数量优势。

1. 美国国防部发布《数据、分析和AI应用战略》（Data, Analytics, and Artificial Intelligence Adoption Strategy）

日期：2023年11月2日主体：美国国防部事件：美国国防部发布《数据、分析和人工智能应用战略》（Data, Analytics, and Artificial Intelligence Adoption Strategy）（下文简称“战略”）目标：为美军继续利用人工智能奠定基础，以确保美军作战人员在未来几年保持战场上的决策优势。内容：①提出人工智能开发和应用的敏捷方法，通过不断迭代、创新和改进解决方案，确保技术开发人员和用户之间形成紧密的反馈回路，从而实现决策优势。②关注6大战略目标：●改进基础数据管理：提高国防部数据的质量和可用性，以支持高级分析和AI能力。▪国防部将把数据作为一种产品加以重视，确保负责任地收集、存储和管理相关数据，以保障数据需求。▪国防部将采用开放式标准架构，遵守网络安全政策，并遵循行业数据伦理、数据保护和设计规范，提高数据可获取、可访问、可理解、关联性、可信赖性、可互操作和安全（VAULTIS）。▪为提高整个企业的国防部数据质量，国防部将在数据供应商和用户之间构建分散网络，该网络将由流程和技术两部分组成，在各数据域之间分配所有权，并将数据视为一种产品。●为企业业务和联合作战提供能力：利用数据、分析和AI技术增强和/或生成业务分析和作战能力，以改善决策优势。▪美国国防部将继续专注于推进业务分析，通过不断提高数据质量，并提供国防部人员所需的更全面的信息，以便做出更好的反应性和前瞻性决策。▪美国国防部将与利益相关者、企业和作战人员一起设计和测试分析和AI解决方案，并通过强大的学习活动展示AI能力，以适应不同的作战环境。▪国防部将进行持续实验，并开展具有高度影响力的联合部队使用案例的多方综合演习，从而为在可互操作的企业级作战能力方面进行更多投资提供依据。●加强治理、消除政策障碍：确保负责任的行为、流程和成效，同时加快在整个国防部应用数据、分析和AI技术。▪美国国防部数据、分析和AI领导团队将围绕负责任的开发实践达成共识，为任务负责人和其他管理机构提供支持，同时充当使能能力的高要求客户。数据、分析和AI管理将进行风险调整、精简和数据驱动，并注重协作学习。▪美国国防部将为数据化转型确定明确的领导者，加强整个部门的问责制，并优先考虑数据管理、网络安全、需求、联合互操作性、记录管理、负责任的AI等关键领域。国防部将针对已确定的政策进行修订，以提高灵活性、能力部署速度和可扩展性；同时坚持对合法和道德行为的坚定承诺；保护隐私和公民自由。▪美国国防部将减少阻碍集体研发、规划、互操作性、情报和信息共享的障碍，并将在整个美国政府中发挥领导作用，为技术和信息发布流程提供信息，以促进信息交流，实现互惠互利。●投资可互操作的联邦基础设施：优化国防部基础设施，以支持数据扩展、分析和AI的扩展应用，并提高互操作性。▪美国国防部将投资于丰富、灵活、安全和可互操作的基础设施，以满足强大的计算能力和能力发展需求。▪美国国防部的基础设施将采用面向产业界和可信赖合作伙伴的开放式标准架构，以促进协作和持续实验。●推进建设数据、分析和AI生态系统：加强政府间、学术界、产业界和国际伙伴合作关系，促进数据、分析和AI的应用。▪美国国防部将推进建设一个强大的国家和国际生态系统，加强合作和共享，确保盟友和伙伴实现数据、分析和AI相关的战术、机构和战略的互操作性。▪·美国国防部将继续输出关键技术和共享数据，以确保盟友和合作伙伴保持敏捷性，并能够迅速应用先进的分析功能和AI创新。国防部可向供应商寻求特定任务的解决方案，同时制定采办策略，商业解决方案将确保满足国防部不断变化的需求，并且平衡对行业知识产权的保护。·美国国防部将利用联合数据和模型目录以及AI企业工具等资源来加快采购。国防部将扩大采购政策，提高政府对数据所有权、标签、维护和分类的可见性。●拓展数字化人才管理：加强关键数据、分析和AI相关岗位的招聘、培训和留用。▪美国国防部监督和应用数据、分析和AI的能力取决于其人才队伍的实力和技术技能，国防部将加强数字化人才相关岗位的管理，如具有领域知识和基本数字技能的军人、文职人员将获得针对性的培训和实践机会，以便担任数据架构师、数据管理员和用户体验设计师等工作角色。▪国防部将对现有招聘制度进行适当改革，以实现最大限度地灵活性，吸引数字化人才。▪国防部还将开展一系列试点工作，验证所存在的障碍和阻力，并建立一支来自整个国防部的军人和文职人员骨干队伍，为最困难的任务构建数字解决方案。4.美国发布《关于负责任地军事使用人工智能和自主技术的政治宣言（Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy）》日期：2023年11月21日主体：美国国务院事件：发布《关于负责任地军事使用人工智能和自主技术的政治宣言》。目标：为负责任地将AI和自主技术用于军事目的的规范提供国际支持，围绕负责任的行为建立国际共识，并指导各国开发、部署和使用军事AI。内容：①由一系列不具法律约束力的指导方针组成，描述了负责任地将AI用于军事目的的最佳实践。这些指导方针包括确保军事AI系统是可审计的，具有明确的用途，在其整个生命周期内接受严格的测试和评估，具有检测和避免意外行为的能力，以及高风险应用接受高层审查。②提出了三大目标：一、各国承诺遵守适用于所有军事领域的强有力和透明的规范，无论系统的功能或潜在影响范围如何。二、各国承诺继续讨论如何以负责任的方式开发、部署和使用AI军事能力，并继续与国际社会其他成员一起推动这些措施。三、保留了自卫权以及各国在军事领域负责任地开发和使用AI。5.美英澳三边安全伙伴关系举行部长级会议，将测试新的人工智能算法日期：2023年12月1日主体：“美英澳三边安全伙伴关系”（AUKUS）、美国、英国和澳大利亚三国国防部长事件：在美国加利福尼亚州举行第二次部长级会议内容：①“AUKUS”的第二支柱侧重于包括人工智能、量子、网络和高超音速等关键技术领域②将测试新的人工智能算法系统，以更快更准确地探测跟踪太平洋的水下潜艇③三国将于2024年举行联合海上无人机演习，旨在将人工智能整合到包括海上巡逻机在内的各种军事系统之中。【通向未来战争的道路】2023年7月25日，新美国安全中心发布的《中美竞争与军事人工智能》的报告指出，当前，国际安全环境中的两种结构性趋势正在发生变化，第一个趋势是中美地缘政治竞争加剧，第二个趋势是人工智能技术的快速发展。其中，人工智能在军事领域的应用可能会加深地缘政治竞争并增加战略风险。在商业人工智能的巨大浪潮下，军事人工智能已经悄悄先一步投入大规模生产线，对未来战争产生深远影响。几十年来，美国军方一直在努力在“多而简单”和“少而复杂”的军事应用之间平衡成本和有效性的挑战。自越南战争以来，美国军方一直倾向于后者，优先考虑昂贵、精致的系统。但随着武器和平台成本的不断提升、新兴技术的近期突破以及大国冲突的重新出现，使得美军越来越难以仅仅依靠少量的先进能力。因此，精确智能、低价、可消耗成为美军迅速进入人工智能时代的主要考虑。美国国防部副部长凯瑟琳·希克斯 (Kathleen Hicks) 将这一举措描述为一个“大赌注”，一个对于美国过去几十年军事系统和应用的转型，一个对于国家军事工业的考验。当前，人工智能军事化进程已经将全球主要大国推至军事转型的十字路口。一是人工智能军事化发展达到军事应用的标准和发展阶段。近年来，人工智能技术的突破，配合着大模型、大数据以及工业智能化的发展，人工智能、机器人和自主技术已经成熟到可以安全可靠地融入军事行动中。一直以来，军事技术和应用都在朝着自动化、无人化、智能化与精确化的方向发展。但如小型无人机、作战无人机等新应用，近几年刚刚进入军事实践中。今年2月，美国公司 Saildrone与美国海军第59特遣队就人工智能应用和无人水面航行器展开合作。由各种无人水面航行器的摄像机和传感器拍摄了水中其他船只的图像和视频，这些图像和视频被发送到岸上的操作中心，并由人工智能实时分析数据。许多基于人工智能的军事应用不仅已经足够成熟，而且变得越来越容易获得。许多底层技术的主要驱动力不是军事或政府附属的研究机构，而是学术界和私营部门。这些技术不仅具有成本效益。相反，它们通常是通用的，即使不是双重用途的，其中许多几乎可以直接使用。这种可及性和可承受性为军队提供了更多的实验空间，促进战术创新。二是地缘政治竞争加速新兴技术融入军事应用的进程。近年来，地缘政治竞争在全球和地区范围内都出现迅速加剧的趋势。不仅是中美在印太地区的地缘政治竞争，俄乌与俄欧的地缘政治竞争也愈发激烈，巴以的长期紧张关系已经在中东地区在此燃起了战火。也因此，各国军队都对提升传统军事力量产生了巨大的需求，也必须跟上其他国家人工智能军事化的步伐。低成本、高智能、算法驱动成为未来战争的雏形。谷歌前首席执行官埃里克·施密特 (Eric Schmidt)在华盛顿的 Axios AI+ 峰会上表示，随着乌克兰部署尖端技术，无人机不再只是一个无人驾驶的飞行物体。而成为一个“强大的软件平台”，是迈向更加自动化的战争的一大步。施密特认为，无人机和其他基于自主的武器正在逐步取代坦克和火炮。而这也新兴技术融入军事应用提出了更高的要求和需求。未来战争需要越来越多地将军人与武器分开，让无人系统完成最危险的工作。美国退役陆军上将戴维·彼得雷乌斯在新书中写到，随着时间的推移，坦克、舰艇和飞机必须在很大程度上被由更便宜、更小、无人、由算法驾驶的系统组成的庞大舰队取代。模仿和学习是国家天生的本能，而战争则是最直观的课堂。近两年来，如俄乌冲突、巴以冲突等地缘政治冲突，给了人工智能军事应用最好的试验场，也因此加速了各国军队、私营部门将人工智能技术投入军队的速度。智能系统和无人平台通过了真实战场的考核。以色列国防军前参谋长阿维夫·科查维 (Aviv Kochavi) 在 6 月份接受以色列新闻媒体 Ynet采访时表示，在瞄准计划投入运行之前，以色列一年内可以在加沙地带标记生成50 个目标。但一旦使用人工智能系统，它可以在一天内有效地生成多达 100 个目标。在俄乌冲突的战场上，乌克兰推出了一批宜家风格、扁平包装、自制纸板的“无人机大军”， 每架售价不超过 3500 美元。乌克兰所展现的低成本、可消耗的军事应用充分展现了基于人工智能无人系统的战争优势和潜力。随着全球人工智能治理话题在国际上的关注不断增加，中国也一直以来致力于在国际人工智能治理领域持续发声。近期，清华大学联合香港科技大学合作举办的2023人工智能合作与治理国际论坛即将开幕，本次论坛汇聚逾50名海内外人工智能领域的顶级专家学者、政府人士、国际组织和企业代表，探索制定人工智能全球治理框架，助力构建以人为本的、包容、和谐、可持续的世界。欢迎报名参与！扫码线上观看
长按扫码下载或点击文末“阅读原文”参与论坛来源：美国国防部网站、新华网、元战略、新美国安全中心链接：https://www.defense.gov/News/Releases/Release/Article/3489803/dod-announces-establishment-of-generative-ai-task-force/http://www.xinhuanet.com/mil/2023-08/31/c_1212262235.htmhttps://www.defense.gov/News/News-Stories/Article/Article/3518827/hicks-discusses-replicator-initiative/

https://www.defense.gov/News/News-Stories/Article/Article/3578219/dod-releases-ai-adoption-strategy/

推荐阅读

主理人：刘典

编辑：朱奕霏、卢的排版：赵杨博

校审：王祚

终审：梁正、鲁俊群

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG