又有大动作？美英等18国发布《安全人工智能系统开发指南》【全球AI战略洞察06】

【全球AI战略洞察】栏目由清华大学人工智能国际治理研究院推出，旨在通过对当前人工智能领域发生的重要信息进行“标注、提炼、解读”，剖析全球AI治理各国家间不同的战略图景，以此描绘人工智能治理领域的国际格局。

栏目主理人：刘典

复旦大学中国研究院副研究员、清华大学人工智能国际治理研究院战略与宏观研究项目主任

摘要

2023年11月27日，由英国国家网络安全中心牵头，包括美国在内的18个国家共同参与制定了《安全人工智能系统开发指南（Guidelines for secure AI system development）》。该协议以人工智能安全峰会为基础，旨在提高人工智能的网络安全水平，确保设计和使用人工智能的公司在开发和部署人工智能时保护客户和广大公众的安全，以及建立人工智能领域的全球合作。

尽管这份由英国牵头制定的协议是全球范围内达成的首个此类指南，然而，该协议却不具有约束力，主要是一般性建议，如监控人工智能系统是否被滥用、保护数据不被篡改以及审查软件供应商等。

它将帮助任何使用人工智能系统的开发者在开发过程的每个阶段做出明智的网络安全决策。该指南帮助开发人员确保网络安全既是人工智能系统安全的基本前提，也是从一开始就贯穿整个开发过程，即所谓的“安全设计”方法。

该指南从四个关键领域提供了有助于提高人工智能系统安全性的建议，分别是：安全设计、安全开发、安全部署和安全运维。

关键词：【人工智能系统】【网络安全】【安全设计】【安全开发】【安全部署】【安全运维】

01
要点提炼

一、主要面向群体

本文件主要针对使用由组织托管的模型或使用外部应用程序编程接口 (API) 的人工智能系统提供商。该文件还敦促包括数据科学家、开发人员、管理人员、决策者和风险所有者在内的所有利益相关者阅读指南，以帮助他们就其人工智能系统的设计、开发、部署和运行做出明智决策。

实施这些准则将帮助提供商构建按预期运行的人工智能系统，在需要时可用，并且在不向未经授权的方泄露敏感数据的情况下工作。

二、遵循“默认安全”方法

该指南还与英国国家网络安全中心的安全开发和部署指南、美国国家标准与技术研究院的安全软件开发框架以及英国国家网络安全中心、美国网络安全和基础设施安全局和国际网络机构发布的“设计安全原则”中定义的实践紧密结合。优先考虑：

·为客户掌控安全成果

·拥抱彻底的透明度和问责制

·建立安全的组织结构和领导力是业务的首要任务

三、人工智能系统开发生命周期内的四个关键领域

指南将人工智能系统开发生命周期内的四个关键领域分为：安全设计、安全开发、安全部署、安全运维。

1.安全设计

包含了适用于人工智能系统开发生命周期的设计阶段的指南，涵盖了理解风险和威胁建模，以及系统和模型设计时需要考虑的特定主题和权衡：

·提高员工对威胁和风险的认识

·对系统面临的威胁进行建模

·设计供应商的系统时考虑安全性以及功能和性能

·选择 AI 模型时考虑安全优势和权衡

2.安全开发

包含了适用于人工智能系统开发生命周期的开发阶段的指南，包括供应链安全、文档以及资产和技术债务管理。

·确保供应商的供应链安全

·识别、跟踪和保护供应商的资产

·记录供应商的数据、模型和提示

·管理供应商的技术债务

3.安全部署

包含了适用于人工智能系统开发生命周期的部署阶段的指南，包括保护基础设施和模型免受损害、威胁或丢失、开发事件管理流程以及负责任的发布。

·保护供应商的基础设施

·持续保护供应商的模型

·制定事件管理程序

·负责任地发布人工智能

·让用户轻松做正确的事情

4.安全运维

包含了适用于人工智能系统开发生命周期的安全运维阶段的指南，提供了系统部署后特别相关的行动指南，包括日志记录和监控、更新管理和信息共享。

·监控供应商的系统行为

·监控系统的输入

·遵循安全的设计方法进行更新

·收集并分享经验教训

签署该指南的国家及其机构的名单如下：

澳大利亚-澳大利亚网络安全中心 (Australian Cyber Security Centre ，简写ACSC)加拿大-加拿大网络安全中心(Canadian Centre for Cyber Security ，简写CCCS)智利-智利国家计算机安全和事件响应小组(Computer Security Incident Response Team，简写CSIRT)捷克-捷克国家网络和信息安全局(Czechia’s National Cyber and Information Security Agency，简写NUKIB)爱沙尼亚-爱沙尼亚信息系统管理局(Information System Authority of Estonia，简写RIA)和爱沙尼亚国家网络安全中心(National Cyber Security Centre of Estonia，简写NCSC-EE)法国-法国网络安全局(French Cybersecurity Agency，简写ANSSI)德国-德国联邦信息安全办公室(Germany’s Federal Office for Information Security，简写BSI)以色列-以色列国家网络管理局(Israeli National Cyber Directorate，简写INCD)意大利-意大利国家网络安全局(Italian National Cybersecurity Agency，简写ACN)日本-日本国家网络安全事件准备和战略中心(National Center of Incident Readiness and Strategy for Cybersecurity，简写NISC)、日本内阁府科学、技术和创新政策秘书处新西兰-新西兰国家网络安全中心尼日利亚-尼日利亚国家信息技术发展局(National Information Technology Development Agency，简写NITDA)挪威-挪威国家网络安全中心(National Cyber Security Centre ，简写NCSC-NO)波兰-波兰NASK国家研究院（NASK National Research Institute，简写NASK）韩国-韩国国家情报院(Republic of Korea National Intelligence Service，简写NIS)新加坡-新加坡网络安全局(Cyber Security Agency of Singapore，简写CSA)英国–国家网络安全中心(National Cyber Security Centre，简写NCSC)

美国-网络安全和基础设施局(Cybersecurity and Infrastructure Agency，简写CISA)、国家安全局(National Security Agency，简写NSA)、联邦调查局 (Federal Bureau of Investigations，简写FBI)

02
相关评价英国国家网络安全中心首席执行官Lindy Cameron表示，这一指导方针标志着在形成人工智能网络风险和缓解战略的真正全球性共识方面迈出了重要一步，以确保安全不是发展的后记，而是贯穿始终的核心要求。

美国网络安全和基础设施安全局主任Jen Easterly表示，《安全人工智能系统开发指南》的发布标志着我们与世界各国政府共同致力于确保开发和部署设计安全的人工智能能力的一个重要里程碑。在各国和各组织拥抱人工智能的变革力量之际，由美国网络安全和基础设施安全局和英国国家网络安全中心领导的这一国际合作凸显了全球致力于促进透明度、问责制和安全实践的决心。在我们共同的技术革命中，国内和国际社会团结一致，共同推进安全设计原则，为全球人工智能系统的安全发展奠定坚实的基础。这一共同努力重申了我们保护关键基础设施的使命，并强化了国际伙伴关系在确保我们数字未来安全方面的重要性。

英国科学、创新与技术部部长Michelle Donelan表示，她相信英国是安全使用人工智能的国际标准承担者。英国国家网络安全中心发布的这些新指南将把网络安全置于人工智能开发各个阶段的核心位置，从而从始至终都考虑防范风险。

美国国土安全部部长Alejandro Mayorkas表示，网络安全是构建安全可靠的人工智能系统的关键。这一指南为设计、开发、部署和运营以网络安全为核心的人工智能提供了常识性途径。通过整合“设计安全”原则，这些准则代表了开发人员必须投资的历史性协议，在系统设计和开发的每个步骤中保护客户。通过这些指导方针等全球行动，我们可以引领世界利用这一开创性技术的好处，同时解决其潜在危害。

【原文截图-机翻】

推荐阅读

主理人：刘典

编辑：朱奕霏排版：赵杨博
校审：王祚

终审：梁正   鲁俊群

2023人工智能合作与治理国际论坛活动预告