由阿里巴巴集团、中国电子技术标准化研究院、阿里云智能集团、达摩院联合编写的《生成式人工智能治理与实践白皮书》已经编写完成。简介请点击👉《生成式人工智能治理与实践白皮书》抢先版发布!如何给生成式人工智能带好“安全带”？

现连载第五章《生成式人工智能多主体协同敏捷治理体系》👇

生成式人工智能以全社会信息的输入为“知识”，在能力、思维等方面日趋接近人类，广泛融入社会，可以说，其已不再是单一的技术，更像是具有社会性的综合体。因此，生成式人工智能不可避免地要强调政府、产业、学术研究、公众用户等多权利相关主体的协同共治，同时，为了统筹安全与发展，保持持续创新能力，也应在协同共治的基础上，探索动态治理机制，寻求足够敏捷的治理方式。

当前，生成式人工智能的发展还存在着较大的不确定性，采用过重、不科学的治理方式会抑制产业的发展，而敏捷治理作为更加顺应科技研发应用的治理模式，其目标正是解决科技治理中技术高速演进的不确定性问题，通过治理过程中的小步快走、迭代试错、动态更新，顺应技术发展趋势，持续发挥人工智能的正向价值。

敏捷治理有以下三方面的特点：

• 一是治理价值的平衡性。一方面要预先客观评估重大风险点，有效管控科技进步带来的安全隐患；另一方面也要拥抱新技术，优先保护科技发展的需要，以技术进步来缓解治理难题。

• 二是治理主体的协同性。集聚政产学研用等多方力量，让更多的人参与到科技治理之中，积极在对话和合作中寻求社会共同认识，全面地、包容地优化治理方案，实现他律和自律的有效结合。

• 三是治理手段的灵活性。强调点刹式处理，根据新技术发展情况动态调整治理原则，主管部门及时明确治理目标与要求，监管举措反应快、下手准、力度轻，企业积极应对、快速调整、有效管控，以降低技术路径和商业策略转变带来的损失。

生成式人工智能的各协同主体应着重从各自优势出发，积极贡献治理经验和实践，形成政府规范引导、产业守正创新、社会监督理解的多元、包容、共治的体系，实现技术研发安全负责任、技术风险可控可干预、技术福祉普惠可持续。

| 2.1 政府规范引导

2.1.1 完善顶层设计

我国已有《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等治理规范性文件，并且已处于国际前列，下一步重点将是结合我国产业发展实践情况，制定技术及管理细则和标准指导行业落地，推动现有的先进制度扎实实施。

2.1.2 健全治理体系

加速打造多方协同的治理机制，促进政产学研用治理深度融合。建设人工智能治理“试验田”，鼓励有能力的企业、科研院所投入建设，建立治理和监管沙箱，在可控范围内验证治理的标准规范、治理工具、协同工作和数据流通共享机制等治理手段的科学性、可用性，同时针对技术发展过程可能出现的各类风险，根据场景和风险大小，坚持审慎包容、分类分级的治理态度和思路，促进发展鼓励研发。

2.1.3 推动国际合作

深入参与国际人工智能治理规则制定，贡献中国治理经验，基于我国产业优势打造国际领先的中国方案，积极促成全球范围的协同共治，尤其鼓励一线企业、组织的参与和贡献，为中国产业发声，从而提升中国方案在国际上的竞争力和话语权。

| 2.2 产业守正创新

2.2.1 通过标准化形成行业自律

将标准作为准则和实践之间的桥梁，研制具体可操作的规范，加强可信赖、伦理等重点标准的推广宣贯力度，树立行业标杆，进一步补全从顶层原则到行业落地的细则指引。

2.2.2 建设分类分级治理制度

综合技术路线、应用场景、安全风险等因素，围绕伦理、可信赖等方面加快建设分类分级治理准则、保护要求等方面的制度。重点解决自动驾驶、智能医学、智慧金融、智能媒体/舆情等高风险场景问题，对于风险等级较低的场景类型给予更多技术引导，避免过度治理导致发展受限。

2.2.3 持续发展治理技术，寻求发展与治理的平衡模式

治理技术的研发和应用，会显著提高行业发展与治理水平，例如数据匿名化机制激发数据价值、数字水印技术保障生成内容的可溯源防篡改等。建议给予技术发展更多空间，进一步提升治理水平，形成以发展促治理，同时也以治理促发展的良性循环。

2.2.4 在监管框架下合理分配主体责任

生成式人工智能产业应结合实际情况，在监管框架下合理区分各方的主体责任，加强治理主体的联动及治理任务的协同，提高社会治理效率，有效推动敏捷治理的落地实施，降低治理成本和发展约束，以争取更多的创新空间。

2.2.5 吸收多方意见、沉淀各界观点用于产业发展

科技企业作为产业治理的核心角色，应主动将内外部、多方面、跨学科的知识融入敏捷组织、敏捷开发的治理中，在技术研发路径、选型适配和市场应用等节点上，适时、适当地引入政府、学界、公众等可信第三方的观点和建议，将其融入技术发展目标设定之中，并持续沟通、快速迭代、敏捷试错，不断优化技术发展路线。

【实践案例】阿里巴巴发起《这个AI不太冷》系列研讨会，以“相信科技的力量，创造美好的未来”为目标，邀请跨学科产学研专家，一起就热点争议话题共同探讨人工智能技术的伦理、能力、风险，以及应对实践和未来规划，让生成式人工智能可用、可靠、可信、可控，为生成式人工智能技术的可持续发展贡献力量。

| 2.3 社会监督理解

2.3.1 普及新技术，弥合公众认知鸿沟

建设可持续发展的人工智能，是一个跨多学科、综合性强和智力密集的复杂工作。人工智能发展所面临的难题，单凭一家企业、一所高校或是一个机构是不可能独立解决的。企业需要聚拢跨学科的产学研伙伴，共同打磨自律的行业规范，弥合公众的认知鸿沟，打破生成式人工智能一贯冰冷深奥的印象，打造有温度、有趣的AI形象；主动向公众阐释技术和治理的新进展，把理解门槛降低、让治理经验透明。

【实践案例】阿里巴巴联合高校和产业界发起人工智能治理交互栏目《追AI的人》，关注并分享AI新技术、AI治理新观点、可持续发展新风向。目前已经联合清华大学、北京大学、对外经贸大学、南开大学、浙江大学、重庆邮电大学、中国科学院大学等多家高校和律所，举办了29期直播。在人工智能的支撑下，优质数字资源跨越山海，推动新技术交流更加开放。

《追AI的人》受到专业圈和社会公众的持续关注和支持，栏目同步在B站、微信视频号、钉钉、知乎等平台直播，累计超100万人次观看，多所高校学生自发组织集体在教室学习。同时，持续以文章回放和科普短视频为载体，对外输出知识，旨在用简单清晰的语言，向公众阐释对于人工智能的普遍疑问，助力公众算法素养的提升，推动社会就人工智能的发展和治理达成共识。

2.3.2 校企联合，助力人才培养

习近平总书记强调，“中国高度重视人工智能对教育的深刻影响，积极推动人工智能和教育深度融合，促进教育变革创新”。在生成式人工智能发展大浪潮中，人才培养是抓住时代机遇的关键。社会各界应携手打造高质量的人工智能教育生态，用好技术手段、凝聚各方力量，培养顺应时代发展要求的创新人才。

【实践案例】为响应教育部产学合作协同育人的号召，落实产教融合、校企合作机制，阿里巴巴联合北京航空航天大学人工智能研究院开展面向全校本科生的《人工智能安全与伦理》（又名《对抗机器学习》）课程，企业讲师将业界最新的技术发展动态引入课堂，并运用年轻人喜闻乐见的多元化运营手段，激发学生上课的积极性，让学生们对人工智能安全和伦理相关的概念、技术和应用进行了解，将企业实战场景、前沿技术分享给广大学生，培养人工智能安全人才。

🌟 下期预告

第六章：总结与展望

AAIG一直坚持长期主义，每年出品一本人工智能治理系列白皮书。我们会不断更新、精进，以确保白皮书能够紧跟时代发展的步伐，为读者提供更加专业、全面的治理建议。

点击阅读👉2022年《人工智能治理与可持续发展实践白皮书》

回复关键字【白皮书】一键下载电子版全文

📺直播预告

📌往期推荐

📖2023生成式人工智能治理系列丛书

生成式人工智能的发展以及担忧｜生成式人工智能的治理愿景和框架...👉点击查收全文链接🌟2022人工智能治理系列丛书 精华大图集锦版 | 如何维护电商平台信息真实和竞争公平…👉点击查收白皮书全书连载
🔥《追AI的人》系列直播教你掌握互联网的“流量密码”  | 如何避免ChatGPT被滥用…👉点击查收过往32期直播的全部文字回放
🎈《算法治理制度》系列丛书内容和电商领域推荐算法的应用与治理差异｜“大数据杀熟” 的背后…👉点击阅读更多算法治理干货
📺 AI治理科普短视频流量为王的时代,教你如何“破圈”创作 | 3分钟Get多模态是什么｜为什么生成式AI更容易取代白领员工,对体力工作者的影响却微乎其微…👉点击观看往期22期精彩视频

👇AAIG课代表，获取最新动态就找她

 关注公众号发现更多干货❤️

有启发点在看喔👇