【行业舆情追踪213期】中央网信办发布《全球人工智能治理倡议》；信息安全标委会征求《生成式人工智能服务安全基本要求》社会意见

点击蓝字

关注我们

行业舆情追踪

01
头条关注

中央网信办于10月18日发布了《全球人工智能治理倡议》，倡导以“以人为本”理念为指导，尊重国家主权、遵守法律，强调伦理原则和国际合作，为全球人工智能治理提供了重要框架。

其次，上海市政府发布了《上海市进一步推进新型基础设施建设行动方案（2023-2026年）》，旨在支持数字经济和人工智能的发展，加速城市的智能化升级。北京市则推出了《人工智能算力券实施方案（2023-2025年）》，鼓励企业与智能算力供应商合作，以支持人工智能技术的创新和发展。

北京市还发布了《北京市首席数据官制度试点工作方案》，旨在全面推进数据治理和共享，提高数据治理水平，为数据驱动的人工智能应用提供支持。

02
行业监管

1. 全国信息安全标准化委员会公开征求社会意见，制定了《生成式人工智能服务安全基本要求》，强调生成式人工智能服务的安全性，包括语料安全、模型安全等方面。

2. 中国网络空间安全协会成立了人工智能安全治理专业委员会，旨在推动人工智能领域的技术创新和自律。

3. 中日嘉宾在“北京-东京论坛”数字经济分论坛上讨论数字社会的构建和人工智能的共同治理，强调了数字技术的发展和合作前景。

03
科技公司重要动态

1. 阿里达摩院发布了遥感AI大模型，有望提高遥感技术的准确性，用于城市规划等领域。

2. 百度发布了文心大模型4.0，实现了在自然语言处理领域的显著提升。

3. 中文在线发布了中文逍遥大模型1.0版本，用于辅助中文创作，为创意产业提供支持。

4. 面壁智能与清华NLP实验室合作开源了XAgent大模型，具有自主规划和决策能力。

04
前沿研究领域

1. 香港科技大学的国际研究团队开发了能预测脑胶质瘤患者治疗效果的人工智能模型“CELLO2”。

2. 中国科学院自动化研究所与北京大学合作发布了深度脉冲神经网络学习框架“惊蛰”，提供全栈式的脉冲深度学习解决方案。

政府规划

1.中央网信办发布《全球人工智能治理倡议》

10月18日，中央网信办发布全球人工智能治理倡议（以下简称“倡议”）。倡议共有十一条细则，其中包括：1.发展人工智能应坚持“以人为本”理念，以人工智能助力可持续发展；2.面向他国提供人工智能产品和服务时，应尊重他国主权，严格遵守他国法律，接受他国法律管辖；3.发展人工智能应坚持“智能向善”的宗旨，各国尤其是大国对在军事领域研发和使用人工智能技术应该采取慎重负责的态度；4.发展人工智能应坚持相互尊重、平等互利的原则，各国无论大小、强弱，无论社会制度如何，都有平等发展和利用人工智能的权利；5.推动建立风险等级测试评估体系；6.逐步建立健全法律和规章制度；7.坚持公平性和非歧视性原则；8.坚持伦理先行，建立并完善人工智能伦理准则、规范及问责机制；9.坚持广泛参与、协商一致、循序渐进的原则，密切跟踪技术发展形势，开展风险评估和政策沟通，分享最佳操作实践；10.积极发展用于人工智能治理的相关技术开发与应用，支持以人工智能技术防范人工智能风险，提高人工智能治理的技术能力；11.增强发展中国家在人工智能全球治理中的代表性和发言权，确保各国人工智能发展与治理的权利平等、机会平等、规则平等，开展面向发展中国家的国际合作与援助，不断弥合智能鸿沟和治理能力差距等内容。

来源：中国网信网具体内容详情点击链接查看→《习近平“一带一路”峰会提到的《全球人工智能治理倡议》都有哪些要点？》

2.上海发布进一步推进新型基础设施建设行动方案（2023-2026年）

10月19日上午，上海市政府新闻办举行市政府新闻发布会，市政府副秘书长、市发展改革委主任顾军介绍《上海市进一步推进新型基础设施建设行动方案（2023-2026年）》有关情况。新一轮新基建《行动方案》紧抓智能算力、大模型、数据要素、区块链、机器人等技术发展趋势和绿色低碳节能要求，立足产业数字化、数字产业化、跨界融合化、品牌高端化，强化技术引领、应用引导、统筹布局、开放合作。主要目标是到2026年底，全市新型基础设施建设水平和服务能级迈上新台阶，实现“4个建成”：一是初步建成以5G-A和万兆光网为标志的全球双万兆城市；二是加快建成支撑人工智能大模型和区块链创新应用的高性能算力和高质量数据基础设施；三是初步建成全球规模最大、种类最全、综合服务功能最强的创新基础设施集群；四是全面建成泛在融合的超大规模城市智能终端设施体系。新一轮新基建《行动方案》将重点领域进一步拓展为“构建泛在互联的高水平网络基础设施、建设云网协同的高性能算力基础设施、建设数智融合的高质量数据基础设施、打造开放赋能的高能级创新基础设施、打造便捷智敏的高效能终端基础设施”五个方面，提出了30项主要任务和10大示范工程以及7项保障措施。

来源：上海市人民政府

3.《北京市人工智能算力券实施方案（2023—2025年）》发布

10月16日，北京市经济和信息化局正式发布《人工智能算力券实施方案（2023-2025年）》。方案明确，企业与智能算力供给方签订智能算力服务合同后，可申领算力券。北京将通过发放算力券，发挥政府引导作用，推动人工智能大模型应用落地，加快培育产业生态。根据实施方案，北京支持软件信息服务业企业和制造业企业在工业、政务服务、医疗、金融、教育、法务、交通、文旅、科学研究、城市管理等领域进行行业人工智能大模型训练和应用。北京市经信局将为企业提供算力券补贴支持，努力帮助企业降低智能算力使用成本，全力支持企业开展人工智能大模型应用探索和落地实践。企业单次申领算力券金额最高不超过智能算力合同额的20%，同一企业每个自然年度累计申领和兑付算力券金额不超过200万元。与此同时，为缓解制约大模型发展的算力难题，北京正加快编制全市算力基础设施建设规划，进一步加快推进公共算力中心建设，完善算力供给体系﹔积极引导老旧小散数据中心向公共智能算力平台转型升级﹔统筹区域算力资源，与河北省、内蒙古自治区签署合作协议，鼓励企业在京津冀及周边地区建设服务于北京市场的智算中心。据介绍，北京经信局接下来还将在高质量数据资源供给、垂直行业场景开放等方面出台相应支持措施，为大模型落地创造良好的产业环境，形成更多行业大模型典型标杆应用，促进大模型赋能各行业数智化转型。

来源：人民网、北京市人民政府

4.《北京市首席数据官制度试点工作方案》 发布

10月18日，北京市经济和信息化局制定的《北京市首席数据官制度试点工作方案》（以下简称《工作方案》）正式发布。北京将在全市政府机关内全面推进首席数据官制度，建立健全数据汇聚、治理、共享、开放、应用和信息化统筹工作机制，创新数据共享开放和开发利用模式，提高数据治理和数据运营能力和水平。《工作方案》主体分为总体要求、主要任务、保障措施三大部分，包括指导思想、工作目标、试点范围；建立工作机制、明确职责范围；加强组织实施、完善配套措施、强化总结推广等。《工作方案》选取13家市级委办局、各区级政府和北京经济技术开发区作为试点单位，自行灵活设立首席数据官，职责范围包括推进数字政府建设、加强数据资源管理、提升指导监督能力、提高数字思维素养、促进人才队伍建设等。同时，《工作方案》还鼓励各区级政府在选取有条件的下级单位开展试点工作，积极鼓励各类企业设立首席数据官。

来源：新华社
行业监管

5.《生成式人工智能服务安全基本要求》征求意见

10月12日，全国信息安全标准化委员会就制定的《生成式人工智能服务安全基本要求》（征求意见稿）（以下简称“《基本要求》”)面向社会公开征求意见。征求意见稿首次提出生成式人工智能服务在安全方面的基本要求，包括语料安全、模型安全、安全措施、安全评估等方面。在语料安全方面，征求意见稿从语料来源、语料内容、语料标注3个维度做出了较详细的安全要求。例如，提出应建立语料来源黑名单，不使用黑名单来源的数据进行训练，单一来源语料内容中含违法不良信息超过5%的应将该来源加入黑名单。在模型安全要求方面，征求意见稿提出提供者如使用基础模型进行研发，不应使用未经主管部门备案的基础模型；应在网站首页等显著位置向社会公开第三方基础模型使用情况等信息；生成内容所包含的数据及表述应符合科学常识或主流认知、不含错误内容等要求。在安全措施要求方面，征求意见稿从模型适用人群、场合、用途，个人信息处理，手机使用者输入信息用于训练，图片、视频等内容标识，接受公众或使用者投诉举报，向使用者提供生成内容，模型更新、升级，这七大方面提出了要求。在安全评估要求方面，征求意见稿提出提供者对语料安全情况进行评估时，要采用人工抽检，从全部训练语料中随机抽样不少于4000条语料，合格率不应低于96%。此外，征求意见稿还提出了一些其他要求，涉及关键词库、分类模型、生成内容测试题库、拒答测试题库等方面。

来源：全国信息安全标准化技术委员会、智东西

6.中国网络空间安全协会人工智能安全治理专业委员会成立

10月12日上午，中国网络空间安全协会人工智能安全治理专业委员会成立大会在北京召开。中国网络空间安全协会人工智能安全治理专业委员会由国家互联网应急中心、北京智源研究院、上海人工智能实验室等单位发起，组织人工智能领域产学研单位开展技术创新、产业协作、成果转化和行业自律，并在模型安全、内容安全、数据安全、隐私保护和知识产权保护方面不断提升人工智能安全治理能力，以行业协同方式探索人工智能安全新型综合治理新模式，为中国人工智能产业健康发展提供可持续的基础性支撑。人工智能安全治理专业委员会首批成员单位共58家，包含人工智能领域的高校、研究院所、企业等。

来源：新华网
国际合作

7.中日嘉宾于“北京-东京论坛”数字经济分论坛共商人工智能治理方法

10月19日，“北京-东京论坛”数字经济分论坛举办。其中，来自学界、产业界的中日嘉宾在以“数字社会的构建与人工智能的共同治理”为主题的数字经济分论坛上分享了他们对数字技术、人工智能发展的洞察，并探讨了中日两国在数字领域的合作前景。华为日本株式会社副社长、涉外广报本部本部长林啸表示，随着5G网络在全球范围的加速普及，高速可靠的联接为产业和社会的数字化升级提供了新的可能。工程化、标准化、认证化是数据应用过程中应注重的三方面。

北京大学法律人工智能研究中心顾问高绍林指出，中国对AI治理遵循综合治理的原则，“软硬”兼施，辅之以技术和国际合作。硬的方面通过法律划清安全底线，作出强制性规定；软的方面，中国科技部等十部门近期联合印发的《科技伦理审查办法（试行）》，对人工智能等科技研发进行道德伦理束缚。日方嘉宾对中国提出的倡议表示肯定与赞赏，并提出了日方关于人工智能共同治理的四条原则倡议：透明原则、可控制原则、多样性原则、人本原则。清华大学战略与安全研究中心特约专家朱荣生表示，在欧盟等其他区域推动AI发展和治理进程的当下，中日可以尝试提出符合东亚一体化需求的AI发展规划和治理原则，甚至尝试更新《区域全面经济伙伴关系协定》，将相关议题纳入其中。

来源：科技日报
科技公司

8.达摩院发布首个遥感AI大模型

10月20日，阿里达摩院发布业内首个遥感AI大模型（AIE-SEG），率先在遥感领域实现了图像分割的任务统一，一个模型即可实现“万物零样本”的快速提取，可识别农田、水域、建筑物等近百种遥感地物分类，还能根据用户的交互式反馈自动调优识别结果。对比传统的遥感模型，该模型在特定场景下实例提取的准确率可提升25%，变化检测的准确率可提升30%。基于以上能力，遥感AI大模型提供了“开箱即用”的API调用服务，用户可以根据需求定制不同的遥感AI解译功能，如水体提取、耕地变化监测、光伏识别等。据悉，遥感技术主要用于城市规划、耕地保护、应急救灾等行业应用，而在 AI 加持下，相关遥感技术能够对卫星捕获内容及历史气象数据进行分析，从而助力城市运营、耕地保护、应急救灾等行业应用。

来源：IT之家

9.百度文心大模型4.0携十余款AI原生应用亮相

10月17日，李彦宏在“百度世界2023”大会主题演讲环节发布了文心大模型4.0版本，并带来新搜索、新地图等十余款AI原生应用。李彦宏表示，这是迄今为止最强大的文心大模型，实现了基础模型的全面升级，在理解、生成、逻辑和记忆能力上都有着显著提升，综合能力与GPT-4相比毫不逊色。相比今年5月的3.5版本，逻辑的提升幅度达到理解的近3倍，记忆的提升幅度也达到了理解的2倍多。基于文心大模型4.0，李彦宏通过询问公积金异地贷款政策的案例展示了文心一言对前后乱序、模糊意图、潜台词等复杂提示词的理解力；通过展示文心一言几分钟内根据一张素材图片生成的广告海报、广告文案及营销视频展现了其生成能力；通过解数学题、总结知识点等场景，展示了大模型的逻辑能力；通过数千字的小说撰写和角色、情节设置，体现了大模型的记忆能力；以及数字人医生帮助患者解读药品说明书，来展现四大能力的综合应用。据介绍，基于这一系列能力，百度已经推出了AIGC营销创意平台擎舵，让“一个人就成为一支AI营销队伍”。另外，百度CTO王海峰表示，百度基于文心大模型研制了智能代码助手Comate，从内部应用效果来看，整体的代码采纳率达到40%，高频用户的代码采纳率达到60%。

来源：中国经济时报

10.中文在线发布全球首个万字创作大模型

10月13日，中文在线集团在石景山区首钢园发布中文逍遥大模型1.0版本。该模型为辅助中文创作的AI（人工智能）工具，输入写作创意的文字描述即可生成万字故事。会上，中文在线还展示了用该模型模拟文中角色性格和心理的功能。据中文在线首席技术官吴疆介绍，相对其他垂类大模型而言，中文逍遥具备三个特点，一是输出万字长文本的能力，二是支持图片与文本的模态转化，三是能一次性处理百万字数级别的长文本内容。中文逍遥还能够模拟文中角色进行文字对话。创作者可以在文中已有角色范围内选择不同身份，分别与其他角色展开对话获得灵感。在搭建创作场景方面，中文逍遥还设置了体系设定、文学评论、通识问答和插画师四个辅助创作的功能。作为内容行业垂类大模型，“中文逍遥”大模型经过了百万级正版中文文学数据的训练，在故事型内容创作上具备通用大模型难以匹敌的优势。

来源：经济网、新京报

11.面壁智能联合清华NLP实验室开源大模型XAgent

10月17日消息，近日，面壁智能联合清华大学 NLP 实验室共同研发并推出开源大模型XAgent。XAgent有自主规划和决策的能力，以 LLM 为核心，能够理解人类指令、制定复杂计划并自主采取行动。相较于 AutoGPT，面壁智能和清华大学在 XAgent 的设计中创新地引入了一种“双循环机制”——“外循环”负责全局任务规划，将复杂任务分解为可操作的简单任务；“内循环”负责局部任务执行，专注于细节。通过双循环机制的协作，XAgent 在应对复杂任务的不同环节时，展现出超强的专业度和丰富的技能。XAgent 还可以自主使用多种数据采集、处理和分析工具，全自动地完成对海量数据的分析并形成报告，帮助用户高效获取重要信息。此外，XAgent 能结合外部工具与自主规划算法，根据环境信息做出决策，以实现更高效和精确的任务执行。

来源：机器之心
前沿研究

12.新人工智能模型可预测脑胶质瘤治疗效果

10月10日，香港科技大学领衔的国际科研团队研发出一套人工智能模型，可预测脑胶质瘤患者接受治疗后的进程和结果，将为改善病人管理策略和实施精准治疗提供新方向。相关成果于近日发表在《科学·转化医学》上。据悉，该团队通过全面分析544位脑胶质瘤患者（包括182名东亚患者）的肿瘤分子样本和临床数据，辨识出不同种类脑胶质瘤演化的基因组和转录组预测因子。为更好地评估患者接受治疗的进程及结果，该研究团队研发出一套名为“CELLO2”的人工智能模型，用于初诊后评估患者的病情。目前，该模型已可准确预测复发的肿瘤会否在替莫唑胺化疗下恶化，并识别高风险患者。北京市神经外科研究所所长江涛表示，“CELLO2”是首个可以通过原发肿瘤的分子特征来预测复发肿瘤级别是否升高或耐药的有效工具，将为临床管理患者和预估患者预后提供重要参照。另悉，该团队未来将通过整合更多患者数据，优化机器学习模型，用以研究其他导致脑肿瘤产生抗药性的分子机制，并开发整合医学影像和多组学数据的人工智能平台，推动精准神经肿瘤学的发展。

来源：人民网

13.我国科学家构建深度脉冲神经网络学习框架

10月12日消息，中国科学院自动化研究所研究员李国齐与北京大学教授田永鸿团队合作构建并开源了深度脉冲神经网络学习框架“惊蜇”，可提供全栈式的脉冲深度学习解决方案，将有力促进脉冲深度学习领域的研究和应用。相关成果日前在国际学术期刊《科学进展》在线发表。李国齐介绍，传统脉冲神经网络框架更多地关注生物可解释性，并不支持自动微分，无法充分利用GPU的大规模并行计算能力，也缺乏对神经形态传感器和计算芯片的支持。“惊蛰”框架很大程度上解决了上述问题，支持神经形态数据处理、深度脉冲神经网络构建和神经形态芯片部署等多项功能。田永鸿表示，相较于传统脉冲神经网络框架，‘惊蜇’框架具有简单易用、扩展性强、性能高等特点。利用‘惊蛰’框架，研究者可以快速进行跨领域的学习和使用，轻松构建并训练深度脉冲神经网络。

来源：新华网

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理，谨供读者参考，不代表本机构立场和观点

往期回顾

行业舆情追踪丨人工智能国际治理观察第212期

行业舆情追踪丨人工智能国际治理观察第211期

行业舆情追踪丨人工智能国际治理观察第210期

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG