“鹏城·脑海”通用人工智能大模型创新之路正式启程

点击蓝字

关注我们

高文

中国工程院院士、鹏城实验室主任、清华大学人工智能国际治理研究院学术委员会委员

2023年9月21日上午，鹏城实验室主任、中国工程院院士高文在2023华为全联接大会上正式发布了“鹏城·脑海”（PengCheng Mind）通用AI大模型，用国产化基座大模型为新一代AI大模型发展构筑新基点。

高文介绍，“鹏城·脑海”通用AI大模型以稠密型架构实现2000亿参数，依托“鹏城云脑II”国产化AI算力平台进行全程预训练，采用了MindSpore昇思国产化深度学习框架，完善了大规模并行训练策略、底层算子性能和容错机制，显著提升了国产算力平台的训练效率，并构建了一套涵盖中文、英文及50余个“一带一路”沿线国家及地区语种的多样化语料数据集和数据质量评估工具集。本次发布的是以中文为核心的“鹏城·脑海”基础版，该版本将在OpenI启智社区向全社会开源。

面向新一轮人工智能变革浪潮，在广东省和深圳市的统一部署下，以及中国外文局、华为、腾讯等战略合作伙伴的联合支持下，鹏城实验室贯穿国产算力+自主大模型创新链，聚焦AI核心器件、算力设施、模型算法、训练系统等关键环节，持续推进“鹏城·脑海”大模型的核心技术攻关。

高文强调，鹏城实验室正同步研制“中国算力网”（China Computing Network，C²Net）全国一体化算力协同计算调度平台，将以深圳为总调度中心，汇聚全国协同算力达3E规模。“鹏城·脑海”大模型将进一步依托“中国算力网”接入的协同算力，以“算力网算力调度+模型赋能”相结合的方式，携手国家新一代AI公共算力平台，共同推动国产化AI大模型的持续演进与部署应用，最终打造基于“中国算力网”的、覆盖各类领域AI大模型及应用生态的数字化基座。与此同时，实验室将牵头成立“鹏城·脑海”开源联合体，广泛联合企业、高校和科研院所，并将通过这一全新的开源群智合作模式，实现“一揽子”提供覆盖压缩、部署、微调与价值对齐等环节的模型工具，并加强大模型的开源管理与资源共享，从而为千行百业插上人工智能的“翅膀”。

今天“鹏城·脑海”通用AI大模型的发布是国产AI大模型全新的起点。鹏城实验室将陆续发布“鹏城·脑海”大模型进阶版、专业版等版本，持续满足我国不断增长的数字化转型需求，助力中国人工智能产业的快速崛起，并为全球人工智能变革提供一个来自东方古国的选择。

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG

来源 | 本文转载自鹏城实验室，点击阅读原文获取更多内容