上海线下活动 | LLM 时代的 AI 编译器实践与创新

By 超神经

2023 Meet TVM · 年终聚会将于 2023 年 12 月 16 日在上海五角场创新创业学院举办。

本次 Meetup ，我们邀请到了来自上海交通大学、OctoML、美团、字节跳动、OpenBayes贝式计算、蔚来汽车的 6 位 AI 编译器专家，他们将为大家带来精彩的分享及圆桌讨论。

作者 | xixi

编辑 | 三羊

今年 3 月份， 2023 Meet TVM 系列首次线下活动从上海出发，跨越多个城市，致力于为各地关注 AI 编译器的工程师提供一个学习、交流的平台。

12 月 16 日 2023 Meet TVM · 年终聚会将重返上海，这一次我们不仅邀请了 4 位资深的 AI 编译器专家为大家带来精彩的分享，还新增了圆桌讨论的环节，Apache TVM PMC、上海交通大学博士冯思远将担任主持人，以更多元的视角与各位共同讨论大模型时代机器学习系统的创新和挑战。

🎄临近圣诞，欢迎各位小伙伴在装束上加入圣诞的元素，我们在现场也会为大家准备精美的茶歇和小礼品，期待与大家度过一个充满圣诞气息的 AI 编译器聚会！

关注「HyperAI超神经」并报名活动即可参与抽奖活动，中奖者可在活动当天现场领取丰厚的周边礼品，快来参与吧~

活动详情

⏰ 时间：12 月 16 日（周六）13:30-17:40

📍 地点：上海五角场创新创业学院 2F 报告厅（杨浦区大学路 322 号）

👬 人数：200（现场座位有限，请尽早报名） 

🙌🏻 报名：扫描下方二维码报名

扫码备注「TVM 年终聚会」加入活动群：

📝 日程：

嘉宾及议程

环节 1

分享嘉宾

13:40-14:20

冯思远

Apache TVM PMC

上海交通大学博士生

分享主题： Deep Dive into TVM Unity

内容简介：TVM Unity 经过一年多的迭代升级，预计于近期并入 Apache TVM 主分支，届时也将成为 Apache TVM 主要的编译流程。本次分享将介绍 TVM Unity 的默认编译流程，与现有 TVM 的区别，以及如何迁移现有工作流到 Unity。

观众观看本场分享，你将了解：

1. TVM Unity 的结构设计

2. TVM Unity 的默认编译流程

3. 如何迁移现有的工作流到 TVM Unity

14:20-15:00

金乐盛

OctoML

机器学习系统工程师

分享主题：Slim-LM: Unified Compilation Framework for Agile Development

内容简介：随着 MLC LLM 和 TVM Unity 逐渐发展，有越来越多的用户想尝试使用 TVM 来部署自己的模型。然而如何灵活高效地使用 TVM 搭建以及编译模型存在着诸多挑战。

基于此需求，TVM 社区最近推出了一套全新框架 Slim-LM 来简化 TVM 搭建以及编译模型流程，包含三大特点：

1. PyTorch 风格的代码定义 TVM 模型2. 简洁高效的编译工具3. 统一的量化算法框架

观众观看本场分享，你将了解：

1. Slim-LM 的一些基础设施及其提供的便利性

2. 使用 Slim-LM 定义/编译新的模型

3. Slim-LM 实现新量化算法的基本步骤

15:00-15:40

刘刚

美团 

机器学习平台研发工程师

分享主题：基于 TVM 的编译优化实践

内容简介：随着 AI 编译器的迭代发展，其可用性、易用性得到了极大程度的提高，TVM 作为 AI 编译器的代表之一，如何发挥其最大作用、改善自身不足、并在搜、广、推等业务场景大规模落地，是一个重要问题，本次分享主要从以上视角展开介绍。

观众观看本场分享，你将了解：

1. 典型业务场景下，TVM 能力范畴

2. TVM 对计算密集算子的能力增强

3. TVM 算子融合、设备分配调优

15:40-16:20

朱虹宇

字节跳动

机器学习系统工程师

分享主题：朝着无缝模型编译集成迈进

内容简介：模型编译在 AI 加速中变得越来越重要。然而，在 IT 公司中采用模型编译用于生产模型并不是一件简单的事情。主要的负担包括来自不同领域、框架或格式的模型，从现有库过渡以及采用新的 ASIC。为了解决这些问题，ByteIR 被开发出来以提高模型编译的生产力。ByteIR 建立在 OpenXLA 和 LLVM/MLIR 编译器基础设施之上。它包括前端、编译器和运行时组件，每个组件解决不同的问题。这三个组件可以一起工作，也可以选择独立工作以满足不同的业务需求。

观众观看本场分享，你将了解：

1. 基于 MLIR 的 ByteIR 编译器设计

2. 基于 MLIR 编译栈的性能优化实践

环节 2

圆桌讨论

圆桌主题：大模型时代的机器学习系统

主办方及合作伙伴

作为本次活动的主办方，MLC.AI 社区成立于 2022 年 6 月，并由 Apache TVM 主要发明者、机器学习领域著名的青年学者陈天奇，带领团队上线了 MLC 线上课程，系统介绍了机器学习编译的关键元素以及核心概念。

2022 年 11 月，在 MLC.AI 社区志愿者的共同努力下，首个完整的 TVM 中文文档上线，并成功托管至 HyperAI超神经官网，进一步为对机器学习编译感兴趣的国内开发者，提供了接触并学习一门新技术的基础设置——文档。

MLC 线上课程：https://mlc.ai/

TVM 中文文档：https://tvm.hyper.ai/

国内领先的人工智能及高性能计算社区，致力于为广大国内开发者提供数据科学领域的优质公共资源，截至目前已为 1200+ 公开数据集提供国内下载节点，支持 300+ 人工智能及高性能计算相关的词条查询，托管了完整的 TVM 中文文档，并即将上线多个基础及流行教程。

访问官网：https://hyper.ai/

OpenBayes贝式计算是国内领先的高性能计算服务提供商，通过为新一代异构芯片嫁接经典软件生态及机器学习模型，进而为工业企业及高校科研提供更加快速、易用的数据科学计算产品，其产品已被数十家大型工业场景或头部科研院所所采用。

访问官网：https://openbayes.com/

厘米空间（厦门）是招商局集团旗下的专业创新园区管理公司，在厦门运营「厘米空间 CM Space」专业孵化器。扎根于东南沿海，依托招商局集团的交通、城市与园区综合开发和金融三大主业优势，重点为人工智能领域创业企业提供发展初期最为急需的应用场景、模式验证、种子期客户等资源支持，协助人工智能公司高效孵化。

上海五角场创新创业学院 (Shanghai Penta Innovation & Entrepreneurship Institute) 是杨浦区政府联合复旦、同济、上海财大、上海理工等著名高校及行业龙头企业、投资机构共同发起设立的非营利性教育及服务组织，集结了众多产业翘楚、专家学者、著名投资人/机构以及创业赋能机构，旨在构建「双创生态圈」+「学习型社群」，把创业者培养成企业家，成为创业生态系统中的重要枢纽。

2022 年 11 月，上海五角场创新创业学院正式启用学院公共空间，将 800 平米的空间开放共享给双创人群，并联合港中大上海中心等各方伙伴共同发起双创公益品牌「学院咖啡」。我们邀请对双创公益服务有共识的 KOL、企业和社会组织，成为学院咖啡的「公益合伙人」，共同设计不同形式的创业者聚集方式，将其打造成一个内涵丰富的品牌项目，让创院空间成为一间「开放、包容、共享、不打烊的公共会客厅」。

上海云基地（上海市云计算创新基地、上海市大数据创新基地）是国内起步较早的国家级专业孵化器，推动云计算产业从 0 到 1 起步发展。以基金+基地+平台的模式，以数字经济产业为核心，聚焦云计算、云原生、大数据与人工智能、数字医疗等细分领域，集聚和孵化了近千家海内外优秀企业。通过连接技术、用户、资本、服务四个生态，持续举办「场景创新实验室]和「数字经济上市预备营」，构建数字经济产业加速器。

活动行：扫码跳转至活动行报名

扫码备注「TVM 年终聚会」加入活动群

考虑到本场活动的场地空间情况，我们仅开放了 200 个到场名额，建议大家尽早报名锁定席位。

2023 Meet TVM · 年终聚会，12 月 16 日 13:30-17:40，期待与大家在上海相聚！

—— 完 ——

 往期推荐 

活动回顾 | 暴雨也无法阻挡的奔赴，2023 Meet TVM · 深圳站完美收官！

活动回顾 | 汇聚行业技术大咖，共享思维碰撞时刻，2023 Meet TVM · 北京站圆满落幕

活动回顾 | 2023 Meet TVM 首聚上海，百余位工程师共话机器学习编译的现在和未来

扫描二维码，加入讨论群

获得更多优质数据集

了解人工智能落地应用

关注顶会&论文

回复「读者」了解更多

戳“阅读原文”，即可报名活动！