白交 衡宇 发自 凹非寺
量子位 | 公众号 QbitAI
刚刚,中国台湾大学体育场,欢呼阵阵如同演唱会,但这次“摇滚巨星”,其实是英伟达创始人黄仁勋,再次回到学校,带来Computex重磅演讲,以及英伟达的新一代GPU。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F9cc974a8dc29d3927dfc123f7dd7d58e.gif)
是的,英伟达新架构Blackwell宣布不过3个月,老黄就把后三代路线图全公开了:
2025年Blackwell Ultra,2026年新架构Rubin,2027年Rubin Ultra。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2Facc9e09c54071c763af937a5115d9a7f.png)
好好好,像做iPhone一样造芯片。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F04d846ab1fd08277dc1974fccf537b00.png)
到这一代Blackwell为止,英伟达已经把AI模型有效扩展到万亿参数。(还给token定了个译名:词元)。
1.8万亿参数GPT4的训练能耗,8年降低至原来的1/350。
推理能耗,8年降低至原来的1/45000。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2Fd19d15ba5919e61cd1224c2d1a2600d5.png)
看着这一波亮相和剧透,网友真相了:英伟达没有竞争对手,而是选择将摩尔定律放在地上摩擦……
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2Fe133ff5f24c7e676424ad9bb6a4d4c32.png)
老黄是在书写自己的定律。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2Feb24fc91f41d4b67aa75620b6af155be.png)
所以应该叫老黄定律?还是英伟达定律?
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2Fdfa94acc63b4c971da58b90acd9a1d04.jpeg)
ComputeX前夜,老黄一开场就展开了一波隐形卖货,他自称不太准确的“CEO数学”:
买得越多,省得越多……
The more you buy, the more you save.
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2Fad4b62f1b567f13e0f8e282ecf8be940.png)
经典语录依然引发现场欢呼大笑:虽然不太准确,但好像有些道理……
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F3776edcf642425b42928eea534345e1e.jpeg)
除此之外,还有一些新产品亮相,包括能够模拟气冲的天气预测模型CorriDiff、数字人微服务、BlackWell系统、Spectrum-X、机器人平台Isaac……
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F8b5254fc587b600d5d178b62f81f3024.png)
好了话不多说,这就来看看老黄这次到底搞了哪些事情
“AI Factory Is generating”
谈到当前新的产业革命,老黄表示:新的计算时代正在开始;而AI Factory正在诞生。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2Ff55581675880e769ace8b9909a045a69.png)
他在现场展示了BlackWell系统。
3月份GTC大会上还遮遮掩掩地说是GPT-MoE-1.8T模型,这下彻底摊牌了:GPT-4参数就是1.8T。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F5ed9788a24712df33c1b4ab5d3f287b0.png)
跟DGX Hopper相比。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F4b029b7e8d657b0bda95c3daa89d091b.png)
现场还看到了它的真身,大概有两米那么高吧…
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2Fa3f3257970476f73a263ae8249303ce7.png)
而真正的AI Factory大概会长这样,大概有32000GPU。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2Fb11ef520f604901461862f69c7702714.gif)
AI加速每个应用程序
AI对于企业的影响,老黄认为AI加速每一个应用程序。他首先谈到了NIM推理微服务,这是一个帮助开发者或者企业轻松构建AI应用,简化大模型部署程序。
不管是聊天机器人、还是生活/驾驶助手等,部署时间都能从几周缩短到几分钟。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F76314c61d60da54ce13a7bab5b65a872.png)
运行Meta Llama 3-8B的NIM可以产生比不使用NIM多3倍的tokens。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F6826fd68f69a659023254ee13f42a2f2.png)
企业和开发者可以使用NIM运行生成文本、图像、视频、语音和数字人类的应用程序。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2Fadae8c7331ac328fe634d4bf2e647d16.png)
而背后源于丰富的技术合作生态——
近200家技术合作伙伴,包括Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI和Synopsys等,正在将NIM集成到他们的平台中。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F28670579794678b2dd3811942b7983a5.png)
此次在这个NIM中还有上新,也就是ACE 生成式AI微服务,数字人AI技术套件。
除了原有自动语音识别、文本到语音的转换和翻译、Nemotron语言模型、 Audio2Face等套件,还增加了两个技术:
一个是可以基于音轨生成身体姿势Audio2Gesture;
一个Nemotron-3 4.5B,这是英伟达首款SLM(小爱语言模型),专为低延迟端侧设备而生。
∂接下来,这一数字人微服务将部署在一亿台RTX AI PC上面。
当前英伟达在新的合作伙伴,比如华硕、MSI的加入下,已经拥有超过200种RTX AI PC型号。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F07d3e8e4a7d7813773f20f2de2909189.png)
还推出了RTX AI Toolkit,一个工具和SDK集合,帮助Windows开发者定制优化本地部署模型。
同Mac相比,部署了RTX的Windows的Stable Diffusion推理速度是Mac的7倍。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F6259d6a7e85245d7baf4f2455b250a7b.png)
每一台带有RTX的PC,都是一台RTX AIPC。
用于机器人开发的技术平台Isaac
这次一同亮相的,还有用于机器人开发的技术平台,NVIDIA Isaac。
为啥搞这玩意儿呢,老黄给出的理由是这样的:
机器人时代已经到来。
有朝一日,所有会移动的东西,都将实现自主化。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F7ec330d31265b463bc729897a74c6898.png)
这个Isaac平台具体长啥样呢?
Isaac平台提供一系列英伟达加速库、AI基础模型和仿真技术,供机器人制造商集成到自己的技术栈中。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F28db5b15e454beae55e184751fdf0cba.gif)
注意,平台是模块化的,允许公司单独或一起采用多种技术。
具体而言,其中包括:
NVIDIA Isaac ROS:一系列模块化的ROS 2包,为ROS社区开发者带来NVIDIA加速和AI模型
NVIDIA Isaac Perceptor:一个参考工作流程,提供基于AI的自主移动机器人的多摄像头3D环视能力
NVIDIA Isaac Manipulator:一个简化AI启用机械臂开发的参考工作流程
NVIDIA Isaac Sim:一款参考应用程序,用于在基于NVIDIA Omniverse平台的物理环境中模拟、测试和验证机器人,并生成合成数据
NVIDIA Isaac Lab:Isaac Sim中的参考应用程序,针对AI机器人基础模型训练的强化、模仿和迁移学习进行了优化
据介绍,目前,包括比亚迪电子、西门子、泰瑞达机器人和Intrinsic(Alphabet的子公司)在内,全球超多名列前茅的机器人开发团队,都在采用Isaac平台。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F4d75df947f6bdaf4782307f54fcc2987.png)
这些团队用上Isaac,一边提高制造工厂、仓库和配送中心的效率,同时确保人类同事的安全;一边也能充当重复劳动和超精确任务的执行者。
现场放出了很多demo,很多工厂在英伟达Omniverse里建造了一个完全模拟现实的自助工厂,以及基于Isaac平台开发的AI机器人。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F5441cee7b61d8071bb2816fe08564262.gif)
官网悄悄推出游戏Agent助手
除了现场老黄亲自发布的上述内容外,我们在英伟达官网还找到了一个彩蛋,一个巨久远的call back。
Project G-Assist。
时间回到2017年愚人节,英伟达官网开了个大玩笑:
宣称自家发布了一款支持10080款游戏的USB人工智能超算卡GeForce GTX G-Assist。
重点在于它很AI。
GeForce GTX G-Assist像是个AI游戏助手,可以帮助玩家自动完成游戏操作,甚至代打击败Boss。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F9f703698162d0d435640d032bf43259d.jpeg)
今天,英伟达真的将这个愚人节玩笑变为现实——
英伟达官网上线Project G-Assist,一套工具和模型的集合而成的AI Agent系统,供游戏和应用程序开发者使用。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2Fa3b316a08fb86f03040fe725b17642dc.png)
通过前后剧情,Project G-Assist利用大模型对游戏输出响应,能够检查游戏性能和系统设置,建议用户优化以充分利用可用硬件,或者适当升级角色。
玩家这边呢,还可以通过Project G-Assist找到最好的武器,也可以查询到最牛的攻略,然后就可以或制作武器材料,或一路杀怪通关。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2Ffe3ac098d2162ba31af81aa543579187.png)
总而言之,Project G-Assist可以让人有个Agent外挂,但是不会让你完全挂机,
官网还贴心表示:
G-Assist 项目不会像我们在2017年愚人节预言视频中那样完全替代您玩游戏,但它可以帮助您从您最喜欢的游戏中获得更多收益。
游戏体验再上大分!
据介绍,Project G-Assist支持各种模态的输入。
可以是来自玩家的文本提示,或声音指令;可以是屏幕上显示框架的上下文;可以是来自应用程序或系统本身的API。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F28119e8e66e04601aef8952e26f9250f.png)
△演示人员语音输入中
这些数据都通过连接了游戏知识数据库的大模型处理,然后使用RAG(检索增强生成)生成和用户相关的查询结果——没错,Project G-Assist允许玩家使用PC或云端RTX AI驱动的知识库。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F504e57884b0788c305f7ef7a4c40faa3.png)
Project G-Assist开发工具将出现在即将推出的RTX AI开发套件中,具体会用在哪些游戏上,还需要游戏开发商来决定并提供支持。
为了让大家更好地使用Project G-Assist,英伟达贴心地附上视频教学大礼包,需要可自取。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F79cbbb2a6f4077883f9f991c508ae9f5.jpeg)
One More Thing
整场发布会,老黄还整了不少活儿。
比如AI老黄似乎已经成了发布会常客。
在介绍天气预测模型时,他坦白承认在视频中那么流利讲普通话的那位是AI生成的,因为自己中文不太好。
而本场重磅的BlackWell系统、AI Factory的核心构成,也被他各种搬来搬去……
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F44346dbf7a667785f7f31fd2136f1f83.gif)
除了下一代GPU取名Rubin,我们还看到 Vera CPU,他们共同出现在新的Vera Rubin加速器上。而这一名称来源,实际上是来自美国一位女天文学家Vera Rubin,她是研究暗物质先驱。
![意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦 意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦](https://images.weserv.nl/?url=https%3A%2F%2Fwww.qbitai.com%2Fwp-content%2Fuploads%2Freplace%2F66678dbb4a36bf509548a4a7e1103883.png)
以及,COMPUTEX 2024不愧是6月开头就炸场的AI终端大戏。
除了黄院士外,英特尔、AMD、高通等老板都悉数到场,接下来几天会挨个发表演讲。
这些主题演讲,绝大部分都跟AIPC有关。
大家一起蹲一蹲吧~
参考链接:
https://www.nvidia.com/en-us/geforce/news/computex-2024-nvidia-geforce-announcements/
![post-qrcode](https://aigc.luomor.com/wp-content/uploads/2023/03/qrcode_for_gh_ada6dea0c7e9_258.jpeg)