机器之心编辑部
黄仁勋:我家的 GPU 芯片一年一更新,其他家怎么追?
昨晚,英伟达创始人、CEO 黄仁勋在 2024 年 COMPUTEX 科技大会上又为环球发热友们、显卡买家们带来了一场重磅演讲。
(图片来自网络侵删)经典皮肤(皮衣)老黄亮相。
在会上,黄仁勋分享了有关 AI 芯片及架构、加速打算、AI 理解物理天下、机器人的成果和洞见。
量产版 Blackwell 亮相
下一代 AI 平台 Rubin 两年后到来
今年 3 月,英伟达在其一年一度的 GTC 大会上官宣了 2080 亿晶体管的 Blackwell 芯片。它是英伟达首个采取 MCM(多芯片封装)设计的 GPU,在同一个芯片上集成了两个 GPU。
近三个月过去了,Blackwell 芯片发展到了哪一步了?
老黄现场果真没让人失落望,拿出了最新量产版的 Blackwell。他表示,这款当现代界上最强大的 GPU 已经投入了生产。
黄仁勋称,短短八年韶光,英伟达使得 AI 算力从 2016 年 Pascal 的 19 TFLOPS 提升到了 2024 年 Blackwell 的 20000 TFLOPS,整整提升了 1000 倍。这一速率险些超越了摩尔定律在最佳期间的增长。
AI 算力提升的同时,本钱也在逐年低落。
黄仁勋以演习 GPT-4(1.8 万亿参数)为例,八年韶光,该模型的能耗从 2016 年的 1000+GWh 低落到了如今的 3GWh,低落了 350 倍。这里他乃至还为 token 定了一个中文译名 —— 词元。
集成了 Blackwell 芯片的最新 DGX 超算系统在各方面都实现了质的提升。
与上一代 Hopper 系统比较,Blackwell 系统的 NVLink 域集成 72 个 GPU、性能提升了 9 倍,NVLink 带宽增加了 18 倍,AI 算力提升了 45 倍,供能提高了 10 倍。
此外,黄仁勋还公开了 Blackwell 后三代芯片路线图,即 Blackwell Ultra(2025 年)、Rubin(2026 年)和 Rubin Ultra(2027 年)。这也是下一代 AI 平台 Rubin 首次亮相。
黄仁勋表示,英伟达将保持一年一次的更新节奏,确保所有产品实现 100% 架构兼容。不过,他并没有透露关于 Rubin 的更多细节。
可以看到,英伟达推出全新 GPU 的速率始终跑在了其他公司的前头。有人对此表示,由于短缺强有力的竞争对手,现在英伟达只能与摩尔定律展开竞争了。
图源:X@Sentdex
当然,英伟达这些年的成功在其股票市值上得到了很好地表示。最近几天的市值一度达到了 2.8 万亿美元,与市值第一的苹果之间的差距越来越小。
游戏助手 Project G-Assist
Project G-Assist 是一个由 RTX 驱动的 AI 助手,为 PC 游戏和运用供应高下文感知的帮助。
一样平常来讲,PC 游戏拥有广阔的天下和繁芜的机制,纵然是高等玩家也会感到寻衅。Project G-Assist 旨在让玩家能够方便地获取游戏和系统方面的知识。
Project G-Assist 可以吸收玩家的语音或文本输入,同时还可以获取游戏窗口中的快照。这些快照被输入到 AI 视觉模型中, 从而供应高下文感知和特定于运用程序的理解。之后 LLM 输出一个富有洞察力和个性化的相应 —— 要么是文本,要么是 AI 语音。
为了展示 Project G-Assist 的潜力,英伟达还和 Studio Wildcard 展开互助,上新了一系列演示:例如通过按下快捷键或利用唤醒短语,AI 助手可以帮助玩家解答问题。
AI 助手还能建议玩家是否该当避开游戏中的恐龙,或者供应建议来驯服特定的野兽。
此外,Project G-Assist 在性能调优方面也非常有用。
通过一个大略的提示,Project G-Assist 可以评估玩家的系统配置和性能,并立即调度以得到最佳体验。
通过一个大略的提示,Project G-Assist 可以评估您的系统配置和性能,并立即进行调度以得到最佳体验。
AI 助手还能够跟踪并绘制帧率、功率利用、PC 延迟以及其他硬件统计数据的图表,并在被提示时提出改进这些指标的方法。
NVIDIA NIM 彻底改变了模型支配办法
现在,环球 2800 万开拓者都可以借助 NVIDIA NIM 轻松地创建天生式 AI 运用。NIM 是一种推理微做事,通过以经由优化的容器的形式供应模型,以支配在云、数据中央或事情站上。
NIM 还能帮助企业实现根本举动步伐投资的效果最大化。例如,与未利用 NIM 的情形比较,在 NIM 中运行 Meta Llama 3-8B 所能天生的加速根本举动步伐 AI token 可以提升 3 倍。
Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近 200 家技能互助伙伴正将 NIM 集成到他们的平台中,加快天生式 AI 支配到特定领域运用中的速率,例如 copilots、代码助手、数字人虚拟形象等。从 Meta Llama 3 开始,在 Hugging Face 上现已开始供应 NIM。
NVIDIA 机器人技能
NVIDIA 正在引领代价 50 万亿美元的工业数字化变革,其通过开拓者操持供应对 NIM 的访问权限,以促进 AI 创新。
黄仁勋展示了 Foxconn 如何利用 NVIDIA Omniverse、Isaac 和 Metropolis 创建数字孪生,通过结合视觉 AI 与机器人开拓工具来实现增强的机器人举动步伐。
NVIDIA Isaac 平台为开拓者构建 AI 机器人供应强大的套件,包括由 AI 模型以及 Jetson Orin、Thor 等超级打算机驱动的 AMR、工业机器臂和人形机器人。
「机器人和物理 AI 正在成为现实,而不仅是涌如今科幻小说。这真的令人愉快,」黄仁勋补充道。
环球电子行业领导企业正在将 NVIDIA 自主机器人技能集成到他们的工厂中,利用 Omniverse 中的仿照功能来测试和验证物理天下的新一代 AI。环球 500 多万台预编程机器人也在此行列中。
「机器人将遍布所有工厂。工厂将实现对机器人的统筹,而这些机器人将制造新的机器人产品,」黄仁勋阐明道。












