准备好深入了解人工智能的最新进展,我们将在 GTC 2024(面向开发人员、商业领袖和人工智能研究人员的顶级人工智能会议)上揭晓所有内容。 从富有洞察力的网络研讨会和全面的培训课程到前沿的演示等,我们将介绍今年活动中展示的所有亮点和创新。
NVIDIA GTC 2024:全覆盖
乍看上去:
- 仿人机器人 GR00T 项目 宣布推出,同时推出 Jetson Thor 计算机和 Isaac 机器人平台更新。
- 下一代人工智能超级计算机 DGX SuperPOD 推出,采用 GB200 Grace Blackwell 超级芯片和液冷机架规模架构。
- X800系列网络交换机 推出,拥有无与伦比的端到端 800Gb/s 吞吐量和适用于 AI 基础设施的先进网络解决方案。
- 微软与 NVIDIA 扩大合作 宣布将 NVIDIA 的 AI 和 Omniverse 技术集成到 Microsoft Azure、Azure AI 和 Microsoft 365 中。
- 将新的 NVIDIA Blackwell GPU 平台集成到 AWS 中 宣布推出基础设施,增强生成式人工智能能力。
- Earth-2气候平台宣布启动,旨在解决气候变化引起的极端天气造成的经济损失。
- GTC 上推出了超过两打医疗保健微服务,通过生成式人工智能进步为全球医疗保健企业提供支持。
- 推出 Omniverse Cloud API,扩展其工业数字孪生平台的范围,以无缝集成到现有软件应用程序中。
- 驾驶雷神推出了一款集中式汽车计算机,专为从电动汽车到自动驾驶卡车和机器人出租车等下一代车队而设计。
- Oracle 和 NVIDIA 合作在全球范围内提供主权 AI 解决方案,促进经济增长,同时确保数据主权。
- Google Cloud 与 NVIDIA 加强合作关系 宣布支持机器学习 (ML) 社区。
- SAP SE 与 NVIDIA 扩大合作伙伴关系 宣布将加速企业在 SAP 云解决方案中采用生成式人工智能和数据转换。
- 6G研究云平台 推出,旨在通过人工智能驱动的创新改变无线技术。
- 对日本ABCI-Q超级计算机的贡献 的制作,促进了跨行业的高保真量子模拟。
- 云量子计算服务,NVIDIA Quantum Cloud,旨在帮助研究人员和开发人员推进科学领域的量子计算探索。
NVIDIA 宣布推出用于人形机器人的 GR00T 项目
英伟达 介绍 GR00T 项目是人形机器人的基础模型,与 Jetson Thor 计算机以及 Isaac 机器人平台的更新一起。 GR00T帮助机器人理解自然语言并模仿人类动作,增强其适应能力和交互能力。 Jetson Thor 拥有先进的 SoC,针对性能和安全性进行了优化,简化了复杂任务的集成。
与领先的机器人公司的合作旨在推动人工智能驱动的机器人技术应用于各种应用。 Isaac 平台的主要更新包括用于模拟的 Isaac Lab 和用于数据编排的 OSMO,以促进机器人学习。 Isaac Manipulator 增强了机械臂的灵活性和 AI 功能,而 Isaac Perceptor 为自主移动机器人提供 3D 环绕视觉,有利于制造和履行运营。 这些创新有望彻底改变机器人技术和嵌入式人工智能,并对不同行业产生潜在影响。
NVIDIA 推出下一代 AI 超级计算机 DGX SuperPOD
英伟达有 揭幕 DGX SuperPOD 是一款配备 GB200 Grace Blackwell 超级芯片的下一代 AI 超级计算机,非常适合大规模生成式 AI 任务。 SuperPOD 拥有液冷机架规模架构、11.5 exaflops 的 AI 能力和 240 TB 内存,可通过额外的机架进行扩展。 每个 GB200 系统都包含 36 个 Grace CPU 和 72 个 Blackwell GPU,为大型语言模型提供高达 30 倍的性能提升。
该架构集成了 NVIDIA BlueField-3 DPU 和 Quantum-X800 InfiniBand,以增强带宽和网络内计算。 预测管理功能通过检测和解决潜在问题来确保正常运行时间。 NVIDIA 还推出了 DGX B200 系统,该系统采用 Blackwell 架构专为各种 AI 任务而设计,可提供 144 petaflops 的 AI 性能和先进的网络功能。 这两款系统均配备 NVIDIA AI Enterprise 软件和专家支持。 预计今年晚些时候将通过 NVIDIA 的全球合作伙伴提供。
NVIDIA 推出 X800 系列网络交换机
英伟达 介绍 X800 系列网络交换机、Quantum-X800 InfiniBand 和 Spectrum-X800 以太网拥有无与伦比的端到端 800Gb/s 吞吐量,这对于人工智能和计算工作负载至关重要。 这些交换机加速了人工智能、云和高性能计算应用,特别是在采用基于 Blackwell 架构的新产品的数据中心。 Microsoft Azure、Oracle Cloud Infrastructure 和 Coreweave 是这些先进网络解决方案的早期采用者,强调了强大的网络对于扩展 AI 基础设施的重要性。
Quantum-X800平台树立了新标准,与上一代产品相比,带宽提高了5倍,网内计算能力提高了9倍,而Spectrum-X800则优化了AI云和企业的网络性能,确保多租户环境的性能隔离。 NVIDIA 提供全面的软件支持,包括集体通信库,增强网络可编程性和运营效率。 明年,全球多家基础设施供应商将推出 Quantum-X800 和 Spectrum-X800,其中包括 Dell Technologies、Lenovo 和 Hewlett Packard Enterprise。
微软和 NVIDIA 扩大人工智能集成
在 GTC、微软和 NVIDIA 宣布 扩大合作,将 NVIDIA 的 AI 和 Omniverse 技术集成到 Microsoft Azure、Azure AI 和 Microsoft 365 中。这包括将 NVIDIA Grace Blackwell GB200 和 Quantum-X800 InfiniBand 引入 Azure,以实现高级 AI 模型。 该合作伙伴关系扩展到医疗保健领域,利用 Azure 和 NVIDIA DGX Cloud 推动创新。 Microsoft Azure 将托管 NVIDIA Omniverse Cloud API,从而实现数据互操作性和可视化。
Triton 推理服务器支持 Microsoft Copilot 中的 AI 预测,以提高 Microsoft 365 中的工作效率。此外,NVIDIA NIM 推理微服务即将登陆 Azure AI,通过针对各种模型的优化推理来加速 AI 部署。
NVIDIA 推出 Omniverse Cloud API
英伟达 揭幕 GTC 的 Omniverse Cloud API 扩展了其工业数字孪生平台的范围,以无缝集成到现有软件应用程序中。 西门子、Ansys 和 Cadence 等行业巨头采用这些 API 进行实时渲染、数据修改和跨数字孪生生态系统的协作。 西门子将 Omniverse Cloud API 集成到其 Xcelerator 平台中,Ansys 将其用于自动驾驶汽车仿真中的数据互操作性,Cadence 将其纳入其 Reality Digital Twin 平台中以实现数据中心优化。
Trimble、Hexagon 和 Rockwell Automation 等其他合作伙伴利用 Omniverse Cloud API 彻底改变建筑和自动化。 此外,API 通过高保真传感器模拟实现全栈训练和测试,加速自主机器开发。 随着 WPP、Media.Monks 和 Continental 等多个行业的采用,Omniverse 通过释放工业工作流程的规模和优化来实现数字化转型。
AWS 与 NVIDIA 合作开发生成式 AI
AWS 和 NVIDIA 宣布 将新的 NVIDIA Blackwell GPU 平台集成到 AWS 基础设施中,提供 GB200 Grace Blackwell Superchips 和 B100 Tensor Core GPU。 此次合作将 NVIDIA 的多节点系统与 AWS 的 Nitro 系统和 Elastic Fabric Adapter (EFA) 网络相结合,增强了生成式 AI 功能。 AWS 首席执行官 Adam Selipsky 强调了这一合作伙伴关系在推进人工智能计算方面的重要性。 Blackwell 平台配备 GB200 NVL72 并得到 AWS 网络和虚拟化功能的支持,可实现大规模参数语言模型 (LLM) 的实时推理。
AWS 计划提供配备 B100 GPU 的 EC2 实例,以加速生成式 AI 训练和推理,而 AWS 上的 NVIDIA DGX Cloud 实例将支持尖端 AI 模型的开发。 包括加密和 AWS Nitro Enclaves 在内的安全措施可确保保护客户数据和模型权重。 Project Ceiba 是一项专门在 AWS 上构建强大的 AI 超级计算机的合作项目,旨在推进各种 AI 应用程序的发展。 此外,AWS 和 NVIDIA 合作扩大计算机辅助药物发现,并在医疗保健领域推出生成式 AI 微服务,进一步表明了他们对推动跨行业 AI 的承诺。
NVIDIA 推出 Earth-2 气候平台
英伟达 发射 Earth-2是一个云平台,旨在解决气候变化引发的极端天气造成的经济损失,价值1400亿美元。 Earth-2 利用 NVIDIA CUDA-X 微服务,在 NVIDIA DGX Cloud 上提供云 API,用于高分辨率天气和气候模拟。 这些模拟由 CorrDiff 生成式 AI 提供支持,生成的图像分辨率比当前模型高 12.5 倍,速度快 1,000 倍,能效高 3,000 倍。
台湾中央气象局计划利用 Earth-2 进行更精确的台风预报,旨在通过早期疏散将人员伤亡降至最低。 此外,Earth-2 还集成了 NVIDIA Omniverse,可实现天气影响的实时可视化。 The Weather Company 打算利用 Earth-2 API 来增强其 Weatherverse 服务。 早期采用者包括 Spire 和 Meteomatics 等天气分析平台,以及探索气候技术解决方案的初创公司。 Earth-2 利用 NVIDIA DGX Cloud 进行全栈加速,能够以前所未有的速度和规模进行模拟。
NVIDIA Healthcare 推出生成式 AI 微服务
英伟达 揭幕 GTC 提供超过二十个医疗保健微服务,为全球医疗保健企业提供可跨任何云平台访问的生成式人工智能进步。 这些微服务(包括 NVIDIA NIM)通过优化的 AI 模型和工作流程加速药物发现、医学成像和基因组学分析。 值得注意的应用包括将 NVIDIA BioNeMo 微服务集成到 Cadence 的分子设计平台中以进行药物发现,以及部署 Hippocratic AI 的特定任务生成式 AI 医疗保健代理。
Abridge 利用 AI 生成临床记录,而 Flywheel 将模型转换为微服务,从而推进医学成像和数据管理。 这些创新旨在彻底改变患者护理和医疗保健研究,满足关键的行业需求,同时提高成果。 开发人员可以通过 NVIDIA AI Enterprise 5.0 在各种经过认证的系统和云平台上访问和部署这些微服务,从而促进整个医疗保健生态系统的广泛采用和集成。
NVIDIA 的 DRIVE Thor 改变了交通运输
英伟达 介绍 GTC 的 DRIVE Thor 中央汽车计算机专为下一代车队(从电动汽车到自动驾驶卡车和机器人出租车)而设计。 DRIVE Thor 利用生成式人工智能应用程序,承诺在集中式平台上提供功能丰富的驾驶舱和安全的自动驾驶。 比亚迪、Hyper 和小鹏等领先的运输公司正在其下一代电动车队中采用 DRIVE Thor,而 Nuro、Plus、Waabi 和 WeRide 则将其用于卡车和机器人出租车的 4 级自动驾驶解决方案。 凭借全新 NVIDIA Blackwell 架构,DRIVE Thor 提供 1,000 teraflops 的性能,可实现安全可靠的自主操作。
Oracle 和 NVIDIA 提供主权 AI 解决方案
甲骨文和 NVIDIA 已经 合伙的 在全球范围内提供主权人工智能解决方案,帮助政府和企业部署具有运营控制的人工智能工厂,以支持数字主权。 此次合作利用 Oracle 的分布式云和人工智能基础设施以及 NVIDIA 的加速计算和生成式人工智能软件,支持本地或本地人工智能操作。 这些解决方案促进经济增长,同时确保数据主权。 主要产品包括 Oracle 的企业 AI 和 NVIDIA 的全栈 AI 平台,可跨多个云区域部署,以实现 IT 迁移、现代化和创新。
Avaloq、TEAM IM 和 e& UAE 等组织已采用这些解决方案进行数字化转型并增强人工智能功能,同时保持数据控制。 此外,Oracle 还计划在其 OCI Supercluster 和 OCI Compute 中集成 NVIDIA 的 Grace Blackwell 计算平台,以提高 AI 模型性能和能源效率。 此次合作扩展到 OCI 上的 NVIDIA DGX Cloud,提供对 NVIDIA Grace Blackwell 的访问,以执行节能的 AI 任务。 这些主权人工智能解决方案现已推出,使组织能够利用人工智能,同时维护数据主权。
Google Cloud 和 NVIDIA 规模化 AI 开发
谷歌云和 NVIDIA 已经 增强型 他们的合作伙伴关系是通过促进生成式 AI 应用程序的开发、扩展和管理来支持机器学习 (ML) 社区。 谷歌宣布采用全新 NVIDIA Grace Blackwell AI 计算平台,并在 Google Cloud 上推出 NVIDIA DGX Cloud 服务。 此外,谷歌将利用 NVIDIA H100 驱动的 DGX Cloud 平台,该平台现已在 Google Cloud A3 VM 实例上普遍可用。
SAP 和 NVIDIA 加速生成式 AI 的采用
SAP SE 和 NVIDIA 宣布 扩大合作伙伴关系旨在加速企业在 SAP 云解决方案中采用生成式人工智能和数据转换。 此次合作的重点是利用 SAP 生成式 AI 中心,将可扩展的、特定于业务的生成式 AI 功能集成到 SAP 的产品组合中,包括 Joule copilot。
该计划旨在帮助客户大规模利用人工智能并提高洞察力。 主要亮点包括使用 NVIDIA 的代工服务在 SAP 业务技术平台 (SAP BTP) 中构建额外的生成式 AI 功能、利用 SAP 云解决方案的创新用例,以及将 AI 数据源与 SAP Datasphere 统一起来。 SAP 还计划在其云解决方案中使用 NVIDIA AI Enterprise 软件来实现生产级生成式 AI。 这些成果预计将在 2024 年底之前实现。要了解更多信息,观众可以观看黄仁勋 GTC 主题演讲的重播。
NVIDIA 推出 6G 研究云平台
英伟达 介绍 6G 研究云平台,旨在通过人工智能驱动的创新改变无线技术。 该平台得到了 Ansys、三星和是德科技等行业领导者的认可,为研究人员提供了一套推进 6G 开发的工具。 关键要素包括用于模拟的 Aerial Omniverse 数字孪生、用于可定制网络测试的 Aerial CUDA 加速 RAN 以及用于 AI 集成的 Sionna 神经无线电框架。
该平台促进了 6G 和人工智能的融合,有望带来变革性的连接和智能系统。 对于 6G 演进至关重要的测试和仿真受到了广泛关注,并得到了领先提供商的贡献。 研究人员可以通过 NVIDIA 6G 开发者计划访问该平台,促进无线技术领域的协作和创新。
NVIDIA 为日本 ABCI-Q 超级计算机做出贡献
英伟达 揭示 日本的 ABCI-Q 超级计算机旨在推动国家的量子计算计划,将利用 NVIDIA 平台进行加速和量子计算。 ABCI-Q 配备了 2,000 多个 NVIDIA H100 Tensor Core GPU,并由开源混合量子计算平台 CUDA-Q 提供支持,将促进跨行业的高保真量子模拟。 它与 NVIDIA Quantum-2 InfiniBand 集成,提供可扩展的性能,可解决量子计算中最具挑战性的问题。
ABCI-Q 预计于明年初部署,旨在推进量子技术研究及其实际应用,符合日本探索量子计算在人工智能、能源和生物学领域潜力的战略。 该系统将支持量子电路模拟、量子机器学习、经典量子混合系统和算法开发。
NVIDIA推出云量子计算服务
英伟达有 推出 NVIDIA Quantum Cloud 是一项云服务,旨在帮助研究人员和开发人员推进化学、生物学和材料科学等科学领域的量子计算探索。 它基于 CUDA-Q 量子计算平台构建,使用户能够在云中构建和测试新的量子算法和应用程序,包括用于混合量子经典编程的模拟器和工具。
主要功能包括生成量子本征解算器、Classiq 集成和 QC Ware Promethium,用于解决复杂的量子化学问题。 NVIDIA 拥有超过 160 个合作伙伴将量子云集成到其产品中,其中包括 Google Cloud 和 Microsoft Azure 等云服务提供商以及领先的量子公司。 量子计算创新者可以抢先体验 NVIDIA Quantum Cloud。
特色图片来源: 凯雷姆·葛兰/DALL-E 3