大的改变往往来自大的想法。 这就是配备 B200 和 GB200 AI GPU 的 NVIDIA Blackwell 平台的用武之地——这是一项改变游戏规则的 AI 计算创新，将改变事物的工作方式。
AI GPU，即人工智能图形处理单元，是帮助计算机更快地学习和决策的特殊芯片。 它们就像执行人工智能任务的增压大脑。 与执行游戏和视频等一般工作的常规 GPU（图形处理单元）不同，AI GPU 只专注于 AI 内容。 它们旨在执行训练和运行人工智能模型所需的复杂数学运算。
Blackwell 平台的目标是什么？ 正如你所猜测的，这是为了加快人工智能任务的速度，同时节省能源和金钱。 根据该公司的声明，该芯片组的性能比现有芯片组强大 30 倍。 H100 并且同样高效。
了解 NVIDIA Blackwell 平台，这是 AI 所需的动力源
Blackwell 平台是 NVIDIA 开发的人工智能 (AI) 计算领域的突破性进展。 它包含一系列尖端技术和硬件创新，旨在加速人工智能训练和推理任务，同时提高能源效率并降低成本。 以数学家的名字命名 大卫·哈罗德·布莱克威尔Blackwell 平台旨在促进实时创建和部署万亿参数规模的人工智能模型。
亚马逊网络服务、戴尔科技、谷歌、Meta、微软、OpenAI、甲骨文、特斯拉和 xAI 等科技巨头预计很快就会采用 Blackwell。
“Blackwell 提供了巨大的性能飞跃，并将加快我们交付领先模型的能力。 我们很高兴继续与 NVIDIA 合作来增强 AI 计算。”
——萨姆·奥尔特曼，OpenAI 首席执行官
但它有什么特别之处呢？ Blackwell 平台的关键组件包括：
- Blackwell GPU 架构：拥有六项革命性技术，包括全球最强大的芯片、第二代变压器引擎、第五代NVLink、RAS引擎、安全AI能力和专用解压引擎。
- B200 布莱克韦尔 GPU：B200 Blackwell GPU 是 Blackwell 平台的基本组件，提供卓越的 AI 推理性能。 B200 GPU 拥有惊人的 2080 亿个晶体管，并基于先进的 TSMC N4P 代工节点构建，可提供无与伦比的计算能力。 它具有用于高速通信的定制互连，并支持先进的人工智能推理功能，包括 4 位浮点运算。
- GB200 Grace Blackwell 超级芯片：这款超级芯片结合了两个 Blackwell GPU 和一个 NVIDIA Grace CPU，提供针对 AI 工作负载优化的卓越串行处理性能。 它提供 GPU 和 CPU 之间的高带宽互连，从而实现无缝通信和高效的数据处理。
- NVIDIA Quantum-X800 InfiniBand 和 Spectrum-X800 以太网平台：补充 Blackwell GPU 的先进网络解决方案，为大规模 AI 部署提供高速连接和可扩展性。
- 软件支持：Blackwell 平台由 NVIDIA AI Enterprise 支持，这是一种用于生产级 AI 的端到端操作系统。 它包括 NVIDIA NIM 推理微服务、AI 框架、库以及用于在云、数据中心和工作站环境中部署 AI 解决方案的工具。
总体而言，Blackwell 平台代表了人工智能计算领域的重大飞跃，提供了前所未有的性能、能源效率和可扩展性。 它将使组织能够大规模构建和部署先进的人工智能模型，推动创新并释放变革性突破的新可能性，从而彻底改变各个行业。 但要了解其强大功能，您需要更好地了解其 AI GPU。
什么是 B200 Blackwell GPU？
B200 Blackwell GPU 是 NVIDIA Blackwell 平台的尖端组件，专为在人工智能 (AI) 推理任务中表现出色而设计。 它代表了人工智能计算技术的飞跃，在不影响质量的情况下提供卓越的性能和效率。
以下是您需要了解的有关 B200 Blackwell GPU 的信息：
- 令人印象深刻的计算能力：B200 GPU 配备了令人印象深刻的 2080 亿个晶体管，拥有强大的计算能力，可确保快速准确地处理复杂的 AI 工作负载。
- 先进的制造工艺：B200 GPU 采用最先进的 TSMC N4P 代工节点构建，利用最新的半导体制造技术来优化性能和能源效率。
- 高效互联：B200 GPU 采用定制设计的互连机制，促进 GPU 和其他系统组件之间的高速数据传输。 这种高效的通信系统增强了整体系统性能。
- AI推理优化：B200 GPU 专为在 AI 推理任务中表现出色而量身定制，支持 4 位浮点运算等高级功能。 这种优化确保了人工智能模型的高效处理，最大限度地减少能源消耗，同时提供卓越的结果。
- 与 Blackwell 平台集成：作为 Blackwell 平台不可或缺的一部分，B200 GPU 与 GB200 Grace Blackwell Superchip 和高级网络解决方案等其他组件无缝集成。 这种紧密的集成最大限度地提高了整个平台的性能和可扩展性。
什么是 GB200 Blackwell GPU？
GB200 Blackwell GPU 是 NVIDIA Blackwell 平台的基石，旨在显着推进人工智能 (AI) 计算领域的发展。 由于其独特的特性和功能，该 GPU 代表了人工智能处理能力的显着发展，特别是在训练和推理任务领域：
- 卓越的处理能力：GB200 GPU 拥有令人印象深刻的 2080 亿个晶体管数量，可提供强大的计算能力，能够快速执行复杂的 AI 工作负载。
- 创新架构：GB200 GPU 采用 TSMC N4P 代工节点制造，受益于尖端半导体制造技术。 这确保了性能和能源效率之间的最佳平衡，这是人工智能计算的关键考虑因素。
- 高效互联：GB200 GPU 配备高带宽互连功能，促进 GPU 与其他系统组件之间的无缝通信。 这种简化的数据传输过程增强了整体系统性能和可扩展性。
- 先进的人工智能能力：GB200 GPU 支持双精度浮点运算和其他先进的 AI 功能，能够有效处理要求苛刻的 AI 工作负载。 其灵活的架构使组织能够有效地训练和部署复杂的人工智能模型。ü
- Blackwell 平台内的集成：作为 Blackwell 平台不可或缺的一部分，GB200 GPU 与其他组件无缝集成，确保整个 AI 生态系统的凝聚性能和可扩展性。
B200 与 GB200：等等，它们之间有什么区别？
GB200 和 B200 均属于 Nvidia 在 GTC 2024 上推出的全新 Blackwell 系列 AI GPU，但有一个关键区别：
- B200：这是一个独立的 GPU，是现有技术目前可能实现的最大芯片。 它拥有跨两个小芯片的 2080 亿个晶体管、192 GB HBM3E 内存和 8 TB/s 内存带宽。 B200 是数据中心高性能人工智能推理和训练的理想选择。
- GB200：这不是单个 GPU，而是将 B200 GPU 与 NVIDIA Grace CPU 结合在一起的超级芯片。 与传统 x86 CPU 相比，Grace CPU 提供卓越的串行处理能力，并针对与 Nvidia 的 AI GPU 配合使用进行了优化。 这种组合是针对既需要强大的AI处理能力又需要强大的中央处理能力的场景而设计的。
以下是有关 B200 与 GB200 比较的所有详细信息：
| 特征 | B200 | 国标200 |
|---|---|---|
| 类型 | 独立GPU | 超级芯片（GPU + CPU） |
| 处理核心 | B200 GPU 核心 | B200 GPU 核心 + Grace CPU 核心 |
| 记忆 | 192 GB HBM3E | 取决于配置（B200 GPU 的总内存 + Grace CPU 上的内存） |
| 带宽 | 8TB/秒 | 取决于配置（B200 GPU 的内存带宽 + B200 和 Grace CPU 之间的带宽） |
| 应用 | 高性能人工智能推理和训练 | 需要强大的人工智能和中央处理的应用程序 |
现在，您已经了解了有关 NVIDIA 全新 AI GPU 的所有信息！ 更多 NVIDIA GTC 2024 新闻，敬请关注。
特色图片来源：Kerem Gülen/达尔-E 3
