続・NVIDIA：Blackwellのメモリ遅延とMLPerfでの完勝

AIの話題では、NVIDIAのGPUがまた動き出しました。BlackwellがMLPerf Training v5.1で全項目最速となり、推論と学習の両方で差が出たようです[3][6]。

画像出典: 記事全文: NVIDIA Blackwell Architecture Sweeps MLPerf Training v5.1 Benchmarks

以前はH100が基準でした。H100はTransformer Engineを使い、Transformerの計算を速くします。FP8という8ビットの浮動小数点で、GPT-3 175Bの学習を前世代比で4倍、LLMの推論を最大30倍と掲げます[1][5]。第四世代NVLinkはGPU間を900GB/sでつなぎ、セキュリティも強調されています[1][2]。

Hopperでは、A100比で高速ネットワーク接続なら最大30倍、GPUを束ねる仕組みではさらに3倍という例もあります[2]。Grace Hopper Superchipも示されました。PCIe Gen5はCPUとGPUをつなぐ規格ですが、Grace Hopper SuperchipはCPUとGPUを900GB/sで結び、PCIe Gen5より7倍速い帯域を掲げました[2]。大型モデルのAI/HPCでは10倍の性能も示しています[2]。

今回のBlackwellは、4ビットの浮動小数点であるFP4をハードウェアで加速します。対象はBlackwellとBlackwell Ultra GPUです[3]。Blackwell UltraではFP4のスループットがFP8の3倍になります[3]。NVIDIAのブログでは、学習が3倍速く、ドルあたりの学習性能が約2倍とされています[7]。

MLPerf Training v5.1は7モデルの学習時間を測る業界ベンチマークです。Blackwellは最大スケールでも各提出スケールでも最高性能を出し、しかもNVIDIAのプラットフォームだけが全項目に結果を提出しました[3]。2025年11月時点の提出結果です[3]。

注目したいのは、論文のmicrobenchmarkです。オープンソースの測定群で、B200とH200を比べ、混合精度のスループットが1.56倍、電力効率が42%良いと報告されました[4]。さらに、キャッシュミス時のメモリ遅延が58%減りました[4]。キャッシュミスは求めるデータが手元の高速メモリにない状態であり、ここが速くなると、推論セッションでのデータのやり取りを組み替える必要が変わります[4]。

microbenchmarkでは、第五世代Tensor Core、専用メモリ、解凍エンジン、二つのチップも評価対象になっています[4]。密な行列と疎な行列の計算、Transformerの推論、学習ワークロードを系統的に測り、FP32、FP16、FP8、FP6、FP4の精度を分けて評価しています[4]。NVFP4も重要です。NVIDIAが設計したFP4形式で、業界のMXFP4という別の4ビット形式と比べ、同じトークン数なら精度が上がるか、同じ精度なら少ないトークンで済むとされています[3]。

「hacker」や「flash」といった語を含む周辺話題もありますが、本題はデータセンターのGPUです。ローカル実行への関心も続きますが、今回の内容はサーバー向けです。つまりBlackwellは、FP4の速さだけでなく、メモリと接続の実測差で推論と学習の設計を変えるようです。AIのセッションでは、次のバージョンのGPUがどこまでコストを削れるかが焦点になります[4][7]。

引用ソース

Web記事 記事全文: H100 Gpu | Nvidia — https://www.nvidia.com/en-us/data-center/h100/

NVIDIA H100 GPU
Extraordinary performance, scalability, and security for every data center.
An Order-of-Magnitude Leap for Accelerated Computing
The NVIDIA H100 GPU delivers exceptional performance, scalability, and secu
Web記事 記事全文: NVIDIA Hopper Architecture In-Depth | NVIDIA Technical Blog — https://developer.nvidia.com/blog/nvidia-hopper-architecture-in-depth/

Today during the 2022 NVIDIA GTC Keynote address, NVIDIA CEO Jensen Huang introduced the new NVIDIA H100 Tensor Core GPU based on the new NVIDIA Hopper GPU architecture. This post gives you a look inside the new H100 GPU
Web記事 記事全文: NVIDIA Blackwell Architecture Sweeps MLPerf Training v5.1 Benchmarks — https://developer.nvidia.com/blog/nvidia-blackwell-architecture-sweeps-mlperf-training-v5-1-benchmarks/

The NVIDIA Blackwell architecture powered the fastest time to train across every MLPerf Training v5.1 benchmark, marking a clean sweep in the latest round of results. As developers experiment with new architectures, and
Web記事 記事全文: Microbenchmarking NVIDIA’s Blackwell Architecture: An in-depth … — https://arxiv.org/html/2512.02189v1

Microbenchmarking NVIDIA’s Blackwell Architecture: An in-depth Architectural Analysis
Abstract
As GPU architectures rapidly evolve to meet the overcoming demands of exascale computing and machine learning, the performanc
Web記事 Web検索: PDF NVIDIA H100 Tensor Core GPU Architecture – Advanced Clustering Technologies — https://www.advancedclustering.com/wp-content/uploads/2022/03/gtc22-whitepaper-hopper.pdf

PDF NVIDIA H100 Tensor Core GPU Architecture – Advanced Clustering Technologies
Web記事 Web検索: NVIDIA Blackwell Delivers Breakthrough Performance in Latest MLPerf … — https://blogs.nvidia.com/blog/blackwell-performance-mlperf-training/

NVIDIA Blackwell Delivers Breakthrough Performance in Latest MLPerf …
Web記事 Web検索: NVIDIA Blackwell Enables 3x Faster Training and Nearly 2x Training … — https://developer.nvidia.com/blog/nvidia-blackwell-enables-3x-faster-training-and-nearly-2x-training-performance-per-dollar-than-previous-gen-architecture/

NVIDIA Blackwell Enables 3x Faster Training and Nearly 2x Training …

※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。