H100は、まだ主役です。2022年発売のNVIDIA H100は、2026年でも最も広く使われるデータセンターGPUとされています[2]。新しいB200は高性能ですが、高価で希少、レンタルも難しいとされ、H100がその隙間を埋めています[3]。2025年には、H100で28の注目AIモデルが学習されたとされています[3]。
公式資料では、H100はHopperアーキテクチャとTransformer EngineでLLMを最大30倍高速化し、GPT-3 175B学習で前世代比4倍を掲げています[1]。FP8(8ビットの浮動小数点)はメモリ使用量を抑えつつ、精度を保ったまま性能を上げるとされています[1]。推論では、FP64からFP8まで幅広い精度を扱います。最大のモデルで最大30倍の高速化と低い遅延を掲げています[1]。第四世代NVLink(GPU同士を高速につなぐ仕組み)は、GPU間を900GB/sでつなぎます。PCIe Gen5やInfiniBand(高速ネットワーク)も組み合わせます[1]。ただし実運用では、同じH100でも形が異なります[3]。
SXM5は700W級で、8枚構成のノードではGPT-3規模モデルの線形スケーリング効率が約87%とされています[2]。Transformer Engineは実測でも効果があり、FP8学習はBF16(16ビットの浮動小数点)よりスループットが1.5〜2倍改善するとされています[2]。一方、PCIe版は350Wで、メモリ帯域は2,000GB/s、FP16スループットは約756TFLOPS(演算速度の単位)まで下がります[2]。推論や単一GPU学習に向くという整理です[3]。
今回の追跡で目立つのは、H100 NVLです。PCIe版を2枚、NVLinkでつないだ構成で、1枚あたり94GBのHBM3(高速なGPU用メモリ)と3.9TB/sの帯域を備えます[3]。TDPは400Wです。単一PCIeカードでは難しいLLMサービングや推薦システムを狙います[3]。データシートもこうした仕様の確認に必要です[7]。
Blackwell側も、FP4だけではありません。Blackwellは208Bトランジスタを搭載し、TSMC 4NPで製造されます。2つのダイを10TB/sのチップ間接続で結び、1つのGPUとして扱えるようにします[4]。第2世代Transformer Engineはmicro-tensor scaling(小さな単位で数値の範囲を調整する仕組み)でFP4を扱います。Blackwell UltraはBlackwell比でattention層(モデルが重要な部分に注目する仕組み)の加速を2倍、AI計算FLOPS(演算速度の単位)を1.5倍としています[4]。こうした差は、公式の倍率よりも実測で見るべきです。arXivにはBlackwellのマイクロベンチマーク論文があり、開発者ブログもBlackwell UltraをAIファクトリーのチップとして解説しています[5][6]。
意外な転換点は、セキュリティです。BlackwellはTEE-I/O(入出力まで保護する仕組み)に対応したGPUを掲げています。Confidential Computing(計算中のデータやモデルを保護する仕組み)でモデルとデータを保護します[4]。暗号化なしとほぼ同じスループットを主張しているため、推論の速度と保護を分けて考えにくくなります[4]。H100が推論で最大30倍の高速化と低い遅延を強調する一方、BlackwellはFP4と保護を同時に狙います[1][4]。推論セッションの設計では、速度と保護の両立が前提になります。
つまり2026年のNVIDIA製品選びは、H100を現役で使うか、Blackwell Ultraへ移すかの二択ではありません。H100 NVLのような中間構成と、BlackwellのFP4、接続、検証が並走しています[3][4]。次に見るべきは、推論のprefill(プロンプト全体を一括処理する段階)とdecode(トークンを1つずつ生成する段階)で、どの構成が最も安定するかです[1][2]。
引用ソース
- Web記事 記事全文: H100 Gpu | Nvidia — https://www.nvidia.com/en-us/data-center/h100/
NVIDIA H100 GPU
Extraordinary performance, scalability, and security for every data center.
An Order-of-Magnitude Leap for Accelerated Computing
The NVIDIA H100 GPU delivers exceptional performance, scalability, and secu - Web記事 記事全文: NVIDIA H100 Complete Guide: Specs, Benchmarks, and Real-World … — https://gpuadvisor.com/blog/nvidia-h100-complete-guide-2026
NVIDIA H100 Complete Guide: Specs, Benchmarks, and Real-World Performance (2026)
Everything you need to know about the NVIDIA H100 GPU in 2026. Detailed specs for SXM5 and PCIe variants, real training and inference bench - Web記事 記事全文: NVIDIA H100 Specs: PCIe vs SXM vs NVL Compared (2026) — https://www.thundercompute.com/blog/nvidia-h100-specs-full-guide
Released in 2022, the NVIDIA H100 debuted the Hopper architecture and delivered step-change gains in tensor performance, memory bandwidth, and efficiency over the A100.
It remains the practical workhorse for most AI proj - Web記事 記事全文: The Engine Behind AI Factories | NVIDIA Blackwell Architecture — https://www.nvidia.com/en-us/data-center/technologies/blackwell-architecture/
NVIDIA Blackwell Architecture
The engine behind AI factories for the age of AI reasoning—now in full production.
Breaking Barriers in Accelerated Computing and Generative AI
Explore the groundbreaking advancements the NV - Web記事 Web検索: Inside NVIDIA Blackwell Ultra: The Chip Powering the AI Factory Era — https://developer.nvidia.com/blog/inside-nvidia-blackwell-ultra-the-chip-powering-the-ai-factory-era/
Inside NVIDIA Blackwell Ultra: The Chip Powering the AI Factory Era
- Web記事 Web検索: Microbenchmarking NVIDIA’s Blackwell Architecture: An in-depth … — https://arxiv.org/pdf/2512.02189
Microbenchmarking NVIDIA’s Blackwell Architecture: An in-depth …
- Web記事 Web検索: PDF NVIDIA H100 Tensor Core GPU Datasheet | NVIDIA – PNY — https://www.pny.com/File%20Library/Company/Support/Product%20Brochures/NVIDIA%20Data%20Center%20GPUs/english/nvidia-h100-datasheet.pdf
PDF NVIDIA H100 Tensor Core GPU Datasheet | NVIDIA – PNY
※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。
RECENT COMMENTS