vLLMはAI推論エンジンだけでなく、ベンチマークやマルチGPU運用の基準です。RTX 5090とAMD iGPUの混在実験では、対応範囲の限界と48%高速化の工夫が示されました。NVIDIAとAMDの具体値から速度比較の落とし穴まで読み解きます。
タグ: NVIDIA
続・NVIDIA:旧GPUでMamba推論、CUDA評価も進む
[2026-11-11 更新] NVIDIAのジェンセン・フアンCEOが不倫を認め、中国スパイ疑惑を巡る独立調査が始まりました。取締役会は国家安全保障が損なわれた証拠はないとして支持し、Redditでは公表の意図が推測されています。AIチップと企業統治の信頼が問われる最新動向です。
続・NVIDIA:Blackwellのメモリ遅延とMLPerfでの完勝
BlackwellがMLPerf Training v5.1で全項目最速となり、B200のmicrobenchmarkではメモリ遅延が58%減りました。AIの推論セッションでは、データのやり取りと次バージョンのFP4の精度が焦点になります。
続・NVIDIA:Blackwell論文が示すFP4と省エネの実測
NVIDIAのBlackwellを巡り、MLPerfで全項目最速と報告されました。さらに論文ではB200がH200比で学習スループットが1.85倍、エネルギー効率が32%向上したと実測されています。AIの推論と学習で、FP4と省エネの差が焦点です。
続・NVIDIA:AI学習でBlackwellが全項目最速、FP4と実測効率の差
BlackwellがAI学習ベンチマークMLPerf Training v5.1で7モデル全項目の最速学習を掲げました。FP4/NVFP4とB200の実測から、学習速度と電力効率の差が見えます。推論を含む評価の中心が接続から学習へ動いています。
続・NVIDIA:Blackwellが推論と接続を変える
公式資料と製品解説を踏まえ、NVIDIAの話題はH100からBlackwellへ移り、推論と接続が中心です。H100は推論が最大30倍、BlackwellはH100比で推論が約5倍とされます。電力、価格、入手方法など運用条件の違いが読み取れます。
続・NVIDIA:H100の現役性とBlackwellの隠れた差
H100の現役性とBlackwellの実測差が話題です。2026年時点でH100は主力で、SXM5とPCIeの差、FP8推論、B200がH200比で混合精度1.56倍、省電力42%、キャッシュミス時遅延58%減という検証から、世代より構成が重要だと読み解きます。
続・NVIDIA:H100の30倍とBlackwellの検証
H100はLLMと推論を最大30倍高速化し、GPT-3 175B学習を4倍速くするとされます。Grace Hopperは10倍を掲げますが、BlackwellのMLPerf席巻には具体的な数値がありません。データセンターの動向を追います。
続・NVIDIA:RTXの隠れAI制限が解放
NVIDIAのRTXに隠れたAI推論の速度制限を、Linux向けモジュールが外した話題です。RTX 3090 TiではBF16が87.5から157.4 TFLOPSへ伸び、Dellの96GB GPU搭載機も価格面で注目されています。
続・OpenAI追跡:TPU調達とNvidia依存のその後
OpenAIがGoogleのTPU購入を検討していると報じられました。Nvidia依存を減らす動きですが、金額や数量は未確認です。推論コストとaiチップ市場への影響、TPU調達とNvidia市場への波及を整理します。













RECENT COMMENTS