eBayに9,600枚のA100と4,200個のEPYCを積んだ約6,000万ドルのクラスタが並びました。一方、NVIDIAは40言語対応の音声モデルを公開し、英語WER4.71%を報告しています。旧GPU市場と新モデルの両面からNVIDIAの今を追います。

続きを読む →

NVIDIAが音声aiモデルNemotron 3.5 Transcribeを公開しました。最適化NIMでは1枚のGPUで毎秒2,238秒分の音声を処理できるとされます。公開版の速度差やローカル実行の注意点を読み解きます。

続きを読む →

RTX 5090のMSRPは1999ドルですが、2026年9月には5000ドル超の実売が報告されています。Redditでは1万ドルの話も出ています。AIサーバー需要とGDDR7供給の圧力が、ローカル推論の入口を押し上げている状況を追跡します。

続きを読む →

発売6年目のRTX 3090に、2026年も解像度別の実測やAI推論テストが蓄積されています。ゲーム性能は1080pで約146fpsが出る一方、4Kでは約46fpsまで落ち込み、RTX 3080との差は4K以上に限られます。4Kの壁と24GBメモリのAI価値という二面性が浮かびます。

続きを読む →

改造RTX 3080の追跡記事。4枚構成の実測ではQ8+MTPでdecode約95 tok/s、8×RTX 5060 Ti構成の2.4倍に達しました。さらに計算制限を解除する新modでprefill約20%向上、decodeは不変という結果も報告されています。

続きを読む →

2020年に1499ドルで登場したRTX 3090が、2026年も各サイトでベンチマーク検証されています。10496個のCUDAコアと24GB VRAMを備え、AI演算テストや1万件超のユーザーサンプルで実力が裏付けられました。ゲーム用途では3080に及ばないものの、大容量メモリで独自の価値を保ちます。

続きを読む →

NVIDIAのフアンCEOが、AIエージェント実行用ソフトをGPU1枚あたり年約2000ドルでライセンスする考えを示しました。500万件なら年間100億ドル、5年で500億ドルの試算もあります。一方で対象範囲は未確定で、既存AI Enterprise(4500ドル)との関係も不明です。

続きを読む →

RTX 3080 20GBで、NVIDIAが無効化していたP2PとreBARを有効化する改造が話題です。tensor parallel時のプロンプト処理が70%、prefillが約20%速くなる一方、decodeは変化なしです。RTX 20〜40シリーズへ広がるコミュニティ改造の実力と限界を整理します。

続きを読む →

llama.cppにFFNのgate/up行列積とGLUを1つのCUDAカーネルにまとめる最適化PRが投稿され、DGX Sparkで最大10.7%、RTX 5090で最大4.6%のprefill高速化が報告されました。一方、V100での別の融合試行は全体が逆に遅くなり取りやめに。カーネル融合の効果と落とし穴を数値で読み解ける記事です。

続きを読む →

NVIDIA RTX 30/40シリーズの人工的な性能制限を解除するオープンソースツールが話題です。LLM推論のprefillが最大2倍、実使用でも最大60%の向上が報告されています。一方で中古GPU価格が数時間で15〜20%上昇し、NVIDIAの市場戦略との攻防が注目されます。

続きを読む →