続・RTX 5090、ローカル推論で品質と速度の分岐

速いだけでは足りません。RTX 5090の話題は、品薄や32GBへの需要から、実際のローカルAI推論での品質へ移ってきました。Redditでは、Blackwell専用の推論エンジンBasalt 0.2.0でRTX 5090とRTX 5060 Ti、128GB RAMの構成でQwen 3.8 Flash Next NVFP4を動かしたと報告されています。prose(文章生成)で300 t/s、struct(構造化出力)で600 t/s、prefillで10K t/sが出ました[1]。t/sは1秒あたりのトークン数で、prefillはプロンプト全体を一括処理する段階です。Xでは「AI・半導体関連株」がトレンド入りしており、このカードがゲームよりAI関連で注目されている流れが見えます[3]。

この報告を見ると、RTX 5090の強さは、単純なゲーム性能だけでは語れません。Web記事でも、RTX 5090はBlackwellアーキテクチャを採用し、32GBのGDDR7を搭載しています。帯域は1792GB/s[4]、CUDAコア数は21760基[6]とされ、4Kゲームでは100FPS超を安定して出すという評価もあります[5]。ただ、PCWorldは「AI研究者向けに設計されたように感じる」と書き、2000ドルの価格や1000Wの電源要求、GPU温度が84度に達する点も指摘しました[2]。

記事全文: RTX 5090 Review - The Best GPU Ever Made 2026
画像出典: 記事全文: RTX 5090 Review – The Best GPU Ever Made 2026
記事全文: RTX 5090 Benchmark: In-Depth 4K Performance Review (2026)
画像出典: 記事全文: RTX 5090 Benchmark: In-Depth 4K Performance Review (2026)

Basalt 0.2.0の注目点は、速度だけでなく、BF16(フル精度の重み)のllama.cppを基準に品質を測ったことです。量子化は、重みを圧縮してメモリを節約する仕組みです。比較では、Pack KLDとtop-1一致率が使われています[1]。Pack KLDは基準モデルとの出力分布のズレを表す指標で、top-1一致率が高いほど、基準モデルと同じ次のトークンを選びやすいです。

数値を見ると、Q8(8bit量子化)のtop-1一致率は95.34%で、llama.cpp Q8の93.98%を上回りました[1]。一方、NVFP4系は92.25%と91.65%で、さらに強い圧縮では87.56%まで下がりました[1]。投稿者は、以前基準にしていたllama.cpp Q8自体の誤差で評価が不利に見えていた面もあると述べています[1]。つまり、RTX 5090が速くても、量子化を強めると品質が落ちる余地があります。

ここで転換点が訪れます。NVFP4は速さの象徴ですが、top-1一致率はQ8より低く、強い圧縮では87.56%まで下がります[1]。速度と品質は同じ方向へ進むとは限りません。ローカルAIでは「モデルが賢くなければ速度は意味がない」という指摘も出ています[1]。RTX 5090の32GBと帯域は魅力的ですが、どの量子化で使うかによって体験が変わります。

市場の温度も一様ではありません。RTX 5090はAI企業がパレット単位で購入し、ゲーマー向けの価格を押し上げているという報道があり、入手が難しくなっているという指摘もあります。5000ドルまで言及する例も出ています[7]。TechPowerUpも、AI企業がサーバー用途で大量購入している可能性を伝えています。Web検索では、RTX 5090のレビューやFounders Editionの評価も引き続き話題です[2][8]。

結局、RTX 5090の続報は「最強GPU」の一言では終わりません。Basalt 0.2.0の実測は、5090と5060 Tiの構成でprefill 10K t/sという速さと、量子化による品質差を同時に示しました[1]。品薄とAI需要で価値が上がる一方、実際のローカル推論では速度・品質・価格のバランスが問われます。次の焦点は、NVFP4のような量子化がどこまで品質を維持できるかです。

引用ソース

  1. Reddit Reddit r/LocalLLaMA: Basalt 0.2.0: Qwen 3.8 Flash Next NVFP4, 300 t/s prose, 600 t/s struct, 10K t/s prefill on a 5090 + 5060 Ti and 128GB RAM — https://www.reddit.com/r/LocalLLaMA/comments/1xn4qn1/basalt_020_qwen_38_flash_next_nvfp4_300_ts_prose/

    Basalt 0.2.0: Qwen 3.8 Flash Next NVFP4, 300 t/s prose, 600 t/s struct, 10K t/s prefill on a 5090 + 5060 Ti and 128GB RAM

  2. Web記事 記事全文: Nvidia GeForce RTX 5090 review: Brutally fast, but DLSS 4 is … – PCWorld — https://www.pcworld.com/article/2585806/nvidia-geforce-rtx-5090-review.html

    At a glance
    Expert’s Rating
    Pros
    – By far the fastest gaming performance ever, even ray traced
    – DLSS 4 Multi Frame Generation makes games so snappy and smooth, they feel like new — it’s truly game-changing
    – Huge 32GB o

  3. X Xトレンド: AI・半導体関連株 — https://trends24.in/japan/

    AI・半導体関連株

  4. Web記事 記事全文: RTX 5090 Review – The Best GPU Ever Made 2026 — https://gpu101.com/nvidia-geforce-rtx-5090-review-complete-specs-guide/

    19/03/2026 by admin
    Reading Time: ~25 minutes
    If you have been watching the GPU market and waiting for something that genuinely resets expectations, the NVIDIA GeForce RTX 5090 is your answer. Launched in early 2026 and

  5. Web記事 記事全文: RTX 5090 Benchmark: In-Depth 4K Performance Review (2026) — https://efrr.com/en/analysis/rtx-5090-benchmark-4k-gaming-2026/

    The RTX 5090 is a GPU that elevates 4K gaming standards to a new level, thanks to the most powerful graphics and AI processing capabilities available in 2026. Real-world testing confirms that this card consistently deliv

  6. Web記事 記事全文: Nvidia GeForce RTX 5090: performance tests and specs | NR — https://nanoreview.net/en/gpu/geforce-rtx-5090

    – Graphics Processor: GB202-300
    – Cores: 21760
    – TMUs / ROPs: 680 / 176

    Compare GeForce RTX 5090 with other GPUs

  7. Web記事 Web検索: NVIDIA RTX 5090 Is Getting Harder to Find — and AI Companies Are the Reason — https://gamingpromax.com/nvidia-rtx-5090-shortage-ai-companies-price-increase/

    NVIDIA RTX 5090 Is Getting Harder to Find — and AI Companies Are the Reason

  8. Web記事 Web検索: Nvidia GeForce RTX 5090 Founders Edition review: Blackwell commences … — https://www.tomshardware.com/pc-components/gpus/nvidia-geforce-rtx-5090-review

    Nvidia GeForce RTX 5090 Founders Edition review: Blackwell commences …

※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。

関連記事

CALENDAR

2026年11月
日 月 火 水 木 金 土
1234567
891011121314
15161718192021
22232425262728
2930  

ARCHIVES

CATEGORIES