Let's take a drive.

VRAM（GPUのメモリ）が24GBのRTX 3090が、またローカルAIの話題になりました。以前取り上げた「24GBのVRAMで土台になるか」という話から、今回はRAMと量子化のセットが主役です。Xでは「AIバブル」「AIバブル崩壊」という語がトレンドに上がっており、こうした試みはその空気の中で注目されているようです[3]。

Redditでは、DeepSeek-V4.1-Flash-1017をRTX 3090 1枚で動かすDelta Inference Engine v0.93の更新が報告されました[1]。投稿者は、より多くの機能とベンチマーク、大げさな見出しを減らすことを求めた声に応えたと述べています[1]。Delta Inference Engineは、GPUだけでは足りない部分をCPUやシステムRAM（メインメモリ）に分担させる推論エンジンです。報告では、192GB RAM構成でUnsloth IQ2（Unslothが公開した2ビット量子化の型）が41 tok/s、つまり1秒に41トークン（文字や語の単位）が生成される状態を維持したまま、品質も向上したとされています[1]。

更新の背景には、Engramテーブルを直接読む仕組みや、CPU側の処理を高速化する工夫があります[1]。Engramテーブルは、モデルの重みを参照するための大きな表です[1]。さらに、64GB RAMでも使えるようになった点も大きいようです[1]。初回応答までの待ち時間は約40%短くなったと報告されています[1]。

構成はRTX 3090（24GB）、i5-13600K、4x48GB DDR5-5600、PCIe 4.0 NVMe（高速なストレージ）、Windows、WSLなし（Linux互換環境は使わない）です[1]。速度はgreedy（毎回最も確からしいトークンを選ぶ方法）で、1チャットずつの条件です[1]。Delta Inference Engineは64GB、96GB、128GB RAMにも対応し、新しいUnsloth量子化を完全にサポートしたとされています[1]。新しいUnsloth量子化は本来の速度で動作するとしています[1]。EXL3形式（別の量子化ファイル形式）、複数GPUを動かす簡易機能、公開CI（開発の自動テストを公開する仕組み）も追加されました[1]。

報告では、2ビットで301GB、1ビットで233GB、2ビットで335GB、3ビットで395GBといった量子化版のファイルサイズも示されています[1]。品質面では、99問のテストで旧デフォルトモデルが52問正解だったのに対し、新しいUnsloth IQ2は57問正解でした[1]。フルモデル（圧縮していないモデル）は59問正解なので、まだ差は残ります[1]。投稿者は「完全なDeepSeekモデルの量子化ではないが、思っていたより使える」と説明しています[1]。

RTX 3090自体はNVIDIAの公式情報では、Ampere（RTX 30世代の設計）のGPUとして24GBのG6XメモリやTensorコア（AI計算向けの回路）を備えるとされています[2][4]。スペック詳細はTechPowerUpにも掲載されていますが、今回の調査では自動チェックのため確認できませんでした[5]。販売・中古市場ではNewegg、eBay、AmazonにRTX 3090の出品が見られます[5][8]。

ただし、今回の報告は万能ではありません。速度はRAM容量に大きく依存し、64GBでも使えるとされていますが、報告の表は途中で切れていて具体的な速度は確認できません[1]。報告にはprefill（プロンプト全体を一括処理する段階）とdecode（トークンを1つずつ生成する段階）の別々の実測値、消費電力、他GPUとの比較は見つかりませんでした。Xのトレンドの「AIバブル」「AIバブル崩壊」とこの試みの因果関係も、報告からは読み取れません[3]。

それでも、RTX 3090の価値はVRAMの大きさだけで測る段階から、RAM・量子化・エンジン最適化を組み合わせる段階へ移ったようです[1]。DeepSeek FlashをRTX 3090 1枚で回す報告は、ハッカー的な構成の工夫でローカル推論の入口を広げるものと言えます。今後の検証では、64GB構成の実用速度と品質のバランスが鍵になりそうです。

引用ソース

1. Reddit Reddit r/LocalLLaMA: DeepSeek-V4.1-Flash-1017 on one RTX 3090: Big updates to the Delta Inference Engine v0.93. Same 41 tok/s at 192GB/IQ2 at better quality, usable from 64 GB RAM, first token ~40% sooner, new Unsloth quants at full speed, EXL3, basic multi-GPU, public CI and more — https://www.reddit.com/r/LocalLLaMA/comments/1xoq4vq/deepseekv41flash1017_on_one_rtx_3090_big_updates/
   

   DeepSeek-V4.1-Flash-1017 on one RTX 3090: Big updates to the Delta Inference Engine v0.93. Same 41 tok/s at 192GB/IQ2 at better quality, usable from 64 GB RAM, first token ~40% sooner, new Unsloth quants at full speed, EXL3, basic multi-GPU, public CI and more

2. Web記事 記事全文: 3090 & 3090 Ti Graphics Cards | NVIDIA GeForce — https://www.nvidia.com/en-us/geforce/graphics-cards/30-series/rtx-3090-3090ti/
   

   The GeForce RTX™ 3090 Ti and 3090 are powered by Ampere—NVIDIA’s 2nd gen RTX architecture. They feature dedicated 2nd gen RT Cores and 3rd gen Tensor Cores, streaming multiprocessors, and a staggering 24 GB of G6X memory

3. X Xトレンド: AIバブル崩壊 — https://trends24.in/japan/
   

   AIバブル崩壊

4. Web記事 記事全文: GeForce RTX 3090 Graphics Card – NVIDIA — https://www.nvidia.com/en-us/geforce/graphics-cards/30-series/rtx-3090/
   

   The GeForce RTX™ 3090 Ti and 3090 are powered by Ampere—NVIDIA’s 2nd gen RTX architecture. They feature dedicated 2nd gen RT Cores and 3rd gen Tensor Cores, streaming multiprocessors, and a staggering 24 GB of G6X memory

5. Web記事 記事全文: NVIDIA GeForce RTX 3090 Specs | TechPowerUp GPU Database — https://www.techpowerup.com/gpu-specs/geforce-rtx-3090.c3622
   

   Automated bot check in progress
   This should only take a few seconds. If you have issues, please do contact us, we want to learn about any problems.

6. Web記事 Web検索: GeForce RTX 3090 GPUs / Video Graphics Cards | Newegg.com — https://www.newegg.com/p/pl?N=100007709%20601357248
   

   GeForce RTX 3090 GPUs / Video Graphics Cards | Newegg.com

7. Web記事 Web検索: 25+ Rtx 3090 for sale | Updated Nov 2026 – eBay — https://www.ebay.com/shop/rtx-3090?_nkw=rtx+3090
   

   25+ Rtx 3090 for sale | Updated Nov 2026 – eBay

8. Web記事 Web検索: Rtx 3090 for sale – eBay — https://www.ebay.com/sch/i.html?_nkw=rtx+3090&_sop=12
   

   Rtx 3090 for sale – eBay

※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。

• Tweet