「5年前のグラフィックボードが、AIブームで再び争奪戦に」。今、海外の自作コミュニティでNVIDIAのRTX 3090がにわかに盛り上がっています。ハッカー寄りのユーザーが集うReddit(r/LocalLLaMA)には「3090への熱狂を警告するあの投稿の意味が、ようやく分かった」という書き込みが上がりました[1]。投稿いわく、この旧世代GPUに「良い勝利」があったというのです。ただし投稿者自身は3090を持っていません。かつて暗号資産マイニングの需要を抑えるために施された制限が解けて、LLM(大規模言語モデル)の実行に有利になったのでは、と推測を披露した段階です[1]。効果が他のGPUに波及するかどうかも、問いが残されたままです[1]。
なぜ2020年登場のGPUが今も選ばれるのでしょう。答えは24GBという大容量VRAM(モデルのデータを丸ごと載せておけるGPU側メモリ)にあります。解説記事[2]によれば、RTX 3090は24GBのGDDR6Xと936GB/sという高い帯域を備え、モデル全体をGPUメモリ内で完結できます。メモリ帯域の高さが推論の速さを支える、という構図です[2]。システムRAMへ処理を逃がす方式が抱える速度のボトルネックを回避できるのも決め手です[2]。同じ24GBを持つRTX 4090は高価なため、性能あたり価格では中古の3090が有利という計算になります[2]。ただし快適に使うには、モデルのサイズ、量子化(精度を落としてメモリを節約する圧縮)、コンテキスト長のバランスの取り方が不可欠で、システムのセッティングやハードウェア管理に慣れた方向きの選択肢とも説明されています[2]。
実際に何が動くのか。ベンチマーク記事[4]では、4ビット量子化(Q4)を使えばQwen3 32BやQwen3 30B A3Bといった30B級モデルがVRAMに丸ごと収まると報告されています[4]。4ビットへの圧縮が、およそ32Bパラメータまでのモデルを収めるための鍵だと解説されています[2]。実測速度は、14Bモデルを16kコンテキストで動かした際に平均52.1トークン/秒でした[4]。記事は「2026年においてもローカルLLMの強力な戦力」と評価し、中古市場で本気のローカル推論環境を組むなら最も費用対効果の高い入口だと結論づけています[4]。市場価格の平均は1,000ドルという調査値も添えられています[4]。測定はトークン生成に加えてプロンプト処理の速度も行われ、コンテキスト長は4Kから128K、最大256Kまでの段階で比較されました[4]。
こうした「中古3090推し」の論調は、他のメディアでも確認できます。「5年前のGPUがいまだローカルAIの最良の買い物」と題する特集[5]、「2026年もAIの価値王者か、それとも乗り換え時か」と検証する記事[6]、24GBを約750ドルで入手できるとレビューする記事[7]、「32B Q4が動く最良の中古24GBカード」と評する記事[6]。表現は違っても、方向性はほぼ一致しています。5年落ちの中古カードがこれだけ一斉に取り上げられるのは、ローカルAI需要の伸びを映しているようです。一方、日本のXでも「AI事業」という語がトレンドに上がるなど[3]、AI関連の話題への注目の高さが背景にあるようです。
しかし、万能のカードではありません。最初の落とし穴がコンテキスト長(一度に扱える文章の長さ)です。長い対話セッションを張るほど、KVキャッシュという作業領域がVRAMを圧迫するため、量子化の精度と長さの両立は綱渡りになると指摘されています[2]。精度を上げるほど、文脈を長く取るほど、メモリの余裕は削れていきます。実際の使用量はモデル構造や推論ソフトによっても変わるため、数値はあくまで目安とされています[2]。大型モデルではさらに厳しく、70B級は4ビットでも48〜80GBが必要です。単体の3090ではCPUへ処理を逃がすことになり、トークンの生成速度は一桁台/秒まで落ちるという数値が示されています[4]。電源も750W Gold以上が推奨とされ、省電力の現行カードとは真逆の性格です[4]。
さらに、話題の発端であるReddit投稿は、まだ誰も実証していません。投稿者は「3090を持っていないので、コミュニティの誰か裏を取ってほしい」と確認を呼びかけており、マイニング制限の解除説が本当かどうかは検証待ちです[1]。価格にも幅があります。平均1,000ドルとする調査[4]がある一方、約750ドルで買えるとするレビュー[7]もあり、個体の状態や時期でコストが大きく動くようです。「価値王者」という肩書がひとつの目安のようですが[6]、そもそも「熱狂への警告」投稿が存在したほど、需要が集中しやすいカードだということなのでしょう[1]。
それでも方向性ははっきりしているようです。32B級を丸ごとGPUに載せ、14Bなら52.1トークン/秒。その環境が中古で1,000ドル前後、場合によっては750ドル程度で組めるのは、高価格化が進む新世代への現実的な答えだからです[2][4][7]。長文処理と大型モデルの壁をどう見極めるかが、購入判断の分かれ目になりそうです。Redditの検証がどう結着するか[1]、中古3090人気がいつまで続くか[6]。ローカルAIの入口をめぐる5年前のカードの議論は、しばらく続きそうです。
参照:
[1] https://www.reddit.com/r/LocalLLaMA/comments/1xbr3u1/now_that_3090_frenzy_warning_post_makes_sense/
[2] https://www.hardware-corner.net/guides/rtx-3090-local-llms-24gb-vram/
[3] https://trends24.in/japan/
[4] https://www.hardware-corner.net/gpu-llm-benchmarks/rtx-3090/
[5] https://vettedconsumer.com/used-rtx-3090-2026-local-ai-best-deal/
https://www.hardware-corner.net/gpu-llm-benchmarks/rtx-3090/
RTX 3090 and Local LLMs: What Fits in 24GB VRAM, from Model Size to Context Limits
[6] https://runaihome.com/blog/used-rtx-3090-ai-value-king-2026/
[7] https://www.aimiracle.ai/ai-hardware-review/rtx-3090-ai-review/
[6] https://modelfit.io/gpu/rtx-3090/
RECENT COMMENTS