「5年前のグラボが、AIブームで再び争奪戦に」。今、海外の自作コミュニティでNVIDIAのRTX 3090がにわかに盛り上がっています。ハッカー寄りのユーザーが集うReddit(r/LocalLLaMA)には「3090への熱狂を警告するあの投稿の意味が、ようやく分かった」という書き込みが上がりました[1]。投稿いわく、この旧世代GPUに「良い勝利」があったといいます。ただし投稿者自身は3090を持っていません。かつて暗号資産マイニングの需要を抑えるために施された制限が解けて、LLM(大規模言語モデル)の実行に有利になったのでは、と推測した段階です[1]。効果が他のGPUに波及するかどうかも、まだ問いが残ったままです[1]。
なぜ2020年登場のGPUが今も選ばれるのか。答えは24GBという大容量VRAM(モデルのデータを丸ごと載せておけるGPU側メモリ)にあります。解説記事[2]によれば、RTX 3090は24GBの高速メモリGDDR6Xを備えます。データ転送速度は936GB/sに達し、この速度が推論の速さを支える構図です[2]。モデル全体をGPUメモリ内で完結できる点も大きいといいます。システムRAMへ処理を逃がす方式が抱える速度のボトルネックを回避できるためです[2]。同じ24GBのRTX 4090は高価なため、性能あたり価格では中古の3090が有利という計算になります[2]。ただし快適に使うには調整が不可欠です。モデルのサイズと量子化の精度、そしてコンテキスト長のバランス取りが求められます。量子化は、精度を落としてメモリを節約する圧縮のこと。コンテキスト長は、一度に扱える文章の長さです。セッティングに慣れた方向きの選択肢とも説明されています[2]。
実際に何が動くのか。ベンチマーク記事[4]では、4ビット量子化(Q4)を使えば、Qwen3 32BやQwen3 30B A3Bといった30B級モデルがVRAMに丸ごと収まると報告されています[4]。4ビットへの圧縮が、およそ32Bパラメータまでのモデルを収めるための鍵だと解説されています[2]。実測速度は、14Bモデルを16kコンテキストで動かした際に平均52.1トークン/秒でした[4]。測定はトークン生成に加え、質問文(プロンプト)の処理速度も対象です。コンテキスト長は4Kから128K、最大256Kまでの段階で比較されました[4]。記事は「2026年においてもローカルLLMの強力な戦力」と評価し、中古市場で本気のローカル推論環境を組むなら最も費用対効果の高い入口だと結論づけています[4]。市場価格の平均は1,000ドルという調査値も添えられています[4]。
こうした「中古3090推し」の論調は、他のメディアでも確認できます。「5年前のGPUがいまだローカルAIの最良の買い物」と題する特集[5]、「2026年もAIの価値王者か、それとも乗り換え時か」と検証する記事[6]、24GBを約750ドルで入手できるとレビューする記事[7]、「32B Q4が動く最良の中古24GBカード」と評する記事[6]。表現は違っても、方向性はほぼ一致しています。5年落ちの中古カードが一斉に取り上げられるのは、ローカルAI需要の伸びを映しているようです。日本のXでも「AI事業」という語がトレンドに上がるなど[3]、AI関連話題への注目の高さが下地にあります。
しかし、万能のカードではありません。最初の落とし穴がコンテキスト長です。長い対話を続けるほど、KVキャッシュ(会話の文脈を一時的に保持しておく作業領域)がVRAMを圧迫します。そのため、量子化の精度と文脈の長さの両立は綱渡りになると指摘されています[2]。精度を上げるほど、文脈を長く取るほど、メモリの余裕は削れていきます。実際の使用量はモデル構造や推論ソフトによっても変わるため、数値はあくまで目安です[2]。大型モデルではさらに厳しく、70B級は4ビットでも48〜80GBが必要です。単体の3090ではCPUへ処理を逃がすことになり、生成速度は秒間一桁台まで落ちるという数値も示されています[4]。電源は750W Gold以上が推奨で、省電力の現行カードとは真逆の性格です[4]。
さらに、話題の発端であるReddit投稿は、まだ誰も実証していません。投稿者は「3090を持っていないので、コミュニティの誰か裏を取ってほしい」と確認を呼びかけており、マイニング制限の解除説は検証待ちです[1]。価格にも幅があります。平均1,000ドルとする調査[4]がある一方、約750ドルで買えるとするレビュー[7]もあり、個体の状態や時期でコストが大きく動きます。「価値王者」という肩書はひとつの目安ですが[6]、そもそも「熱狂への警告」投稿が存在したほど、需要が集中しやすいカードだということなのでしょう[1]。
それでも方向性ははっきりしています。32B級を丸ごとGPUに載せ、14Bなら52.1トークン/秒。その環境が中古で1,000ドル前後、場合によっては750ドル程度で組めるのは、高価格化が進む新世代への現実的な答えだからです[2][4][7]。長文処理と大型モデルの壁をどう見極めるかが、購入判断の分かれ目になりそうです。Redditの検証がどう結着するか[1]、中古3090人気がいつまで続くか[6]。ローカルAIの入口をめぐる5年前のカードの議論は、しばらく続きそうです。
RECENT COMMENTS