48GBは、ただ積むだけでは48GBになりません。
Xのトレンドでは「生成AI専業初」[3]や「サカナAI」も上がっていましたが、ローカルAIの現場ではRTX 3090の2枚目が再び話題です。Redditでは、PCIe(部品をつなぐ規格)スイッチを使い、1つのx16スロットに4枚のRadeon AI PRO R9700と2枚のRTX 3090を載せる報告がありました[1]。
Web記事では、2枚のRTX 3090で48GBにする構成が、Qwen 3.6 35B-A3Bのようなモデルをフル品質で、70BをQ4(4ビット量子化)で余裕を持って、FLUX.2 [dev]のようなモデルも収まる定番として紹介されています[2]。2枚のRTX 5060 Ti 16GBや改造22GBの2080 Tiも選択肢ですが、48GBの定番は3090のままです[2]。以前取り上げた「続・RTX 3090、RAMと量子化でDeepSeek Flashを回す」では、24GB単体と192GB RAM、Unsloth IQ2(2ビット量子化の型)という条件で41 tok/s(1秒に41トークン)という実測がありました。今回は条件が違い、直接比較はできませんが、話題は「1枚で足らない」から「2枚でどう繋ぐか」へ移ったようです。
ただし、2枚目は速度より容量です。既定の分割では層を順番に計算するため、TPS(1秒あたりのトークンの数)はほぼ倍になりません[5]。PCIe 4.0 x16の帯域幅は片方向約31.5GB/sで、推論には十分とされます[5]。GPU同士で同時に計算する設定はデータを多くやり取りするため、接続次第で伸びしろが変わります[5]。MoE(必要な部分だけ使うモデル)では、専門家(モデルの一部)をCPUに逃がす設定が有効とされます[2]。3090を持っていない人にも、この考え方は16GBカードやRAM分担で役立ちます[2]。
ここで落とし穴が生じます。中古RTX 3090を2枚で48GBにする構成は、記事によって約1,640ドル[5]、2,100〜2,500ドル[4]と幅があります。この問題は検索でも追われています。既定のBIOS(起動設定)では、PCIeが第3世代(Gen3)の速度に落ちることがあります。P2P(GPU同士が直接データをやり取りする仕組み)もCPU経由になり、ASPM(省電力機能)で動作の乱れが起きるとされます[4]。さらに2048トークン超で出力が乱れる報告もあります[4]。
対策は、まずGPU同士が直接通信できるかを確認することです[4]。次に、IOMMU/ACS(仮想化やセキュリティのための設定)、PCIeリンク速度、ASPMを見直します[4]。正しく設定すれば48GBを1.5〜2倍の性能で活かせるとされ、単に2台の1枚構成を並べた状態とは違うようです[4]。自宅ラボのハッカーのように、BIOSと接続を詰めることが大事になります。
一方、AMDのRadeon AI PRO R9700は総合でRTX 3090をわずか4%上回り、コスパは64%良いとされます[5]。ASRock版やPowerColor版、3090 Tiとの比較も検索されています[5]。GPU同士を専用接続するNVLinkとPCIeの選び方も論点で、2枚目のカードが本当に効くかは接続の作り方で決まります。
つまり、3090の今後は、VRAM(GPUのメモリ)の大きさより、PCIe設定と分割方法で決まりそうです。48GBを「積んだつもり」で終わらせないために、まず接続を確認したほうが良さそうです。
引用ソース
- Reddit Reddit r/LocalLLaMA: 4x Radeon AI PRO R9700 + 2x RTX 3090 on one x16 slot, using a PCIe switch — https://www.reddit.com/r/LocalLLaMA/comments/1xr2a6y/4x_radeon_ai_pro_r9700_2x_rtx_3090_on_one_x16/
4x Radeon AI PRO R9700 + 2x RTX 3090 on one x16 slot, using a PCIe switch
- Web記事 記事全文: Best Dual-GPU Local AI Setup: RTX 3090, 5060 Ti (2026) — https://insiderllm.com/guides/multi-gpu-local-ai/
📚 More on this topic: Razer AIKit Guide · GPU Buying Guide · VRAM Requirements · llama.cpp vs Ollama vs vLLM
You want to run a 70B model locally. Your RTX 3090 has 24GB of VRAM. The model needs 45GB at Q4 quantization. N - X Xトレンド: 生成AI専業初 — https://trends24.in/japan/
生成AI専業初
- Web記事 記事全文: Dual RTX 3090 for Local LLMs in 2026: The Silent PCIe Killer (IOMMU … — https://runaihome.com/blog/dual-rtx-3090-pcie-iommu-acs-nccl-guide-2026/
Dual RTX 3090 for Local LLMs in 2026: The Silent PCIe Killer (IOMMU, ACS, ASPM, and the P2P Config That Makes 48GB Actually Deliver)
TL;DR: A second used RTX 3090 gets you to 48GB for around $2,100–$2,500 (Jul 2026), but - Web記事 記事全文: Best Multi-GPU LLM Setup 2026: Dual 3090s and Splitting — https://bestgpuforllm.com/articles/best-multi-gpu-setup-for-llm/
Quick answer: Dual RTX 3090s (~$1,640 used) give you 48GB combined VRAM for running 70B models locally. Splitting a model across cards works over PCIe without NVLink. For new hardware, dual RTX 5080s (32GB combined) or a
- Web記事 記事全文: AI PRO R9700 vs RTX 3090 [2-Benchmark Showdown] – Technical City — https://technical.city/en/gpu/GeForce-RTX-3090-vs-Radeon-AI-PRO-R9700
Radeon AI PRO R9700 vs GeForce RTX 3090
Aggregate performance score
We’ve compared GeForce RTX 3090 with Radeon AI PRO R9700, including specs and performance data.
AI PRO R9700 outperforms RTX 3090 by a minimal 4% based - Web記事 Web検索: ASRock Radeon AI PRO R9700 Creator 32GB vs EVGA GeForce RTX 3090 XC3 GAMING — https://www.gpu-monkey.com/en/compare_gpu-asrock_radeon_ai_pro_r9700_creator_32gb-vs-evga_geforce_rtx_3090_xc3_gaming
ASRock Radeon AI PRO R9700 Creator 32GB vs EVGA GeForce RTX 3090 XC3 GAMING
- Web記事 Web検索: PowerColor Radeon AI PRO R9700 vs NVIDIA GeForce RTX 3090 Founders Edition — https://www.gpu-monkey.com/en/compare_gpu-powercolor_radeon_ai_pro_r9700-vs-nvidia_geforce_rtx_3090_founders_edition
PowerColor Radeon AI PRO R9700 vs NVIDIA GeForce RTX 3090 Founders Edition
※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。
RECENT COMMENTS