📌 エグゼクティブサマリー
RTX 5060 Ti 2枚の環境で新しいローカルLLMを18個試したところ、どれもQwen3.8-27Bを置き換えられなかったというテストが話題です。2枚構成は32GBのVRAMでMoEモデルに強く、従来型モデルでは帯域の広いRTX 3090が速いなど、構成ごとの得意分野が見えてきました。
「新しいモデルを18個試したのに、どれも置き換えられなかった」——こんな率直なテスト結果が、エンジニアコミュニティのHacker Newsに投稿され、コメントで議論が始まっています[1]。ローカルLLM(自分のPCで動かすAIモデル)の愛好者が、RTX 5060 Tiを2枚搭載した環境で一晩かけて新しめのモデルを次々と試しました。すると、既存のQwen3.8-27Bが依然として現役だったという報告です。
なぜ5060 Tiを2枚なのでしょう。背景には、VRAM(モデルを載せておくGPUのメモリ)を安く確保する工夫があります。16GB版のRTX 5060 Tiは1枚549ドルと手頃です[4]。GDDR7メモリを備え、帯域は448GB/s、消費電力の目安は180W、接続はPCIe 5.0 x8です[2]。2枚で32GBのVRAMを確保でき、合計は860ドル前後。比較相手の中古RTX 3090は24GBで約800ドルなので、価格差はごくわずかです[2]。900ドル未満の予算で本格的なVRAM量を確保できる構成として注目されてきました[2]。
ベンチマークの結果、構成ごとの得意分野がはっきり分かれました。MoE(専門家役の小さなネットワークを切り替えて計算を減らす構造)を持つモデル、たとえばQwen3 30Bは、2枚の5060 Tiが有利です[2]。長いコンテキスト(会話の記憶範囲)とVRAM重視の場面でも、2枚構成が推されています[2]。一方、全パラメータを毎回使う従来型のQwen3 32Bでは、メモリ帯域が2倍以上あるRTX 3090のほうが速いという結果でした[2]。バージョンの新しさだけでは、帯域の差は覆せないようです。
1枚あたりの推論実力も数字で確認できます。RTX 5060 Ti 16GB単体では、Qwen3 14Bを16kコンテキストで動かした生成速度が平均32.9トークン/秒でした[4]。プロンプト処理(入力文を読み込む速度)は942.6トークン/秒です[4]。4ビット量子化(重みを圧縮してメモリを節約する仕組み)で丸ごと載せられるのは、20Bクラスまでです[4]。gpt-oss 20Bなら128kコンテキストまで動きました。ただし30Bモデルは、1枚では届きません[4]。それでも549ドルという価格から、入門向けの「コスパ王者」と紹介されています[4]。
ところが、この「Qwen3.8-27Bは無敵」という報告に、コメント欄から異論が上がりました[3]。コメント主は同じ2枚の5060 Ti環境で、Qwen 3.8 Flash NextとStrataを試しています。27Bより速く、ベンチマークでも上。速度は約60トークン/秒という主張です[3]。さらに「27Bの運用はすでにやめた」と述べています。モデルを2枚のGPUに分割して載せる設定で、200Kという長いコンテキストを扱い、量子化はQ5/Q4_1を使ったと報告されています[3]。この構成でのプロンプト処理は1900トークン/秒に達しました。生成速度は元記事の結果と同じだったといいます[3]。モデルの選び方次第で、「置き換え」はあり得たかもしれません。
もうひとつ意外なのは、前世代のRTX 3090が依然として強いという点です。5060 Ti 2枚はVRAM容量とMoEモデルで勝り、3090は従来型モデルの速度で勝ります[2]。勝敗を分けるのは世代の新しさではなく、帯域と容量のどちらを取るかという選択のようです。1000ドル未満の予算での勝者は、用途次第とまとめられています[2]。1枚で済ませるなら20Bまで、2枚に増やせば32GB。この自由度が、選び方を難しくも面白くしています。
こうした比較を支える情報も増えています。5060 Ti向けのローカルLLM実践レシピをまとめたGitHubリポジトリ[5]や、DeepSeek、Llama、Qwenなどを並べた2026年版の比較表[6][5]、3090と5060 Tiを軸にしたマルチGPU構成のガイド[6]が公開されています。用途に合わせたセットアップがしやすくなったのは、ありがたいところです。18個試しても消えなかった現役モデルの存在は、ローカルLLM選びが単なる新しさ競争ではなく、自分の環境と用途に合う最適解を探す作業だということを示しています。次の「置き換え」が見つかるかどうかは、試す側の構成と選択にかかっているように思えます。
RECENT COMMENTS