続・HBM売り切れ時代のローカルAI、2bit節約術と代替路線を追う

AI用メモリが、先に売り切れる時代が来ました。サムスン、SKハイニックス、マイクロンの大手3社は、2027年分のHBMと通常DRAMの生産能力をすでに売り切ったと伝えられています[7]。HBMはAIチップに高速でデータを供給する専用メモリです。AIサーバーの需要が通常DRAMと同じ製造能力を取り合い、次世代品の生産もすぐには軌道に乗らないため、供給は2027年まで厳しいと予測されています[3]。

数字で見ると深刻さがわかります。調査会社TrendForceは2027年のHBM価格見通しを引き上げ、混合平均販売単価(ASP)が前年比121%上昇すると予測しました[3]。高価な新世代HBM4の占比が増え、2027年後半にはHBM4eも立ち上がる見通しです[3]。Redditのr/LocalLLaMAにも「来年HBM価格は200%跳ねる」「DRAMは2桁%の値上がり」という警戒投稿が上がり、GPU値上げへの備えを呼びかける声が目立ちます。

興味深いのは、GPUやASIC(AI向けに作り込んだ専用チップ)メーカーが、搭載メモリ容量を減らす方向に動き始めた点です。需要が減ったわけではなく、供給とコストの制約への対応です[3]。HBMはメモリチップを積み重ねた構造で、12-Hiは12段積み、8-Hiは8段積みを指します。8-Hiに下げると使うダイが減り、同じ生産量でより多くのGPUを賄えます。ただし基底部のダイ費用は段数に比例して下がらないため、2027年の8-Hiは12-Hiより1Gビットあたり10〜20%高くなる見込みです[3]。節約のはずが、単価は逆に上がるという落とし穴です。

値上がりの波は一般製品にも及んでいます。消費者向けSSDのWestern Digital SN7100は1月以降52%も値上がりし、Xbox Series Xの値上げやSteam Machineの投入価格への影響も報じられました[7]。製造が始まっていないシリコンへの5年分の先行発注が行われているとの指摘もあります[7]。巨大企業が生産量を先取りし、中規模事業者は残った高価な市場で調達せざるを得ない構図が、記事では「AI税」と呼ばれています[7]。

一方で、その裏では「少ないメモリでどう動かすか」の工夫が進んでいます。目を引くのは、GPUに入りきらないモデルを動かす推論アイデアです。モデルの2bit版(重みを極端に圧縮したコピー)をVRAM(GPU側のメモリ)に置き、残りの正確な重み(6〜8bit)をシステムメモリに置く構成です。2bit版がトークンの下書きを作り、完全版が検証する推論方式で、下書き役が追加メモリを食わないのが利点です[5]。GPUとCPUの間を流れるデータもごくわずかで済むといいます[5]。投稿者はこの手法を自社アプリで使い、コストを大きく減らしたと報告しています[5]。

音声合成でも徹底した圧縮が登場しました。KittenMLのKitten-TTS 2は世界初の1.58bit TTSで、重みを-1、0、+1の3値だけにしたモデルです。1.7BパラメータながらCPUだけでリアルタイム動作し、5秒未満の参照音声からのゼロショット音声クローン、多言語対応、感情表現の制御に対応します。リアルタイム生成にGPUが不要で、自前ホストも安く済む点が魅力です。コードと重みは公開されています。

ハードウェアの代替路線も動いています。HuaweiのAtlasアクセラレータでは、問い合わせの多かった新型950シリーズの情報が、中国語資料の翻訳とともに共有されました[1]。Atlas 300I Duoを3枚使う環境で最適化を重ね、GLM5.3-flashやDeepSeek系モデルの動作を試した報告もあります[1]。オープンソースモデルも多国籍化が進み、Raon-1-mini 30BやFlint 40Bなど選択肢が増えたと、「各国が協力して貢献しているようだ」と歓迎する声が寄せられました[8]。

身近な環境への組み込みも進んでいます。Hacker Newsでは、macOS 27にターミナルから呼び出せるオフラインLLMが組み込まれたとの投稿[6]や、ブラウザ上でサイト・メモ・ファイルを整理するローカルLLM「Rocus」の紹介が話題になりました[2]。日本のXでは「OpenAIのAI」「ClaudeDuet」がトレンドに浮上しています[4]。メモリを巡る競争は2027年まで続きそうです[3]。確保できた者とできない者の差が広がる中[7]、圧縮と工夫で限界を押し広げるローカルAIコミュニティの挑戦は、今後も追いかけたい動きです。

関連記事

CALENDAR

2026年10月
日 月 火 水 木 金 土
 123
45678910
11121314151617
18192021222324
25262728293031

ARCHIVES

CATEGORIES