「モデルの中身を変えずに、生成を3倍以上速める。」そんな手法の最新版「EAGLE-4」が公開され、ローカルLLMコミュニティで話題になっています[1]。EAGLE-4は、EAGLEファミリーの最新世代です[2]。正式名称は「Extrapolation Algorithm for Greater Language-model Efficiency」で、頭文字がそのまま名前になっています[2]。高速化の仕組みは「推測的デコーディング」です。小さなドラフトモデルが先回りして、複数のトークンを予測します。本体モデルがその予測をまとめて検証する流れです。出力の分布は本体モデルと同じまま、速度だけを引き上げるのが大前提です[2]。
火付け役のひとつがRedditです。ハッカー文化の色濃いr/LocalLLaMAにスレッドが立ち、「数字がすごい」との反応が集まりました[1]。スレッドでは「現時点で対応するのはQwen3.8-27Bだけだが、この数字は見事だ」と評されています[1]。投稿者は、llama.cppやvLLMに実装が届く日を注視したいと述べています[1]。llama.cppはPC1台でLLMを動かす際に広く使われるエンジンです。vLLMはサーバー向けの推論エンジンです。両方に届けば、ローカル勢にも恩恵が回ってきます。
注目の数字はベンチマークです。Qwen3.8-27Bを対象に、素の状態(バニラ)からの速度倍率を4手法で並べました。MTPが2.22倍、DSparkが2.57倍、DFlash 2が2.80倍です。対してEAGLE-4は3.59倍に達しています[1]。比較対象はいずれも推測的デコーディング系の手法で、相手としてそろいです[1][5]。実績ある手法をことごとく上回った結果です[1]。スレッドの驚きも頷ける数字といえます。
公式リポジトリを見ると、設計思想がはっきりします[2]。キャッチフレーズは「One Flexible Drafter for All Batch Sizes and Hardware」です。1つのドラフターで、バッチサイズ(同時処理するリクエスト数)もハードウェアも仕事量もまかなうという意味です[2]。ドラフトと検証のコストを実測しながら、推測木の規模を調整します[2]。推測木とは、先回り予測を枝分かれさせ、本体モデルにまとめて判定させる構造です。動く環境に合わせて戦略を変える仕組みです。内部には三つの要素を備えます[2]。まず、スライディングウィンドウ式のドラフト層です。直近の範囲だけを順送りで見る方式です。次に、候補を出す低ランクのヘッドです。低ランクは、小さな行列で表現を圧縮する形式です。最後は、追記専用のドラフトキャッシュです。予測に使う計算結果を溜めておく領域です。ドラフトの構造は、密なタイプと潜在MoEタイプの両方が実装されました[2]。MoEは、計算を複数の専門家に分ける方式です。
セットアップまわりの工夫も目につきます。リポジトリの本体は、pipで入れられるeagle_harnessというパッケージです。SGLang、vLLM、TokenSpeedの3エンジンに、プラグイン経由でドラフトを提供します[2]。エンジンが公開するフック(拡張点)に登録する方式です。実行時にエンジンへ手を加えません[2]。フックを持たない既存エンジン向けには、別の手段もあります。バージョンを固定したwheel(Pythonパッケージの配布形式)や、コンテナイメージです[2]。バージョン固定の情報は、Release settingsの一箇所にまとめられています[2]。wheel自体は、GitHubのv0.1.0リリースにも添付されました[2]。測定の公開方針も徹底されています。ロード時間、greedy正解性、リクエスト機能、スループットを、条件付きで分けて報告するサポートマトリクスです[2]。greedyは、常に最も確率の高い選択をする生成方式です。スループットは、時間あたりの生成トークン数を指します。大きいほど速いことを示します[2]。
系譜で見ても、積み上げは着実です[3]。初代EAGLE(ICML 2024)は、13Bモデルでバニラ比3倍を達成しました。比較対象のMedusa比でも1.6倍です[3]。EAGLE-2は、ドラフトの信頼度から受容率(本体が予測を受け入れる割合)を推定します。推測木の形を動的に変えて、4倍に到達しました[3]。EAGLE-3は、低層・中層・高層の意味特徴を融合する学習法を導入しました。速度は5.6倍まで伸び、NeurIPS 2025に採択されています[3]。いずれもVicuna 13B、RTX 3090 2枚、fp16(半精度)での測定です[3]。学習も8枚のRTX 3090で1〜2日とされます。GPUが少なくても手が届く点が、支持を集めてきました[3]。EAGLE-4についても、公式ブログや解説記事が「単一の適応型ドラフター」を軸に紹介しています[5][5]。X(旧Twitter)では「DFlash 2を上回る」との投稿が拡散されました[4]。さらに、DSpark、EAGLE、DFlash、MTPのどれがいつコスト面で割に合うか試算する記事も現れています[5]。
一方で、冷静に見るべき点もあります。まず、測定が示されているのはQwen3.8-27Bとの組み合わせだけです[1][2]。Redditの驚きは「対応モデルはまだ1つ」という前提の上のものです。他モデルでの数字が出ない限り、汎用性は未知数といえます[1]。条件面も要確認です。リポジトリの代表測定は、NVIDIA B300を4枚使ったものでした。リクエスト1件、温度0(ランダム性を消した設定)の条件です[2]。EAGLE-4は環境に合わせて戦略を変える設計です。速度倍率は環境ごとに動くことになります。Redditの3.59倍も、条件を踏まえて受け止めるのがよさそうです[1]。また、AMDなど他プラットフォームでの比較数値は見つかりませんでした。ローカル定番のllama.cppへの実装も、まだ待ち状態です[1]。
それでも方向性は明快です。ドラフト戦略が環境に自分で合わせてくるなら、手法選びの負担を1つのドラフターに任せられます。どれをどの環境で使うか、という悩みが減るというわけです。対応モデルが増えるか、llama.cppやvLLMに実装が届くかが、次の注目点です[1]。モデルを替えずに速くする競争は、世代の新しさではなく、適応力で決まる段階に入ったようです。
RECENT COMMENTS