「モデルの中身を変えずに、生成を3倍以上速める。」そんな手法の最新版「EAGLE-4」が公開され、ローカルLLMコミュニティで話題になっています[1]。EAGLE-4は、EAGLEファミリーの最新世代です[2]。正式名称は「Extrapolation Algorithm for Greater Language-model Efficiency」で、頭文字がそのまま名前になっています[2]。仕組みは「推測的デコーディング」と呼ばれる高速化です。小さなドラフトモデルが先回りして複数のトークンを予測し、本体モデルがまとめて検証します。出力の分布は本体モデルと同じまま、速度だけを引き上げるのが大前提です[2]。
火付け役のひとつがRedditです。ハッカー文化の色濃いr/LocalLLaMAにスレッドが立ち、「数字がすごい」との反応が集まりました[1]。スレッドでは「現時点で対応するのはQwen3.8-27Bだけだが、この数字は見事だ」と評されています[1]。投稿者はllama.cppやvLLMに実装が届く日を注視したい、とも述べています[1]。llama.cppはPC1台でLLMを動かす際に広く使われるエンジンで、vLLMはサーバー向けの推論エンジンです。両方に届けば、ローカル勢にも恩恵が回ってくるというわけです。
注目の数字はベンチマークです。Qwen3.8-27Bを対象に、素の状態(バニラ)からの速度倍率を4手法で並べました。MTPが2.22倍、DSparkが2.57倍、DFlash 2が2.80倍に対し、EAGLE-4は3.59倍に達しています[1]。比較対象はいずれも推測的デコーディング系の手法で、相手として自然なそろいです[1][5]。実績ある手法をことごとく上回った結果であり、スレッドの驚きも頷ける数字といえます[1]。
公式リポジトリを見ると、設計思想がはっきりします[2]。キャッチフレーズは「One Flexible Drafter for All Batch Sizes and Hardware」です。1つのドラフターで、バッチサイズもハードウェアもワークロードもまかなうという意味です[2]。ドラフトと検証のコストを実測しながら、推測木の規模を調整します[2]。動いている環境に合わせて、戦略を変える仕組みです。推測木とは、先回り予測を枝分かれさせ、本体モデルにまとめて判定させる構造のことです。内部にはスライディングウィンドウ式のドラフト層、低ランクの候補ヘッド、追記専用のドラフトキャッシュを備えます[2]。ドラフトの構造は、密なタイプと潜在MoEタイプの両方が実装されました[2]。MoEは、計算を複数の専門家に分ける方式です。
セットアップまわりの工夫も目につきます。リポジトリの本体はeagle_harnessというpipインストール可能なパッケージです。SGLang、vLLM、TokenSpeedの3エンジンに、プラグイン経由でドラフトを提供します[2]。エンジンが公開するフック(拡張点)に登録する方式で、実行時にエンジンへ手を加えません[2]。フックを持たない既存エンジン向けには、別の手段が用意されています。バージョンを固定したwheel(Pythonパッケージの配布形式)や、コンテナイメージです[2]。バージョン固定の情報は、Release settingsの一箇所にまとめられています[2]。wheelはGitHubのv0.1.0リリースにも添付されました[2]。測定の公開方針も徹底されています。ロード時間、greedy正解性、リクエスト機能、スループットを、条件付きで分けて報告するサポートマトリクスです[2]。スループットは仕事時間あたりの生成トークン数を指し、大きいほど速いことを示します[2]。
系譜で見ても、積み上げは着実です[3]。初代EAGLE(ICML 2024)は13Bモデルでバニラ比3倍を達成し、Medusa比でも1.6倍でした[3]。EAGLE-2はドラフトの信頼度から受容率を推定し、推測木の形を動的に変えて4倍に到達します[3]。EAGLE-3は低層・中層・高層の意味特徴を融合する学習法を導入しました。速度は5.6倍まで伸び、NeurIPS 2025に採択されています[3]。いずれもVicuna 13B、RTX 3090 2枚、fp16(半精度)での測定です[3]。学習も8枚のRTX 3090で1〜2日とされ、GPUが少なくても手が届く点が支持を集めてきました[3]。EAGLE-4についても、公式ブログや解説記事が「単一の適応型ドラフター」を軸に紹介し[5][5]、X(旧Twitter)でも「DFlash 2を上回る」との投稿が拡散されています[4]。さらに、DSpark、EAGLE、DFlash、MTPのどれがいつコスト面で割に合うかを試算する記事も現れました[5]。
一方で、冷静に見るべき点もあります。まず、現時点で測定が示されているのはQwen3.8-27Bとの組み合わせだけです[1][2]。Redditの驚きは「対応モデルはまだ1つ」という前提の上のものです。他モデルでの数字が出ない限り、汎用性は未知数といえます[1]。条件面も要確認です。リポジトリが示す代表測定は、NVIDIA B300を4枚使った1リクエスト・温度0という条件でした[2]。EAGLE-4は環境に合わせて戦略を変える設計だけに、速度倍率は環境ごとに動きます。Redditの3.59倍も、条件を踏まえて受け止めるのがよさそうです[1]。また、素材にはAMDなど他プラットフォームでの比較数値は見つかりませんでした。ローカル定番のllama.cppへの実装も、まだ待ち状態です[1]。
それでも方向性は明快です。ドラフト戦略が環境に自分で合わせてくるなら、手法選びの負担を1つのドラフターに任せられます。どれをどの環境で使うか、という悩みが減るというわけです。対応モデルが増えるか、llama.cppやvLLMに実装が届くかが、次の注目点です[1]。モデルを替えずに速くする競争は、世代の新しさではなく、適応力で決まる段階に入ったようです。
RECENT COMMENTS