「40Bあるのに、1トークンあたり動くのはわずか2.5B」。そんな特徴のモデルが、ローカルLLMコミュニティで話題になっています。AI企業Recursiveが公開した初のモデル「Recursive Flint」です[2][3]。Redditのr/LocalLLaMAには「待ち望んでいた『Qwen3.8 35B』では?」という投稿が立ち上がりました。WIRED誌も「scary good」(怖いくらい優秀)と報じています[1]。コードベースを調べ、バグを直し、テストも書くコーディングエージェント向けです。テキスト専用で、OpenAI互換のツール呼び出しにも対応します[3]。重みはApache 2.0で公開されています[3]。投稿者は、十分なGPUを持たない層のコーディング環境を動かす可能性に期待を寄せます[1]。
FlintはMoE(専門家ネットワークを切り替えて計算を減らす仕組み)を採用します。全体は39.8Bパラメータですが、1トークンあたり動くのは約2.5Bです[3]。構成は49層で、2層が従来型、47層がMoEです[3]。各MoE層には256個の専門家があり、選ぶ役割のルーターがトークンごとに6個決めます。常に動く共有専門家も1個あります[3]。2.5Bには出力層も含まれ、本体だけなら約2.2Bです[3]。注目する場所を決めるアテンションも2種類です。直近513トークンの窓だけを見る層が35、全体を見る層が14で、計算量を抑えます[3]。
性能報告も具体的です。Redditの投稿者いわく、TerminalBench 2.1とSWE-bench Pro v2では、Qwen3.6-35B-A3Bに明確な差で勝ったといいます[1]。開発元も、総パラメータ50B未満のMoEとしては、SWE-Bench Pro v2、Terminal-Bench 2.1、SWE-Bench Verifiedで首位と主張します[2]。IFEvalでは95.1%、SWE-bench Verifiedでは74.2%という数値も報じられました[3]。総サイズ25〜40Bのdenseモデル(全パラメータを毎回動かす従来型)に性能で匹敵しながら、5倍以上速く動くといいます[2]。評価条件も、タイムアウト5時間のエージェント試験を5回以上行う厳しめのものです[2]。
ローカル実行の目安もはっきりしています。最適化した推論エンジンでは、M4 ProのMacBook Proで125トークン/秒超。64GBのNVIDIA RTX Sparkでは150トークン/秒超です[2]。短いコンテキストなら、同クラスの最大2倍の速度ともいいます[2]。4ビット量子化(重みを圧縮してメモリを節約する仕組み)にすると重みは約23GB。48GBのMac(M4 Pro、M5 Pro、M5 Max)や48GBのGPUが動作条件です[3]。コンテキスト長はモデルカードで262,144トークン、ブログでは最大512kに言及しています[3]。
開発の進め方もユニークです。Recursiveは「Eureka Machine」という自動研究システムを持ち、アイデアを出し、実装し、テストして、次に試す候補を自分で選びます[3]。Flintはデータから推論最適化まで、ほぼ全てをこのシステムが支えました。小規模チームが4か月足らずでゼロから完成させています[2]。構成も、35B総・3B活性の初期案から探索を重ね、40B総・2.5B活性に落ち着きました[3]。出力層を4ビットに量子化する、常識に反する選択も盛り込まれています[3]。
しかし、手放しで褒められない数字もあります。Terminal-Bench 2.1では54.9%にとどまり、denseのQwen 3.8の73.0%に大きく届きません[3]。開発元のチャートでも、最強のdenseモデルには及ばないと示されています[3]。さらに投稿者は追記で、初期報告ではOrnith-1.5がこのクラスの標準のまま、と伝えました。実装初期の不具合の可能性はあるものの、期待ほど明るくはないとしています[1]。投稿者自身もダウンロードして検証する予定を述べています[1]。
Flintは「ローカルでコーディングエージェントを動かす」選択肢を具体化したモデルです。40Bで2.5B活性という設計と、MacやGPUでの実測速度が示すのは、省メモリで速い推論という方向性です[2][3]。50B未満のMoEでエージェント性能の首位を主張するモデルが、身近なハードウェアで動く。この組み合わせが注目を集めた理由のようです。denseの強豪や既存の標準を超えられたかは、今後の実使用報告次第です。llama.cppの対応やUnslothのGGUF(llama.cppで使える重みファイル)も既に出ているので[1]、追試の結果が注目されます。
RECENT COMMENTS