Recursiveが初のモデルFlintを公開。40BのMoEで1トークンあたり2.5Bだけ動かし、50B未満のMoEとしてコーディング系ベンチマークで上位になりました。M4 Proで125トークン/秒超の推論が可能な一方、denseの強豪には及ばない数値も見えます。
タグ: Flint
続・MacBookで速いFlint 40B、2.5Bだけ動かす仕組みと4カ月開発
MacBookで毎秒125トークンの推論が話題のFlint 40Bの続報です。トークンごとに2.5Bだけ計算するMoE構造という速さの仕組みと、自動研究システムが4カ月未満で開発した実像を整理します。4ビット量子化でも16ビットと0.7ポイント以内の差に収めた点も要点です。
続報:Qwen3.6-35Bに挑むFlint、初期報告では標準モデルが依然優位
コーディングエージェント向け新モデル「Recursive Flint」(40B中2.5Bが稼働)が公開され、TerminalBench 2.1とSWE-bench Pro v2でQwen3.6-35B-A3Bを上回ったと話題です。ただし初期報告では、このクラスの標準は依然Ornith-1.5のままのようです。
MacBookで40Bモデルが毎秒125トークン、ローカル推論の実測データが充実
MacBook一台で、400億パラメータ級のAIモデルが毎秒125トークンで動く——。そんな報告がHacker Newsに投稿されました[1]。Richard Socher氏の投稿として共有された「Flint 40B」は、タイトルに「Frontier Local LLM(フロンティア級のローカルLL […]







RECENT COMMENTS