[2026-11-22 更新] GufoはAMD Strix Haloの1台構成に特化したオープンソース推論エンジンです。統合メモリとOpenAI互換APIを生かし、拡張でモデルを増やせる設計が話題です。発表資料では速度の実測値は限られ、専用設計と制約が見えてきます。
タグ: Strix
追跡:Halogen、n-gram表とStrix Haloの壁
[2026-11-22 更新] HalogenはStrix Halo向けローカルAI推論エンジンとして話題ですが、資料では直接の実測値はほとんどありません。128GB共有メモリ、Qwen3.8-Flash-Next 125Bの実行報告、帯域の壁から、どこで勝負になるか読み解きます。
続・Gufo、2台連携とベンチ集計で見るStrix Haloの現在地
[2026-11-19 更新] Gufoのベンチページは、Strix Halo単機でQwen3.8 Flash-Next推論を測定し、llama.cppの参照や量子化、MTP設定まで明示しています。入力2048トークン・出力128トークンや下書き長1から7の制限など、条件表として有用です。
Halogen、Strix Halo一点集中で生成54〜94 tok/s——エージェント実用EPの攻防
[2026-11-18 更新] HalogenはStrix Halo向けローカル推論エンジンとして注目されますが、発表資料では詳細は明らかにされていません。FP4で125B MoEを96GiBに載せる方向と、128GB統合メモリのセットアップから位置づけを探ります。
続・Gufo、一台でFlash推論と8人同時利用、拡張が話題
[2026-11-14 更新] Gufoは用途ごとに1モデルだけを選ぶ設計や拡張レジストリ、品質報告を打ち出しました。Strix Haloの128GiB統合メモリ向けに、速度だけでなく信頼性と運用性を詰める動きです。2台連携やWindowsポートは未統合のまま紹介されています。
続・Gufoは二台のStrix HaloでQ8推論へ
Gufoの話題は、Strix Halo一台の速度から二台連携へ移りました。ThunderboltやRDMAでQwen3.8 Flash-NextのQ8を載せ、推論の限界を広げる動きです。v0.28.1とv0.31.0の統合が進み、二台構成の課題も見えてきました。
続・Gufoの最新はStrix Haloで品質と速度を両立
GufoはAMD Strix Halo専用のローカル推論エンジンです。一台構成ではFlash-Nextのprefillが1,801.01、decodeが最大116.93と報告され、品質レポートや同時運用を重視します。二台接続の数値とは条件が異なるため、直接比較はできません。
Strix Halo専用Gufoが示すローカル推論の速度
GufoはStrix Halo向けオープンソース推論エンジンです。Qwen3.8 Flash-Nextでprefill約1,801 tok/s、decode最大116.93 tok/sが報告され、2台構成のTP2も試されています。速度と品質の両立がうかがえます。











RECENT COMMENTS