[2026-11-22 更新] GufoはAMD Strix Haloの1台構成に特化したオープンソース推論エンジンです。統合メモリとOpenAI互換APIを生かし、拡張でモデルを増やせる設計が話題です。発表資料では速度の実測値は限られ、専用設計と制約が見えてきます。
タグ: Gufo
続・Gufo、2台連携とベンチ集計で見るStrix Haloの現在地
[2026-11-19 更新] Gufoのベンチページは、Strix Halo単機でQwen3.8 Flash-Next推論を測定し、llama.cppの参照や量子化、MTP設定まで明示しています。入力2048トークン・出力128トークンや下書き長1から7の制限など、条件表として有用です。
続・Gufo、一台でFlash推論と8人同時利用、拡張が話題
[2026-11-14 更新] Gufoは用途ごとに1モデルだけを選ぶ設計や拡張レジストリ、品質報告を打ち出しました。Strix Haloの128GiB統合メモリ向けに、速度だけでなく信頼性と運用性を詰める動きです。2台連携やWindowsポートは未統合のまま紹介されています。
続・Gufoは二台のStrix HaloでQ8推論へ
Gufoの話題は、Strix Halo一台の速度から二台連携へ移りました。ThunderboltやRDMAでQwen3.8 Flash-NextのQ8を載せ、推論の限界を広げる動きです。v0.28.1とv0.31.0の統合が進み、二台構成の課題も見えてきました。
続・Gufoの最新はStrix Haloで品質と速度を両立
GufoはAMD Strix Halo専用のローカル推論エンジンです。一台構成ではFlash-Nextのprefillが1,801.01、decodeが最大116.93と報告され、品質レポートや同時運用を重視します。二台接続の数値とは条件が異なるため、直接比較はできません。
続・GufoはStrix Haloを二台でつなぐ: RDMA推論の最新動向
GufoはStrix Halo専用推論エンジンですが、二台構成のGufo-TPが話題です。128GiBに収まらないQ8モデルや長い文脈を、ThunderboltやRDMAで分断して動かす狙いです。単体速度から二台連携へ、最新動向を追います。
Strix Halo専用Gufoが示すローカル推論の速度
GufoはStrix Halo向けオープンソース推論エンジンです。Qwen3.8 Flash-Nextでprefill約1,801 tok/s、decode最大116.93 tok/sが報告され、2台構成のTP2も試されています。速度と品質の両立がうかがえます。










RECENT COMMENTS