BigMoeOnEdgeが8〜16GB GPUやMacでMoEモデルを速く動かすと報告されました。Qwen3.6-35Bで8GB GPUは約35 tok/s、12GBでは約45 tok/sとされ、自動設定とllama.cpp互換が注目点です。
アーカイブ: 2026年11月
続・Meta Muse、専用VMとSentinelが示す信頼の設計
[2026-11-20 更新] Metaの個人向けAIエージェントMuseは、2026年9月に米国で始まりました。今回は推論性能よりも、専用VMやSentinel、Stripe Linkによる決済、Amazonのブロックなど運用設計が焦点です。料金と権限の扱いから、日常利用の落とし穴がわかります。
ローカルAIエージェントの推論速度と記憶の話
[2026-11-18 更新] エージェントの話題はモデル単体の性能から最適化と最小設計へ移っています。LLMエージェントの最適化サーベイとPiのアーキテクチャから、記録・分岐・圧縮・学習の仕組みの重要さを読み解きます。XトレンドのGPT-6.2 AstraやローカルLLMの速度改善スキルも追跡します。
続・llama.cpp v1.0、壊れる前提の安定版
[2026-11-20 更新] llama.cpp v1.0は、macOS向けネイティブアプリとggml 1.0の安定版の契約が中心です。RTX 3090で最大55%速くなった報告もありますが、API削除やRPCの境界など、既存の統合が確認すべき変更が焦点です。速度より、壊れ方を予告する版として読むのが要点です。
続・Qwen4:Max PreviewとFlash/27Bの行方
[2026-11-20 更新] AlibabaがQwen4-Maxを公開し、2.4Tでも71BアクティブとN-gramキャッシュで効率化を狙う。社内ではトークン使用量を最大35%減らしたと報告されていますが、外部評価ではばらつきが指摘されています。ローカル実行情報は示されていません。
続・Gufo、2台連携とベンチ集計で見るStrix Haloの現在地
[2026-11-19 更新] Gufoのベンチページは、Strix Halo単機でQwen3.8 Flash-Next推論を測定し、llama.cppの参照や量子化、MTP設定まで明示しています。入力2048トークン・出力128トークンや下書き長1から7の制限など、条件表として有用です。
Intelのローカル音声AI、新ASRと推論環境が話題
[2026-11-15 更新] Intel Core UltraのローカルAI推論で、CPUだけでもLlama-3.1-8Bが実用速度に達しました。NPUはPhi-3級で22.4 t/sと速い一方、固定サイズや量子化設定の壁があります。今回の追跡記事では、速度と落とし穴を整理します。
続・NVIDIA:偽請願とGPU不足の最新動向
続報です。NVIDIAのCEO交代をめぐり、復帰を求める請願が拡散しましたが、OpenAIの文書を流用した偽物との指摘が出ています。一方で、AI推論向けのGPU不足は、黄氏の退任やスタートアップへの資金循環と結びつけて議論されています。
AIチャットは性能差より監視と推論設計が分かれ目
[2026-11-18 更新] OpenAIがGPT-6.2 AstraとSolを公開し、AIチャット総合が動きました。Astraは約78%、タスク約3ドルとされ、SolはAstraの約5分の1費用でコーディング性能に迫るとの評価もあります。価格と推論設計の分岐、ローカル実行の現状が分かります。
AIエージェントは業務の入口で試されている
AIエージェントは、問い合わせ処理や見積準備、審査など業務の入口で試されています。Shopifyでは対応時間が4時間から3分、Rampでは審査が48時間から5分になったという報告があります。成功例の裏にある制約と調達上の注意点を見ていきます。













RECENT COMMENTS