BigMoeOnEdgeが8〜16GB GPUやMacでMoEモデルを速く動かすと報告されました。Qwen3.6-35Bで8GB GPUは約35 tok/s、12GBでは約45 tok/sとされ、自動設定とllama.cpp互換が注目点です。
続・Meta Muse、専用VMとSentinelが示す信頼の設計
Metaの個人向けAIエージェントMuseは、専用仮想マシンとSentinelで権限を管理し、外部接続を制御します。公式の安全設計は進みましたが、レビューでは便利さと不快感が同時に報告されました。記事では信頼の分かれ目と課題を整理します。
ローカルAIエージェントの推論速度と記憶の話
AIエージェントを自分のPCで動かす試みが広がっています。ローカル推論の速度を測るAA-AgentPerf-Localは168ターン、約56Kトークンの会話を再生します。記憶性能やモデルの噂も加わり、実運用前の課題が見えてきました。
続・llama.cpp v1.0、壊れる前提の安定版
llama.cpp v1.0は安定版ですが、更新ではAPI削除やサーバーの厳格化が起きました。macOS向けネイティブアプリやggml 1.0も話題です。今回はAI推論の運用契約と実測の落とし穴を追います。
続・Qwen4:Max PreviewとFlash/27Bの行方
Qwen4-Max-Previewが2026年11月11日に公開されました。マルチモーダル推論を掲げる一方、ライセンスは独自で、ローカル実行の可否は未確認です。Flashや27Bの行方と、ベンチマークの注意点を追います。技術報告の系譜も整理します。
続・Gufo、2台連携とベンチ集計で見るStrix Haloの現在地
[2026-11-17 更新] GufoとHalogenのStrix Halo向けローカルAI推論で、Prefillが2000トークン/秒に接近する記録が話題です。数字だけ見るとサーバー級ですが、条件が違い、単純な優劣はつけられません。再現設定やNPU活用の動きも見えます。
Intelのローカル音声AI、新ASRと推論環境が話題
[2026-11-15 更新] Intel Core UltraのローカルAI推論で、CPUだけでもLlama-3.1-8Bが実用速度に達しました。NPUはPhi-3級で22.4 t/sと速い一方、固定サイズや量子化設定の壁があります。今回の追跡記事では、速度と落とし穴を整理します。
続・NVIDIA:偽請願とGPU不足の最新動向
続報です。NVIDIAのCEO交代をめぐり、復帰を求める請願が拡散しましたが、OpenAIの文書を流用した偽物との指摘が出ています。一方で、AI推論向けのGPU不足は、黄氏の退任やスタートアップへの資金循環と結びつけて議論されています。
AIチャットは性能差より監視と推論設計が分かれ目
[2026-11-14 更新] 2026年10月の国内AIチャット市場でGeminiが首位に立ち、ChatGPTは74.1%から39.36ポイント下落しました。推論設計と使い分けが分かれ目です。本記事で最新動向を追跡します。
AIエージェントは業務の入口で試されている
AIエージェントは、問い合わせ処理や見積準備、審査など業務の入口で試されています。Shopifyでは対応時間が4時間から3分、Rampでは審査が48時間から5分になったという報告があります。成功例の裏にある制約と調達上の注意点を見ていきます。













RECENT COMMENTS