BigMoeOnEdgeが8〜16GB GPUやMacでMoEモデルを速く動かすと報告されました。Qwen3.6-35Bで8GB GPUは約35 tok/s、12GBでは約45 tok/sとされ、自動設定とllama.cpp互換が注目点です。
アーカイブ: 2026年11月16日
続・Meta Muse、専用VMとSentinelが示す信頼の設計
Metaの個人向けAIエージェントMuseは、専用仮想マシンとSentinelで権限を管理し、外部接続を制御します。公式の安全設計は進みましたが、レビューでは便利さと不快感が同時に報告されました。記事では信頼の分かれ目と課題を整理します。
ローカルAIエージェントの推論速度と記憶の話
AIエージェントを自分のPCで動かす試みが広がっています。ローカル推論の速度を測るAA-AgentPerf-Localは168ターン、約56Kトークンの会話を再生します。記憶性能やモデルの噂も加わり、実運用前の課題が見えてきました。
続・llama.cpp v1.0、壊れる前提の安定版
llama.cpp v1.0は安定版ですが、更新ではAPI削除やサーバーの厳格化が起きました。macOS向けネイティブアプリやggml 1.0も話題です。今回はAI推論の運用契約と実測の落とし穴を追います。
続・Qwen4:Max PreviewとFlash/27Bの行方
Qwen4-Max-Previewが2026年11月11日に公開されました。マルチモーダル推論を掲げる一方、ライセンスは独自で、ローカル実行の可否は未確認です。Flashや27Bの行方と、ベンチマークの注意点を追います。技術報告の系譜も整理します。








RECENT COMMENTS