[2026-11-11 更新] Metaの個人AIエージェントMuseは、会話の賢さより実行設計が問われています。Secure VM、記憶、承認、ローカルモデル、価格やモデル名の混乱など、公開情報から読み取れる評価軸と限界を整理します。
0.1B埋め込みモデルが示すローカルRAGの現実
Redditでは、0.1B級の埋め込みモデルが8B級を置き換えたという報告が話題になりました。ローカルRAGでは推論の速さと検索品質のバランスが重要で、小モデルでも用途次第で有力です。ただし評価は検索指標に限られ、回答精度とは別です。
続・NVIDIA：Blackwellのメモリ遅延とMLPerfでの完勝
BlackwellがMLPerf Training v5.1で全項目最速となり、B200のmicrobenchmarkではメモリ遅延が58%減りました。AIの推論セッションでは、データのやり取りと次バージョンのFP4の精度が焦点になります。
続・AIチャット総合：価値観と加速で変わる選び方
OpenAIの仕様更新、行動規範比較、METRの加速評価、市場シェア変化が話題です。ChatGPTは日本で39.36ポイント下落し2位、AIの寄与は約80%と示唆されました。選び方が性能から運用・価値観へ移った状況が伝わります。
続・NVIDIA：Blackwell論文が示すFP4と省エネの実測
NVIDIAのBlackwellを巡り、MLPerfで全項目最速と報告されました。さらに論文ではB200がH200比で学習スループットが1.85倍、エネルギー効率が32%向上したと実測されています。AIの推論と学習で、FP4と省エネの差が焦点です。
続・Qwen、ローカル実行と評価の落差を追う
Qwen3.8系の公開とローカル推論が同時に進み、Strataとllama.cppの速度差や27Bの評価と不満が話題です。API版の拡充やAIバブル関連語も加わり、実運用では速さと安定を自分の構成で測る必要があり、分かれ目が見えます。
続・ThreadShelf、MCP連携でObsidian安全に
ThreadShelfの続報です。MCPサーバーは9ツールでObsidianのvaultを既定読み取り専用にし、削除はMCP外に限定します。Hacker Newsの注目度は小さく、AIバブル関連トレンドの中でローカル推論の安全な接続が進みます。
Foundry LocalがQwen3.8-27Bをローカルで速く動かす
Foundry LocalはQwen3.8-27Bをローカルで動かし、GitHub Copilotに接続します。量子化で約18GB、24GBのGPUメモリで動作し、llama.cppより速いという報告があります。実用性と制約がわかります。
続・RTX 3090、RAMと量子化でDeepSeek Flashを回す
RTX 3090でDeepSeek Flashを動かす試みです。Delta推論エンジンv0.93は192GB RAMで41 tok/s、64GB RAMでも使えると報告されています。品質は99問で52問から57問に改善し、入口がRAMと量子化へと広がりました。
llama.cpp、ローカルAIを1MBアプリに
[2026-11-11 更新] llama.cppでは、KV cacheをセッションをまたいで再利用し、起動待ちを40〜70%減らすTokiRecurが注目されています。モデル切替を2秒以内にするスリープモードや、16GBのGPUで27Bエージェントを動かすTierKVも進んでいます。
RECENT POST
-
2026.11.11
続・RTX 3090、2026年の中古で24GBとNVLinkが再評価される -
2026.11.11
続・Qwen4、4種とFlashが示すローカル実行の行方 -
2026.11.10
続・llama.cppの切替高速化、KV cacheの残し方が鍵
RECENT COMMENTS