llama.cppに、Qwen4向け新構造QSAの選択処理からkq_maskを外すPRが登場し、Qwen Flash Nextで数GBのVRAM削減を掲げて話題に。QSAは4トークンのブロック単位で最大2,048トークンを選ぶ仕組みです。実装の進展と粗さというトレードオフを整理します。
アーカイブ: 2026年10月
続報・763BのDeepSeek-V4.1-Flash、1.75ビット量子化が登場
ISTA-DASLabがDeepSeek-V4.1-Flash-1017の非均一量子化「GSQ-RCO」を公開。重みを1.75〜2.25ビットまで圧縮し、Strata環境では12GB VRAMのGPU1枚での動作をうたいます。一方でllama.cpp非対応やARCベンチ未解決など、実用への課題も見えてきました。
続報:Nemotron 3.5 Bolt E4B、4GBエッジ推論の実力を追う
NVIDIAがGemma 4ベースの小型モデル「Nemotron 3.5 Bolt E4B 4GB」を公開しました。約4GBのメモリで動き、先行モデル比で品質は平均約40%向上、出力トークンは最大約80%削減です。簡潔さ重視の設計とDFlashとの併用で、ローカル音声アシスタントの現実味を高めています。
存在しなかったRTX 3080 20GBが中国で実在、AI推論も速くなる
NVIDIA未発売のRTX 3080 20GB改造カードが中国で登場し、AI向け性能制限を解除するツールでの動作も確認されました。2枚構成の実測でprefillが+20%改善、decodeは0%。規格外カードとコミュニティ製アンロックの組み合わせが注目されています。
続・DeepSeek-V4.1-Flashを2千ユーロPCで動かした結果
GPUなしのPCでDeepSeek V4 Flash(284B)を動かす実測が話題です。1トークンあたり13Bだけが稼働するMoEで、必要なのはメモリの速度でなく容量。大容量DDR5が24GB GPUより有利な一方、ローカル用重みはAPIのV4.1-Flash(552B)とは別物という落とし穴もあります。
続・Gemini Agent追跡、Deep Researchがメールや資料も読む
Geminiの研究エージェントDeep Researchが、ウェブに加えGmail・Drive・Chatを情報源にできるよう進化しています。最大数百サイトを自動で調べ、数分で複数ページのレポートを作成します。企業向けには公開情報と社内データを掛け合わせる提供も始まりました。
続・Gemini Spark追跡、学生に1年無料プランを配るGoogleの狙い
Gemini Spark追跡の続報。素材からSpark本体の新情報は乏しいものの、周辺では18歳以上の大学生にGoogle AI Plus学生プランが1年無料で提供され、使用量上限2倍、ストレージ400GB、Gemini Omniアクセスが含まれる。教育向け機能と子どもの体験管理も整っており、学習という入口への注力が読み取れる。
続・ローカルAIの最新動向、Gemini Spark日本語展開とセキュリティの影
GoogleのパーソナルAIエージェント「Gemini Spark」が日本語での展開を開始し、Xでも関連語がトレンド入りしました。ローカルAIではmacOS 27内蔵LLMや小型特化モデルが話題となる一方、推論エンジンのバックドア懸念やHugging Faceからのモデル消失など、セキュリティの影も濃くなっています。
続報:Kimi K3がClaudeに迫る、14ベンチは8対6の接戦
オープンウェイトモデルKimi K3がClaudeに迫っています。14のベンチマークはFable 5が8勝、K3が6勝の接戦で、コーディングの公開スコアはOpus 5が70.8対58.9と優位です。K3は単価約3分の1で攻め、Claude側はキャッシュ価格を75%下げて対抗しました。
続・OpenClaw追跡:AIエージェントの設計と通信の実態が見えてきた
OpenClaw追跡の今回は、公開されたアーキテクチャ文書とGitHub情報から内部設計と通信の実態を整理しました。中心のゲートウェイが各種チャットとAIをつなぎ、既定の外部通信は1日1回のバージョン確認のみとされます。外部によるセキュリティ評価の動きも出ています。













RECENT COMMENTS