NVIDIAが、自律的に動くAIエージェントを安全に実行するオープンな基盤「OpenShell」を公開しました。エージェントを隔離環境で動かし、権限は外側の仕組みが判定する設計です。仕組みの詳細と、無保証など注意点まで解説します。

続きを読む →

125Bモデルを12GB GPUで動かす専用推論エンジンStrataに対し、llama.cpp側がAMD R9700向けPRでdecode速度の逆転を狙う動きが話題です。3060や3090の検証ではStrataが最大7倍近く速い一方、回答の再現性に課題も見つかりました。専用と汎用エンジンの競争が加速しています。

続きを読む →

KittenMLが重みを3値に圧縮する1.58bit方式の音声合成モデルKitten-TTS 2を公開し、CPUだけでリアルタイム推論が可能になりました。医療特化の124Bモデルも登場するなど軽量・特化路線が加速しています。本記事では各モデルの中身と実用上の留意点を整理します。

続きを読む →

巨大MoEモデルをスマホやノートPCで動かすため、llama.cppの上にストリーミング層を追加したプロジェクトがHacker Newsに投稿されました。MoEはトークンごとに一部のパラメータだけを計算する仕組みで、エキスパートを必要な時に読み込む手法では約2倍の速度向上も報告されています。

続きを読む →

中国がAI関連23技術を輸出管理の対象とする目録改定案を公表する中、DeepSeekとMiniMaxが登録手続きを完了したと10月22日に報じられました。DeepSeekは推論フレームワークDeepInferを公開し、MiniMaxは米欧などでの申請制利用枠を整備。開放と規制の境界が見え始めました。

続きを読む →

Google Cloudが業務用の単一汎用エージェント「Gemini agent」を発表しました。GmailやDocsなどWorkspaceへの組み込み、モデルの使い分けと支出上限によるコスト管理が柱です。Fortune 100の約90%がGemini Enterpriseを利用するなど、導入規模の数字も明らかになりました。

続きを読む →

脱獄したPS5のGPUでllama.cppを動かし、家庭のLANにAIモデルを提供する「PS5LM」が話題です。Qwen 3.5 9Bで毎秒55トークンなど実測が示され、OpenAI互換APIでClaude Codeも動きます。比較論や削除リスクの議論も紹介します。

続きを読む →

スマホやノートPCで巨大MoEを動かすストリーミング層のその後を追った。32GBノートPCで80B MoEを37トークン/秒で動かす報告や、動的エキスパートオフロードの専用フレームワークが登場。一方で注目は限定的で、速度の壁に挑む研究も進む。

続きを読む →

3万円台のSnapdragonミニPCでGPUなしのローカル推論を試す検証が話題です。Q4量子化モデルで読み込み315トークン/秒などの実測を報告し、2台600ポンド構成も公開。NPUは読み込みが得意で生成はCPUが優位など、安価なARM機での推論の現在地がわかります。

続きを読む →

Google I/O 2026で発表された24時間型AIエージェント「Gemini Spark」が全世界で利用可能になった。ノートPCを閉じても動作し続け、MacOSアプリへの統合も公式に示されている。一方、実使用レビューでは「必需品か、あると便利か」という検証が始まっている。

続きを読む →