巨大MoEモデルをスマホやノートPCで動かすため、llama.cppの上にストリーミング層を追加したプロジェクトがHacker Newsに投稿されました。MoEはトークンごとに一部のパラメータだけを計算する仕組みで、エキスパートを必要な時に読み込む手法では約2倍の速度向上も報告されています。
カテゴリー: AI
続報・DeepSeek、中国AI輸出規制の登録を完了し推論基盤も公開
中国がAI関連23技術を輸出管理の対象とする目録改定案を公表する中、DeepSeekとMiniMaxが登録手続きを完了したと10月22日に報じられました。DeepSeekは推論フレームワークDeepInferを公開し、MiniMaxは米欧などでの申請制利用枠を整備。開放と規制の境界が見え始めました。
続・Gemini Agent最新、仕事の入口を一本化する設計とコスト管理
Google Cloudが業務用の単一汎用エージェント「Gemini agent」を発表しました。GmailやDocsなどWorkspaceへの組み込み、モデルの使い分けと支出上限によるコスト管理が柱です。Fortune 100の約90%がGemini Enterpriseを利用するなど、導入規模の数字も明らかになりました。
脱獄したPS5が自宅のAIサーバーになる、llama.cpp移植が話題
脱獄したPS5のGPUでllama.cppを動かし、家庭のLANにAIモデルを提供する「PS5LM」が話題です。Qwen 3.5 9Bで毎秒55トークンなど実測が示され、OpenAI互換APIでClaude Codeも動きます。比較論や削除リスクの議論も紹介します。
続・スマホ向けMoEストリーミング層、その後を支える技術と実証の動き
スマホやノートPCで巨大MoEを動かすストリーミング層のその後を追った。32GBノートPCで80B MoEを37トークン/秒で動かす報告や、動的エキスパートオフロードの専用フレームワークが登場。一方で注目は限定的で、速度の壁に挑む研究も進む。
3万円ミニPCでFlash Next推論、GPUなしSnapdragonの実力
3万円台のSnapdragonミニPCでGPUなしのローカル推論を試す検証が話題です。Q4量子化モデルで読み込み315トークン/秒などの実測を報告し、2台600ポンド構成も公開。NPUは読み込みが得意で生成はCPUが優位など、安価なARM機での推論の現在地がわかります。
続報・Gemini Spark全世界展開へ:PCを閉じても働くエージェントのその後
Google I/O 2026で発表された24時間型AIエージェント「Gemini Spark」が全世界で利用可能になった。ノートPCを閉じても動作し続け、MacOSアプリへの統合も公式に示されている。一方、実使用レビューでは「必需品か、あると便利か」という検証が始まっている。
続・OpenClaw追跡:AIに読ませる解説書、レビュー4割短縮の評価
自分のPCで動くオープンソースAIエージェント「OpenClaw」のその後。非営利財団が運営し有料サービスを持たない設計が改めて示された一方、有志の開発ドキュメントはAI2種の検証で「レビュー約4割短縮」の評価を得ました。最新版には6,844コミットが含まれます。
続・エージェント追跡:個人がAIをgVisorで囲う実践が広がる
AIエージェントを安全に動かす隔離環境づくりが、個人開発者の現場にも広がっています。Hacker Newsでは、カンバンボードでタスクを回しgVisorで囲う個人プロジェクトが話題に。企業の83%がエージェント導入を計画し、AI生成コードの45%がセキュリティテストに不合格となる中、隔離の選択肢は4つに整理されつつあります。
続・Hermes追跡(3)、70超のツールと自己改善の実像
NousResearchのAIエージェント「Hermes」追跡の第3弾。前回の三層構造に続き、70以上のツールと28のツールセット、DockerやSSHなど隔離環境での実行、SQLiteでのセッション保持という実行基盤を整理。スター数9万5600の人気の一方、ベンチマークの具体値は素材からは確認できなかった。













RECENT COMMENTS