🔁 前回の続き: 続：Meta Muse、接続摩擦と推論設計の最新動向 📌 エグゼクティブサマリーMetaの個人AIエージェントMuseで、エージェント自身が自分の箱を語った事例が話題です。2vCPUの小さな仮想マシンと、ブラウザを別VMに分離する設計が見えました。推論より実行環境の分離と、無料提供 […]
カテゴリー: AI
🔁 続・llama.cpp MoE、専門家オフロードと推論の現在
🔁 前回の続き: llama.cpp MoE、複数専門家とキャッシュの追跡 📌 エグゼクティブサマリーllama.cppのMoEでは、専門家を実行メモリからCPUへ逃がす仕組みが注目されています。LLaMA-MoEは動いているパラメータを3.0〜3.5Bに抑え、専用フレームワークはllama-ser […]
🔁 追跡：PS5LMの限界とhackerの夢、ローカルAIのその後
🔁 前回の続き: 続・PS5LM最新、GPU推論でAPI端末化 📌 エグゼクティブサマリーPS5LMは脱獄PS5でllama.cppを動かし、AIのローカル推論を担う試みです。GPU推論やAPI対応が進む一方、メモリ制限やhackerの関心、実用性の議論も目立ちます。今回の追跡では数値と限界から現在 […]
メールHTMLをAI前に無害化するInBoxWall
📌 エグゼクティブサマリーInBoxWallは、aiエージェントにメールを渡す前にHTMLを無害化するローカルMCPサーバーです。隠しCSSやUnicodeなどのプロンプト注入を削ぎ、安全境界をLLMの外に置く設計です。関連するローカルメールAIも注目されています。 メールは、AIにとって危険な入力 […]
🔁 続MeetCap：ローカル録音とAI要約の橋渡し
🔁 前回の続き: 続・MeetCapが示す話者分離とAI要約の落とし穴 📌 エグゼクティブサマリーMeetCapがHacker Newsに出ました。ローカルで二チャンネル録音し、GPU推論で文字起こし、AI要約をObsidianへ出す流れが追跡できます。aiエージェント向けのflash的な速さより、 […]
🔁 最新：Claude CodeはPiで環境分離の先へ
🔁 前回の続き: 追跡：Claudeサブエージェントはpiで並列運用へ 📌 エグゼクティブサマリーPi-cowboyがCodex、Claude Code、OpenCodeをサブエージェントに使う試みがHacker Newsに出ました。公式Docsでは説明が15,000トークン超で警告、Pi側は並列既 […]
🔁 続：llama.cppがCohere2MoEをローカル推論へ
🔁 前回の続き: llama.cppがCohere対応を進めた 📌 エグゼクティブサマリーllama.cppがCohereのcohere2-MoEをb9626/b9637で対応し、North Mini Code 30Bのローカル推論に近づきました。実測値は素材にありませんが、対応の進み方が見えます。 […]
🔁 続報：llama.cppがCohere対応を深めた最新状況
🔁 前回の続き: llama.cppがCohere対応を進めた 📌 エグゼクティブサマリーCohereがllama.cpp対応を進め、North Micro Visionの視覚エンコーダやcohere2-MoEが対応に。30B総パラメータで3Bアクティブ、256Kコンテキストなど数値が示され、aiの […]
🔁 最新：ローカルLLMは貴族の遊びか 損益とVRAMで追跡
🔁 前回の続き: 続：160GBミニPCと256GB級で見るローカルLLMの階層 📌 エグゼクティブサマリーオープンウェイトの性能向上と150W級推論機の話題で、ローカルLLMは単純な貴族の遊びではなくなっています。ただ16GB VRAMや損益分岐の壁も残ります。性能・ライセンス・構成の最新動向から […]
🔁 追跡：AI漫画スレはプロンプト共有と評価の場へ
🔁 前回の続き: 続・AI漫画スレ、6〜10コマ指定と品質評価の行方 📌 エグゼクティブサマリーAI漫画スレでは、画像だけでなくプロンプトや設定ファイルの共有が本格化しました。1ページ6〜10コマ指定は守られないことが報告され、評価は生成力から再現性へ移っています。スレと外部評価動向から、AI漫画制 […]
RECENT COMMENTS