AIエージェントにメールを渡す前に、メールHTMLを無害化するローカルツールInBoxWallが公開されました。隠し文字やCSSで仕込まれた指示の埋め込みを防ぎ、安全境界をLLMの外に置く設計です。類似のローカルメールAIも注目されています。
タグ: Hacker
🔁 続:Qwen3.8 27Bの推論設定と速度のその後
Qwen3.8 27Bはツールを使う推論に強く、広い知識では最上位モデルに届きません。ローカルでは2枚のP100で約60tps、Cerebrasでは1500 tok/sの報告があります。量子化と推論設定の読み分けが、ローカル利用の分かれ目です。
🔁 続・llama.cpp MoE、複数専門家とオフロードの現在地
llama.cppのMoE改善が動いています。焦点は、複数の専門家を選ぶ設計と動的なオフロードです。LLaMA-MoEは活性パラメータ3.0〜3.5Bを掲げ、llama.moeはllama.cpp上での専門家オフロードを狙いますが、実測TPSや電力のデータはまだありません。
🔁 続:Meta Muse、接続摩擦と推論設計の最新動向
Metaが個人向けAIエージェント「Meta Muse」を発表しました。推論ループや記憶、接続の切り分けが設計の鍵です。一方で外部小売の制限と料金非公開が、日常利用の壁になっています。
🔁 続・PS5LM最新、GPU推論でAPI端末化
ジェイルブレイクしたPS5でAIモデルを動かすPS5LMが、ペイロードからGPUネイティブアプリへ進化。Qwen3.8 27Bが9〜21トークン毎秒で動き、OpenAI互換APIも使えます。ただしファームウェア条件やセットアップの重さが課題です。








RECENT COMMENTS