アーカイブ: 2026年10月23日

続報:Claudeのモデル選びが変わる Opus 5.5標準、Fable 5.1は難問向け

Claude公式ドキュメントが更新され、標準はOpus 5.5、難しい推論や長時間のエージェント作業はFable 5.1という使い分け指針が示されました。モデル能力や系列をAPIで取得でき、推論のON/OFF制御も細分化されています。比較記事は増えたものの、素材に具体的な数値はありませんでした。

使う分だけ読み込む:巨大MoEをスマホやPCで動かすストリーミング推論

MoEモデルの専門家を必要な分だけディスクやRAMから読み込む「ストリーミング推論」の試みが相次いでいます。llama.cppでは30B級モデルが16GB GPUで動き、読み込みと計算の重ね合わせで約2倍の速度向上も報告されました。ローカル推論のメモリとの付き合い方が変わる可能性を示す話題です。

続・ローカルAIの最新動向、CPUで動く音声合成と医療特化モデル

KittenMLが重みを3値に圧縮する1.58bit方式の音声合成モデルKitten-TTS 2を公開し、CPUだけでリアルタイム推論が可能になりました。医療特化の124Bモデルも登場するなど軽量・特化路線が加速しています。本記事では各モデルの中身と実用上の留意点を整理します。

巨大MoEモデルをスマホで動かす、llama.cpp活用の新レイヤーが登場

巨大MoEモデルをスマホやノートPCで動かすため、llama.cppの上にストリーミング層を追加したプロジェクトがHacker Newsに投稿されました。MoEはトークンごとに一部のパラメータだけを計算する仕組みで、エキスパートを必要な時に読み込む手法では約2倍の速度向上も報告されています。

CALENDAR

2026年10月
日 月 火 水 木 金 土
 123
45678910
11121314151617
18192021222324
25262728293031

ARCHIVES

CATEGORIES