Qwen3.8 27Bはツールを使う推論に強く、広い知識では最上位モデルに届きません。ローカルでは2枚のP100で約60tps、Cerebrasでは1500 tok/sの報告があります。量子化と推論設定の読み分けが、ローカル利用の分かれ目です。

続きを読む →

Googleがオープンソースで公開したHarness2は、モデルの重みを変えずに外側の設定を再帰的に改善します。編集対象は8部品に絞られ、1ステップで最大11.5点の改善を報告しました。正解や採点器を必要としない自己改善の現在地が、数値から見て取れます。

続きを読む →

Qwen3.8-Flash-Nextで、DFlash2が同時実行1で約20%速いとの報告や、53tok/s・262Kという公開値が話題です。英語限定の量子化版は多言語を犠牲にします。速度と能力の両立への道筋を追跡します。

続きを読む →

AIエージェントをつなぐゲートウェイOpenClawは、接続と実行の境界づけを細かく進めています。評価も実環境向けや個人向けに分かれ始めました。ただし、成功率などの具体的な比較数値はまだ公開されていません。

続きを読む →

llama.cppのMoEをめぐる話題が、モデル構築から推論運用へ移っています。LLaMA-MoEは活性パラメータ3.0〜3.5B、zilongは動的なエキスパートオフロードを提案します。ただし実測速度や電力の数値はなく、同じ条件での評価が待たれます。

続きを読む →

NousResearchのAIエージェント「Hermes Agent」は、対話UI・中核の制御・ツール実行の三層構造で、70以上のツールと28のツールセットを備えます。状態をSQLiteで保持し、再起動後も続きから再開できる設計です。95.6K starsは注目度の指標で、性能比較の数値はまだありません。

続きを読む →

xAIのGrokBotは、クラウドPCで作業を最後まで進めるAIチームメイトです。安全に使う鍵は、役割説明と承認で止まる依頼の型、共有PCの境界理解です。企業導入では既定で有効になる点とネットワーク設定の確認も欠かせません。

続きを読む →

llama.cppのMoE改善が動いています。焦点は、複数の専門家を選ぶ設計と動的なオフロードです。LLaMA-MoEは活性パラメータ3.0〜3.5Bを掲げ、llama.moeはllama.cpp上での専門家オフロードを狙いますが、実測TPSや電力のデータはまだありません。

続きを読む →

ジェイルブレイクしたPS5でllama.cppを動かす「PS5LM」の続報が話題です。OpenAI風APIやテレビ画面向けのUIを備え、27Bモデルが9〜21 tok/sで動きました。改造前提ながら、家庭の端末にAIを置く可能性を示しています。

続きを読む →

Dotsの追跡記事です。dots.llm1は142BのMoEで、学習途中のチェックポイント公開が特徴です。dots.ttsは高精度の音声合成を報告する一方、ローカル推論の実測速度はまだ示されていません。

続きを読む →