5chの「流れについていけない」スレッドから、AIに置いていかれる実感を裏づける調査が複数見つかった。AMAやPwCは職場での取り残されを指摘する一方、Verasightでは半数近くが「感じていない」と回答。OpenAIが13〜17歳向けの安全機能を発表するなど、家庭や学校の側の対応も進み始めた。

続きを読む →

無料AI活用専用スレでは、目的・音声・登録要否の3軸でサービスを選ぶ方法や、質問を4ステップで組み立てる『壁打ち』フレームワークが話題に。AWSの無料AI開発環境Kiroも紹介される一方、回答のばらつきや無料枠の制限という課題も浮き彫りになっています。

続きを読む →

前回紹介したスマホ向けMoEストリーミング層のその後を追う。284Bモデルを12GBスマホのCPUだけで0.94トークン/秒で動かす仕組みや、llama.cppをフォークしない設計、品質をflash節約と交換するオプションを整理し、GPU・モバイル側の研究動向も伝える。

続きを読む →

Liquid AIのMoEモデルLFM2.5-24B-A2BがGGUFで公開され話題に。公式はエージェント評価LiveClawで48.09とQwen3.6-35B-A3B超えを主張する一方、Redditでは実行環境次第でループや低品質の報告も。コミュニティ計測は平均61.2トークン/秒・品質69.6で、コーディング37.3という弱点も見えました。

続きを読む →

llama.cppでAMD Radeon AI PRO R9700の推論を速める試行が話題です。処理量とグラフィックス処理系の設定見直しで、Qwen3 122Bが15トークン/秒から48トークン/秒に向上しました。一方で特定の設定帯で速度が崩れる落とし穴も見つかり、実測の大切さが浮かぶ内容です。

続きを読む →

llama.cppのMoE対応は、ルーティングからカーネル融合まで内部実装レベルで進化し、DeepSeek-V4向け最適化で約19%の性能向上が報告されています。一方、エッジでMoEが本当に有効かを問う論文も登場。実装の進展と検証が並走する段階に入りました。

続きを読む →

アントグループのMoEモデルLing-3.1-flashに1019更新が予定され、総合指数が41→44、エージェント評価も62%→68%へ向上したと発表されました。APIと重み公開は「近日」で、数値は独立検証前の公表値です。試してから公開する配布スタイルも含めて整理します。

続きを読む →

AMDのGPU「Radeon AI PRO R9700」でllama.cppの性能を引き出す動きが話題です。まとめ処理の設定見直しだけでQwen3 122Bが15 t/sから40 t/s、2つの工夫で48 t/sに向上。一方、特定設定では逆に速度が落ちる落とし穴も判明しました。

続きを読む →

Hugging Face系チームが、DNAと自然言語を1つのモデルで扱う14BモデルCarbon-Xを公開しました。5つのDNAベンチマークで平均66.7%を記録し、ベースのQwen3-14Bを27ポイント上回ります。GPT-6.1 Solに迫る性能を約1800分の1の推論コストで実現し、ローカル実行も可能です。

続きを読む →

3世代前のRTX 3090が中古市場で値上がりし、1月から約5割の上昇。eBay落札68件の集計では中古品の中央値が1,275ドルに達しました。24GB VRAMが34Bクラスのローカル推論の分かれ目であることが背景で、購入リスクも増えています。

続きを読む →