AI推論のllama.cpp v1.0ではRTX 3090で最大55%、環境変数で21%といった改善報告から、同じ条件で測るベンチに関心が移っています。RTX 5090では80.1トークン/秒の実測があり、先読み推論が効かない報告も出ています。
続報:Altman氏、2026年IPO見送りと安全路線
Sam Altman氏はOpenAIの2026年IPOを見送り、安全とアライメントを優先する考えを示しました。訓練停止や制御不能リスクへの言及もあり、成長から慎重路線へかじを切る発言が注目されます。上場延期と安全発言の背景を追います。
続・llama.cpp v1.0、NVIDIA最適化とMacの壁
llama.cpp v1.0は先読み推論とNVIDIA最適化でローカルAIの速度が変わります。RTX 3090で最大55%、中古RTX 3090ではQwen3.6-27Bが38から47〜65 TPSへ上がった実測です。Macは64GB必要など壁も残ります。
続・Muse、エージェントを「見せる」設計で信頼を狙う
[2026-11-22 更新] Meta の AI(ai)エージェント「Muse」は、タスク完了を狙う一方、外部小売サイトによるブロックや決済摩擦が日常利用の分かれ目です。推論の質より権限と承認の設計が焦点で、無料枠と月 20 ドル、月 100 ドルの料金も用意されています。
続Qwen4:N-gramキャッシュと4チャンネル残差が示す効率化の核
[2026-11-22 更新] AlibabaはQwen4-Maxを公開し、テキスト生成と画像・動画理解、ツール呼び出しをクラウドAPIで提供します。社内では前世代比でトークンを最大35%減らしたとされますが、ベンチマークではフロンティア競合に対する強さがばらつくようです。ローカル実行の情報はまだありません。
続・Gufo、拡張とRDMAでローカルAIを育てる
[2026-11-22 更新] GufoはAMD Strix Haloの1台構成に特化したオープンソース推論エンジンです。統合メモリとOpenAI互換APIを生かし、拡張でモデルを増やせる設計が話題です。発表資料では速度の実測値は限られ、専用設計と制約が見えてきます。
ローカルLLM、快適さはモデルより帯域と量子化
[2026-11-21 更新] 5chではRTX 5070 12GBからの増設か交換かという相談が話題です。2026年のローカルAI推論は4bit量子化とメモリ帯域が鍵になり、27B級は約24GB、CPUのみなら16GBで8〜12Bが現実的です。交換前にモデルの選び方と構成を見直す要点をまとめます。
続・Meta Muse、無料AIエージェントとハッカー的な試行
[2026-11-22 更新] Meta Museの話題は、無料エージェントの実用性から接続設計へ移っています。Connectorにはブラウザより良い情報や操作が求められ、予約や購入まで完了できることが必要です。Muse Codeではモデル別価格とマルチエージェントが示され、5chでは無料枠の評価も出ています。
続・Abliterated Strata、Flashとローカル実行の壁を下げる
[2026-11-22 更新] Abliterated Strataは、Flash系の拒否除去AIが量子化名で増えた話題です。カタログでは1,028モデルと81.6Mダウンロードが並びますが、除去範囲や実測は不明です。この記事では派生モデルとベンチマークの不足を整理します。
追跡:Halogen、n-gram表とStrix Haloの壁
[2026-11-22 更新] HalogenはStrix Halo向けローカルAI推論エンジンとして話題ですが、資料では直接の実測値はほとんどありません。128GB共有メモリ、Qwen3.8-Flash-Next 125Bの実行報告、帯域の壁から、どこで勝負になるか読み解きます。













RECENT COMMENTS