AIの最新動向として、AlibabaのQwen4は4つの名称が報じられる一方、オープンウェイトの公開は未確認です。Flash版のプレビューや27Bという型番から、ローカル実行の行方が注目されています。
続・llama.cppの切替高速化、KV cacheの残し方が鍵
llama.cppの切替高速化は、モデルの読み直しよりKV cacheの再利用へ移っています。2秒以内のスリープやキャッシュ再利用が話題ですが、–cache-ramの誤解やキャッシュ圧縮の速度低下が落とし穴です。構成とキャッシュ設計の重要性がわかります。
続・RTX 3090、2026年に24GBがAIと4Kで再評価
2026年時点のRTX 3090は、24GBのGDDR6Xと936GB/sの帯域幅を武器に、ローカルAIの推論や4Kゲームで注目されています。350Wや3スロットの制約は残りますが、flashのようなAIを含む中古市場での選び方が見えてきます。
続・qwen-concept-27b、重み編集で思考トークン減りスコア増
Qwen3.8-27Bの重み9か所を書き換えた実験モデルです。GPQA Diamondで+4.3、LiveCodeBench v6で+13.0、思考トークンは27〜54%減ったと報告されています。対照実験と量子化の限界が要点です。
続・Gufo、一台でFlash推論と8人同時利用、拡張が話題
GufoはStrix Halo向けのAI推論エンジンです。一台でFlash-Nextを動かし、prefill 1,801.01トークン/秒、8人合計194.37トークン/秒を報告しています。拡張やエージェント向けキャッシュなど、実運用の工夫が新たな焦点です。
AI推論vLLMの速度を測る、GPU混在とベンチマークの現在地
vLLMはAI推論エンジンだけでなく、ベンチマークやマルチGPU運用の基準です。RTX 5090とAMD iGPUの混在実験では、対応範囲の限界と48%高速化の工夫が示されました。NVIDIAとAMDの具体値から速度比較の落とし穴まで読み解きます。
続・Meta Muse、無料でも承認と確認が仕事になる
MetaのAIエージェント「Muse」が日本で基本機能を無料で使えるようになりました。旅行やメールの代行が話題ですが、無料でも承認や確認、ログ管理が新たな仕事になります。その主な料金、連携、安全、ユーザー報告などについて整理します。
AI推論とシンギュラリティ、文化と議論の現在地
2045年のシンギュラリティ予測が、生成AIの進展で前倒しになるのかと論じられています。AGIは2029年頃とされ、自己改善ループが核心です。本記事は、技術予測と実装の距離、証拠と反論を整理し、文化と議論の現在地を示します。
続・Abliterated Strata、パック化と速度の実測
Abliterated Strataは、拒否を除去したQwen3.8-Flash-NextをStrataで動かす流れです。83GiBの単一GGUFや131Kトークンの文脈、103〜127トークン/秒の実測報告が話題です。量子化とパック化の落とし穴がわかります。
続・Qwen4、1.2T MoEとSWE-bench数値が示す公開準備
AlibabaのQwen4を巡り、1.2T MoEやSWE-bench 78.6%といった漏洩情報が広がっています。hacker界隈で注目される評価ですが、ローカル実行に必要な量子化版や実測TPSは未確定です。
RECENT POST
-
2026.11.11
続・Qwen4、4種とFlashが示すローカル実行の行方 -
2026.11.10
続・llama.cppの切替高速化、KV cacheの残し方が鍵 -
2026.11.10
続・RTX 3090、2026年に24GBがAIと4Kで再評価
RECENT COMMENTS