AIエージェントは、問い合わせ処理や見積準備、審査など業務の入口で試されています。Shopifyでは対応時間が4時間から3分、Rampでは審査が48時間から5分になったという報告があります。成功例の裏にある制約と調達上の注意点を見ていきます。
Fireworks AIが2回目の侵害を通知、推論基盤の被害が拡大
Nvidia出資のFireworks AIが数週間で2回目となるセキュリティ侵害を顧客に通知しました。第三者クラウド経由で開発環境に到達され、請求情報や一部のデータセット、不完全なモデルに影響が及んだとされています。通知の中身と報道の要点をまとめます。
Halogen、Strix Halo一点集中で生成54〜94 tok/s——エージェント実用EPの攻防
HalogenはStrix Halo/Ryzen AI MAX+ 128GB向けローカル推論エンジンとされますが、発表資料では直接の実測や設定は明らかにされていません。周辺情報から128GB統合メモリとFlash系モデルの推論環境がうかがえます。
RTX 5080 24GB取消、GDDR7高騰がローカルAIに与える影響
NVIDIAがRTX 5080 24GBの中国向け投入を中止したと報じられました。3GB GDDR7チップが2GBチップの約3倍のコストになるためで、16GB版が残る見込みです。ローカルAI推論への影響と、噂の範囲を整理します。
Unsloth V3.1、AIのローカル推論を磨く
UnslothがDynamic V3.1を公開し、Qwen3.8-27BやFlash系で同サイズ比10〜15%精度向上、トークン50%減を主張しています。AIローカル向け1-bit版やアプリ改善も進むが、Redditでは改善幅に疑問の声も出ています。
続・RTX 3090、2026年の中古で24GBとNVLinkが再評価される
[2026-11-12 更新] 2026年のRTX 3090は、24GBのAI推論向けというだけでなく、ベンチマーク集計や価格履歴の比較対象として再評価されています。評価の分かれ目は、通常の描画中心の数字と、DLSSやメモリ量の実用性の差にあります。
続・Qwen4、4種とFlashが示すローカル実行の行方
[2026-11-12 更新] AlibabaのQwen4は、Qwen4-Maxのプレビューが始まった一方、ローカル実行向けの27Bは未公開です。Qwen3.8-27Bの目安では4-bitで約16GBですが、Qwen4の仕様は未確認です。プレビューと重み公開の差が、開発者の計画を難しくしています。
続・llama.cppの切替高速化、KV cacheの残し方が鍵
llama.cppの切替高速化は、モデルの読み直しよりKV cacheの再利用へ移っています。2秒以内のスリープやキャッシュ再利用が話題ですが、–cache-ramの誤解やキャッシュ圧縮の速度低下が落とし穴です。構成とキャッシュ設計の重要性がわかります。
続・RTX 3090、2026年に24GBがAIと4Kで再評価
2026年時点のRTX 3090は、24GBのGDDR6Xと936GB/sの帯域幅を武器に、ローカルAIの推論や4Kゲームで注目されています。350Wや3スロットの制約は残りますが、flashのようなAIを含む中古市場での選び方が見えてきます。
続・qwen-concept-27b、重み編集で思考トークン減りスコア増
Qwen3.8-27Bの重み9か所を書き換えた実験モデルです。GPQA Diamondで+4.3、LiveCodeBench v6で+13.0、思考トークンは27〜54%減ったと報告されています。対照実験と量子化の限界が要点です。













RECENT COMMENTS