「週間上限を燃やし尽くす前に、止めたい」。Hacker Newsに投稿された小さなツール「Peras」は、Claude CodeとCodexの使用を上限消費前に一時停止する、というものでした[1]。Claude Codeには5時間のセッション制限と週間上限という二重の使用制限があり、熱心に使うほど「 […]
アーカイブ: 2026年10月22日
続・NVIDIAに殺到した350億ドルの発注、供給できるのは5〜10%
1枚約11,400ドルのGPUが、300万枚単位で動き出しました。10月20日のロイター報道によると、ByteDance(バイトダンス)、Alibaba(アリババ)、Tencent(テンセント)の中国巨大IT3社が、NVIDIAのワークステーション向けGPU「RTX PRO 5500」を合計300万 […]
量子化と先読みで1GPUのMoE推論を1.5倍にする「Specter」
1枚のGPUで巨大MoEモデルを快適に動かしたい——。ローカルでAIモデルを走らせるコミュニティの共通の願いに、量子化で答えようとする研究が話題になっています。Redditのr/LocalLLaMAに投稿されたのは、推論システム「Specter」を提案する論文です[1]。量子化とは、モデル内部の数値 […]
その後のGemini Agent、数カ月の改修を数週間に圧縮
数カ月かかる大規模なコード改修を、AIが数週間で終わらせた——。GoogleのGeminiをめぐって、そんな実例が報告され、話題となっています。前回の記事では、エージェントの評価を反復しても見えてくる品質の壁を取り上げました。今回はその後の動きとして、実戦の大規模開発で何が起きているのかを追います。 […]
EAGLE-4リリース、Qwen3.8-27Bで3.59倍の推論速度
「モデルの中身を変えずに、生成を3倍以上速める。」そんな手法の最新版「EAGLE-4」が公開され、ローカルLLMコミュニティで話題になっています[1]。EAGLE-4は、EAGLEファミリーの最新世代です[2]。正式名称は「Extrapolation Algorithm for Greater La […]
RTX 5090一枚で巨大モデルが動いた──1.66bpw量子化の成果と壁
GPU1枚で、大型のAIモデルを丸ごと動かす──そんな報告がRedditで話題になっています。投稿先はローカルLLM愛好者のコミュニティr/LocalLLaMAです。主役はQwen3.8-Flash-Nextというモデルを、1.66bpw(重み1つあたり1.66bit)という極端な圧縮で動かした実験 […]
続・llama.cpp MoE追跡、エキスパートをディスクから流す最新段階
30B級のMoEモデルが16GBのGPUで動く——さらに、エキスパートを事前にメモリへ載せない方向まで進んできました。ローカル推論の定番llama.cppを巡るMoE(混合専門家)最適化は、いま「オフロード」から「ストリーミング」へと一歩進もうとしています。Hacker Newsでは、スマホとラップ […]
続報・Gemini Spark:背景で働き続けるAIの具体像と初期版の制約
航空券の値下がりを、AIが24時間体制で見張って知らせてくれる——そんな使い方が現実に近づいています。Googleは新エージェント「Gemini Spark」を、開発者向けイベント「I/O 2026」で発表しました[1]。チャットで質問して終わりではなく、頼んだ仕事を背景で続けてくれる存在です。 仕 […]
RECENT COMMENTS