「週間上限を燃やし尽くす前に、止めたい」。Hacker Newsに投稿された小さなツール「Peras」は、Claude CodeとCodexの使用を上限消費前に一時停止する、というものでした[1]。Claude Codeには5時間のセッション制限と週間上限という二重の使用制限があり、熱心に使うほど「 […]

続きを読む

1枚約11,400ドルのGPUが、300万枚単位で動き出しました。10月20日のロイター報道によると、ByteDance(バイトダンス)、Alibaba(アリババ)、Tencent(テンセント)の中国巨大IT3社が、NVIDIAのワークステーション向けGPU「RTX PRO 5500」を合計300万 […]

続きを読む

1枚のGPUで巨大MoEモデルを快適に動かしたい——。ローカルでAIモデルを走らせるコミュニティの共通の願いに、量子化で答えようとする研究が話題になっています。Redditのr/LocalLLaMAに投稿されたのは、推論システム「Specter」を提案する論文です[1]。量子化とは、モデル内部の数値 […]

続きを読む

数カ月かかる大規模なコード改修を、AIが数週間で終わらせた——。GoogleのGeminiをめぐって、そんな実例が報告され、話題となっています。前回の記事では、エージェントの評価を反復しても見えてくる品質の壁を取り上げました。今回はその後の動きとして、実戦の大規模開発で何が起きているのかを追います。 […]

続きを読む

「モデルの中身を変えずに、生成を3倍以上速める。」そんな手法の最新版「EAGLE-4」が公開され、ローカルLLMコミュニティで話題になっています[1]。EAGLE-4は、EAGLEファミリーの最新世代です[2]。正式名称は「Extrapolation Algorithm for Greater La […]

続きを読む

GPU1枚で、大型のAIモデルを丸ごと動かす──そんな報告がRedditで話題になっています。投稿先はローカルLLM愛好者のコミュニティr/LocalLLaMAです。主役はQwen3.8-Flash-Nextというモデルを、1.66bpw(重み1つあたり1.66bit)という極端な圧縮で動かした実験 […]

続きを読む

30B級のMoEモデルが16GBのGPUで動く——さらに、エキスパートを事前にメモリへ載せない方向まで進んできました。ローカル推論の定番llama.cppを巡るMoE(混合専門家)最適化は、いま「オフロード」から「ストリーミング」へと一歩進もうとしています。Hacker Newsでは、スマホとラップ […]

続きを読む

航空券の値下がりを、AIが24時間体制で見張って知らせてくれる——そんな使い方が現実に近づいています。Googleは新エージェント「Gemini Spark」を、開発者向けイベント「I/O 2026」で発表しました[1]。チャットで質問して終わりではなく、頼んだ仕事を背景で続けてくれる存在です。 仕 […]

続きを読む

AIに説明書を読ませ、その説明書を別のAIに採点させると、何点になるのでしょうか。OpenClawをめぐる最新の動きは、この実験のような試みから始まっています。OpenClawは自分のコンピュータ上で動くオープンソースのAIエージェント基盤です。前回の記事では、タスク台帳と評価軸で動きが見える側面を […]

続きを読む

スキャンした文書を渡すと、文字の内容だけでなく「どこに何が書いてあるか」までJSONで返ってくる。そんな軽量OCRモデルが、推論エンジンvLLMとの組み合わせで話題になっています。vLLMは大規模言語モデルの推論(学習済みモデルが答えを生成する処理)を高速化するオープンソース基盤です。リクエストをま […]

続きを読む