763BのDeepSeek-V4.1-Flash-1017を12GB GPUで動かす低ビット量子化に、第三者による再現版が登場しました。公式版は1.75〜2.25ビットの3種類、再現版は3.0ビットで画像対応や下書きモデルも含みます。記事では量子化手法の仕組みと、非公式版の制約・実測データの有無まで整理します。

続きを読む →

GPUなしのPCでDeepSeek V4 Flash(284B)を動かす実測が話題です。1トークンあたり13Bだけが稼働するMoEで、必要なのはメモリの速度でなく容量。大容量DDR5が24GB GPUより有利な一方、ローカル用重みはAPIのV4.1-Flash(552B)とは別物という落とし穴もあります。

続きを読む →

DeepSeekとMiniMaxが中国の新AI輸出規制に基づく登録を完了し、オープンソース公開と海外ライセンス供与が承認されました。API経由の通常利用は原則対象外で、パブリックコメントは11月15日まで。一方、米政府機関ではDeepSeekの使用が禁止されています。

続きを読む →

180B・活性化6BのQwen3.8-Flash-Nextが、スコア比較でMetaの816Bモデルを上回る40点を記録し話題に。ローカル実測ではDeepSeek-V4.1-Flashの量子化に対し25問全問正解と好調です。一方で総合指標ではDeepSeekに僅差で及ばず、必要メモリも111GB超と軽量ではありません。

続きを読む →

DeepSeek-V4.1-Flashの技術レポートが公開され、省メモリ推論の仕組みが明らかになりました。FP4形式のKVキャッシュでメモリ量をV4 Flash比約1/4に削減し、100万トークンの長文処理を低コストで実現。名前は「.1」でも552Bの新規事前学習モデルという点が注目です。

続きを読む →

中国がAI関連23技術を輸出管理の対象とする目録改定案を公表する中、DeepSeekとMiniMaxが登録手続きを完了したと10月22日に報じられました。DeepSeekは推論フレームワークDeepInferを公開し、MiniMaxは米欧などでの申請制利用枠を整備。開放と規制の境界が見え始めました。

続きを読む →

llama.cppのMoE対応は、ルーティングからカーネル融合まで内部実装レベルで進化し、DeepSeek-V4向け最適化で約19%の性能向上が報告されています。一方、エッジでMoEが本当に有効かを問う論文も登場。実装の進展と検証が並走する段階に入りました。

続きを読む →

「Flash」を名乗るDeepSeek-V4.1-Flashが、最上位のV4-Pro廃止とセットで登場しました。入出力で活性パラメータを変える新設計とKVキャッシュ圧縮が鍵で、APIは入力100万トークン0.22ドル。一方、ローカル実行は7.2 tok/sにとどまります。

続きを読む →

748Bパラメータの巨大モデルが、2千ユーロの中古PCで動き出しました。前回の記事では、ハッカー系タスクのベンチマークでDeepSeek FlashがSolを上回った話をお伝えしました。その後、「自宅の機材でどこまで動くのか」というローカル推論の挑戦が話題になっています。ポイントは、動いたという事実 […]

続きを読む