DeepSeek Flash の 1bit 圧縮と V5 の Huawei チップでの訓練

AI 界隈では、DeepSeek の Flash がまた話題です。注目点は、巨大な MoE モデルをどこまで軽くしてローカルで動かせるかという点にあります。Reddit で共有された圧縮版では、763B のモデルが 1bit/パラメータ相当に縮まりました[1]。

この圧縮版は、DeepSeek-V4.1-Flash-1017 の Coder build(コード向けビルド)です。MoE(使う専門家だけ動かす構造)では、384 個の routed experts(役割分担された小さな専門家)のうち、トークンごとに 6 個だけ使います[1]。その半分の 192 個を層ごとに残し、残りを削除しました[1]。transformer weights は 72.1GB で、無圧縮 IQ2_XXS 版 (圧縮形式の一種) の 138.2GB より小さくなりました[1]。

数値の読み方が面白いです。元の transformer の 551.9B パラメータで割ると 1.05bit、つまり 1bit/パラメータに丸められます[1]。ただし実際に残った 280.1B パラメータの平均は 2.06bit です[1]。削除した expert を 0bit として数えるという、ハッカー的な割り切りです。

Flash は API でも速さを見せます。BenchLM では 184tok/s(毎秒 184 トークン)で中央値 92tok/s の約 2 倍となり、初手は 12.06s、コンテキストは 1M トークンです[2]。価格は入力$0.30/出力$1.20 で、入力の中央値である$0.75 より安いです[2]。Fireworks 経由では 100 万トークンあたり$0.220/$0.660、キャッシュは$0.0070 と表示されています[4]。

画像出典: 記事全文: DeepSeek V4.1 Flash 1017 Benchmarks, Pricing & Speed

画像出典: 記事全文: DeepSeek-V4.1-Flash: Benchmarks, Pricing & Context Window

Benchgen は、prefill で 8B、decode で 16B を活性化する設計だと説明しています[5]。prefill はプロンプト全体を一括処理する段階、decode はトークンを 1 つずつ生成する段階です[5]。196B パラメータの Engram(スパースにアクセスする記憶モジュール)も備えています[5]。45T トークンで学習し、34T トークン地点でコンテキストを 64K から 1M へ拡張したと説明されており、推論の強さを 1〜100 で調整できる点も特徴です[5]。

画像出典: 記事全文: DeepSeek-V4.1-Flash: Benchmarks, Pricing & Context Window — Benchgen

ローカル実行の目安も必要です。現在のところ、この圧縮版は GGUF(ローカル実行向けのモデル形式)で公開され、open-weight(重み公開)で、MIT ライセンスが適用され、商用利用も可能です[4][5]。Engram 110.6GB と vision projector(画像入力用の部品)を共有する前提です[1]。残した expert と共有 Engram のセットで動きます[1]。ただし資料では、GPU 枚数・VRAM(GPU メモリ)・RAM 分担・ローカル実測 TPS(毎秒トークン数)は確認できず、合計の必要メモリも明示されていません[1]。

一方、Flash には強みだけでなく弱点もあります。BenchLM では総合 65.2/100(中央値 50.5)で、公開モデル中#30/216 です[2]。coding(コーディング)は#14、agentic(エージェント)は#21 ですが、knowledge(知識)は#38 です[2]。multilingual(多言語)と instruction following(指示追従)は未測定で、35 行ある公開データでも一部が空です[2]。reasoning(推論)や multimodal(画像など複数の入力)はカテゴリ順位が出ていません[2]。BenchmarkList では、このモデル向けの行が見つからない項目もありました[6]。

さらに大きな転換は、V5 の訓練です。DeepSeek V5 は、Huawei Ascend チップで事前学習する計画が報じられました[3]。以前は推論で Ascend を使う事例が中心でした[3]。2025 年 1 月 28 日に Huawei Cloud への迅速な支援指示が出たと紹介され、春節前後に 3,000 枚超の Ascend で検証した経緯が示されています[3]。TrendForce は Ascend 950 で 2027 年に訓練が完了する可能性を報じ[7]、explainx は主張と検証済み情報の差を点検しています[8]。他の報道も「計画」や「reportedly(報じられるところ)」という表現を使っています。Flash の圧縮と V5 の Huawei チップでの訓練は、AI の効率とチップ供給を同時に動かす動きです。

引用ソース

Reddit Reddit r/LocalLLaMA: [Release] ISTA DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder: a 763B model at 1 bit per parameter — https://www.reddit.com/r/LocalLLaMA/comments/1xlys6k/release_ista_deepseekv41flash1017_gsqrco_coder_a/

[Release] ISTA DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder: a 763B model at 1 bit per parameter
Web記事 記事全文: DeepSeek V4.1 Flash 1017 Benchmarks, Pricing & Speed — https://benchlm.ai/models/deepseek-v4-1-flash

Decision snapshot
Each value carries a field reference instead of floating alone. Markers compare this model with the current ranked and priced catalog; they are not absolute quality thresholds.
Capability
65.2/100
field
Reddit Reddit r/LocalLLaMA: DeepSeek V5 is planned to be pre-trained on Huawei Ascend chips. — https://www.reddit.com/r/LocalLLaMA/comments/1xmmadn/deepseek_v5_is_planned_to_be_pretrained_on_huawei/

DeepSeek V5 is planned to be pre-trained on Huawei Ascend chips.
Web記事 記事全文: DeepSeek-V4.1-Flash: Benchmarks, Pricing & Context Window — https://llm-stats.com/models/deepseek-v4.1-flash

Capability tiers
Standing within each category, adjusted for leaderboard depth.
Real tasks performance
High-confidence performance for DeepSeek-V4.1-Flash across real-world prompt categories. Only 95% intervals at most 4
Web記事 記事全文: DeepSeek-V4.1-Flash: Benchmarks, Pricing & Context Window — Benchgen — https://benchgen.com/models/deepseek/deepseek-v4-1-flash

Quick answer: DeepSeek-V4.1-Flash is an open-weight (MIT-licensed) multimodal MoE model using a novel Causal Encoder-Decoder (CED) architecture — a 552B-parameter backbone that activates only 8B params during prefill and
Web記事 記事全文: DeepSeek V4.1 Flash Benchmark Scores & Evals | BenchmarkList — https://benchmarklist.com/models/deepseek-deepseek-v4.1-flash/

Cost vs score

Measured run cost from each benchmark’s own leaderboard, log scale. One benchmark per chart — costs are never compared across tabs.

Benchmark results

No matching rows.
Web記事 Web検索: [News] DeepSeek V5 Could Complete Training on Huawei Ascend 950 in 2027 … — https://www.trendforce.com/news/2026/11/03/news-deepseek-v5-could-complete-training-on-huawei-ascend-950-in-2027-moving-beyond-inference/

[News] DeepSeek V5 Could Complete Training on Huawei Ascend 950 in 2027 …
Web記事 Web検索: DeepSeek Huawei Chip Report: Pre-Training Claim Checked – explainx.ai — https://www.explainx.ai/blog/deepseek-huawei-chip-co-design-ascend-950dt-pre-training-claimed-vs-verified-2026

DeepSeek Huawei Chip Report: Pre-Training Claim Checked – explainx.ai

※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。