オープンモデルの規模競争が、ついに3T(3兆)クラスに入りました。Kimiシリーズを開発するMoonshot AIは、2.8Tパラメータの「Kimi K3」を発表しています。オープンなモデルとしては初の3Tクラスです[2]。その事後学習版「Kimi K3.1 Pro」の技術ブログ「Advancing Open Intelligence」が公開されました。事後学習は、ベースモデルに追加学習を施して仕上げる工程です。Redditのr/LocalLLaMAでもこの話題が上がっています[1][3]。同投稿によると、K3.1 Proの重みは11月4日に公開予定です。K3の事後学習版にすぎないため、各プラットフォームでも初日からサポートされる見込みだといいます[1]。
K3の土台は、Kimi Delta AttentionとAttention Residualsという2つの構造更新です。長い入力を横断する情報の流れと、層をまたぐ情報の流れを、それぞれ改善する狙いがあります[2]。MoEは、質問に応じて必要な専門家ネットワークだけを動かす構造です。K3では896の専門家のうち16だけを動かします[2]。使う部分を絞ることで、巨大なモデルでも計算を抑えられます。その結果、前モデルK2と比べてスケーリング効率(計算を知能に変える効率)が約2.5倍になったと説明されています[2]。過去12か月のうち9か月は、オープンモデルの最大サイズをKimiが更新してきたことも明かされました[2]。
コンテキスト長(一度に扱える文章量)は100万トークンで、画像もネイティブに扱えます[2]。長時間のコーディング、知識労働、推論をにらんだ設計です[2]。すでにKimi.aiやKimi Work、Kimi Code、APIで利用でき、公開当初は思考量を最大にして動きます。低・高の切り替えは今後追加される予定です[2]。
K3.1 Proの主役は、大規模な強化学習(試行の結果に応じて報酬を与えて伸ばす学習)です。数百の下流ドメインにわたって強化学習の計算を大幅に増量しました。その基盤も作り込まれています。長文の推論効率や学習効率に加え、試行を安全に回すサンドボックス(隔離環境)やスケジューリングまで最適化しました[3]。狙いは、強化学習の計算1単位あたりの伸びを、予測可能で安定したものにすることです[3]。コーディング、3D制作、金融リサーチでフロンティア級の性能を達成したと紹介されています[3]。特に伸びたのは、長時間に及ぶコーディングとツール使用の能力です[3]。
効果は具体例でよくわかります。K3.1 Proはhuman-atlasという人体の解剖モデルを使い、人間の歩行の力学シミュレータを構築しました[3]。ところが当初、うまくいきません。筋肉が関節に力を伝える効き方を表すモーメントアームの計算が最適化できず、報酬設計が失敗したのです。そこでモデルは自力で検証テストを回し、36箇所の数学的誤りを特定して修正しました。その後でコントローラを再学習したといいます[3]。失敗を人間が直すのではなく、モデル自身が検証と修正を完結できた点がポイントです。3DモデリングではCADコードの生成もこなしています[3]。
しかし、頂上に立ったわけではありません。K3の総合性能は、最強クラスのクローズドモデルには及ばないと、開発元自身が認めています。相手はClaude Fable 5とGPT 5.6 Solです[2]。一方で評価では、テストした他のモデルは一貫して上回ったと報告されています[2]。ベンチマークの検証記事も登場しました。題して「Kimi K3.1 Proは本当にGPT-6 Astraに勝つのか」です[5]。うたい文句の裏付けを取る動きが始まっています。安全面では、サイバー悪用につながるデータを意図的に取り除いたという説明です[3]。汎用性の高さと、先手のセキュリティ管理の両立を図った形です。
仕様や価格、ベンチマークを整理した解説ページも各所で作られ始めており[4][5][5][5]、関心の高さを示しています。開発元は推論パートナーやオープンソースの保守者と技術詳細をすり合わせています[2]。エコシステム全体で滑らかに展開する準備です。K3の全重みは2026年7月27日までに公開予定です[2]。なお、ローカル実行の構成や実測速度についての情報は、今回の素材には見つかりませんでした。モデルの規模だけでなく、仕上げの強化学習をどれだけ増やせるかが性能を左右する段階のようです。既存基盤にそのまま乗る事後学習版という形は、オープン陣営の速さを活かす一手と言えそうです。
引用ソース
- Reddit Reddit r/LocalLLaMA: Kimi K3.1 Pro Tech Blog: Advancing Open Intelligence — https://www.reddit.com/r/LocalLLaMA/comments/1xewcs8/kimi_k31_pro_tech_blog_advancing_open_intelligence/
Kimi K3.1 Pro Tech Blog: Advancing Open Intelligence
- Web記事 記事全文: Kimi K3 Tech Blog: Open Frontier Intelligence — https://www.kimi.ai/blog/kimi-k3
Today, we are introducing Kimi K3 — our most capable model. Kimi K3 is a 2.8T-parameter model built on our Kimi Delta Attention and Attention Residuals, with native vision capabilities and a 1-million-token context windo
- Web記事 記事全文: Kimi K3.1 Pro Tech Blog: Advancing Open Intelligence | B Lab — https://b-lab.team/en/content/827664ba-bf7d-4428-b338-c1b05bec7525
Kimi K3.1 Pro Tech Blog: Advancing Open Intelligence
Key Points
– 1Kimi K3.1 Pro is a powerful 3T-class open-weight model with a 1-million-token context window that achieves frontier-level performance in coding, 3D creat - Web記事 Web検索: Kimi K3.1 Pro: Specs, Price, Open Weights Date, and Benchmarks — https://www.yottalabs.ai/post/kimi-k3-1-pro-specs-price-open-weights-benchmarks
Kimi K3.1 Pro: Specs, Price, Open Weights Date, and Benchmarks
- Web記事 Web検索: Kimi K3.1 Pro Benchmarks: Does It Really Beat GPT-6 Astra? — https://www.mindstudio.ai/blog/kimi-k3-1-pro-benchmarks-review
Kimi K3.1 Pro Benchmarks: Does It Really Beat GPT-6 Astra?
- Web記事 Web検索: Kimi K3.1 Pro: Features, Benchmarks, Pricing and Access — https://kingy.ai/blog/kimi-k3-1-pro-launch-features-benchmarks-access/
Kimi K3.1 Pro: Features, Benchmarks, Pricing and Access
- Web記事 Web検索: Kimi K3.1 Pro: Benchmarks, Pricing & Specs | LLMLearner — https://llmlearner.com/models/kimi-k3-1
Kimi K3.1 Pro: Benchmarks, Pricing & Specs | LLMLearner
- Web記事 Web検索: Kimi K3.1 Pro Benchmark Scores & Evals | BenchmarkList — https://benchmarklist.com/models/moonshotai-kimi-k3.1-pro/
Kimi K3.1 Pro Benchmark Scores & Evals | BenchmarkList
※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。
RECENT COMMENTS