ai(人工知能)の話題で、hacker的な実験が一つ目立ちます。素材を確認したところ、Qwenのモデル重みの中に、32bitのRISC-V CPUを埋め込んでしまったという投稿です[1]。RISC-Vは命令セットが公開されたCPUの設計です。Flash Nextのようなflashという語を含む高速化モデルとは別の方向で、計算を「当てる」のではなく「内部で実行する」発想です。投稿はRedditのr/LocalLLaMAで共有され、ローカルLLMの遊び心ある試みとして注目を集めています[1]。
Qwen DevelopersのX投稿では、Gated DeltaNetという層の状態をメモリとして使い、モデルの重みの中に32bit RISC-V CPUを構築したと説明されています[3]。Gated DeltaNetは状態を保持できる層です。これにより、答えを予測するのではなく、モデルの内部で命令を実行できます。C言語やMicroPythonのプログラムも、外部ランタイムなしで動くようです[3]。Qwen Developersは、この仕組みをQwenputerと名付け、結果は印象的だと紹介しています[3]。
数値も出ています。ある算術ベンチマークでは、正答率が48.6%から100%に上がったと報告されています[3]。DeepMindの数学ベンチでは、ベースモデルが55〜90%、Pythonツール併用が95〜100%、Qwenputerが97.5〜100%とされています[3]。推論のprefill(プロンプト全体を一括処理する段階)とdecode(トークンを1つずつ生成する段階)を含む計算の中で動く、とされています[3]。モデル名はQwen3.5-4B-Qwenputerとされています[3]。
周辺には、学習用の実装も出ています。rasbt/qwen3-from-scratchは、Qwen3を最小依存のPyTorchで読みやすく実装した教育用リポジトリです[2]。ノートブックには、dense版(全パラメータを使う通常版)とMoE版があります。MoEは担当ごとに分かれたパラメータの一部だけを使う構造です。KVキャッシュ付きの版もあり、KVキャッシュは生成時に過去の計算結果を再利用する仕組みです[2]。
この実装は、読みやすさと学習・研究目的に最適化されています[2]。重みは公式のQwen3から変換したPyTorch state dict、つまり重みを保存する形式です[2]。元の重みや利用条件は公式リポジトリを参照するよう書かれています[2]。パッケージには単体テストも含まれています[2]。このため、研究や学習で中身を追うのに使いやすい構成です[2]。
この実装では、150トークン生成で約1.5GBのメモリが必要と書かれています[2]。thinkingモデル(推論過程を重視するモデル)とbaseモデルを切り替える設定もあり、温度0や上位1件だけ選ぶ設定が示されています[2]。ローカル環境のセットで試せるバージョンとして、推論ラインの理解に役立ちます。以前取り上げたFlash Nextの実測とは条件が違い、直接の速度比較にはなりません。
検索結果には、評価やベンチマークの資料も並んでいました。Qwen3-VL-Embeddingの評価ページ[4]、Qwen3のベンチマーク評価ガイド[4]、推論エンジンvLLMのqwen3.py実装[4]、Qwen3の性能ベンチマークページ[4]です。Adafruitのブログでも、モデルの重みの中にRISC-V CPUがあるQwenputerが紹介されています[4]。ただし、これらだけではQwenputerと同じ条件の具体的な比較数値は素材に見つかりませんでした。
ここで注意したいのは、Qwenputerが公式製品というより、開発者実験のようです[1][3]。Hugging Faceにモデル、ModelScopeにデモが公開されている点は注目されます[1]。解説記事も公開され、ツール呼び出しやコンピュータ操作への示唆が語られています[1]。内部CPUで計算を正確にできるなら、ツール呼び出しやコンピュータ操作に効くとされています[1]。しかし、重みの中にCPUを埋める手法がどのモデルでも再現できるかは、まだわかりません。今後の追試が注目されます。
引用ソース
- Reddit Reddit r/LocalLLaMA: Someone built a 32-bit RISC-V CPU directly inside Qwen’s model weights so it can execute instructions internaly! — https://www.reddit.com/r/LocalLLaMA/comments/1xhmo1q/someone_built_a_32bit_riscv_cpu_directly_inside/
Someone built a 32-bit RISC-V CPU directly inside Qwen’s model weights so it can execute instructions internaly!
- Web記事 記事全文: rasbt/qwen3-from-scratch · Hugging Face — https://huggingface.co/rasbt/qwen3-from-scratch
This repository contains a from-scratch, educational PyTorch implementation of Qwen3 with minimal code dependencies. The implementation is optimized for readability and intended for learning and research purposes.
Source - Web記事 記事全文: Qwen Developers on X: “So one of our ambassadors @divagr1925 has been … — https://x.com/QwenDevs/status/2115404434503344238
So one of our ambassadors @divagr1925 has been working on something cool
He found a way to use Qwen’s Gated DeltaNet state as memory, and built a 32-bit RISC-V CPU directly into the model’s weights. So instead of relying - Web記事 Web検索: Evaluation and Benchmarks | QwenLM/Qwen3-VL-Embedding | DeepWiki — https://deepwiki.com/QwenLM/Qwen3-VL-Embedding/5-evaluation-and-benchmarks
Evaluation and Benchmarks | QwenLM/Qwen3-VL-Embedding | DeepWiki
- Web記事 Web検索: Qwen3/qwen3_benchmark_evaluation_guide.md at main – GitHub — https://github.com/HarleyCoops/Qwen3/blob/main/qwen3_benchmark_evaluation_guide.md
Qwen3/qwen3_benchmark_evaluation_guide.md at main – GitHub
- Web記事 Web検索: vllm/vllm/model_executor/models/qwen3.py at main – GitHub — https://github.com/vllm-project/vllm/blob/main/vllm/model_executor/models/qwen3.py
vllm/vllm/model_executor/models/qwen3.py at main – GitHub
- Web記事 Web検索: Performance Benchmarking | QwenLM/Qwen3 | DeepWiki — https://deepwiki.com/QwenLM/Qwen3/6.1-performance-benchmarking
Performance Benchmarking | QwenLM/Qwen3 | DeepWiki
- Web記事 Web検索: Qwenputer, a RISC-V CPU inside a model’s weights — https://blog.adafruit.com/2026/10/28/qwenputer-a-risc-v-cpu-inside-a-models-weights/
Qwenputer, a RISC-V CPU inside a model’s weights
※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。
RECENT COMMENTS