「自分の推論エンジンをvibecodingするのは簡単だと言われていたのに」。こんなタイトルの投稿が、Redditのr/LocalLLaMAに上がり、AGI Huntでも取り上げられて話題になっています[1][6]。vibecodingとは、AIに「雰囲気でいいから作って」と頼みながらコードを書き進めるスタイルのことです。投稿者は実際にLLMの推論エンジンをゼロから作り、その成果と後悔をあわせて報告しました。
作ったものは意外に本格的です。投稿者はGGUF形式のQ4量子化モデルを動かしました。量子化は重みを圧縮してメモリを節約する仕組みです。処理にはWebGL2を使っています。これはブラウザ上でGPU計算を動かせる仕組みです。モデルのデータを組み込みのコンピュートバッファへページングし、GPU向け言語のGLSLで計算させます[1]。つまり専用ツールを介さず、普通のHTMLページの中でLLMが動いているのです。
しかし苦労はトークナイザに集中したといいます。文章をトークンIDに分割する部分で、語彙の処理も含めて「終わらないデバッグ地獄の一部だった」と投稿者は振り返ります[1]。締めの言葉もはっきりしています。「マジでllama.cppをクローンしたほうがいい」。
一方、「ゼロから作る」を学習用に体系化する動きもあります。Vibe Enginesというサイトは、無料の学習パスを公開しました[2]。対象は、モデルをブラックボックスのまま扱うのに疲れたアプリ開発者や、画像認識系から来たMLエンジニア、Transformerの組み立てを聞かれる面接の準備をする人です。目標は、プロンプトから次のトークンまでの間で何が起きているかを追えるようになること。必要なのはPythonと、ベクトル・対数に少し慣れていることだけとしています[2]。
学習パスでは、1つのトークンの旅を追います。BPE(よく出る文字ペアを順にまとめていく方式)でテキストをトークンIDに変え、IDが埋め込みベクトルになります。attentionはQ・K・Vという3つの役割を通じて、位置どうしの情報を混ぜます。softmaxと層正規化が数値を安定させ、cross-entropyは「正解の次トークンにモデルがどれだけ驚いたか」を測ります[2]。トークナイザを理解すると、トークンコストや文脈長の上限、モデルがstrawberryのrを数えられない理由まで説明がつく、としています[2]。範囲には、大きいモデルほど予測よく改善するスケーリング則や、生の予測器をアシスタントへ変える選好訓練も含まれます[2]。
進め方の型も提案されています。GitHubの「Build Your Own X with Vibe Coding」は、15〜25分のマイクロループで「小さな目標→実装→実行→違和感の記録」を回すスタイルです[3]。計画やリファクタ用の10〜15行のプロンプトの型を再利用し、最小限のひな形から早く動くものを出します。各ステップの最後には自動で走るチェックを置き、プロジェクトごとにvibes.mdへ「意図→摩擦→次」を1〜3行ずつ記録します[3]。対応ツールはClaude Code、Gemini CLI、Cline、Codex、Cursor。掲げるのはファインマンの言葉「作れないものは理解していない」です[3]。
ここで冒頭のReddit投稿が効いてきます。ブラウザで動くデモは作れた。それでも投稿者自身が「llama.cppをクローンしろ」と締めているのです[1]。デモとして動かすのと、実用のエンジンとして使うのとでは、求められる完成度が違うようです。同じテーマの挑戦は他にもあり、Mediumには「ゼロからLLM推論エンジンを作って学んだこと」「モジュール型推論エンジンを自作した」という体験記が上がっています[4][6]。個人ブログでも「ゼロから推論エンジンを作る」「働くエンジニアのためのLLM自作ガイド」が公開されました[5][6]。内容の詳細はタイトルからは確認できませんが、自作の試みが同時期に複数行われていることはうかがえます。
vibecodingは「ゼロから作る」の敷居を確かに下げています。ただしRedditの報告が示すのは、敷居が下がってもデバッグの山は消えない、という現実です[1]。それでも作る価値があるのは、プロンプトから次のトークンまでの間で何が起きているかを、自分の手で追えるからでしょう。リポジトリでは、3DレンダラやBitTorrentクライアントなどのお題とともに、ビルド日記付きの挑戦が募集されています[3]。生の成功と失敗の記録は、今後も増えていきそうです。
引用ソース
- Reddit Reddit r/LocalLLaMA: Vibecoding your own inference engine is easy they said — https://www.reddit.com/r/LocalLLaMA/comments/1xdh57e/vibecoding_your_own_inference_engine_is_easy_they/
Vibecoding your own inference engine is easy they said
- Web記事 記事全文: Build an LLM From Scratch — A Free Learning Path | Vibe Engines — https://vibeengines.com/learn/llm-from-scratch
How this path works
This path is for engineers who use language models every day and want to know what happens between the prompt and the next token: application developers tired of treating the model as a black box, ML - Web記事 記事全文: Build Your Own X with Vibe Coding – GitHub — https://github.com/inFaaa/build-your-own-x-vibe-coding
What I cannot create, I do not understand — Richard Feynman.
Use Vibe-Coding to make “from-scratch” building faster, smoother, and more fun.
This repo preserves the spirit of build-your-own-x, and upgrades the workflow f - Web記事 Web検索: "I Built an LLM Inference Engine from Scratch – Here's What I Learned" — https://medium.com/@Rishavtalks/i-built-an-llm-inference-engine-from-scratch-heres-what-i-learned-832113de2300
"I Built an LLM Inference Engine from Scratch – Here's What I Learned"
- Web記事 Web検索: Build Your Own Inference Engine: From Scratch | martinuke0's Blog — https://martinuke0.github.io/posts/2026-09-01-build-your-own-inference-engine-from-scratch/
Build Your Own Inference Engine: From Scratch | martinuke0's Blog
- Web記事 Web検索: I Built a Modular LLM Inference Engine from Scratch – Medium — https://medium.com/@murali8k/i-built-a-modular-llm-inference-engine-from-scratch-heres-what-i-learned-ae0aae552945
I Built a Modular LLM Inference Engine from Scratch – Medium
- Web記事 Web検索: Building LLMs from Scratch: A Working Engineer's Guide — https://martinuke0.github.io/posts/2026-09-07-building-llms-from-scratch-a-working-engineer/
Building LLMs from Scratch: A Working Engineer's Guide
- Web記事 Web検索: Vibecoding your own LLM inference engine: GGUF… · AGI Hunt — https://agihunt.info/en/p/1a169650a53683a8d7ee722712f
Vibecoding your own LLM inference engine: GGUF… · AGI Hunt
※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。
RECENT COMMENTS