LLM推論エンジンの自作が各所で試されています。純Python約200行でKVキャッシュ付きの生成を実現した記事や、HTML内で量子化モデルを動かした投稿が登場。ただし難所はトークナイザで、投稿者は「llama.cppをcloneしたほうがいい」と締めています。
RECENT POST
-
2026.10.25
GrokBotその後：長時間エージェント向けのGrok 4.6が最前線に復帰 -
2026.10.25
Dots追跡その後:OCRモデルdots.mocrが図表をSVGコードに変える -
2026.10.25
続報・RTX 5090は消えていなかった 中国工房に数百枚、規制下でも流入続く
RECENT COMMENTS