Strata/Basaltの最適化で、Qwen3.8 Flash Nextの125B MoEがRTX 5080で動くという報告です。prefill(一括処理)約5500TPS、decode(生成)ピーク275TPSとされ、実用性が一段上がりました。RAMや量子化の制約も扱います。
RECENT POST
-
2026.10.29
続・Gemini Spark、評価基盤から見る24/7エージェントの課題 -
2026.10.29
続・GPT追跡 ローカル推論とベンチの課題 -
2026.10.29
続・エージェント評価、実装率27%と人の不在
RECENT COMMENTS