続:JVM単一JAR推論、ベンチ環境が語る現実 2026.10.28 n-kase JVM単一JAR推論は、2.6MBの依存なしJARという魅力を持ちます。ただ、速度の主張は同じ条件のベンチで確かめる段階です。InferBenchやllama-benchなど、ローカル推論を測る道具が中心になっています。 続きを読む → 0コメント AI dockerInferBenchllama
RECENT COMMENTS