Hacker Newsで、依存ライブラリなしのJVM用JAR1つで動き、llama.cppより速いというローカル推論が話題に。llama3.javaやbrewferenceなどの純Java実装がVector APIやGraalVMで性能を上げています。ただし実測数値は乏しく、開発継続の難しさも見えてきました。

続きを読む →