JVM単一JAR推論は、2.6MBの依存なしJARという魅力を持ちます。ただ、速度の主張は同じ条件のベンチで確かめる段階です。InferBenchやllama-benchなど、ローカル推論を測る道具が中心になっています。

続きを読む →

Dockerの自動起動を有効にする。 一般ユーザーでDockerの操作ができるように変更する。まずはdockerグループにユーザーが所属していないことを確認する。 docker:x:979の後ろにユーザー名が表示されない場合は所属していないので、追加する。 追加したらなんかエラーが発生した。 /va […]

続きを読む

せっかくdocker-composeをインストールしたところだけども……コンテナの再起動とかいちいちターミナルを開いて操作するのが面倒なので、GUIでコンテナを管理できるPortainerをインストールしてみることにした。docker-composeやdockerコマンドで作ったコンテナも一応出てく […]

続きを読む

FCOSではdockerではなくpodmanの使用を推奨しているらしいんだけど、Google検索した感じdockerの方が100倍情報量が豊富っぽいのでdockerを使うことにする。（……podmanとdockerは互換性があるらしく、コマンドはそのまま使えるみたいなんだけど、マイナーな互換品を使っ […]

続きを読む