スキャンした文書を渡すと、文字の内容だけでなく「どこに何が書いてあるか」までJSONで返ってくる。そんな軽量OCRモデルが話題になっています。鍵を握るのは推論エンジンのvLLMです。推論とは、学習済みモデルが答えを生成する処理のこと。vLLMはその処理を高速化するオープンソース基盤です。リクエストを […]

続きを読む