スキャンした文書を渡すと、文字の内容だけでなく「どこに何が書いてあるか」までJSONで返ってくる。そんな軽量OCRモデルが、推論エンジンvLLMとの組み合わせで話題になっています。vLLMは大規模言語モデルの推論(学習済みモデルが答えを生成する処理)を高速化するオープンソース基盤です。リクエストをまとめて処理し、GPUを有効に使う仕組みが特徴とされています[2]。
発端は、ローカルでAIモデルを動かす人々のコミュニティ「Reddit r/LocalLLaMA」への投稿です。注目を集めたのはOvisOCR3。Qwen3.5-0.8Bをベースにした0.8B(8億パラメータ)級のOCRモデルで、Apache 2.0ライセンスで公開され、vLLMでの推論例も添えられています[1]。投稿者は「境界ボックス出力とページ跨ぎの表復元が、文書ワークフローにとって特に有用に見える」と述べています[1]。ローカルAI勢のカルチャーに合った話題として、反応が集まったようです。
OvisOCR3の進化点は、前版OvisOCR2のMarkdown解析からの拡張にあります。要素の位置を示す境界ボックス、カテゴリ、内容を含む構造化JSON出力に対応しました。レイアウトだけを取り出すモードも選べます。指定フィールドやJSONテンプレートを渡してのキー情報抽出、図の説明文生成、フローチャートのMermaid形式出力も加わっています[1]。Mermaidはフローチャートをテキストで記述する記法です。図をそのまま編集できるデータにできるのが便利な点です。さらに特徴的なのが「ページ跨ぎ表復元」です。まず各ページを解析し、その後同じモデルで隣接ページに分断された表の断片を結合します[1]。長い帳票では表がページの途中で切れることが多く、これを同じモデルで完結させる発想が面白いところです。
数値も確認しておきましょう。モデルカードの報告値では、OmniDocBench v1.6で96.74、MDPBenchで88.80、PureDocBenchで82.31です[1]。前版からの伸びが大きいのは、MDPBenchの69.00→88.80と、PureDocBenchの75.10→82.31の2項目です[1]。0.8Bという小型サイズでこの水準に達した点は、汎用の大型モデルに頼らず文書解析に特化させる道筋の強さを示していると思われます。
このモデル系列には、学術的な裏付けもあります。「OvisOCR: End-to-End Document Parsing via Aligning Specialized…」の論文はOpenReviewで公開されており[4]、ICML 2026ではポスターとして採択されています[4]。OvisOCR3の公開は、AGI Huntなどのニュースサイトでも速報的に取り上げられました[4]。Reddit外への波及も早かったようです。
一方、vLLMでOCRを動かすノウハウそのものも広がっています。AMDの開発者向けドキュメントROCmには、チュートリアル「OCR with vision-language models with vLLM」が公開されています。LLaVA、BLIP-2、Qwen-VLといった視覚言語モデル(VLM)をvLLMで動かし、Gradio(デモ画面を手軽に作れるライブラリ)からOCRを試せるようにする、段階的な手順解説です[2]。前提環境はUbuntu 22.04、AMD Instinct MI300X GPU、ROCm 6.2または6.3、Docker、Hugging FaceのAPIトークンです。Dockerによる環境セットアップから始める構成になっています[2]。Meta Llama系のチェックポイントを使う場合は、トークンに事前承認が必要との注意書きもあります[3]。同チュートリアルは最新バージョンのドキュメント(4.0)にも収録されており[3]、NVIDIA製GPU以外でのOCR構築が標準教材として整備されているようです。
vLLMがOCRと組み合わせられる理由も、チュートリアルに説明があります。vLLMは「リクエストを効果的にバッチ処理し、GPUリソースを活用することで高スループットと低レイテンシを実現する」とされています[2]。大量のページを連続して解析する文書デジタル化の業務は、この恩恵が大きい場面と思われます。OvisOCR3がvLLMの推論例を同梱しているのも、実運用を意識した構成なのでしょう[1]。
ただし、素材の中には冷静な視点もあります。Redditの投稿者自身が「これらはチームの報告値だ」と断ったうえで、汚れたスキャン画像や長い財務表でこの構造がどこまで保つかに興味がある、と述べています[1]。乱れた実データでの実測比較は、素材には見つかりませんでした。構造化出力の信頼性を多様なソースで測る「Structured Output Benchmark」といった研究もarXivで公開されています[4][4]。出力形式の正しさそのものを検証する動きが進んでいるようです。報告値と実運用の間には、まだ検証すべき距離があります。
0.8B級の専用モデルがvLLMに載り、AMD環境向けの手順書まで揃ったことで、文書解析AIを自分の環境で動かすハードルは下がっています。ポイントは性能の伸びだけではありません。JSON出力やページ跨ぎ表復元といった、業務でそのまま使える形への進化が今の流れです。次の関所は、乱れた実データでどれだけ壊れないかです。検証が進めば、小型専用モデルとvLLMの組み合わせは、文書処理の定番になっていくかもしれません。
RECENT COMMENTS