画像解析の検証計画

mmproj(画像を読む部品)を持つモデルに、文字・表・グラフ・画面の画像を読ませ、どこまで正しく読めるか、どれだけかかるかを測る
📅 作成: 2026-10-10 / 更新: 2026-10-10

目次

  1. 目的
  2. 対象のモデル
  3. 試験の画像と問
  4. 測り方
  5. 進め方と気をつけること

目的

これまでの試験は文字だけを扱った。閉域網では、画面の写しや紙の資料を撮った画像から内容を読みたい場面がある。 mmproj を持つモデルで、実際に使える読み取りの正しさと速さが出るかを確かめ、使うモデルを決める。

  1. モデルが画像をどこまで正しく読めるか(エージェントを通さず、llama-server に直接聞く)
  2. エージェント(Claude Code・Pi・OpenCode)から画像を渡せるか。渡せるなら、同じ問に答えられるか

対象のモデル

手持ちのうち mmproj があるもの。サーバは --mmproj で mmproj を渡して起動する。

モデル本体mmproj備考
Ministral-3-3B-Instruct-25122.0 GB0.8 GB最小
gemma-4-E2B-it3.2 GB0.9 GB
Bonsai-27B(Q1_0)3.5 GB0.9 GB
gemma-4-E4B-it-qat3.9 GB0.9 GB取得中
gemma-4-E4B-it5.0 GB0.9 GB文字の試験で最も良かった
Qwen3.5-9B5.2 GB0.9 GB
Ornith-1.0-9B5.3 GB0.9 GB取得中
gemma-4-12B-it-QAT6.5 GB0.2 GB文字の試験で最も良かった
gemma-4-12B-it6.9 GB0.2 GB
Ministral-3-14B-Reasoning-25127.7 GB0.8 GB
Muse-Glimmer-30B14.8 GB1.9 GB取得中
Qwen3.8-27B15.3 GB0.9 GB取得中

試験の画像と問

画像は試験スクリプトで作る。正解が決まっていて、著作物を含まず、何度でも同じ画像を作り直せるようにする。

記号画像問合格の条件
ocr-ja日本語の文 3 行と数字(例: 型番・金額・日付)を描いた画像書かれている文字をそのまま書き出して決めた語と数字がすべて答えにある
table4 行 3 列の表(品名・数量・単価)数量の合計はいくつ?正しい合計がある
chart5 本の棒グラフ(項目名と値のラベル付き)いちばん大きい項目と、その値は?項目名と値の両方がある
screenエラーの窓を模した画面(題名・メッセージ・ボタン)何のエラーで、どうすればよいと書いてある?エラーの語と、対処の語がある

答えの判定は、sum の試験と同じく決めた語の有無で機械的に行う。読み間違いの形(似た字の取り違え・桁の抜け)は記録に残す。

測り方

1. llama-server に直接聞く

2. エージェントから渡す

測るスクリプトは tools/50_run/test-vision.ps1(画像を作るところも含む)、判定は sum-judge.ps1 と同じく関数にしてテストを書く。

進め方と気をつけること

  1. モデルの取得(2026-10-10 開始)が終わるのを待つ
  2. 画像を作る部分と判定の関数を書き、テストを足す
  3. 1 本(gemma-4-E4B)で 4 問を流し、手順が動くことを見る
  4. 全 12 本を流し、上位 3 本でエージェントからの試験をする
  5. 結果を試験結果に書く