試験結果と、どのモデル・エージェントを使うかは ローカルLLM で AI エージェントを使う — 試験結果にある。
本書は、その設定の中身と、自分で動かすための手順を書く。コマンドはすべてプロジェクトのフォルダ（W:\2026\20260824-local-llm-llama-cp）で実行する。
| もの | 場所 | 備考 |
|---|---|---|
| llama-server | bin\llama.cpp\llama-server.exe | 一度置いたものを使い続ける。起動のたびにダウンロードはしない（git 管理外） |
| モデル | C:\AI-models\<作者>\<名前>-GGUF\ | 起動のたびにディスクから読むだけ。追加の取得は tools\10_setup\download-models.cmd |
| 差し替えたテンプレート | tools\50_run\templates\ | Ministral 2 本・Bonsai・Qwen3.5-9B 用 |
| ルールなしのホーム | W:\temp\cc1-home（cc1）W:\temp\llama-cp-home（試験） | 無ければ自動で作る |
| 試験の作業用コピー | W:\temp\llama-cp-sandbox | 1 問ごとに中身を消して作り直す |
| 試験の記録 | logs\test-cc-tools\・logs\test-agents\ | git 管理外 |
tools\50_run\run-server-cc.cmd と cc1.cmd が渡している値。試験スクリプトも、1 問の待ち時間とホームの置き場所のほかは同じ値を使う。
"bin\llama.cpp\llama-server.exe" ^
-m "C:\AI-models\Gemma\gemma-4-E4B-it-GGUF\gemma-4-E4B-it-Q4_K_M.gguf" ^
-c 65536 -np 1 ^
-nkvo -ctk q8_0 -ctv q8_0 -fa on ^
--reasoning off ^
--alias gemma-4-E4B-it-Q4_K_M ^
--host 127.0.0.1 --port 11434| 引数 | 意味 |
|---|---|
-c 65536 | コンテキスト長。Claude Code は最初の要求だけで 17,000〜23,600 トークンある |
-np 1 | スロットを 1 つにする |
-nkvo | KV キャッシュを RAM 側に置く。65536 分は VRAM 4GB に載らない |
-ctk q8_0 -ctv q8_0 | KV キャッシュを q8_0 に量子化する |
-fa on | Flash Attention を使う |
--reasoning off | 思考を切る。長く考えて時間切れになるのを防ぐ |
--alias | Claude Code から呼ぶときのモデル名 |
-ngl 99 | 全層を GPU に載せる。3.2 GB 以下のモデルだけ付け、それより大きいモデルは付けずに自動配置に任せる（gemma-4-E4B は付けない） |
--chat-template-file | 差し替えたテンプレート。Ministral 2 本・Bonsai・Qwen3.5-9B だけ付ける |
| 環境変数 | 値 |
|---|---|
ANTHROPIC_BASE_URL | http://127.0.0.1:11434 |
ANTHROPIC_AUTH_TOKEN | 任意の文字列（llama-server は確かめない） |
ANTHROPIC_MODEL・ANTHROPIC_SMALL_FAST_MODEL | サーバの --alias と同じ値 |
CLAUDE_CODE_MAX_CONTEXT_TOKENS | サーバの -c と同じ値（65536） |
API_TIMEOUT_MS | 1 回の要求を待つ長さ。cc1.cmd は 3600000（1 時間） |
CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC | 1 |
CLAUDE_CODE_ATTRIBUTION_HEADER | 0。ホームを替えるとプロジェクトの .claude/settings.json しか効かないため、cc1.cmd でも渡す |
USERPROFILE・HOME | プロジェクトの外にある空のフォルダ（cc1.cmd は W:\temp\cc1-home）。共通ルール・メモリ・フックを読ませない |
listening on http://127.0.0.1:11434 と出れば準備完了
tools\50_run\run-server-cc.cmd.\ を付ける（このPCはカレントフォルダの cmd を名前だけでは探さない）
.\cc1.cmd
.\cc1.cmd -p "README.html の h1 を答えて"2 か所を同じ名前にそろえる。
tools\50_run\run-server-cc.cmd の -m（モデルのファイル）と --alias（名前）。3.2 GB 以下のモデルは -ngl 99 を足す。テンプレートを差し替えるモデルは --chat-template-file "tools\50_run\templates\<名前>.jinja" を足すcc1.cmd の ANTHROPIC_MODEL と ANTHROPIC_SMALL_FAST_MODEL（--alias と同じ値）どのモデルにするかは試験結果の第 1 章にある。
モデルを 1 本ずつ起動し、Claude Code に「README の h1 を読む」「決めた 1 行を書く」の 2 問を投げる。サーバの起動と停止もスクリプトが行う。
rem 決めたモデルだけ（名前の一部をカンマ区切り。書いた順に流れる）
tools\50_run\test-cc-tools.cmd -Only "gemma-4-E2B,gpt-oss-20b" -NoRules -UseTemplates -ExtraArgs "--reasoning off" -TimeoutSec 900
rem 20GB 以下の全モデル（小さい順）
tools\50_run\test-cc-tools.cmd -MaxSizeGB 20 -NoRules -UseTemplates -ExtraArgs "--reasoning off" -TimeoutSec 900| 引数 | 意味 |
|---|---|
-Only | 試すモデル。ファイル名の一部をカンマ区切りで書く |
-MaxSizeGB | このサイズ未満を対象にする（既定 10） |
-NoRules | ルールなし（ホームを W:\temp\llama-cp-home にする）。付けないと 1 往復に数分かかる |
-UseTemplates | 差し替えたテンプレートがあるモデルはそれを使う |
-ExtraArgs | llama-server に足す引数。"--reasoning off" で思考を切る |
-TimeoutSec | 1 問を待つ秒数（既定 600） |
-Tests | read・write のどちらかだけにする（既定は両方） |
読み: ok 13.4 秒 ターン 2 合格 True の形で出るlogs\test-cc-tools\<日時>-norules-results.jsonl（1 モデル 1 行）。1 問ごとの生の出力は …-raw.jsonPi・OpenCode・Aider・Codex CLI を、同じ 2 問で試す。各エージェントの設定は W:\temp\llama-cp-agent-home\ に書き、いつもの設定には触れない。
tools\50_run\test-agents.cmd -Agent pi -Only "Nemotron,Qwen3-4B-Thinking" -UseTemplates -ExtraArgs "--reasoning off"
tools\50_run\test-agents.cmd -Agent opencode -Only "Nemotron" -UseTemplates -ExtraArgs "--reasoning off"
tools\50_run\test-agents.cmd -Agent aider -Only "Nemotron" -UseTemplates -ExtraArgs "--reasoning off"
tools\50_run\test-agents.cmd -Agent codex -Only "gpt-oss-20b" -UseTemplates -ExtraArgs "--reasoning off"結果は logs\test-agents\<日時>-<エージェント>-results.jsonl。質問はコマンド行に載せるため英語にしてある。
-s workspace-write だとファイルの読み書きが止められるため、スクリプトは --dangerously-bypass-approvals-and-sandbox を付けている。
モデルは作業用コピーの外にも手を出せる。
Get-Process llama-server
Stop-Process -Name llama-servertools\80_ops\watch-thermal.cmd で 30 秒ごとに logs\thermal\ へ記録できる