coderouter-cli 1.8.3__tar.gz → 1.8.5__tar.gz

{coderouter_cli-1.8.3 → coderouter_cli-1.8.5}/CHANGELOG.md

@@ -6,6 +6,55 @@ versioning follows [SemVer](https://semver.org/).
 
 ---
 
+## [v1.8.5] — 2026-04-28 (doctor NEEDS_TUNING メッセージを v1.8.3 thinking-aware budget の事実に揃える + `docs/lmstudio-direct.md` 新規)
+
+**Theme: 文言の整合 patch + ドキュメント補完。**v1.8.3 で `tool_calls` / `num_ctx` / `streaming` の 3 probe に thinking-aware budget (256 / 1024) を入れた。今回はその事実を NEEDS_TUNING 時の detail メッセージに反映し、operator が「probe budget が小さすぎたのでは」と疑う余地をなくす。あわせて v1.8.4 で実機検証した LM Studio 0.4.12 経由経路を `docs/llamacpp-direct.md` と対をなす形で `docs/lmstudio-direct.md` (+ `.en.md`) として正式化。
+
+- Tests: 737 → 737 (既存 assert は phrase-substring を見ていないので追従不要、新規 assertion は不足分を 1 件追加)
+- Runtime deps: 5 → 5 (22 sub-release 連続据え置き)
+- Backward compat: 完全互換、`providers.yaml` / `~/.coderouter/model-capabilities.yaml` / コード側 API 変更なし
+
+### Changes
+
+#### Doctor NEEDS_TUNING 文言更新 (suggestion を thinking-aware budget 前提に揃える)
+
+- **`coderouter/doctor.py` `_probe_tool_calls`**: 「Common for quantized small models」を残しつつ、thinking モデル時は `Probed with thinking-aware budget (1024 tokens, covers reasoning_content plus the call) — this is a true tools=false case, not budget exhaustion.` を前置。非 thinking 時は `Probed with default budget (256 tokens) — the model produced no tool-shaped output at all.` を前置
+- **`coderouter/doctor.py` `_probe_streaming`**: `finish_reason='length'` 偽陽性回避のため、thinking 時は `Probe sent max_tokens=1024 (thinking-aware), so the cap is server-side options.num_predict rather than the probe budget.` を前置。非 thinking 時は `Probe sent max_tokens=512;` 系を前置
+- **`coderouter/doctor.py` `_probe_num_ctx`**: 「canary missing」3 ケース (declared=None / declared<threshold / declared>=threshold) すべてに、thinking モデル時は `Probe sent max_tokens=1024 (thinking-aware), so the miss is prompt-side truncation rather than reply truncation.` の budget note を追加。これで operator が「probe の reply budget が足りなかったのでは」という疑問を即座に消せる
+
+#### Documentation 補完: `docs/lmstudio-direct.md` 新規
+
+- **`docs/lmstudio-direct.md` / `.en.md` 新規** — v1.8.4 で実機検証した LM Studio 0.4.12 経由経路を `docs/llamacpp-direct.md` と対をなす形で 7 step + Troubleshooting で。M3 Max 64GB / Q4_K_M / Metal 想定 + GUI 操作前提の canonical recipe
+  - Step 1: LM Studio install & Discover タブで Q4_K_M モデルダウンロード (Qwen3.5 9B / Qwen3.6 35B-A3B / Jackrong/Qwopus3.5-9B-v3-GGUF)
+  - Step 2: Chat タブで Load Model (Context 32768 / GPU max / Flash Attention ON)
+  - Step 3: Local Server タブで Port 1234 / Just-in-time Model Loading: ON / Start Server
+  - Step 4: curl 直叩き (OpenAI 互換 + Anthropic 互換 両ルート、native tool_calls / native tool_use 両方確認)
+  - Step 5: CodeRouter に provider 登録 (`kind: openai_compat` 経路 + `kind: anthropic` 経路の 2 種)
+  - Step 6: doctor 6 probe で動作確認 (両ルートとも全 probe OK)
+  - Step 7: CodeRouter 経由 end-to-end (Anthropic prompt caching `cache_read_input_tokens: 280` 観測も含む)
+
+### Why
+
+v1.8.3 で `tool_calls` probe の active-harmful 誤診断 (thinking モデルに対して `tools: false` 提案) を fix したが、メッセージ文面はそのまま v1.8.2 以前の言い回し (「Common for quantized small models」のみ) を残していた。operator が NEEDS_TUNING を見たときに「probe budget が小さすぎたのでは」「v1.8.2 のバグの再発では」と疑う余地が文面上残っていたのを、**実装が既に thinking-aware なので断定できる** という事実に文言を揃える。診断ツールの出力は実装の confidence を反映すべき。
+
+`docs/lmstudio-direct.md` は v1.8.4 で実機検証 + `examples/providers.yaml` に provider 例追加までは済ませていたが、`docs/llamacpp-direct.md` と並ぶレベルの canonical recipe ドキュメントが欠けていた。LM Studio 経由が現時点で最も `qwen35` / `qwen35moe` architecture を安定して動かせる経路 (Anthropic prompt caching まで透過) なので、operator が辿り着けるドキュメントとして正式化。
+
+### Migration
+
+`pyproject.toml version 1.8.3 → 1.8.5`、`coderouter --version` は 1.8.5 を返す。**手元の `~/.coderouter/providers.yaml` は触らない限り完全に変化なし**。doctor 出力の文面が変わるが verdict と suggested_patch の semantic は完全互換。
+
+### Files touched
+
+```
+M  CHANGELOG.md
+M  coderouter/doctor.py
+M  pyproject.toml
+A  docs/lmstudio-direct.md
+A  docs/lmstudio-direct.en.md
+```
+
+---
+
 ## [v1.8.3] — 2026-04-26 (tool_calls probe も thinking モデル対応 + adapter で `reasoning_content` strip — llama.cpp 直叩き対応)
 
 **Theme: v1.8.2 と同日リリースの第 2 弾 patch。Qwen3.6:35b-a3b on llama.cpp の実機検証で発見した 2 つの追加課題 — `tool_calls` probe の thinking モデル偽陽性 + llama.cpp が emit する `reasoning_content` フィールドの adapter strip 不足 — を解消。**
@@ -70,6 +119,18 @@ M  tests/test_doctor.py
 M  tests/test_reasoning_strip.py
 ```
 
+### Post-release docs followup (同 commit ではなく追加 commit で)
+
+llama.cpp 直叩き経路を canonical な救済路として正式採用したのを受け、関連ドキュメントを v1.8.3 後に整理:
+
+- **`docs/llamacpp-direct.md` / `.en.md` 新規** — `llama.cpp` build → Unsloth GGUF → `llama-server` → CodeRouter 接続を 7 step + Troubleshooting で。M3 Max 64GB / Q4_K_M / Metal 想定の canonical recipe
+- **`setup.sh`**: 48 GB+ tier の推奨を旧 `qwen3.6:35b` → `gemma4:26b` に変更 (Ollama 経由詰みのため)。upgrade hint からも Qwen3.6 系を撤去、代わりに `docs/llamacpp-direct.md` への誘導を追加
+- **`docs/quickstart.md` / `.en.md`**: 「より良いモデル」セクションの `ollama pull qwen3.6:35b` を撤去、`docs/llamacpp-direct.md` への誘導追加
+- **`docs/hf-ollama-models.md`**: `ollama pull qwen3.6:35b` を「⚠️ Qwen3.6 系は Ollama 経由で詰みやすい」警告に置換、llama.cpp 直叩き経路の案内を追加
+- **`README.md` / `.en.md`**: ドキュメント目次に「llama.cpp 直叩きガイド」行を追加、英語版言語スイッチャーにも `llama.cpp direct` リンクを追加
+- **`examples/providers.yaml`**: `llamacpp-qwen3-6-35b-a3b` provider 例を追加 + `coding` profile chain primary に組み込み (詳細コメント付き)。Qwen3.6 系 Ollama 経路のコメントも v1.8.3 結果反映で更新
+- **`tests/test_setup_sh.py`**: 48 GB / 64 GB tier の expected_model assertion を `qwen3.6:35b` → `gemma4:26b` に追従更新
+
 ---
 
 ## [v1.8.2] — 2026-04-26 (doctor probe を thinking モデル対応に — Gemma 4 偽陽性の解消)
@@ -399,7 +460,7 @@ $ curl -sI "https://pypi.org/pypi/coderouter-cli/json" | head -1
 HTTP/2 200
 ```
 
-CDN 伝播後に `uvx coderouter-cli --version` で本物の PyPI 経由インストールも確認済み。
+CDN 伝播後に `uvx --from coderouter-cli coderouter --version` で本物の PyPI 経由インストールも確認済み (uv 0.11+ では package 名 ≠ executable 名のとき `--from` 必須、Issue #10 で報告者から fb)。
 
 ### Migration
 
@@ -409,8 +470,8 @@ CDN 伝播後に `uvx coderouter-cli --version` で本物の PyPI 経由イン
 # 旧 (引き続き有効)
 uv tool install --from git+https://github.com/zephel01/CodeRouter.git coderouter-cli
 
-# 新 (PyPI から、コマンド 1 行)
-uvx coderouter-cli serve --port 8088
+# 新 (PyPI から、コマンド 1 行 — uv 0.11+ canonical 形式)
+uvx --from coderouter-cli coderouter serve --port 8088
 # あるいは恒久的に:
 uv tool install coderouter-cli
 ```

{coderouter_cli-1.8.3 → coderouter_cli-1.8.5}/PKG-INFO

@@ -1,6 +1,6 @@
 Metadata-Version: 2.4
 Name: coderouter-cli
-Version: 1.8.3
+Version: 1.8.5
 Summary: Local-first, free-first, fallback-built-in LLM router. Claude Code / OpenAI compatible.
 Project-URL: Homepage, https://github.com/zephel01/CodeRouter
 Project-URL: Repository, https://github.com/zephel01/CodeRouter
@@ -60,7 +60,7 @@ Description-Content-Type: text/markdown
 <p align="center">
   <a href="https://github.com/zephel01/CodeRouter/actions/workflows/ci.yml"><img src="https://github.com/zephel01/CodeRouter/actions/workflows/ci.yml/badge.svg?branch=main" alt="CI"></a>
   <a href=""><img src="https://img.shields.io/badge/status-stable-brightgreen" alt="status"></a>
-  <a href=""><img src="https://img.shields.io/badge/version-1.8.3-blue" alt="version"></a>
+  <a href=""><img src="https://img.shields.io/badge/version-1.8.5-blue" alt="version"></a>
   <a href=""><img src="https://img.shields.io/badge/python-3.12%2B-blue" alt="python"></a>
   <a href=""><img src="https://img.shields.io/badge/runtime%20deps-5-brightgreen" alt="deps"></a>
   <a href=""><img src="https://img.shields.io/badge/license-MIT-yellow" alt="license"></a>
@@ -99,11 +99,13 @@ Description-Content-Type: text/markdown
 | **無料で回す** | [無料枠ガイド](./docs/free-tier-guide.md) | NVIDIA NIM 40 req/min × OpenRouter 無料枠の使い分け・live 検証済みモデル表・地雷 5 点 |
 | **要るか判断する** | [要否判定ガイド](./docs/when-do-i-need-coderouter.md) | エージェント × モデルの詳細マトリクスで「そもそも自分に必要か」を決める |
 | **詰まったとき** | [トラブルシューティング](./docs/troubleshooting.md) | `doctor` の使い方、`.env` の export 必須、Ollama サイレント失敗 5 症状、Claude Code 連携の罠 |
+| **llama.cpp 直叩き** | [llama.cpp 直叩きガイド](./docs/llamacpp-direct.md) | Qwen3.6 を Ollama 詰みから救出する経路。`llama.cpp` build → Unsloth GGUF → `llama-server` → CodeRouter 接続を 7 step で（v1.8.3 実機検証済）|
+| **LM Studio 直接** | [LM Studio 直接ガイド](./docs/lmstudio-direct.md) | `qwen35` / `qwen35moe` を救う第 2 経路。LM Studio 0.4.12+ Local Server 経由で OpenAI 互換 + Anthropic 互換 (`/v1/messages`) 両対応、prompt caching 透過（v1.8.4 実機検証済）|
 | **安全に使う** | [セキュリティ方針](./docs/security.md) | 脅威モデル・秘密情報の扱い・脆弱性報告経路 |
-| **履歴** | [CHANGELOG](./CHANGELOG.md) | 全リリース履歴（最新: v1.8.3 — tool_calls probe も thinking 対応 + adapter で `reasoning_content` strip / llama.cpp 直叩き対応） |
+| **履歴** | [CHANGELOG](./CHANGELOG.md) | 全リリース履歴（最新: v1.8.5 — doctor NEEDS_TUNING メッセージを v1.8.3 thinking-aware budget の事実に揃える + `docs/lmstudio-direct.md` 新規） |
 | **設計を追う** | [plan.md](./plan.md) | 設計不変項・マイルストーン・今後のロードマップ |
 
-English versions: [Quickstart](./docs/quickstart.en.md) · [Usage guide](./docs/usage-guide.en.md) · [Free-tier guide](./docs/free-tier-guide.en.md) · [When you need it](./docs/when-do-i-need-coderouter.en.md) · [Troubleshooting](./docs/troubleshooting.en.md) · [Security](./docs/security.en.md)
+English versions: [Quickstart](./docs/quickstart.en.md) · [Usage guide](./docs/usage-guide.en.md) · [Free-tier guide](./docs/free-tier-guide.en.md) · [When you need it](./docs/when-do-i-need-coderouter.en.md) · [Troubleshooting](./docs/troubleshooting.en.md) · [llama.cpp direct](./docs/llamacpp-direct.en.md) · [LM Studio direct](./docs/lmstudio-direct.en.md) · [Security](./docs/security.en.md)
 
 ## CodeRouter で何が楽になるか
 
@@ -184,7 +186,9 @@ curl -fsSL https://raw.githubusercontent.com/zephel01/CodeRouter/main/examples/p
   > ~/.coderouter/providers.yaml
 
 # 2. uvx で起動 (インストール + 起動が 1 行)
-uvx coderouter-cli serve --port 8088
+#    PyPI 配布名 (coderouter-cli) と console script 名 (coderouter) が異なるため、
+#    uv 0.11+ では --from 形式が必須 (旧 uv でも動く canonical 形式)
+uvx --from coderouter-cli coderouter serve --port 8088
 ```
 
 恒久的にインストールしておきたい場合:
@@ -257,7 +261,7 @@ CodeRouter 自体は純 Python 3.12+ で、実質的な OS 対応範囲は `min(
 
 **リリース単位の詳細が欲しい？** v0.x と v1.0-A/B/C の各スライス — 何が入り、何本のテストが増え、なぜ必要だったのか — は [CHANGELOG.md](./CHANGELOG.md) に揃っています。設計の不変項と今後のロードマップは [plan.md](./plan.md)。
 
-**次の予定**（v1.0 は [plan.md §10](./plan.md)、v1.0+ は §18）: v1.5 ✅ メトリクス / `/dashboard` / `coderouter stats` TUI / `scripts/demo_traffic.sh`、v1.6 ✅ `auto_router` (task-aware routing) + NVIDIA NIM 無料枠 + トラブルシュートドキュメント分離 + `--env-file` / `doctor --check-env`、v1.7 ✅ PyPI 公開 (`uvx coderouter-cli`)、v1.8 ✅ 用途別 4 プロファイル (multi/coding/general/reasoning) + Gemma 4 / Qwen3.6 / Z.AI (GLM) 登録 + `setup.sh` onboarding ウィザード + `coderouter doctor --check-model --apply` (非破壊 YAML 書き戻し) + `claude_code_suitability` startup チェック + Trusted Publishing 自動化。残り (v1.9 候補) は `coderouter doctor --network` (CI 用) / launcher スクリプト / 起動時アップデートチェック (opt-in)。
+**次の予定**（v1.0 は [plan.md §10](./plan.md)、v1.0+ は §18）: v1.5 ✅ メトリクス / `/dashboard` / `coderouter stats` TUI / `scripts/demo_traffic.sh`、v1.6 ✅ `auto_router` (task-aware routing) + NVIDIA NIM 無料枠 + トラブルシュートドキュメント分離 + `--env-file` / `doctor --check-env`、v1.7 ✅ PyPI 公開 (`uvx --from coderouter-cli coderouter`)、v1.8 ✅ 用途別 4 プロファイル (multi/coding/general/reasoning) + Gemma 4 / Qwen3.6 / Z.AI (GLM) 登録 + `setup.sh` onboarding ウィザード + `coderouter doctor --check-model --apply` (非破壊 YAML 書き戻し) + `claude_code_suitability` startup チェック + Trusted Publishing 自動化。残り (v1.9 候補) は `coderouter doctor --network` (CI 用) / launcher スクリプト / 起動時アップデートチェック (opt-in)。
 
 ### Claude Code と一緒に使う
 
@@ -432,7 +436,7 @@ suggested patch for ~/.coderouter/providers.yaml:
 - v1.0 ✅ — 14 ケースのリグレッションスイート、Code Mode (スリム版 Claude Code ハーネス); 出力クリーニングは **v1.0-A** で `output_filters` チェーンとして完了
 - v1.5 ✅ — **メトリクスダッシュボード（出荷済み）** — `MetricsCollector` + `GET /metrics.json` + `GET /metrics` (Prometheus) + `GET /dashboard` (HTML 1 ページ) + `coderouter stats` curses TUI + `scripts/demo_traffic.sh` トラフィックジェネレータ + `display_timezone` 設定
 - v1.6 ✅ — `auto_router` (task-aware routing、`default_profile: auto` で画像/コード濃度/その他を自動振り分け) + NVIDIA NIM 無料枠 8 段チェーン + ドキュメント言語スワップ (JA primary) + トラブルシュート独立ドキュメント + `--env-file` / `doctor --check-env`
-- v1.7 ✅ — PyPI 公開 (`uvx coderouter-cli` で 1 行起動) + Trusted Publishing 経路 (release.yml で自動 publish)
+- v1.7 ✅ — PyPI 公開 (`uvx --from coderouter-cli coderouter` で 1 行起動) + Trusted Publishing 経路 (release.yml で自動 publish)
 - v1.8 ✅ — **用途別 4 プロファイル + GLM/Gemma 4/Qwen3.6 公式化 + apply 自動化**: `multi` (default) / `coding` / `general` / `reasoning` の 4 プロファイル + 全プロファイルに `append_system_prompt` で Claude 風応答 nudge + `mode_aliases` (default/fast/vision/think/cheap)、Ollama 公式 tag 化された `gemma4:e4b/26b/31b` / `qwen3.6:27b/35b` を active stanza に格上げ、Z.AI を OpenAI-compat で 2 base_url 提供 (Coding Plan / General API)、`coderouter doctor --check-model --apply` で YAML パッチを非破壊書き戻し (`ruamel.yaml` round-trip でコメント・key 順序保持、冪等)、`setup.sh` onboarding ウィザード、`claude_code_suitability` startup チェック (Llama-3.3-70B 系を `claude-code-*` profile で WARN)。残り (v1.9 以降): `coderouter doctor --network` (CI 用)、launcher スクリプト (`.command` / `.sh` / `.bat`)、opt-in 起動時アップデートチェック
 
 ## `kind: openai_compat` と `kind: anthropic` の選び方

{coderouter_cli-1.8.3 → coderouter_cli-1.8.5}/README.en.md

@@ -20,7 +20,7 @@
 <p align="center">
   <a href="https://github.com/zephel01/CodeRouter/actions/workflows/ci.yml"><img src="https://github.com/zephel01/CodeRouter/actions/workflows/ci.yml/badge.svg?branch=main" alt="CI"></a>
   <a href=""><img src="https://img.shields.io/badge/status-stable-brightgreen" alt="status"></a>
-  <a href=""><img src="https://img.shields.io/badge/version-1.8.3-blue" alt="version"></a>
+  <a href=""><img src="https://img.shields.io/badge/version-1.8.5-blue" alt="version"></a>
   <a href=""><img src="https://img.shields.io/badge/python-3.12%2B-blue" alt="python"></a>
   <a href=""><img src="https://img.shields.io/badge/runtime%20deps-5-brightgreen" alt="deps"></a>
   <a href=""><img src="https://img.shields.io/badge/license-MIT-yellow" alt="license"></a>
@@ -58,11 +58,13 @@
 | **Run for free** | [Free-tier guide](./docs/free-tier-guide.en.md) | Stacking NVIDIA NIM (40 req/min) with OpenRouter free: live-verified roster and five footguns |
 | **Decide if you need it** | [Decision guide](./docs/when-do-i-need-coderouter.en.md) | Agent × model matrix to figure out whether CodeRouter fits your setup at all |
 | **When stuck** | [Troubleshooting](./docs/troubleshooting.en.md) | How to use `doctor`, why `.env` needs `export`, the 5 Ollama silent-fail symptoms, Claude Code integration gotchas |
+| **llama.cpp direct** | [llama.cpp direct guide](./docs/llamacpp-direct.en.md) | Rescue path for Qwen3.6 (Ollama is brittle). 7-step recipe: `llama.cpp` build → Unsloth GGUF → `llama-server` → CodeRouter wiring. Real-machine verified in v1.8.3. |
+| **LM Studio direct** | [LM Studio direct guide](./docs/lmstudio-direct.en.md) | Second rescue path for `qwen35` / `qwen35moe`. LM Studio 0.4.12+ Local Server with both OpenAI-compatible and Anthropic-compatible (`/v1/messages`) routes — prompt caching survives end-to-end. Real-machine verified in v1.8.4. |
 | **Operate safely** | [Security](./docs/security.en.md) | Threat model, secret handling, vulnerability reporting |
-| **History** | [CHANGELOG](./CHANGELOG.md) | All releases (latest: v1.8.3 — tool_calls probe also thinking-aware + adapter strips `reasoning_content` / llama.cpp direct backend supported) |
+| **History** | [CHANGELOG](./CHANGELOG.md) | All releases (latest: v1.8.5 — doctor NEEDS_TUNING messages aligned with v1.8.3 thinking-aware budget + new `docs/lmstudio-direct.md`) |
 | **Track the design** | [plan.md](./plan.md) | Design invariants, milestones, roadmap |
 
-日本語版: [Quickstart](./docs/quickstart.md) · [利用ガイド](./docs/usage-guide.md) · [無料枠ガイド](./docs/free-tier-guide.md) · [要否判定](./docs/when-do-i-need-coderouter.md) · [トラブルシューティング](./docs/troubleshooting.md) · [Security](./docs/security.md)
+日本語版: [Quickstart](./docs/quickstart.md) · [利用ガイド](./docs/usage-guide.md) · [無料枠ガイド](./docs/free-tier-guide.md) · [要否判定](./docs/when-do-i-need-coderouter.md) · [トラブルシューティング](./docs/troubleshooting.md) · [LM Studio 直接](./docs/lmstudio-direct.md) · [Security](./docs/security.md)
 
 ## What gets easier with CodeRouter
 
@@ -142,8 +144,11 @@ mkdir -p ~/.coderouter
 curl -fsSL https://raw.githubusercontent.com/zephel01/CodeRouter/main/examples/providers.yaml \
   > ~/.coderouter/providers.yaml
 
-# 2. Install + run, in one line
-uvx coderouter-cli serve --port 8088
+# 2. Install + run, in one line.
+#    The PyPI distribution name (coderouter-cli) differs from the console
+#    script name (coderouter), so uv 0.11+ requires the --from form. (It
+#    also works on older uv, so this is the canonical incantation.)
+uvx --from coderouter-cli coderouter serve --port 8088
 ```
 
 Want a permanent install?
@@ -216,7 +221,7 @@ What CodeRouter can do for you today:
 
 **Want the per-release detail?** Every v0.x and v1.0-A/B/C slice — what shipped, how many tests it added, why it was needed — is in [CHANGELOG.md](./CHANGELOG.md). Design invariants and the forward roadmap live in [plan.md](./plan.md).
 
-**Coming next** (see [plan.md §10](./plan.md) for v1.0, §18 for v1.0+): v1.5 ✅ metrics / `/dashboard` / `coderouter stats` TUI / `scripts/demo_traffic.sh`. v1.6 ✅ `auto_router` (task-aware routing) + NVIDIA NIM free tier + troubleshooting doc split + `--env-file` / `doctor --check-env`. v1.7 ✅ PyPI publish (`uvx coderouter-cli`). v1.8 ✅ Use-case-aware 4 profiles (multi/coding/general/reasoning) + Gemma 4 / Qwen3.6 / Z.AI (GLM) registration + `setup.sh` wizard + `coderouter doctor --check-model --apply` (non-destructive YAML write-back) + `claude_code_suitability` startup check + Trusted Publishing automation. Remaining for v1.9+: `coderouter doctor --network` (CI), launcher scripts, opt-in update check.
+**Coming next** (see [plan.md §10](./plan.md) for v1.0, §18 for v1.0+): v1.5 ✅ metrics / `/dashboard` / `coderouter stats` TUI / `scripts/demo_traffic.sh`. v1.6 ✅ `auto_router` (task-aware routing) + NVIDIA NIM free tier + troubleshooting doc split + `--env-file` / `doctor --check-env`. v1.7 ✅ PyPI publish (`uvx --from coderouter-cli coderouter`). v1.8 ✅ Use-case-aware 4 profiles (multi/coding/general/reasoning) + Gemma 4 / Qwen3.6 / Z.AI (GLM) registration + `setup.sh` wizard + `coderouter doctor --check-model --apply` (non-destructive YAML write-back) + `claude_code_suitability` startup check + Trusted Publishing automation. Remaining for v1.9+: `coderouter doctor --network` (CI), launcher scripts, opt-in update check.
 
 ### Use it with Claude Code
 
@@ -393,7 +398,7 @@ Coming next (see [plan.md §10](./plan.md) for v1.0, §18 for v1.0+):
 - v1.0 ✅ — 14-case regression suite, Code Mode (slim Claude Code harness); output cleaning shipped in **v1.0-A** (`output_filters` chain, done)
 - v1.5 ✅ — **Metrics dashboard (shipped)** — `MetricsCollector` + `GET /metrics.json` + `GET /metrics` (Prometheus) + `GET /dashboard` (HTML one-pager) + `coderouter stats` curses TUI + `scripts/demo_traffic.sh` traffic generator + `display_timezone` config
 - v1.6 ✅ — `auto_router` (task-aware routing; `default_profile: auto` dispatches by image attachment / code-fence ratio / else) + NVIDIA NIM free-tier 8-step chain + doc language swap (JA primary) + troubleshooting page split + `--env-file` / `doctor --check-env`
-- v1.7 ✅ — PyPI publish (`uvx coderouter-cli` one-line bootstrap) + Trusted Publishing path (release.yml auto-publish on tag push)
+- v1.7 ✅ — PyPI publish (`uvx --from coderouter-cli coderouter` one-line bootstrap) + Trusted Publishing path (release.yml auto-publish on tag push)
 - v1.8 ✅ — **Use-case-aware 4 profiles + GLM/Gemma 4/Qwen3.6 official tags + apply automation**: `multi` (default) / `coding` / `general` / `reasoning` profiles + `append_system_prompt` per profile to nudge non-Claude models toward Claude-style replies + `mode_aliases` (default/fast/vision/think/cheap), Ollama-official `gemma4:e4b/26b/31b` and `qwen3.6:27b/35b` promoted to active stanzas, Z.AI provided as OpenAI-compat with two base URLs (Coding Plan / General API), `coderouter doctor --check-model --apply` writes YAML patches non-destructively (`ruamel.yaml` round-trip preserves comments + key order; idempotent), `setup.sh` onboarding wizard, `claude_code_suitability` startup check (Llama-3.3-70B in `claude-code-*` profiles emits a structured WARN). Remaining for v1.9+: `coderouter doctor --network` (CI-friendly), launcher scripts (`.command` / `.sh` / `.bat`), opt-in startup update check
 
 ## Choosing `kind: openai_compat` vs `kind: anthropic`

{coderouter_cli-1.8.3 → coderouter_cli-1.8.5}/README.md

@@ -19,7 +19,7 @@
 <p align="center">
   <a href="https://github.com/zephel01/CodeRouter/actions/workflows/ci.yml"><img src="https://github.com/zephel01/CodeRouter/actions/workflows/ci.yml/badge.svg?branch=main" alt="CI"></a>
   <a href=""><img src="https://img.shields.io/badge/status-stable-brightgreen" alt="status"></a>
-  <a href=""><img src="https://img.shields.io/badge/version-1.8.3-blue" alt="version"></a>
+  <a href=""><img src="https://img.shields.io/badge/version-1.8.5-blue" alt="version"></a>
   <a href=""><img src="https://img.shields.io/badge/python-3.12%2B-blue" alt="python"></a>
   <a href=""><img src="https://img.shields.io/badge/runtime%20deps-5-brightgreen" alt="deps"></a>
   <a href=""><img src="https://img.shields.io/badge/license-MIT-yellow" alt="license"></a>
@@ -58,11 +58,13 @@
 | **無料で回す** | [無料枠ガイド](./docs/free-tier-guide.md) | NVIDIA NIM 40 req/min × OpenRouter 無料枠の使い分け・live 検証済みモデル表・地雷 5 点 |
 | **要るか判断する** | [要否判定ガイド](./docs/when-do-i-need-coderouter.md) | エージェント × モデルの詳細マトリクスで「そもそも自分に必要か」を決める |
 | **詰まったとき** | [トラブルシューティング](./docs/troubleshooting.md) | `doctor` の使い方、`.env` の export 必須、Ollama サイレント失敗 5 症状、Claude Code 連携の罠 |
+| **llama.cpp 直叩き** | [llama.cpp 直叩きガイド](./docs/llamacpp-direct.md) | Qwen3.6 を Ollama 詰みから救出する経路。`llama.cpp` build → Unsloth GGUF → `llama-server` → CodeRouter 接続を 7 step で（v1.8.3 実機検証済）|
+| **LM Studio 直接** | [LM Studio 直接ガイド](./docs/lmstudio-direct.md) | `qwen35` / `qwen35moe` を救う第 2 経路。LM Studio 0.4.12+ Local Server 経由で OpenAI 互換 + Anthropic 互換 (`/v1/messages`) 両対応、prompt caching 透過（v1.8.4 実機検証済）|
 | **安全に使う** | [セキュリティ方針](./docs/security.md) | 脅威モデル・秘密情報の扱い・脆弱性報告経路 |
-| **履歴** | [CHANGELOG](./CHANGELOG.md) | 全リリース履歴（最新: v1.8.3 — tool_calls probe も thinking 対応 + adapter で `reasoning_content` strip / llama.cpp 直叩き対応） |
+| **履歴** | [CHANGELOG](./CHANGELOG.md) | 全リリース履歴（最新: v1.8.5 — doctor NEEDS_TUNING メッセージを v1.8.3 thinking-aware budget の事実に揃える + `docs/lmstudio-direct.md` 新規） |
 | **設計を追う** | [plan.md](./plan.md) | 設計不変項・マイルストーン・今後のロードマップ |
 
-English versions: [Quickstart](./docs/quickstart.en.md) · [Usage guide](./docs/usage-guide.en.md) · [Free-tier guide](./docs/free-tier-guide.en.md) · [When you need it](./docs/when-do-i-need-coderouter.en.md) · [Troubleshooting](./docs/troubleshooting.en.md) · [Security](./docs/security.en.md)
+English versions: [Quickstart](./docs/quickstart.en.md) · [Usage guide](./docs/usage-guide.en.md) · [Free-tier guide](./docs/free-tier-guide.en.md) · [When you need it](./docs/when-do-i-need-coderouter.en.md) · [Troubleshooting](./docs/troubleshooting.en.md) · [llama.cpp direct](./docs/llamacpp-direct.en.md) · [LM Studio direct](./docs/lmstudio-direct.en.md) · [Security](./docs/security.en.md)
 
 ## CodeRouter で何が楽になるか
 
@@ -143,7 +145,9 @@ curl -fsSL https://raw.githubusercontent.com/zephel01/CodeRouter/main/examples/p
   > ~/.coderouter/providers.yaml
 
 # 2. uvx で起動 (インストール + 起動が 1 行)
-uvx coderouter-cli serve --port 8088
+#    PyPI 配布名 (coderouter-cli) と console script 名 (coderouter) が異なるため、
+#    uv 0.11+ では --from 形式が必須 (旧 uv でも動く canonical 形式)
+uvx --from coderouter-cli coderouter serve --port 8088
 ```
 
 恒久的にインストールしておきたい場合:
@@ -216,7 +220,7 @@ CodeRouter 自体は純 Python 3.12+ で、実質的な OS 対応範囲は `min(
 
 **リリース単位の詳細が欲しい？** v0.x と v1.0-A/B/C の各スライス — 何が入り、何本のテストが増え、なぜ必要だったのか — は [CHANGELOG.md](./CHANGELOG.md) に揃っています。設計の不変項と今後のロードマップは [plan.md](./plan.md)。
 
-**次の予定**（v1.0 は [plan.md §10](./plan.md)、v1.0+ は §18）: v1.5 ✅ メトリクス / `/dashboard` / `coderouter stats` TUI / `scripts/demo_traffic.sh`、v1.6 ✅ `auto_router` (task-aware routing) + NVIDIA NIM 無料枠 + トラブルシュートドキュメント分離 + `--env-file` / `doctor --check-env`、v1.7 ✅ PyPI 公開 (`uvx coderouter-cli`)、v1.8 ✅ 用途別 4 プロファイル (multi/coding/general/reasoning) + Gemma 4 / Qwen3.6 / Z.AI (GLM) 登録 + `setup.sh` onboarding ウィザード + `coderouter doctor --check-model --apply` (非破壊 YAML 書き戻し) + `claude_code_suitability` startup チェック + Trusted Publishing 自動化。残り (v1.9 候補) は `coderouter doctor --network` (CI 用) / launcher スクリプト / 起動時アップデートチェック (opt-in)。
+**次の予定**（v1.0 は [plan.md §10](./plan.md)、v1.0+ は §18）: v1.5 ✅ メトリクス / `/dashboard` / `coderouter stats` TUI / `scripts/demo_traffic.sh`、v1.6 ✅ `auto_router` (task-aware routing) + NVIDIA NIM 無料枠 + トラブルシュートドキュメント分離 + `--env-file` / `doctor --check-env`、v1.7 ✅ PyPI 公開 (`uvx --from coderouter-cli coderouter`)、v1.8 ✅ 用途別 4 プロファイル (multi/coding/general/reasoning) + Gemma 4 / Qwen3.6 / Z.AI (GLM) 登録 + `setup.sh` onboarding ウィザード + `coderouter doctor --check-model --apply` (非破壊 YAML 書き戻し) + `claude_code_suitability` startup チェック + Trusted Publishing 自動化。残り (v1.9 候補) は `coderouter doctor --network` (CI 用) / launcher スクリプト / 起動時アップデートチェック (opt-in)。
 
 ### Claude Code と一緒に使う
 
@@ -391,7 +395,7 @@ suggested patch for ~/.coderouter/providers.yaml:
 - v1.0 ✅ — 14 ケースのリグレッションスイート、Code Mode (スリム版 Claude Code ハーネス); 出力クリーニングは **v1.0-A** で `output_filters` チェーンとして完了
 - v1.5 ✅ — **メトリクスダッシュボード（出荷済み）** — `MetricsCollector` + `GET /metrics.json` + `GET /metrics` (Prometheus) + `GET /dashboard` (HTML 1 ページ) + `coderouter stats` curses TUI + `scripts/demo_traffic.sh` トラフィックジェネレータ + `display_timezone` 設定
 - v1.6 ✅ — `auto_router` (task-aware routing、`default_profile: auto` で画像/コード濃度/その他を自動振り分け) + NVIDIA NIM 無料枠 8 段チェーン + ドキュメント言語スワップ (JA primary) + トラブルシュート独立ドキュメント + `--env-file` / `doctor --check-env`
-- v1.7 ✅ — PyPI 公開 (`uvx coderouter-cli` で 1 行起動) + Trusted Publishing 経路 (release.yml で自動 publish)
+- v1.7 ✅ — PyPI 公開 (`uvx --from coderouter-cli coderouter` で 1 行起動) + Trusted Publishing 経路 (release.yml で自動 publish)
 - v1.8 ✅ — **用途別 4 プロファイル + GLM/Gemma 4/Qwen3.6 公式化 + apply 自動化**: `multi` (default) / `coding` / `general` / `reasoning` の 4 プロファイル + 全プロファイルに `append_system_prompt` で Claude 風応答 nudge + `mode_aliases` (default/fast/vision/think/cheap)、Ollama 公式 tag 化された `gemma4:e4b/26b/31b` / `qwen3.6:27b/35b` を active stanza に格上げ、Z.AI を OpenAI-compat で 2 base_url 提供 (Coding Plan / General API)、`coderouter doctor --check-model --apply` で YAML パッチを非破壊書き戻し (`ruamel.yaml` round-trip でコメント・key 順序保持、冪等)、`setup.sh` onboarding ウィザード、`claude_code_suitability` startup チェック (Llama-3.3-70B 系を `claude-code-*` profile で WARN)。残り (v1.9 以降): `coderouter doctor --network` (CI 用)、launcher スクリプト (`.command` / `.sh` / `.bat`)、opt-in 起動時アップデートチェック
 
 ## `kind: openai_compat` と `kind: anthropic` の選び方

{coderouter_cli-1.8.3 → coderouter_cli-1.8.5}/coderouter/doctor.py

@@ -836,6 +836,22 @@ async def _probe_num_ctx(
         )
 
     # Canary missing → truncation occurred.
+    #
+    # v1.8.5: with the v1.8.3 thinking-aware response budget already
+    # applied (max_tokens=1024 for reasoning models — see
+    # ``_NUM_CTX_PROBE_MAX_TOKENS_THINKING``), a missing canary cannot
+    # be blamed on an under-sized reply. The fault is genuinely on the
+    # prompt side: the upstream truncated the input before the model
+    # could see the canary token at the head. This sharpens the
+    # remediation — we are confident bumping ``num_ctx`` is the right
+    # fix, not bumping the response budget.
+    thinking = _is_reasoning_model(provider, resolved)
+    budget_note = (
+        f" Probe sent max_tokens={max_tokens} (thinking-aware), so the "
+        "miss is prompt-side truncation rather than reply truncation."
+        if thinking
+        else ""
+    )
     if declared is None:
         return ProbeResult(
             name="num_ctx",
@@ -845,7 +861,7 @@ async def _probe_num_ctx(
                 "upstream truncated the prompt. No `extra_body.options.num_ctx` "
                 "is declared, so Ollama is running at its 2048-token default, "
                 "which cannot hold Claude Code's system + tool prompts "
-                "(plan.md §9.4 symptom #1)."
+                f"(plan.md §9.4 symptom #1).{budget_note}"
             ),
             target_file="providers.yaml",
             suggested_patch=_patch_providers_yaml_num_ctx(provider.name, 32768),
@@ -857,7 +873,8 @@ async def _probe_num_ctx(
             detail=(
                 f"canary missing — declared num_ctx={declared} is below "
                 f"the {_NUM_CTX_ADEQUATE_THRESHOLD}-token threshold needed "
-                "for Claude Code prompts. Bump it (plan.md §9.4 symptom #1)."
+                f"for Claude Code prompts. Bump it (plan.md §9.4 symptom "
+                f"#1).{budget_note}"
             ),
             target_file="providers.yaml",
             suggested_patch=_patch_providers_yaml_num_ctx(provider.name, 32768),
@@ -875,7 +892,7 @@ async def _probe_num_ctx(
             "declared value, or the upstream is silently capping it — "
             "verify with the model card / server logs. The suggested "
             "patch still emits 32768 as a starting point; dial down if "
-            "the host is memory-constrained."
+            f"the host is memory-constrained.{budget_note}"
         ),
         target_file="providers.yaml",
         suggested_patch=_patch_providers_yaml_num_ctx(provider.name, 32768),
@@ -1041,6 +1058,24 @@ async def _probe_streaming(
         # mid-word". Since we're already Ollama-shape-gated, the
         # remediation is always the ``extra_body.options.num_predict``
         # bump.
+        #
+        # v1.8.5: with v1.8.3's thinking-aware probe budget already
+        # applied (max_tokens=1024 for reasoning models), a length cap
+        # here cannot be blamed on the probe budget — the upstream is
+        # the one capping. Surface the budget used so the operator can
+        # rule it out at a glance.
+        thinking = _is_reasoning_model(provider, resolved)
+        budget_note = (
+            f"Probe sent max_tokens={max_tokens} (thinking-aware), so "
+            "the cap is server-side `options.num_predict` rather than "
+            "the probe budget."
+            if thinking
+            else (
+                f"Probe sent max_tokens={max_tokens}; the cap is "
+                "server-side `options.num_predict` rather than the "
+                "probe budget."
+            )
+        )
         return ProbeResult(
             name="streaming",
             verdict=ProbeVerdict.NEEDS_TUNING,
@@ -1048,9 +1083,9 @@ async def _probe_streaming(
                 f"stream closed with `finish_reason='length'` after only "
                 f"{len(content)} chars (expected ≥ "
                 f"{_STREAMING_PROBE_MIN_EXPECTED_CHARS}). Upstream is "
-                "capping output — most likely `options.num_predict`. "
-                "Bump it via `extra_body` (plan.md §9.4 symptom #1 "
-                "streaming variant)."
+                f"capping output — most likely `options.num_predict`. "
+                f"{budget_note} Bump it via `extra_body` (plan.md §9.4 "
+                "symptom #1 streaming variant)."
             ),
             target_file="providers.yaml",
             suggested_patch=_patch_providers_yaml_num_predict(
@@ -1239,13 +1274,33 @@ async def _probe_tool_calls(
 
     # Nothing tool-shaped at all.
     if declared:
+        # v1.8.5: with the v1.8.3 thinking-aware budget already applied,
+        # we can speak with confidence here: the model genuinely did not
+        # emit tool_calls (it's not a budget-exhaustion false-positive
+        # like the pre-v1.8.3 64-token cap used to produce). For thinking
+        # models specifically, the 1024-token budget covers
+        # ``reasoning_content`` *and* a tool call — so a missing
+        # ``tool_calls`` here is real. Surface the budget that was used
+        # so operators reading the message understand what was probed.
+        thinking = _is_reasoning_model(provider, resolved)
+        budget_note = (
+            f"Probed with thinking-aware budget ({max_tokens} tokens, "
+            "covers `reasoning_content` plus the call) — this is a true "
+            "tools=false case, not budget exhaustion."
+            if thinking
+            else (
+                f"Probed with default budget ({max_tokens} tokens) — "
+                "the model produced no tool-shaped output at all."
+            )
+        )
         return ProbeResult(
             name="tool_calls",
             verdict=ProbeVerdict.NEEDS_TUNING,
             detail=(
                 "declaration says tools=true but model produced neither "
-                "native `tool_calls` nor repairable tool JSON. Common for "
-                "quantized small models (plan.md §9.4 symptom #2)."
+                "native `tool_calls` nor repairable tool JSON. "
+                f"{budget_note} Common for quantized small models "
+                "(plan.md §9.4 symptom #2)."
             ),
             target_file="providers.yaml",
             suggested_patch=_patch_providers_yaml_capability(provider.name, "tools", False),

{coderouter_cli-1.8.3 → coderouter_cli-1.8.5}/docs/free-tier-guide.en.md

@@ -115,7 +115,10 @@ curl -fsSL -o ~/.coderouter/providers.yaml \
   https://raw.githubusercontent.com/zephel01/CodeRouter/main/examples/providers.nvidia-nim.yaml
 
 # uvx fetches and runs in one shot
-uvx coderouter-cli serve --mode claude-code-nim --port 8088
+# Note: PyPI distribution name (coderouter-cli) differs from the console
+# script name (coderouter), so uv 0.11+ requires the --from form. It also
+# works on older uv, so this is the canonical incantation.
+uvx --from coderouter-cli coderouter serve --mode claude-code-nim --port 8088
 ```
 
 For a permanent install:

{coderouter_cli-1.8.3 → coderouter_cli-1.8.5}/docs/free-tier-guide.md

@@ -115,7 +115,9 @@ curl -fsSL -o ~/.coderouter/providers.yaml \
   https://raw.githubusercontent.com/zephel01/CodeRouter/main/examples/providers.nvidia-nim.yaml
 
 # uvx で起動 (PyPI から都度取得 + 実行)
-uvx coderouter-cli serve --mode claude-code-nim --port 8088
+# 注: PyPI 配布名 (coderouter-cli) と console script 名 (coderouter) が
+# 異なるため、uv 0.11+ では --from 形式が必須 (旧 uv でも動く)
+uvx --from coderouter-cli coderouter serve --mode claude-code-nim --port 8088
 ```
 
 恒久的にインストールしておく場合:

{coderouter_cli-1.8.3 → coderouter_cli-1.8.5}/docs/hf-ollama-models.md

@@ -137,9 +137,23 @@ ollama cp  hf.co/unsloth/Qwen3-Coder-480B-A35B-Instruct-GGUF:Q4_K_M qwen3-coder:
 ### 雑用 / 一般向け（note 記事推奨）
 
 > **2026-04 update**: Gemma 4 / Qwen3.6 は Ollama 公式 registry に
-> 登録されました。HF 経由は不要です。`ollama pull gemma4:26b` / `ollama
-> pull qwen3.6:35b` でそのまま使えます。providers.yaml の
-> `ollama-gemma4-*` / `ollama-qwen3-6-*` stanza は既に有効化されています。
+> 登録されました。HF 経由は不要です。`ollama pull gemma4:26b` でそのまま
+> 使えます。providers.yaml の `ollama-gemma4-*` stanza は既に有効化されて
+> います。
+
+> **⚠️ Qwen3.6 系 (qwen3.6:35b / qwen3.6:27b) は Ollama 経由で詰みやすい
+> (v1.8.1 〜 v1.8.3 の実機検証 + X / Reddit のコミュニティ報告で確認)**:
+>
+> - `tool_calls [NEEDS TUNING]` (Ollama の chat template / tool 仕様未成熟)
+> - hard crash / リブート / メモリ計算バグ等の幅広い報告 (主に Mac Metal)
+> - `qwen3.6:35b-a3b-coding-nvfp4` 等の variant は MLX backend で 500 エラー
+>
+> **Qwen3.6 を Sonnet 級として狙うなら Ollama ではなく llama.cpp 直叩きを
+> 推奨**: `Unsloth/Qwen3.6-35B-A3B-GGUF` (UD-Q4_K_M) + `llama-server` で
+> native `tool_calls` が完璧動作。手順は
+> [`docs/llamacpp-direct.md`](./llamacpp-direct.md) を参照
+> (CodeRouter v1.8.3 で実機検証済、`examples/providers.yaml` に
+> `llamacpp-qwen3-6-35b-a3b` provider 例も同梱)。
 
 ### Reasoning 向け（GLM / Opus 蒸留）