coding-proxy 0.3.1a7__tar.gz → 0.3.1a8__tar.gz

{coding_proxy-0.3.1a7 → coding_proxy-0.3.1a8}/PKG-INFO

@@ -1,6 +1,6 @@
 Metadata-Version: 2.4
 Name: coding-proxy
-Version: 0.3.1a7
+Version: 0.3.1a8
 Summary: A High-Availability, Transparent, and Smart Multi-Vendor Proxy for Claude Code. Support Claude Plans, GitHub Copilot, Google Antigravity, ZAI/GLM, MiniMax, Qwen, Xiaomi, Kimi, Doubao...
 Project-URL: Source Code, https://github.com/ThreeFish-AI/coding-proxy
 Project-URL: User Guide, https://github.com/ThreeFish-AI/coding-proxy/blob/master/docs/user-guide.md

coding_proxy-0.3.1a8/docs/issue.md

@@ -0,0 +1,47 @@
+# Issue 处理档案
+
+> 维护已处理过的 Issue 摘要（问题描述、表因根因、处理方式、后续防范、同类问题影响与处理注意事项），便于同类问题的跨上下文处理。识别相同 Issue 时应在原条目追加复盘，避免同 Issue 多处维护。
+
+---
+
+## streaming usage parse failed: 'NoneType' object has no attribute 'get'
+
+**问题描述**
+
+OpenAI 兼容 SSE 流式响应过程中，单次请求日志反复刷出数十条 WARNING：
+
+```
+WARNING streaming usage parse failed: 'NoneType' object has no attribute 'get'
+```
+
+警告本身被上层 `try/except` 吞掉不影响主链路，但日志噪声严重，且每帧都丢失了 usage 累加。
+
+**表因**
+
+`StreamingUsageAccumulator.feed` 调用 `parse_usage_from_chunk` 解析 SSE chunk 时抛出 `AttributeError`。
+
+**根因**
+
+`src/coding/proxy/routing/usage_parser.py::parse_usage_from_chunk` 中 Anthropic message_start 与 Anthropic message_delta / OpenAI 两条分支都使用了脆弱的判空模式：
+
+```python
+if "usage" in data:        # 仅判断 key 存在
+    u = data["usage"]      # 但值可能是 null
+    u.get("output_tokens", 0)  # AttributeError
+```
+
+部分上游（含某些 OpenAI 兼容供应商）在中间 chunk 显式发送 `"usage": null` 占位帧，`in` 检查通过但取出的是 `None`。
+
+**处理方式**
+
+将两处 guard 统一改为 `u = container.get("usage"); if isinstance(u, dict):`，既排除缺省也排除 null，并顺手移除内部冗余的 `if isinstance(u, dict):` 包装层（已被外层 guard 覆盖）。同时新增三个回归用例覆盖 `data.usage = null` / `message.usage = null` / null 帧后跟有效帧三种场景。
+
+**后续防范**
+
+- 解析外部 SSE / JSON 结构时, 不要单独使用 `if key in data` 作为安全 guard, 应统一采用 `value = data.get(key); if isinstance(value, dict):` 的双重保护, 同时排除缺省与显式 null。
+- 对 try/except 包裹的 WARNING 路径要保持警觉: 异常被吞不代表无害，重复刷屏的同类警告往往暗示防御性 guard 过窄，需要回溯至根因修复，而非依赖 except 兜底。
+
+**同类问题影响与处理注意事项**
+
+- 本仓库内 `parse_usage_from_chunk` 的 Gemini `usageMetadata` 分支 (line ~219) 已经使用 `isinstance(um, dict)` 防御, 不受影响, 可作为参考实现。
+- 检查其他解析器 (如 routing / vendor adapter 层) 是否还有 `if "key" in data: v = data["key"]; v.get(...)` 这种模式, 必要时同步加固。

{coding_proxy-0.3.1a7 → coding_proxy-0.3.1a8}/pyproject.toml

@@ -1,6 +1,6 @@
 [project]
 name = "coding-proxy"
-version = "0.3.1a7"
+version = "0.3.1a8"
 description = "A High-Availability, Transparent, and Smart Multi-Vendor Proxy for Claude Code. Support Claude Plans, GitHub Copilot, Google Antigravity, ZAI/GLM, MiniMax, Qwen, Xiaomi, Kimi, Doubao..."
 readme = "README.md"
 requires-python = ">=3.12"

{coding_proxy-0.3.1a7 → coding_proxy-0.3.1a8}/src/coding/proxy/config/config.default.yaml

@@ -644,3 +644,31 @@ native_api:
     base_url: "https://api.anthropic.com"
     timeout_ms: 300000
     connect_timeout_ms: 15000
+
+# === Session 级别路由策略（可选）===
+#
+# 为特定 Session 或客户端类别定制 vendor 优先级顺序。
+# 匹配策略按定义顺序求值，首次匹配生效。
+#
+# 支持的匹配条件（OR 语义，满足任一即匹配）：
+#   session_keys:    精确匹配的 session key 列表
+#   client_category: 按客户端类别匹配（⚠️ 预留字段，当前版本暂未生效，后续版本支持）
+#
+# tiers: 覆盖全局 tier 顺序的供应商优先级列表（未提及的 vendor 保持在末尾）
+#
+# 示例 1：为特定 session 绑定专属 vendor 组合
+#   session_policies:
+#     - name: "vip-session"
+#       match:
+#         session_keys: ["my-specific-session-id"]
+#       tiers: ["anthropic", "copilot", "zhipu"]
+#
+# 示例 2：Claude Code 请求优先走 Copilot
+#   session_policies:
+#     - name: "claude-code-preferred"
+#       match:
+#         client_category: "cc"
+#       tiers: ["copilot", "anthropic", "zhipu"]
+#
+# 未配置时（默认），所有 Session 使用全局 tiers 顺序。
+session_policies: []

{coding_proxy-0.3.1a7 → coding_proxy-0.3.1a8}/src/coding/proxy/config/schema.py

@@ -44,6 +44,7 @@ from .routing import (  # noqa: F401
 
 # ── 子模块 re-export ────────────────────────────────────────────
 from .server import DatabaseConfig, LoggingConfig, ServerConfig  # noqa: F401
+from .session_policy import SessionPoliciesConfig  # noqa: F401
 from .vendors import (  # noqa: F401
     AlibabaConfig,
     AnthropicConfig,
@@ -152,11 +153,19 @@ class ProxyConfig(BaseModel):
             "三个 provider 默认 enabled=False，显式启用才暴露 /api/{provider}/* 端点。"
         ),
     )
+    # Session 级别路由策略
+    session_policies: SessionPoliciesConfig = Field(
+        default_factory=SessionPoliciesConfig,
+        description=(
+            "Session 级别的路由策略配置。"
+            "可为特定 Session 或客户端类别定制 vendor 优先级顺序。"
+        ),
+    )
 
     @model_validator(mode="before")
     @classmethod
     def _migrate_legacy_fields(cls, data: Any) -> Any:
-        """向后兼容迁移（legacy flat 格式 → vendors 列表格式）.
+        """向后兼容迁移（legacy flat 格式 → vendors 列表格式）+ session_policies 规范化.
 
         迁移规则：
         1. ``anthropic`` / ``zhipu`` 字段名自动映射为 ``primary`` / ``fallback``
@@ -165,6 +174,12 @@ class ProxyConfig(BaseModel):
         if not isinstance(data, dict):
             return data
 
+        # session_policies 规范化：YAML 中 session_policies: [] 解析为 list，
+        # 需转为 dict 包装以匹配 SessionPoliciesConfig 模型
+        sp = data.get("session_policies")
+        if isinstance(sp, list):
+            data["session_policies"] = {"policies": sp}
+
         # 1. 字段别名迁移
         if "anthropic" in data and "primary" not in data:
             data["primary"] = data.pop("anthropic")
@@ -331,4 +346,6 @@ __all__ = [
     "AlibabaConfig",
     # native api passthrough
     "NativeApiConfig",
+    # session policy
+    "SessionPoliciesConfig",
 ]

coding_proxy-0.3.1a8/src/coding/proxy/config/session_policy.py

@@ -0,0 +1,59 @@
+"""Session Policy 配置模型 — 为特定 Session 定制路由行为."""
+
+from __future__ import annotations
+
+from pydantic import BaseModel, Field
+
+
+class SessionPolicyMatch(BaseModel):
+    """策略匹配条件 — 满足任一条件即匹配（OR 语义）."""
+
+    session_keys: list[str] = Field(
+        default_factory=list,
+        description="精确匹配的 session key 列表",
+    )
+    client_category: str | None = Field(
+        default=None,
+        description=(
+            "按客户端类别匹配（'cc' 或 'api'）。"
+            "⚠️ 预留字段，当前路由执行链路未传入 client_category，"
+            "配置此条件不会生效。后续版本将支持。"
+        ),
+    )
+
+
+class SessionQuotaConfig(BaseModel):
+    """Per-session 资源配额（架构预留）."""
+
+    token_budget: int = Field(
+        default=0,
+        description="时间窗口内的 token 预算上限",
+    )
+    window_hours: float = Field(
+        default=24.0,
+        description="滚动时间窗口（小时）",
+    )
+
+
+class SessionPolicy(BaseModel):
+    """单条 Session 路由策略."""
+
+    name: str = Field(description="策略名称（用于日志与排障）")
+    match: SessionPolicyMatch = Field(description="匹配条件")
+    tiers: list[str] = Field(
+        default_factory=list,
+        description="覆盖全局 tier 顺序的供应商优先级列表",
+    )
+    quota: SessionQuotaConfig | None = Field(
+        default=None,
+        description="Per-session 资源配额（预留）",
+    )
+
+
+class SessionPoliciesConfig(BaseModel):
+    """顶层 Session 策略配置容器."""
+
+    policies: list[SessionPolicy] = Field(
+        default_factory=list,
+        description="Session 路由策略列表，按定义顺序求值，首次匹配生效",
+    )