dsh-plugin-litellm-bridge 2.0.9 → 2.1.0

package/dsh-plugin-litellm-bridge/client/index.js

@@ -725,6 +725,32 @@ window.__ModuleLoader__.load({
 
       const allIds = (pool.models || []).map((x) => x.id);
 
+      // ---------------------------------------------------------------------
+      // 【关键】链成员的唯一标识必须是「供应商 + 模型」，不能只用模型名。
+      //
+      // 实测模型池里有大量同名模型分布在不同供应商/账号：
+      //   agnes-3.0-flash      → agnes / agnes-backup / llm-pi-ai  （3 个不同账号）
+      //   DeepSeek-V4.1-Flash  → amd / trae / workbuddy           （3 个不同渠道）
+      //   GLM-5.3-Flash        → amd / trae
+      //
+      // 这些是**不同凭证、不同配额**的独立路由，恰恰是降级最该利用的
+      //（1 号账号限流就换 2 号账号的同一个模型）。
+      // 若按模型名去重，选了 agnes 的 agnes-3.0-flash 后就再也选不到
+      // agnes-backup 的同名模型 —— 把最核心的备份场景堵死了。
+      //
+      // 所以链里存 "供应商::模型" 复合键；写进网关配置时再拆开。
+      // ---------------------------------------------------------------------
+      const keyOf = (provider, id) => `${provider}::${id}`;
+      const parseKey = (k) => {
+        const i = String(k).indexOf('::');
+        return i < 0 ? { provider: '', id: String(k) } : {
+          provider: String(k).slice(0, i),
+          id: String(k).slice(i + 2),
+        };
+      };
+      /** 把池里的 (provider,id) 转成展示用文字 */
+      const labelOf = (provider, id) => (provider ? `${provider} / ${id}` : id);
+
       return h('div', null,
         // ---- 使用引导：第一次进来的人 3 秒看懂这页在做什么 ----
         h('div', {
@@ -796,7 +822,17 @@ window.__ModuleLoader__.load({
           const cfg = prof?.agents?.[at]
             || { label: at, primary: '', timeoutMs: 600000, fallbacks: [] };
 
-          const chain = [cfg.primary, ...(cfg.fallbacks || [])].filter(Boolean);
+          // 链里存的是 "供应商::模型" 复合键；兼容旧数据（纯模型名）
+          const chainKeys = [cfg.primary, ...(cfg.fallbacks || [])]
+            .filter(Boolean)
+            .map((v) => {
+              const s = String(v);
+              if (s.includes('::')) return s;
+              // 旧数据只有模型名：在池里找它的供应商，找不到就留空供应商
+              const hit = (pool.models || []).find((m) => m.id === s);
+              return hit ? keyOf(hit.provider, hit.id) : keyOf('', s);
+            });
+          const chain = chainKeys;
           const isSub = at !== 'root';
 
           // 每个角色的说明：用「人话」讲清楚它管什么
@@ -830,47 +866,60 @@ window.__ModuleLoader__.load({
             setChain(l);
           };
           const removeAt = (i) => setChain(chain.filter((_, j) => j !== i));
-          const addModel = (id) => {
-            if (!id || chain.includes(id)) return;
-            setChain([...chain, id]);
+          /** 添加一个 (provider, model) —— 复合键去重，同名不同账号可以共存 */
+          const addModel = (provider, id) => {
+            if (!id) return;
+            const k = keyOf(provider, id);
+            if (chain.includes(k)) return;
+            setChain([...chain, k]);
           };
 
           /** 一个可拖拽的链节点 */
-          const row = (name, i) => h('div', {
-            key: `${at}-${name}-${i}`,
-            draggable: true,
-            onDragStart: () => onDragStart(at, i),
-            onDragOver: (e) => e.preventDefault(),
-            onDrop: () => onDropChain(at, i),
-            style: {
-              display: 'flex', alignItems: 'center', gap: 8, padding: '6px 10px',
-              marginBottom: 4, borderRadius: 6, cursor: 'grab',
-              background: i === 0 ? tint(T.success, 7) : T.bgLayer2,
-              border: `1px solid ${i === 0 ? tint(T.success, 30) : T.borderL1}`,
-            },
-          },
-            h('span', { style: { opacity: 0.4, ...S.mono } }, '⠿'),
-            h('span', {
+          const row = (key, i) => {
+            const { provider, id } = parseKey(key);
+            return h('div', {
+              key: `${at}-${key}-${i}`,
+              draggable: true,
+              onDragStart: () => onDragStart(at, i),
+              onDragOver: (e) => e.preventDefault(),
+              onDrop: () => onDropChain(at, i),
               style: {
-                ...S.mono, fontSize: 11, width: 20, textAlign: 'center',
-                flex: '0 0 20px', fontWeight: 600,
-                color: i === 0 ? T.success : T.labelSecondary,
+                display: 'flex', alignItems: 'center', gap: 8, padding: '6px 10px',
+                marginBottom: 4, borderRadius: 6, cursor: 'grab',
+                background: i === 0 ? tint(T.success, 7) : T.bgLayer2,
+                border: `1px solid ${i === 0 ? tint(T.success, 30) : T.borderL1}`,
               },
-            }, String(i + 1)),
-            h('span', { style: { flex: '1 1 auto', ...S.mono, wordBreak: 'break-all' } }, safeText(name)),
-            i === 0
-              ? h('span', { style: S.badge(T.success, tint(T.success, 16)) }, '先用这个')
-              : h('span', { style: S.badge() }, i === 1 ? '失败后换它' : `${i + 1} 顺位`),
-            i > 0 && h('button', {
-              style: { ...S.btnSm, height: 22, fontSize: 11 },
-              onClick: () => moveUp(i),
-              title: '往前挪一位（往前 = 更优先）',
-            }, '↑'),
-            h('button', {
-              style: { ...S.btnSm, height: 22, fontSize: 11, color: T.error, borderColor: tint(T.error, 35) },
-              onClick: () => removeAt(i),
-            }, '删'),
-          );
+            },
+              h('span', { style: { opacity: 0.4, ...S.mono } }, '⠿'),
+              h('span', {
+                style: {
+                  ...S.mono, fontSize: 11, width: 20, textAlign: 'center',
+                  flex: '0 0 20px', fontWeight: 600,
+                  color: i === 0 ? T.success : T.labelSecondary,
+                },
+              }, String(i + 1)),
+              // 【关键】必须把供应商显式展示出来，
+              // 否则「agnes 的 agnes-3.0-flash」和「agnes-backup 的 agnes-3.0-flash」
+              // 在列表里长得一模一样，用户根本分不清哪个是哪个账号。
+              provider
+                ? h('span', { style: S.badge(T.brand, tint(T.brand, 12)), title: `账号/供应商：${provider}` },
+                    safeText(provider))
+                : h('span', { style: S.badge(T.warn, tint(T.warn, 14)) }, '供应商未知'),
+              h('span', { style: { flex: '1 1 auto', ...S.mono, wordBreak: 'break-all' } }, safeText(id)),
+              i === 0
+                ? h('span', { style: S.badge(T.success, tint(T.success, 16)) }, '先用这个')
+                : h('span', { style: S.badge() }, i === 1 ? '失败后换它' : `${i + 1} 顺位`),
+              i > 0 && h('button', {
+                style: { ...S.btnSm, height: 22, fontSize: 11 },
+                onClick: () => moveUp(i),
+                title: '往前挪一位（往前 = 更优先）',
+              }, '↑'),
+              h('button', {
+                style: { ...S.btnSm, height: 22, fontSize: 11, color: T.error, borderColor: tint(T.error, 35) },
+                onClick: () => removeAt(i),
+              }, '删'),
+            );
+          };
 
           return h('div', { key: at, style: { marginBottom: 22 } },
             // 标题行
@@ -912,21 +961,37 @@ window.__ModuleLoader__.load({
                 }, '还没有选模型。从下面的下拉框加第一个 —— 它就是这个链的首选。')
               : h('div', { style: { marginBottom: 8 } },
                   h('div', { style: { ...S.label } }, '降级顺序（从上到下 = 先试这个，不行再试下一个）'),
-                  chain.map((name, i) => row(name, i)),
+                  chain.map((key, i) => row(key, i)),
                 ),
 
             // 追加模型
+            //
+            // 【去重规则】用 "供应商::模型" 复合键，**不是** 模型名。
+            // 这样 agnes 与 agnes-backup 的同名模型可以同时出现在链里 ——
+            // 它们本来就是两个账号、两份配额，互为备份正是降级的意义。
             h('div', { style: { ...S.row, marginBottom: 10 } },
               h('select', {
                 style: { ...S.inputAuto, flex: '1 1 300px' },
                 value: '',
-                onChange: (e) => { addModel(e.target.value); e.target.value = ''; },
+                onChange: (e) => {
+                  const raw = e.target.value;
+                  e.target.value = '';
+                  if (!raw) return;
+                  const { provider, id } = parseKey(raw);
+                  addModel(provider, id);
+                },
               },
                 h('option', { value: '' },
                   chain.length ? '+ 再加一个备选模型' : '+ 选择这个链的第一个模型'),
                 byProvider.map(([prov, provRows]) => h('optgroup', { key: prov, label: prov },
-                  provRows.filter((m) => !chain.includes(m.id)).map((m) =>
-                    h('option', { key: `${prov}:${m.id}`, value: m.id }, m.id)),
+                  provRows
+                    .filter((m) => !chain.includes(keyOf(prov, m.id)))
+                    .map((m) => {
+                      // 同一供应商下有重名时加后缀，避免浏览器无法区分
+                      const dup = provRows.filter((x) => x.id === m.id).length > 1;
+                      return h('option', { key: keyOf(prov, m.id), value: keyOf(prov, m.id) },
+                        dup ? `${m.id}（${prov}）` : m.id);
+                    }),
                 )),
               ),
             ),

package/dsh-plugin-litellm-bridge/lib/assemble-chain.js

@@ -61,39 +61,66 @@ export function assembleChainConfig(state, pool = null) {
   }
 
   const warnings = [];
-  /** 真实上游：model id → { name, provider, baseUrl, keyEnv, timeoutSec } */
+  /** 真实上游：复合键 → { name, providerId, baseUrl, keyEnv, timeoutSec } */
   const upstreams = new Map();
   /** 链：{ pid, at, head, chain, timeoutMs } */
   const chains = [];
 
+  /**
+   * 解析链成员标识。
+   *
+   * 【复合键】界面存的是 "供应商::模型"，因为同一个模型名可能挂在多个
+   * 供应商下（实测 agnes-3.0-flash 同时存在于 agnes / agnes-backup / llm-pi-ai；
+   * DeepSeek-V4.1-Flash 同时存在于 amd / trae / workbuddy）。
+   * 它们是不同账号、不同配额，互为备份正是降级的核心用途，
+   * 所以必须区分到「供应商级」而不是「模型名级」。
+   *
+   * 【兼容旧数据】早期版本只存纯模型名，这里回退到按池里第一个匹配解析。
+   */
+  const parseMember = (member) => {
+    const s = String(member || '');
+    const i = s.indexOf('::');
+    if (i >= 0) {
+      return { provider: s.slice(0, i), model: s.slice(i + 2), key: s };
+    }
+    // 旧数据：纯模型名 → 找池里第一个归属供应商
+    const provider = providerOfModel.get(s) || '';
+    return { provider, model: s, key: provider ? `${provider}::${s}` : s };
+  };
+
   // ---- 1. 收集所有链与上游 ------------------------------------------------
   for (const pid of Object.keys(routes)) {
     const agents = routes[pid]?.agents || {};
     for (const at of Object.keys(agents)) {
       const cfg = agents[at];
       if (!cfg?.primary) continue;
-      const chain = [cfg.primary, ...(cfg.fallbacks || [])].filter(Boolean);
-      if (!chain.length) continue;
+      const members = [cfg.primary, ...(cfg.fallbacks || [])].filter(Boolean);
+      if (!members.length) continue;
+
+      const parsed = members.map(parseMember);
 
       chains.push({
         pid,
         at,
         head: `${at}-${pid}-primary`,
-        chain,
+        // 链在配置里用**供应商限定的实名**引用，避免同名串味
+        chain: parsed.map((p) => p.model),
+        members: parsed,
         timeoutMs: cfg.timeoutMs || 600000,
       });
 
-      for (const modelId of chain) {
-        if (upstreams.has(modelId)) continue;
-        const providerId = providerOfModel.get(modelId) || '';
-        const prov = providerMap.get(providerId);
+      for (const member of parsed) {
+        const { provider: providerId, model: modelId, key } = member;
+        if (upstreams.has(key)) continue;
+
         if (!providerId) {
           warnings.push(
-            `模型 ${modelId} 不在 DSH 模型池里（可能已被删除或改了名）。` +
+            `模型 ${modelId} 找不到归属供应商（可能不在 DSH 模型池里）。` +
             '请到【设置-模型】确认，或在「路由配置」里重新选择。',
           );
           continue;
         }
+        const prov = providerMap.get(providerId);
         if (!prov?.baseUrl) {
           warnings.push(
             `供应商 ${providerId} 缺少 API 地址（baseURL），模型 ${modelId} 无法下发。` +
@@ -101,7 +128,9 @@ export function assembleChainConfig(state, pool = null) {
           );
           continue;
         }
-        upstreams.set(modelId, {
+
+        upstreams.set(key, {
+          key,
           name: modelId,
           providerId,
           prefix: protocolPrefix(prov),
@@ -117,6 +146,31 @@ export function assembleChainConfig(state, pool = null) {
   const lines = [];
   const push = (s = '') => lines.push(s);
 
+  /**
+   * 给每个上游分配一个**在 model_list 内唯一**的 model_name。
+   *
+   * 【为什么需要改】同名模型可能来自不同供应商账号：
+   *   agnes::agnes-3.0-flash         （账号 1）
+   *   agnes-backup::agnes-3.0-flash  （账号 2）
+   *   llm-pi-ai::agnes-3.0-flash     （平台通道）
+   * LiteLLM 的 model_list 按 model_name 索引，两个同名条目会互相覆盖，
+   * 导致降级时永远只能命中其中一个 —— 备份账号形同虚设。
+   *
+   * 规则：模型名在全表唯一时保持原样（可读性最好）；
+   *       一旦重名，就追加 @供应商 后缀区分。
+   */
+  const nameCount = new Map();
+  for (const u of upstreams.values()) {
+    nameCount.set(u.name, (nameCount.get(u.name) || 0) + 1);
+  }
+  for (const u of upstreams.values()) {
+    u.litellmName = (nameCount.get(u.name) || 0) > 1
+      ? `${u.name}@${u.providerId}`
+      : u.name;
+  }
+  /** 复合键 → 实际写进 YAML 的 model_name */
+  const yamlNameOf = (key) => upstreams.get(key)?.litellmName || null;
+
   push('# ============================================================================');
   push('#  Generated by dsh-plugin-litellm-bridge - profile fallback chains');
   push(`#  Generated at: ${new Date().toISOString()}`);
@@ -125,12 +179,13 @@ export function assembleChainConfig(state, pool = null) {
   push('#  This file only mirrors those upstreams so the gateway can execute the');
   push('#  fallback order. The plugin itself performs no routing / retry / fallback.');
   push('#  api_key entries are os.environ references - never plaintext.');
+  push('#  Entries with the same model but different accounts get a @provider suffix.');
   push('#');
 
   push('model_list:');
   for (const u of upstreams.values()) {
-    push(`  # ${u.providerId}`);
-    push(`  - model_name: ${u.name}`);
+    push(`  # provider: ${u.providerId}${u.litellmName !== u.name ? ` | model: ${u.name}` : ''}`);
+    push(`  - model_name: ${u.litellmName}`);
     push('    litellm_params:');
     push(`      model: ${u.prefix}/${u.name}`);
     push(`      api_base: ${u.baseUrl}`);
@@ -139,9 +194,9 @@ export function assembleChainConfig(state, pool = null) {
   }
   // 链头：逻辑名 → 链首模型的真实上游
   for (const c of chains) {
-    const first = upstreams.get(c.chain[0]);
+    const firstKey = c.members?.[0]?.key;
+    const first = firstKey ? upstreams.get(firstKey) : null;
     if (!first) continue;
-    if (upstreams.has(c.head)) continue;
     push(`  # chain head: ${c.pid} / ${c.at}`);
     push(`  - model_name: ${c.head}`);
     push('    litellm_params:');
@@ -153,20 +208,34 @@ export function assembleChainConfig(state, pool = null) {
   push('');
 
   // ---- 3. 降级顺序（网关执行）--------------------------------------------
+  // 注意：fallbacks 里必须用**YAML 中的实名**（带 @provider 后缀的那个），
+  // 不能用裸模型名，否则同名上游会串。
   push('litellm_settings:');
   push('  # Fallback order is assembled by the plugin, executed by the gateway.');
-  const multi = chains.filter((c) => c.chain.length >= 2 && upstreams.has(c.chain[0]));
+  const multi = chains.filter((c) => (c.members || []).length >= 2);
   push('  fallbacks:');
   if (!multi.length) {
     push('    []');
   } else {
-    for (const c of multi) push(`    - ${c.head}: [${c.chain.slice(1).map((m) => `"${m}"`).join(', ')}]`);
+    for (const c of multi) {
+      const rest = c.members.slice(1)
+        .map((m) => yamlNameOf(m.key))
+        .filter(Boolean)
+        .map((n) => `"${n}"`);
+      if (!rest.length) continue;
+      push(`    - ${c.head}: [${rest.join(', ')}]`);
+    }
   }
   push('  context_window_fallbacks:');
   if (!multi.length) {
     push('    []');
   } else {
-    for (const c of multi) push(`    - ${c.head}: ["${c.chain[c.chain.length - 1]}"]`);
+    for (const c of multi) {
+      const last = c.members[c.members.length - 1];
+      const n = yamlNameOf(last.key);
+      if (!n) continue;
+      push(`    - ${c.head}: ["${n}"]`);
+    }
   }
   push('  num_retries: 2');
   push('  request_timeout: 900');

package/package.json

@@ -1,6 +1,6 @@
 {
   "name": "dsh-plugin-litellm-bridge",
-  "version": "2.0.9",
+  "version": "2.1.0",
   "description": "LiteLLM gateway bridge for DSH: assemble root / coder / research fallback chains from the DSH model pool and hand the order to a LiteLLM gateway that executes retries and fallbacks. The plugin performs no routing itself.",
   "keywords": [
     "dsh",