dsh-modelscope-pool 0.11.0 → 0.11.1

package/README.md

@@ -22,6 +22,7 @@
 - [界面](#界面)
 - [多语言](#多语言)
 - [网页版与桌面版](#网页版与桌面版)
+- [模型上下文与最大输出](#模型上下文与最大输出)
 - [HTTP 接口](#http-接口)
 - [接入其它客户端](#接入其它客户端)
 - [常见问题](#常见问题)
@@ -321,6 +322,24 @@ dsh-go 里更进一步：这个插件会把自己注册成一个叫 **魔搭 Key
 
 ---
 
+## 模型上下文与最大输出
+
+魔搭的 `/v1/models` 只回 `id / owned_by / created`，详情接口和模型页也没有上下文字段——官方数字只写在**模型卡片的说明里**。所以插件对能确认的旗舰模型逐个填真实值，其余不声明、走插件默认（上下文 128K）。
+
+| 模型 | 上下文 | 最大输出 | 卡片依据 |
+|---|---|---|---|
+| `DeepSeek-V4-Pro` | 1,000,000 | — | 参数表 Context Length = 1M |
+| `DeepSeek-V4-Pro-0813` | 1,000,000 | 393,216 | 正文「最大输出长度 384K」 |
+| `DeepSeek-V4.1-Flash` | 1,000,000 | — | 正文「up to one million tokens」 |
+| `DeepSeek-V4.1-Flash-1017` | 1,000,000 | 262,144 | 参数表 `context_window` 1M / `max_tokens` ≥ 256K |
+| `GLM-5.2` | 1,000,000 | — | 正文「Solid 1M Context」 |
+
+「—」表示卡片没写，就不填：DSH 没拿到最大输出时用它自己的默认，比瞎编一个安全。
+
+> 最大输出只在**明显小于上下文**时才填。`Step-5-Preview` 卡片写的是上下文 1M、最大输出也是 1M，两边相等会让 DSH 的「预留回复额度」把整个窗口吃掉，压缩预算变成 0，切模型反而报错，所以这个型号只按默认走。
+
+新增模型：在 `lib/specs.js` 里加一行 `简化名 → { contextWindow, maxTokens }` 即可，键不区分大小写，没列到的自动回落到插件默认。
+
 ## 常见问题
 
 **导入后一堆 Key 显示「令牌无效」？**

package/lib/catalog.js

@@ -2,6 +2,8 @@
 // 各有一份模型表，两边取并集并按「简化名」合并：同一个模型在两个站点的 id 可能不同
 // （例如 zai-org/GLM-4.7-Flash 与 ZhipuAI/GLM-4.7-Flash），合并后只出现一行，
 // 真正请求时按 Key 所属站点换成那边的真实 id。
+import { specFor } from './specs.js'
+
 const REGION_LABEL = { ai: '国际版', cn: '国内版' }
 
 /**
@@ -74,6 +76,8 @@ export function createCatalog({ regions, preferred = ['ai', 'cn'], ttlMs = 300_0
             regions: preferred.filter((key) => Boolean(row.variants[key])),
             variants: row.variants,
             rawIds: row.rawIds,
+            // 官方规格只对列在 specs.js 里的旗舰模型有值，其余为空。
+            ...specFor(row.name),
           }))
           .sort((a, b) => a.name.localeCompare(b.name))
         cache = { at: Date.now(), entries }

package/lib/provider.js

@@ -148,8 +148,9 @@ export async function registerPoolProvider(ctx, { providerId, displayName, getPo
         provider: providerId,
         baseUrl: baseUrl(),
         input: ['text'],
-        // DSH 拒绝没有正整数上下文的模型，这里给保守值。
-        contextWindow: DEFAULT_CONTEXT_WINDOW,
+        // 有官方规格的用官方值；其余给保守默认，DSH 拒绝没有正整数上下文的模型。
+        contextWindow: Number(entry.contextWindow) > 0 ? Number(entry.contextWindow) : DEFAULT_CONTEXT_WINDOW,
+        ...(Number(entry.maxTokens) > 0 ? { maxTokens: Number(entry.maxTokens) } : {}),
         cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
         reasoning: false,
       }))
@@ -216,7 +217,13 @@ export async function registerPoolProvider(ctx, { providerId, displayName, getPo
     let off
     try {
       off = ctx.llm.registerModelDiscovery(entryId, async () =>
-        buildModels().map((model) => ({ id: model.id, name: model.name, contextWindow: model.contextWindow, inputModalities: ['text'] })),
+        buildModels().map((model) => ({
+          id: model.id,
+          name: model.name,
+          contextWindow: model.contextWindow,
+          ...(model.maxTokens === undefined ? {} : { maxTokens: model.maxTokens }),
+          inputModalities: ['text'],
+        })),
       )
     } catch (error) {
       logger?.warn?.(`modelscope-pool: 模型发现注册失败（${String(error?.message ?? error)}）`)

package/lib/specs.js

@@ -0,0 +1,27 @@
+// 官方规格：只收录能在模型卡片里找到明确写法的模型，其余不声明，走插件默认。
+// 数据来源是 ModelScope 模型卡片（README.md），不是接口字段 —— 魔搭的 /v1/models
+// 只回 id / owned_by / created，详情接口也没有上下文字段，所以只能按卡片逐个确认。
+//
+// 字段含义（DSH 模型发现契约）：
+//   contextWindow  请求 + 回复合计的最大上下文
+//   maxTokens      最大输出 token 数（仅当卡片明确给出，且明显小于上下文时才填；
+//                  两者相等时填了会让 DSH 的压缩预算归零，反而切不过去）
+export const OFFICIAL_SPECS = {
+  // 卡片表格：Context Length = 1M（正文：both supporting a context length of one million tokens）
+  'deepseek-v4-pro': { contextWindow: 1_000_000 },
+  // 卡片正文：recommend a maximum output length of 384K tokens
+  'deepseek-v4-pro-0813': { contextWindow: 1_000_000, maxTokens: 384 * 1024 },
+  // 卡片正文：support for contexts of up to one million tokens
+  'deepseek-v4.1-flash': { contextWindow: 1_000_000 },
+  // 卡片参数表：context_window = 1M tokens，max_tokens ≥ 256K
+  'deepseek-v4.1-flash-1017': { contextWindow: 1_000_000, maxTokens: 256 * 1024 },
+  // 卡片正文：Solid 1M Context
+  'glm-5.2': { contextWindow: 1_000_000 },
+}
+
+/** 按简化名查官方规格（大小写不敏感），查不到返回空对象。 */
+export function specFor(name) {
+  const key = String(name ?? '').trim().toLowerCase()
+  if (!key) return {}
+  return OFFICIAL_SPECS[key] ?? {}
+}

package/package.json

@@ -1,6 +1,6 @@
 {
   "name": "dsh-modelscope-pool",
-  "version": "0.11.0",
+  "version": "0.11.1",
   "description": "魔搭多 Key 聚合网关 + DSH 原生插件：模型不变，Key 遇限流、额度不足、无权限或令牌失效自动无感换下一个；自动识别国际版/国内版令牌；Key 池管理、魔粒用量、多语言界面；也可在网页版/桌面版管理。",
   "license": "MIT",
   "author": "Yizutt",