dsh-router-core 0.3.20 → 0.3.21

package/lib/index.js

@@ -1573,7 +1573,16 @@ function normalizeSSEStream(stream) {
 function isDoneFrame(frame) {
 	return /(^|\n)data:[ \t]*\[DONE\][ \t]*(\n|$)/.test(frame);
 }
-/** 修一帧 SSE：只剥空的 name/id，出任何问题都原样返回。 */
+/**
+* 修一帧 SSE：剥掉**空的**（`''` 或 `null`）name/id，出任何问题都原样返回。
+*
+* 为什么 `null` 也算空：上游（OpenCode/Zen）在后续 delta 里会把首帧已给过的
+* id/name 显式重发成 `null`——`{"id":null,"function":{"name":null,"arguments":"{"}}`。
+* 下游判「有没有新值」用的是 `name !== undefined`（dsh 的 BlockAssembler 就是），
+* null 过不了这个判断、却也不该覆盖首帧：客户端会把已拿到的 "bash" 冲成 null，
+* 工具名丢失（表现为 `unknown tool ""`）。空串早就剥了，null 语义上同样是
+* 「本帧没给新值」，一并剥掉。
+*/
 function fixFrame(frame) {
 	if (!frame.includes("tool_calls")) return frame;
 	return frame.split("\n").map((line) => {
@@ -1589,12 +1598,12 @@ function fixFrame(frame) {
 		let changed = false;
 		const tcs = (obj.choices?.[0]?.delta)?.tool_calls;
 		if (Array.isArray(tcs)) for (const tc of tcs) {
-			if (tc.id === "") {
+			if (tc.id === "" || tc.id === null) {
 				delete tc.id;
 				changed = true;
 			}
 			const fn = tc.function;
-			if (fn !== null && typeof fn === "object" && fn.name === "") {
+			if (fn !== null && typeof fn === "object" && (fn.name === "" || fn.name === null)) {
 				delete fn.name;
 				changed = true;
 			}
@@ -2733,9 +2742,9 @@ async function* translateSse(payloads) {
 						blockType: "tool-call"
 					};
 				}
-				if (call.id !== void 0) block.callId = call.id;
-				if (call.function?.name !== void 0) block.name = call.function.name;
-				const fragment = call.function?.arguments ?? "";
+				if (typeof call.id === "string" && call.id !== "") block.callId = call.id;
+				if (typeof call.function?.name === "string" && call.function.name !== "") block.name = call.function.name;
+				const fragment = typeof call.function?.arguments === "string" ? call.function.arguments : "";
 				block.text += fragment;
 				yield {
 					type: "tool-call-delta",

package/package.json

@@ -1,6 +1,6 @@
 {
   "name": "dsh-router-core",
-  "version": "0.3.20",
+  "version": "0.3.21",
   "description": "DSH plugin: a simplified 9router (AI routing gateway). Adds a 路由系统 (Routing System) sidebar entry beside 记忆系统; the panel shows suppliers, account pool, combos, and endpoint/API keys.",
   "type": "module",
   "repository": {

package/src/llm/adapter.test.ts

@@ -11,7 +11,7 @@
  */
 import { test } from 'node:test'
 import assert from 'node:assert/strict'
-import { EMPTY_RESPONSE_CODE } from '@deepseek-ai/dsh-llm'
+import { AssistantStreamAccumulator, EMPTY_RESPONSE_CODE } from '@deepseek-ai/dsh-llm'
 import { toTokenUsage } from '../router/usage-tokens.ts'
 import { RouterAdapter, translateSse } from './adapter.ts'
 
@@ -191,6 +191,59 @@ async function toolCallsOf(...payloads: string[]): Promise<Array<{ name?: string
   return out
 }
 
+test('工具调用：后续 delta 把 id/name 重发成 null 时，不能冲掉首帧也不许发 null', async () => {
+  // 真实事故（2026-09-22，OpenCode/Zen）：上游首帧给 id+name，后续分片帧把
+  // 它们**显式重发成 null**（不是省略、不是空串）。用对象构造、交给 frame() 序列化，
+  // 免得在字符串字面量里跟引号打架。
+  const tcDelta = (tc: unknown): string => frame({ choices: [{ delta: { tool_calls: [tc] } }] })
+  const payloads = [
+    tcDelta({ index: 0, id: 'call_abc', type: 'function', function: { name: 'bash', arguments: '' } }),
+    tcDelta({ index: 0, id: null, type: 'function', function: { name: null, arguments: '{' } }),
+    tcDelta({ index: 0, id: null, type: 'function', function: { name: null, arguments: '"command": "ls"}' } }),
+    frame({ choices: [{ delta: {}, finish_reason: 'tool_calls' }] }),
+    '[DONE]',
+  ]
+
+  // 旧判据是 `!== undefined`，null 通不过它却被当成真值：既把 "bash" 冲成 null，
+  // 又把 `name: null` 发进 StreamChunk。而真实运行路径
+  // （dsh-llm 的 AssistantStreamAccumulator.push）判据是
+  // `Object.hasOwn(chunk,'name') && typeof chunk.name !== 'string'` → 抛
+  // `TypeError: tool-call-delta name must be a string`（用户看到的
+  // 「本轮运行失败 tool-call-delta name must be a string」）。
+  //
+  // 用**真实的那个累加器**验收，而不是自己复述规则：它就是运行时会抛的那一段。
+  const acc = new AssistantStreamAccumulator()
+  let n = 0
+  for await (const chunk of translateSse(payloads)) {
+    acc.push({ time: n++, chunk }) // 这里就是线上抛错的那一步
+  }
+
+  // 逐条再按原判据过一遍，失败时能直接指向违规的那条 delta
+  for await (const chunk of translateSse(payloads)) {
+    if (chunk.type !== 'tool-call-delta') continue
+    if (Object.hasOwn(chunk, 'name')) assert.equal(typeof chunk.name, 'string', 'name 一旦出现就必须是字符串')
+    assert.equal(typeof chunk.id, 'string', 'id 必须是字符串')
+    assert.equal(typeof chunk.argumentsDelta, 'string', 'argumentsDelta 必须是字符串')
+  }
+
+  // 首帧给的 name/id 必须在后续 null 帧里**保持**
+  const deltas: Array<Record<string, unknown>> = []
+  for await (const chunk of translateSse(payloads)) {
+    if (chunk.type === 'tool-call-delta') deltas.push(chunk as unknown as Record<string, unknown>)
+  }
+  assert.ok(deltas.length >= 3, '三个分片帧都该产出 delta')
+  for (const d of deltas) {
+    assert.equal(d.name, 'bash', 'name 被后续 null 帧冲掉了（工具名会变成空）')
+    assert.equal(d.id, 'call_abc', 'id 被后续 null 帧冲掉了')
+  }
+
+  // 收尾后的完整调用也要正确
+  const calls = await toolCallsOf(...payloads)
+  assert.equal(calls.length, 1)
+  assert.equal(calls[0]?.name, 'bash', '工具名必须保住')
+  assert.equal(calls[0]?.arguments, '{"command": "ls"}')
+})
+
 test('工具调用：参数分片发完才收尾，完整 JSON 原样保留', async () => {
   const calls = await toolCallsOf(
     frame({ choices: [{ delta: { tool_calls: [{ index: 0, id: 'c1', function: { name: 'bash', arguments: '' } }] } }] }),

package/src/llm/adapter.ts

@@ -439,9 +439,21 @@ export async function* translateSse(payloads: AsyncIterable<string> | Iterable<s
           toolBlocks.set(key, block)
           yield { type: 'block-start', index: block.index, blockType: 'tool-call' }
         }
-        if (call.id !== undefined) block.callId = call.id
-        if (call.function?.name !== undefined) block.name = call.function.name
-        const fragment = call.function?.arguments ?? ''
+        // 身份字段只认**非空字符串**。上游（OpenCode/Zen）在后续 delta 里会把
+        // 首帧已给过的 id/name 显式重发成 `null`（不是省略、也不是空串）——
+        // 实测帧形状：
+        //   {"index":0,"id":"call_abc","function":{"name":"bash","arguments":""}}
+        //   {"index":0,"id":null,   "function":{"name":null,  "arguments":"{"}}
+        // 用 `!== undefined` 挡不住 null：它既会把首帧的 "bash"/"call_abc" **冲成
+        // null**（工具名丢失），又会把 `name: null` 原样发进 StreamChunk，而
+        // dsh-llm 的校验是 `typeof chunk.name !== 'string'`（Object.hasOwn 先判存在）
+        // → 抛 `TypeError: tool-call-delta name must be a string` →「本轮运行失败」。
+        // 判据与核心 aggregateSSE（非流式聚合路径）保持一致，两条路不能有分歧。
+        if (typeof call.id === 'string' && call.id !== '') block.callId = call.id
+        if (typeof call.function?.name === 'string' && call.function.name !== '') block.name = call.function.name
+        // arguments 同理只认字符串：`?? ''` 挡得住 null/undefined，但挡不住
+        // 上游偶发把参数发成对象/数字——那会撞 dsh-llm 的同一条校验。
+        const fragment = typeof call.function?.arguments === 'string' ? call.function.arguments : ''
         block.text += fragment
         yield {
           type: 'tool-call-delta',

package/src/router/disconnect-leak.test.ts

@@ -198,3 +198,53 @@ test('聚合失败：reader 必须被解绑（否则连接还活着时上层无
   assert.equal(releaseLocked, true, '聚合失败后必须 releaseLock，否则流锁死、上层无法回收')
   assert.equal(failing.locked, false, '流必须处于未锁定状态（可被 cancel / 已被回收）')
 })
+
+test('fixFrame：把后续 delta 里重发成 null 的 id/name 剥掉（否则外部 OpenAI 客户端会丢工具名）', async () => {
+  // 为什么这一层也得修（adapter 的修复保护不到它）：`/v1/chat/completions` 是
+  // **对外**的 OpenAI 兼容端点，外部客户端（Cline/Cursor/其它工具）直接读这条流。
+  // 上游 OpenCode/Zen 在工具调用的后续分片帧里会把首帧已给过的 id/name 显式重发成
+  // null——外部客户端普遍按 `name !== undefined` 判「有没有新值」，于是把已经拿到的
+  // "bash" 冲成 null，表现为 `unknown tool ""`。fixFrame 是核心的**线上归一化层**，
+  // 职责就是抹掉这类不合规的空值（空串早就抹了，null 语义相同）。
+  const enc = new TextEncoder()
+  const sse =
+    'data: {"choices":[{"delta":{"tool_calls":[{"index":0,"id":"call_abc","type":"function","function":{"name":"bash","arguments":""}}]}}]}\n\n' +
+    'data: {"choices":[{"delta":{"tool_calls":[{"index":0,"id":null,"type":"function","function":{"name":null,"arguments":"{"}}]}}]}\n\n' +
+    'data: [DONE]\n\n'
+  const upstream = new ReadableStream<Uint8Array>({
+    start(ctrl) { ctrl.enqueue(enc.encode(sse)); ctrl.close() },
+  })
+
+  const router = new Router('')
+  router.add(supplierWith(upstream) as never)
+
+  const server = http.createServer((req, res) => {
+    let body = ''
+    req.on('data', (c) => { body += c })
+    req.on('end', () => {
+      void router.chatCompletions(
+        { model: 'sup,m1', stream: true, rawBody: body } as never,
+        res as never,
+      )
+    })
+  })
+  await new Promise<void>((r) => server.listen(0, '127.0.0.1', () => r()))
+  const port = (server.address() as { port: number }).port
+  try {
+    const resp = await fetch(`http://127.0.0.1:${port}/v1/chat/completions`, {
+      method: 'POST',
+      headers: { 'Content-Type': 'application/json' },
+      body: JSON.stringify({ model: 'sup,m1', messages: [{ role: 'user', content: 'hi' }], stream: true }),
+    })
+    const text = await resp.text()
+    // 第一帧给的 "bash"/"call_abc" 必须还在
+    assert.ok(text.includes('"name":"bash"'), `首帧的工具名丢了：${text.slice(0, 200)}`)
+    assert.ok(text.includes('"id":"call_abc"'), `首帧的 id 丢了：${text.slice(0, 200)}`)
+    // 后续帧的 null 必须被剥掉（不能出现在线上字节里）
+    assert.equal(/"name":null/.test(text), false, `null 的 name 泄漏到了线上：${text.slice(0, 200)}`)
+    assert.equal(/"id":null/.test(text), false, `null 的 id 泄漏到了线上：${text.slice(0, 200)}`)
+  } finally {
+    server.closeAllConnections?.()
+    server.close()
+  }
+})

package/src/router/index.ts

@@ -296,7 +296,16 @@ function isDoneFrame(frame: string): boolean {
   return /(^|\n)data:[ \t]*\[DONE\][ \t]*(\n|$)/.test(frame)
 }
 
-/** 修一帧 SSE：只剥空的 name/id，出任何问题都原样返回。 */
+/**
+ * 修一帧 SSE：剥掉**空的**（`''` 或 `null`）name/id，出任何问题都原样返回。
+ *
+ * 为什么 `null` 也算空：上游（OpenCode/Zen）在后续 delta 里会把首帧已给过的
+ * id/name 显式重发成 `null`——`{"id":null,"function":{"name":null,"arguments":"{"}}`。
+ * 下游判「有没有新值」用的是 `name !== undefined`（dsh 的 BlockAssembler 就是），
+ * null 过不了这个判断、却也不该覆盖首帧：客户端会把已拿到的 "bash" 冲成 null，
+ * 工具名丢失（表现为 `unknown tool ""`）。空串早就剥了，null 语义上同样是
+ * 「本帧没给新值」，一并剥掉。
+ */
 function fixFrame(frame: string): string {
   // 绝大多数帧没有 tool_calls，先廉价字符串筛查，避免无谓的 JSON 解析
   if (!frame.includes('tool_calls')) return frame
@@ -314,9 +323,13 @@ function fixFrame(frame: string): string {
       const tcs = delta?.tool_calls as Array<Record<string, unknown>> | undefined
       if (Array.isArray(tcs)) {
         for (const tc of tcs) {
-          if (tc.id === '') { delete tc.id; changed = true }
+          // 空串与 null 都是「本帧没给新值」，剥掉让下游沿用首帧那个
+          if (tc.id === '' || tc.id === null) { delete tc.id; changed = true }
           const fn = tc.function as Record<string, unknown> | undefined
-          if (fn !== null && typeof fn === 'object' && fn.name === '') { delete fn.name; changed = true }
+          if (fn !== null && typeof fn === 'object' && (fn.name === '' || fn.name === null)) {
+            delete fn.name
+            changed = true
+          }
         }
       }
       return changed ? `data: ${JSON.stringify(obj)}` : line