dsh-chatbot-tools 0.0.0-stage → 0.2.1
This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
- package/CHANGELOG.md +62 -0
- package/LICENSE +21 -0
- package/README-en.md +199 -0
- package/README.md +199 -2
- package/client.js +83 -0
- package/cordis.patch.yml +20 -0
- package/docs/feedback-safety-check-exclusivity.md +82 -0
- package/docs/feedback-tts-code-switch.md +108 -0
- package/docs/incident-2026-11-17-safety-check-defer-loading.md +220 -0
- package/docs/incident-2026-11-17-tool-result-image.md +63 -0
- package/docs/verification-2026-11-17.md +471 -0
- package/lib/index.js +788 -0
- package/lib/safety.js +106 -0
- package/lib/speakable.js +162 -0
- package/lib/speech.js +94 -0
- package/package.json +71 -4
|
@@ -0,0 +1,82 @@
|
|
|
1
|
+
# 反馈报告(续):内容安全工具 `safety_check` 的 3 条隐藏互斥,以及 400 后会话不可恢复
|
|
2
|
+
|
|
3
|
+
| 项 | 值 |
|
|
4
|
+
|---|---|
|
|
5
|
+
| 接口 | `POST https://api.deepseek.com/anthropic/v1/messages`(Messages,Anthropic 兼容) |
|
|
6
|
+
| 相关字段 | `safety_check` / `deepseek_web_search` / `deepseek_read_url` / `title` |
|
|
7
|
+
| 发现时间 | 2026-11-17 |
|
|
8
|
+
| 前置反馈 | 同日的 TTS 中英混排发音问题(`docs/feedback-tts-code-switch.md`) |
|
|
9
|
+
| 严重度 | 高:一次踩中即**永久作废整个会话**,重试无法恢复 |
|
|
10
|
+
|
|
11
|
+
## 0. 背景
|
|
12
|
+
|
|
13
|
+
Messages 文档里 `safety_check`、`deepseek_web_search`、`deepseek_read_url`、`title` 是并列的
|
|
14
|
+
服务端扩展工具。实测发现:**这四个字段里只要出现任意一个,服务端就会对整个请求施加若干排他性
|
|
15
|
+
校验**,而文档没有写明这些校验的存在。
|
|
16
|
+
|
|
17
|
+
我们是一个第三方客户端(DeepSeek Harness 插件),接了 `safety_check` 做内容安全。三条约束
|
|
18
|
+
全部踩了一遍,每条都是 400 硬失败,因此逐条记录下来。
|
|
19
|
+
|
|
20
|
+
## 1. 约束一:请求体内不能含 `defer_loading: true` 的工具声明
|
|
21
|
+
|
|
22
|
+
**场景**:多轮会话进行到中途,客户端新增了一个工具。为了不破坏已缓存的提示前缀,客户端把新增
|
|
23
|
+
工具声明为 `defer_loading: true`(Anthropic 官方语义,文档有写)。
|
|
24
|
+
|
|
25
|
+
**结果**:只要同时注入 `safety_check`,请求即被拒。
|
|
26
|
+
|
|
27
|
+
**问题**:这一类失败没有可读的错误文本(相比下面两条),定位成本最高。
|
|
28
|
+
|
|
29
|
+
## 2. 约束二:不能在非思考模式
|
|
30
|
+
|
|
31
|
+
**场景**:`thinking: {"type": "disabled"}`,或客户端发起的辅助性请求(例如生成会话标题,
|
|
32
|
+
本身不该消耗思考预算)。
|
|
33
|
+
|
|
34
|
+
**结果**:同上,被拒。
|
|
35
|
+
|
|
36
|
+
## 3. 约束三:历史里的 `tool_result` 只能包含纯文本
|
|
37
|
+
|
|
38
|
+
**错误信息(原文)**:
|
|
39
|
+
|
|
40
|
+
```
|
|
41
|
+
messages.94: only text content is supported in `tool_result` blocks with
|
|
42
|
+
`deepseek_web_search`, `deepseek_read_url`, `safety_check` or `title` yet
|
|
43
|
+
(request_id: a0e61cba-94f6-4592-8bf7-5a58ff1856f0)
|
|
44
|
+
```
|
|
45
|
+
|
|
46
|
+
**最小复现**:
|
|
47
|
+
|
|
48
|
+
1. 开启 `safety_check`,正常多轮对话若干轮;
|
|
49
|
+
2. 模型调用一个返回图片的工具(我们的 `read_image`),历史中留下一个 `tool_result`,
|
|
50
|
+
其 `content` 是数组,含 `{"type": "image", ...}` 块;
|
|
51
|
+
3. 该轮之后,**每一次**请求都返回上面这个 400,且 `messages.94` 恒定不变。
|
|
52
|
+
|
|
53
|
+
**为什么这条最严重**:错误指向的是**历史**而不是当前请求。历史一旦持久化就删不掉,
|
|
54
|
+
所以客户端「重试」永远失败——会话被永久写死,用户只能新开会话,上下文全丢。
|
|
55
|
+
错误信息里的 "yet" 暗示这是未实现而非不支持,但当前行为是硬拒绝且不降级。
|
|
56
|
+
|
|
57
|
+
## 4. 建议
|
|
58
|
+
|
|
59
|
+
1. **文档补一节**:明确列出这四个字段会开启哪些排他校验(至少上面三条),以及
|
|
60
|
+
「一个请求里只能有一个服务端扩展字段」这类结构性约束是否存在;
|
|
61
|
+
2. **错误信息指向根因**:现在三种情况报错各不相同,但都不说是哪条约束被违反。
|
|
62
|
+
约束一甚至没有明确文本。建议统一为可机器识别的 `error.code` + 具体约束名;
|
|
63
|
+
3. **约束三改为降级而非拒绝**:例如该轮自动降级为「不带 `safety_check` 发送」并返回警告,
|
|
64
|
+
或允许 `tool_result` 内文本与图片混排。哪怕只是警告,也远好过一个会话被写死;
|
|
65
|
+
4. 如果这些校验是刻意的安全设计,也请在文档里说明原因,好让第三方客户端知道
|
|
66
|
+
**接 `safety_check` 需要自建多少守卫**——我们目前实现的是三条守卫 + 21 项回归检查。
|
|
67
|
+
|
|
68
|
+
## 5. 我们的处理(仅作说明,无需回复)
|
|
69
|
+
|
|
70
|
+
三条约束已在客户端侧全部实现为守卫,命中任一条就自动跳过本次 `safety_check` 注入,
|
|
71
|
+
保证请求不被拒、会话不被写死;每条都配了单元测试。排序为:
|
|
72
|
+
`mode-off` → `purpose-skip` → `thinking-off` → `non-text-tool-result` → `defer-loading-guard`
|
|
73
|
+
→ `observe` → `enforce`。
|
|
74
|
+
|
|
75
|
+
另外验证到:约束一的 `defer_loading` 标记会随历史重写(compaction)或进程重启自动消失,
|
|
76
|
+
所以它是可自愈的;约束三则完全不可自愈。
|
|
77
|
+
|
|
78
|
+
---
|
|
79
|
+
|
|
80
|
+
附:本报告的完整证据链见
|
|
81
|
+
- `docs/incident-2026-11-17-safety-check-defer-loading.md`(约束一、二)
|
|
82
|
+
- `docs/incident-2026-11-17-tool-result-image.md`(约束三,含 request_id 与宿主日志)
|
|
@@ -0,0 +1,108 @@
|
|
|
1
|
+
# 反馈报告:TTS 在中英混排(中文句子里夹英文术语)时发音错误
|
|
2
|
+
|
|
3
|
+
| 项 | 值 |
|
|
4
|
+
|---|---|
|
|
5
|
+
| 接口 | `POST https://api.deepseek.com/v1/tools/tts`(WebSocket 同路径同样受影响) |
|
|
6
|
+
| 发现时间 | 2026-11-17 |
|
|
7
|
+
| 音色 | `stella`(默认女声),`format: wav`,`filter_markdown: false` |
|
|
8
|
+
| 影响 | 编程/技术类文本中英混排极常见(如 Markdown、API、prompt、token),朗读时英文词被念错或消失 |
|
|
9
|
+
| 严重度 | 中高:内容可听懂,但关键术语失真,影响可用性 |
|
|
10
|
+
|
|
11
|
+
## 1. 现象
|
|
12
|
+
|
|
13
|
+
中文句子里夹英文术语时,英文词有三种表现:
|
|
14
|
+
|
|
15
|
+
1. **整段/短文本被误判语种**:单独朗读 `Markdown` 时,语种被判成韩语,合成音频送 ASR 转写回来是韩文 `핑가바`;
|
|
16
|
+
2. **被汉语音系同化**:`我们讨论一下 Markdown。` → ASR 回写 `我们讨论一下Mardeano。`;
|
|
17
|
+
3. **中段有中文锚点时正常**:`这个 Markdown 语法很好用。` → 正常。
|
|
18
|
+
|
|
19
|
+
## 2. 最小复现(5 组,TTS → ASR 回写)
|
|
20
|
+
|
|
21
|
+
方法:对同一文本调用 `/v1/tools/tts`,把返回的 wav 再送 `/v1/tools/asr`,比较回写文本。
|
|
22
|
+
|
|
23
|
+
| # | 输入文本 | 音频 | ASR 回写 | 判定 |
|
|
24
|
+
|---|---|---|---|---|
|
|
25
|
+
| 1 | `Markdown` | 46,124 B (~0.96 s) | `핑가바` | ❌ 误判为韩语 |
|
|
26
|
+
| 2 | `我们讨论一下 Markdown。` | 80,684 B (~1.68 s) | `我们讨论一下Mardeano。` | ❌ 被同化 |
|
|
27
|
+
| 3 | `我们讨论一下 Markdown 的用法。` | 90,284 B | `我们讨论一下 Markdown 的用法。` | ✅ |
|
|
28
|
+
| 4 | `这个 Markdown 语法很好用。` | 94,124 B | `这个 Markdown 语法很好用。` | ✅ |
|
|
29
|
+
| 5 | `We use Markdown to format documents.` | 115,244 B | 原样正确 | ✅ |
|
|
30
|
+
|
|
31
|
+
结论:判定是**按整段文本**做的,不是逐词;英文词处于句尾或缺少中文锚点时最容易出错。
|
|
32
|
+
|
|
33
|
+
## 3. 期望与实际
|
|
34
|
+
|
|
35
|
+
- 期望:中文句中夹带的英文术语按英文发音(或至少可预期地读成中文音译),不出现韩语/失真读音;
|
|
36
|
+
- 实际:语种判定与 G2P 在 code-switch 场景不稳定,且没有参数可以干预。
|
|
37
|
+
|
|
38
|
+
## 4. 建议的改进(任一即可)
|
|
39
|
+
|
|
40
|
+
1. **加一个 `language` 参数**(如 `zh` / `en` / `auto`),让调用方锁定主语言;
|
|
41
|
+
2. **加逐词/逐段的语言标注能力**(如 SSML 的 `<lang>`,或 `segments: [{text, lang}]`);
|
|
42
|
+
3. **加自定义读音/术语表**(如 `pronunciations: {"Markdown": "马克当"}`),或在 text 中支持拼音/音标标注;
|
|
43
|
+
4. 退一步:在文档里明确「避免让英文词落在句尾、可加中文锚点」这一限制,并说明不支持 prompt。
|
|
44
|
+
|
|
45
|
+
## 5. 当前客户端侧的规避(供参考)
|
|
46
|
+
|
|
47
|
+
调用方只能在朗读前改写文本:把易错英文术语替换成读音稳定的说法(如 `Markdown → 马克当`)。
|
|
48
|
+
这既增加维护成本,也无法覆盖未登记的术语——这正是希望能由服务端参数解决的原因。
|
|
49
|
+
|
|
50
|
+
## 6. 附件
|
|
51
|
+
|
|
52
|
+
音频样本(本机路径,发送时请替换为实际附件):
|
|
53
|
+
|
|
54
|
+
```
|
|
55
|
+
%USERPROFILE%\.dsh\chatbot-tools\out\tts-1794923335105.wav # 用例 2
|
|
56
|
+
%USERPROFILE%\.dsh\chatbot-tools\out\tts-1794923354795.wav # 用例 1(Markdown 单词)
|
|
57
|
+
%USERPROFILE%\.dsh\chatbot-tools\out\tts-1794923355920.wav # 用例 4
|
|
58
|
+
```
|
|
59
|
+
|
|
60
|
+
---
|
|
61
|
+
|
|
62
|
+
## English summary
|
|
63
|
+
|
|
64
|
+
**Issue**: `/v1/tools/tts` mispronounces English terms embedded in Chinese text (a very common
|
|
65
|
+
pattern in coding/technical content).
|
|
66
|
+
|
|
67
|
+
**Evidence** (TTS → ASR round-trip, voice `stella`, `filter_markdown: false`, 2026-11-17):
|
|
68
|
+
|
|
69
|
+
| Input | ASR transcript | Verdict |
|
|
70
|
+
|---|---|---|
|
|
71
|
+
| `Markdown` (alone) | `핑가바` (Korean) | wrong language detected |
|
|
72
|
+
| `我们讨论一下 Markdown。` | `我们讨论一下Mardeano。` | assimilated by Chinese phonology |
|
|
73
|
+
| `我们讨论一下 Markdown 的用法。` | unchanged | OK |
|
|
74
|
+
| `这个 Markdown 语法很好用。` | unchanged | OK |
|
|
75
|
+
| `We use Markdown to format documents.` | unchanged | OK |
|
|
76
|
+
|
|
77
|
+
**Root cause (inferred)**: language is auto-detected per whole text; there is no `language`
|
|
78
|
+
parameter, no per-segment language tagging, no pronunciation lexicon, and no prompt field.
|
|
79
|
+
|
|
80
|
+
**Requested**: (1) a `language` parameter; or (2) per-segment/per-word language tags (SSML-like);
|
|
81
|
+
or (3) a custom pronunciation map; and at minimum a documented workaround.
|
|
82
|
+
|
|
83
|
+
**Impact**: Chinese technical read-aloud loses or distorts key terms; clients must maintain
|
|
84
|
+
term-substitution tables as a workaround.
|
|
85
|
+
|
|
86
|
+
## 投递记录
|
|
87
|
+
|
|
88
|
+
| 时间 | 动作 | 结果 |
|
|
89
|
+
|---|---|---|
|
|
90
|
+
| 2026-11-17 22:38 | 用 `dsh-email`(Outlook / monkey321478965@outlook.com)调用 `email_send` 发往 `api-service@deepseek.com` | ❌ 被拒:「发信未获批准……当前会话处于 Full Access(审批策略 never,不会弹框)」 |
|
|
91
|
+
| 2026-11-17 22:38 | 改为 `email_draft` 保存本地草稿,含 3 段音频附件 | ✅ 草稿 `20ef976b-ce96-4802-9d4a-777648a51912` |
|
|
92
|
+
|
|
93
|
+
**待办**:在「设置 → 邮件 → 草稿」预览并手动发送;或把会话权限切到会弹确认的模式后由 agent 重发。
|
|
94
|
+
|
|
95
|
+
**踩坑**:Full Access(审批策略 never)下 `dsh-email` 会拒绝需要人工确认的发信,不会弹框;
|
|
96
|
+
这是插件与权限策略的交互结果,不是账号或网络问题。草稿路径不触发该限制。
|
|
97
|
+
|
|
98
|
+
| 时间 | 动作 | 结果 |
|
|
99
|
+
|---|---|---|
|
|
100
|
+
| 2026-11-17 22:41 | 切到会弹确认的权限模式后重发 `email_send` | ✅ 已送达,messageId `<4c29cbd1-c2fe-1edc-f589-2d41f8c123fa@outlook.com>`,服务器 250 OK |
|
|
101
|
+
|
|
102
|
+
### 附件
|
|
103
|
+
|
|
104
|
+
```
|
|
105
|
+
%USERPROFILE%\.dsh\chatbot-tools\out\tts-1794923354795.wav # 用例 1:Markdown 单念 → 韩文
|
|
106
|
+
%USERPROFILE%\.dsh\chatbot-tools\out\tts-1794923335105.wav # 用例 2:句尾 → Mardeano
|
|
107
|
+
%USERPROFILE%\.dsh\chatbot-tools\out\tts-1794923355920.wav # 用例 4:中段对照(正常)
|
|
108
|
+
```
|
|
@@ -0,0 +1,220 @@
|
|
|
1
|
+
# 事故报告:`safety_check` × `defer_loading` 冲突导致会话 400 卡死
|
|
2
|
+
|
|
3
|
+
| 项 | 值 |
|
|
4
|
+
|---|---|
|
|
5
|
+
| 发生时间 | 2026-11-17 19:46:09(Asia/Shanghai),首次失败 19:46:10 |
|
|
6
|
+
| 受影响会话 | `session-36125d3f-d479-4013-b6b5-5a984c95a269`(标题「dsh 补全 Chatbot 功能插件规划」) |
|
|
7
|
+
| 受影响插件 | `@dsh-external/dsh-chatbot-tools` 0.1.0(M1 内容安全扩展) |
|
|
8
|
+
| 错误码 | `INVALID_REQUEST` / HTTP 400 |
|
|
9
|
+
| 状态 | 根因已复现;插件侧已止血;**根治守卫已实施并实测通过(2026-11-17 20:17)** |
|
|
10
|
+
|
|
11
|
+
---
|
|
12
|
+
|
|
13
|
+
## 摘要
|
|
14
|
+
|
|
15
|
+
DSH 在 `deepseek-flash` 上按服务端能力声明启用了「对话中工具增量」投影,会给运行期新增的工具打上
|
|
16
|
+
`defer_loading: true`;与此同时,本插件的 M1 会给**每一个**官方 DeepSeek 请求注入顶层 `safety_check`。
|
|
17
|
+
服务端规定这两者互斥,于是请求被 400 拒绝。**两个条件单独出现都完全无害**,所以问题在单测式验证里看不出来。
|
|
18
|
+
|
|
19
|
+
---
|
|
20
|
+
|
|
21
|
+
## 1. 事故现象与时间线
|
|
22
|
+
|
|
23
|
+
```
|
|
24
|
+
tools[265]: `defer_loading` cannot be used together with
|
|
25
|
+
`deepseek_web_search`, `deepseek_read_url`, `safety_check` or `title`
|
|
26
|
+
(code: INVALID_REQUEST, status: 400)
|
|
27
|
+
```
|
|
28
|
+
|
|
29
|
+
| 时间 | 事件 | 证据位置 |
|
|
30
|
+
|---|---|---|
|
|
31
|
+
| 19:46:09 | 第二次 `dev_inject_plugin` 成功,运行期工具集 265 → 268(新增 `chatbot_doctor` / `chatbot_image_search` / `chatbot_search`) | 会话 seq 435 / 481 |
|
|
32
|
+
| 19:46:09 | DSH 落库 `developer/message`,headerSeq 503,内含 3 个 `tool-addition` | 会话 seq 504 |
|
|
33
|
+
| 19:46:10 | turn 2 step 39 首次 400 | 会话 seq 505 / 507 |
|
|
34
|
+
| 之后 | turn 3–6 每轮同一错误(request_id 不同);turn 7 用户手动中止 | 会话 seq 517 / 529 / 541 / 553 / 562 |
|
|
35
|
+
|
|
36
|
+
**关键**:这条 `developer/message` 是持久化事件,之后每一轮都重放 → 投影出 `defer_loading` → 每次都 400。
|
|
37
|
+
所以会话不是"偶发失败",而是**不可逆地卡死**。
|
|
38
|
+
|
|
39
|
+
---
|
|
40
|
+
|
|
41
|
+
## 2. 根因
|
|
42
|
+
|
|
43
|
+
### 2.1 两个必要条件(缺一不可)
|
|
44
|
+
|
|
45
|
+
| 条件 | 产生位置 | 作用范围 |
|
|
46
|
+
|---|---|---|
|
|
47
|
+
| `safety_check` 顶层字段 | `lib/index.js` M1:`child.deepseekLlmApiExtensions.register('safety_check', …)`,`prepare()` 返回 `{ value: { level: 'high' } }` | **所有**官方 DeepSeek 请求 |
|
|
48
|
+
| `defer_loading: true` | DSH 内核 `projectToolUpdates`:路由 `toolUpdate` 生效时,对新增工具写延迟声明 | 会话发生运行期工具集变更后的请求 |
|
|
49
|
+
|
|
50
|
+
路由为什么会有 `toolUpdate`:服务端 `/models` 对 `deepseek-flash` 声明
|
|
51
|
+
`api_capabilities.anthropic_messages.tool_update = "addition-only"`,DSH 读取后启用该投影。
|
|
52
|
+
|
|
53
|
+
### 2.2 服务端规则
|
|
54
|
+
|
|
55
|
+
`defer_loading` 不得与 4 个服务端内置能力共存:`deepseek_web_search`、`deepseek_read_url`、
|
|
56
|
+
`safety_check`、`title`。这 4 个名字**不在 DSH 客户端代码里**(对 273 MB 的 `app.asar` 做二进制检索,
|
|
57
|
+
`deepseek_web_search`/`deepseek_read_url` 零命中),是服务端协议级概念,客户端无法绕开其校验。
|
|
58
|
+
|
|
59
|
+
### 2.3 为什么两个条件单独都无害
|
|
60
|
+
|
|
61
|
+
- 只有 `safety_check`(无延迟声明)→ 200
|
|
62
|
+
- 只有 `defer_loading`(无 `safety_check`)→ 200
|
|
63
|
+
- 两者叠加 → 400
|
|
64
|
+
|
|
65
|
+
### 2.4 第二条约束(2026-11-17 20:19 补测)
|
|
66
|
+
|
|
67
|
+
`client tools` + `safety_check` 还要求**思考模式**:`thinking: {type: 'disabled'}` 时同样 400,
|
|
68
|
+
报错为 `client tools can only be used together with deepseek_web_search / deepseek_read_url /
|
|
69
|
+
safety_check / title in thinking mode`。DSH 真实请求带的是 `thinking: "enabled"`,所以默认路径安全;
|
|
70
|
+
用户关掉思考时守卫会跳过注入(`thinking-off`)。
|
|
71
|
+
|
|
72
|
+
这正是事故难以在早期发现的原因:任何"只测一边"的验证都会通过。
|
|
73
|
+
|
|
74
|
+
---
|
|
75
|
+
|
|
76
|
+
## 3. 证据:复现矩阵(2026-11-17 实测)
|
|
77
|
+
|
|
78
|
+
端点 `https://api.deepseek.com/anthropic/v1/messages`,账号通道 `x-dsh-auth-token`,
|
|
79
|
+
模型 `deepseek-flash`,`max_tokens: 16`。
|
|
80
|
+
|
|
81
|
+
| # | 请求特征 | HTTP | 说明 |
|
|
82
|
+
|---|---|---|---|
|
|
83
|
+
| S1 | `safety_check` + 普通工具 | 200 | 插件 P0-S1 原本要验的就是这一格 |
|
|
84
|
+
| **S2** | **`safety_check` + `defer_loading` 工具** | **400** | **事故最小复现,错误文本逐字一致** |
|
|
85
|
+
| S3 | 只有 `safety_check`,无工具 | 200 | |
|
|
86
|
+
| S4 | 只有 `defer_loading`,无 `safety_check` | 200 | 事故会话止血后的形态 |
|
|
87
|
+
| D | 1 普通 + 1 `defer_loading` | 200 | 混合延迟声明本身合法 |
|
|
88
|
+
| N | 真实 268 工具 + 3 个 `defer_loading` + `tool_addition` 块 | 200 | 证明「工具集 + 延迟声明」不是问题 |
|
|
89
|
+
| C | 全部工具都 `defer_loading` | 400 | 另一条独立规则:`at least one tool must have defer_loading=false` |
|
|
90
|
+
| **T1** | **thinking=enabled + safety_check + 普通工具** | **200** | 思考模式下允许共存(2026-11-17 20:19 复测) |
|
|
91
|
+
| **T2** | **thinking=disabled + safety_check + 普通工具** | **400** | 另一条独立规则:非思考模式下 client tools 不能与 `safety_check` 等内置能力共存 |
|
|
92
|
+
|
|
93
|
+
### 复核命令
|
|
94
|
+
|
|
95
|
+
```bash
|
|
96
|
+
# 1) 证明 flash 声明 addition-only
|
|
97
|
+
curl -s https://api.deepseek.com/models -H "x-dsh-auth-token: $TOKEN" \
|
|
98
|
+
| grep -o '"tool_update":"[^"]*"'
|
|
99
|
+
|
|
100
|
+
# 2) S2:safety_check + defer_loading 必 400
|
|
101
|
+
# body = { model:"deepseek-flash", max_tokens:16,
|
|
102
|
+
# safety_check:{level:"high"},
|
|
103
|
+
# tools:[ {普通工具}, {普通工具, defer_loading:true} ],
|
|
104
|
+
# messages:[{role:"user",content:[{type:"text",text:"reply ok"}]}] }
|
|
105
|
+
|
|
106
|
+
# 3) S4:去掉 safety_check 后同样请求 → 200
|
|
107
|
+
```
|
|
108
|
+
|
|
109
|
+
---
|
|
110
|
+
|
|
111
|
+
## 4. 为什么没有更早发现
|
|
112
|
+
|
|
113
|
+
1. **两个特性在协议上各自都是"支持"的**:`safety_check` 是官方文档写明的内容安全字段,`tool_update` 是
|
|
114
|
+
`/models` 主动声明的能力。它们的**交集**才被禁,而这点没有任何一处文档或声明提示。
|
|
115
|
+
2. **插件 P0-S1 的验证题目本身不完整**:原设计只问"安全审核能否与 function tools 共存"(S1 格),
|
|
116
|
+
没问"能否与延迟声明共存"。
|
|
117
|
+
3. **触发时机造成误归因**:400 恰好发生在插件注入成功的下一毫秒,很容易被归因为"注入动作本身有毒",
|
|
118
|
+
从而去找工具集的问题,而真正的扳机是一个与工具毫无关系的顶层字段。
|
|
119
|
+
|
|
120
|
+
---
|
|
121
|
+
|
|
122
|
+
## 5. 影响面
|
|
123
|
+
|
|
124
|
+
任何同时满足以下条件的会话都会中招,且**不可逆**:
|
|
125
|
+
|
|
126
|
+
1. 路由是 `deepseek-account` 的 `deepseek-flash`(或任何声明了 `tool_update` 的模型);
|
|
127
|
+
2. 会话内发生过运行期工具集变更(`dev_inject_plugin` / `dev_uninject_plugin` / `dev_reload_package` /
|
|
128
|
+
`dev_stage_promote`,或任何动态注册、注销工具的插件操作);
|
|
129
|
+
3. 有插件在请求顶层注入了 `safety_check`(当前即 `dsh-chatbot-tools` 且 `safetyEnabled: true`)。
|
|
130
|
+
|
|
131
|
+
条件 1 与 2 是 DSH 侧正常能力,不会被取消;因此**插件侧必须让条件 3 与条件 2 互斥**。
|
|
132
|
+
|
|
133
|
+
---
|
|
134
|
+
|
|
135
|
+
## 6. 处置
|
|
136
|
+
|
|
137
|
+
### 6.1 已完成(当日止血,已被 §6.2 取代)
|
|
138
|
+
|
|
139
|
+
- 事故当刻:`DEFAULTS.safetyEnabled` 由 `true` 改为 `false`,并附事故说明注释。
|
|
140
|
+
- 重启后生效路径:`~/.dsh/super-injector/registry.json` 记录本插件,重启时注入器按 registry 重放,
|
|
141
|
+
重新执行 `apply()` 时读取新的 `DEFAULTS` → M1 不再注册 `safety_check`。
|
|
142
|
+
- **未改动** `cordis.patch.yml` 与 registry 内容(避免装配方式与工具集发生变化)。
|
|
143
|
+
- 现状(2026-11-17 20:20 起):`safetyEnabled` 布尔已由 `safetyMode: 'enforce'` + §6.2 守卫取代,
|
|
144
|
+
内容安全默认重新开启且不再与延迟声明冲突。
|
|
145
|
+
|
|
146
|
+
### 6.2 已实施:根治守卫(2026-11-17 20:17)
|
|
147
|
+
|
|
148
|
+
内容安全改成三态(`off` / `observe` / `enforce`),守卫落在 `lib/safety.js` 的纯函数 `safetyDecision()`:
|
|
149
|
+
|
|
150
|
+
```js
|
|
151
|
+
const tools = Array.isArray(request.body?.tools) ? request.body.tools : []
|
|
152
|
+
if (tools.some(tool => tool && tool.defer_loading === true)) {
|
|
153
|
+
return { inject: false, reason: 'defer-loading-guard' }
|
|
154
|
+
}
|
|
155
|
+
```
|
|
156
|
+
|
|
157
|
+
**实现要点(与本文档早期草案的差异)**:工具在扩展契约里位于 `request.body.tools`
|
|
158
|
+
(`DeepSeekLlmApiExtensionRequest.body`),不是 `request.tools`;草案示例是笔误,按契约实现。
|
|
159
|
+
|
|
160
|
+
`prepareRequestExtensions` 在 `serialize()` 之后运行,拿到的 body 已含投影结果,因此 `defer_loading` 可见——
|
|
161
|
+
已由实测日志确认(`toolCount:268`、`deferredCount:3`、`deferredNames` 为三个 chatbot 工具)。
|
|
162
|
+
|
|
163
|
+
另修正一处:真实标题请求的 `purpose` 是 `session-title`(不是 `title`),已加入 `safetySkipPurposes`。
|
|
164
|
+
|
|
165
|
+
**实测结论(详见 `verification-2026-11-17.md`)**:
|
|
166
|
+
|
|
167
|
+
| 场景 | 结果 |
|
|
168
|
+
|---|---|
|
|
169
|
+
| 本会话(有延迟声明)连续 3 次请求 | 全部 `defer-loading-guard`,无 400 |
|
|
170
|
+
| 新会话(无延迟声明) | `decision:"enforce"`,请求 200 |
|
|
171
|
+
| 离线用例 8 条(含「守卫关闭 → 注入」) | 全通过 |
|
|
172
|
+
|
|
173
|
+
条件 3 与条件 2 现在互斥,`safetyMode: 'enforce'` 已可安全默认开启。
|
|
174
|
+
|
|
175
|
+
### 6.3 旧会话的处置
|
|
176
|
+
|
|
177
|
+
该会话历史里已存在 seq 504 那条 `developer/message`,止血后(`safety_check` 不再注入)请求形态变为 S4,
|
|
178
|
+
应可恢复正常。若重启后仍报错,按以下顺序处理:
|
|
179
|
+
|
|
180
|
+
| 顺序 | 做法 | 代价 |
|
|
181
|
+
|---|---|---|
|
|
182
|
+
| 1 | 确认 `safetyEnabled` 确已生效(请求体无 `safety_check`) | 无 |
|
|
183
|
+
| 2 | 把该会话切到 `deepseek-v4-pro`(listing 为 `leading-only`,无延迟声明) | 模型能力与额度 |
|
|
184
|
+
| 3 | 清空 seq 504 事件的 `content` 为 `[]` | 需手改 zstd 会话文件;**不要删行**(序号不连续会让解码器丢弃该行及其后全部内容) |
|
|
185
|
+
|
|
186
|
+
---
|
|
187
|
+
|
|
188
|
+
## 7. 验证与回滚
|
|
189
|
+
|
|
190
|
+
**验证(2026-11-17 20:2x 重启后实测,全部通过)**
|
|
191
|
+
|
|
192
|
+
| # | 步骤 | 结果 |
|
|
193
|
+
|---|---|---|
|
|
194
|
+
| 1 | 只读探针:调用 `deepseekLlmApiExtensions.prepare({body:{}})` 读当前注册字段 | `fields = ["dsh_plugin_packages"]`,**无 `safety_check`** → M1 已关闭,默认值生效 |
|
|
195
|
+
| 2 | `dev_reload_package({packageName:"dsh-chatbot-tools"})` | 成功返回(清缓存 1 模块、重建 1 fiber,before/after 均 `active`),**未复现 2026-11-16 的挂死** |
|
|
196
|
+
| 3 | `dev_stage_promote` 新增 1 个工具(真实工具集变更) | 会话写入 `developer/message: tool-addition`,随后请求 **200**(269 工具) |
|
|
197
|
+
| 4 | `dev_stage_demote` 移除该工具 | 写入 `developer/message: tool-removal`,随后请求 **200** |
|
|
198
|
+
| 5 | 全程失败尝试统计 | `assistant/attempt` 记录 **0 条**(该事件仅在失败时写入) |
|
|
199
|
+
|
|
200
|
+
**关键补充**:第 2 步的 `dev_reload_package` **本身不会改变工具集**(插件工具 schema 未变,DSH 不写 `developer/message`),
|
|
201
|
+
所以单靠重载无法验证 `defer_loading` 路径;必须配合一次真实的工具增删(第 3、4 步)才算验完。
|
|
202
|
+
|
|
203
|
+
**回滚**
|
|
204
|
+
|
|
205
|
+
- 把 `lib/index.js` 的 `safetyEnabled` 改回 `true` 即可恢复内容安全注入;
|
|
206
|
+
但**必须同时确认不会再发生工具集变更**,否则事故重演。
|
|
207
|
+
- 本报告与 `HANDOFF.md` 均为纯文档,删除无副作用。
|
|
208
|
+
|
|
209
|
+
---
|
|
210
|
+
|
|
211
|
+
## 8. 未验证项与遗留风险
|
|
212
|
+
|
|
213
|
+
| # | 项 | 状态 |
|
|
214
|
+
|---|---|---|
|
|
215
|
+
| 1 | 重启后 `safetyEnabled: false` 是否真的生效(registry 重放路径) | **已验证**(2026-11-17 20:2x:插件加载、三工具在册、会话可发消息) |
|
|
216
|
+
| 2 | §6.2 的 `defer_loading` 守卫是否有效 | **已实施并验证**(`safetyMode: enforce`):本会话 3 次命中守卫无 400;新会话 `decision:"enforce"` 且 200;离线 8 用例通过 |
|
|
217
|
+
| 3 | 服务端为何把 `safety_check` 与 `defer_loading` 设为互斥(是否有文档依据) | **未查证**,仅由报错文本反推;官方 `web_tools` 文档未提此约束 |
|
|
218
|
+
| 4 | 除 `safety_check` 外,`title` / `deepseek_read_url` 是否会由其他请求路径注入 | **部分排查**:本插件只在图片搜索的辅助调用里用 `deepseek_web_search`,不碰主对话;主对话的 `title` 不由 DSH 注入 |
|
|
219
|
+
| 5 | 该事故是否对其它 profile(web / superagent)同样成立 | **未排查**;只要装同一插件且满足 §5 三条件即成立 |
|
|
220
|
+
| 6 | 旧事故会话 `session-36125d3f…` 是否已恢复可对话 | **未验证**(止血后形态与 §3 的 S4 一致,预期可恢复);且该会话仍带延迟声明,安全审核在其中的生效形态为「跳过」 |
|
|
@@ -0,0 +1,63 @@
|
|
|
1
|
+
# 事故 2:`safety_check` 与「带图片的 tool_result」互斥(2026-11-17)
|
|
2
|
+
|
|
3
|
+
## 症状
|
|
4
|
+
|
|
5
|
+
会话 `session-37bb04f4-2c09-48e8-84e9-5f14ac2d0921` 报:
|
|
6
|
+
|
|
7
|
+
```
|
|
8
|
+
messages.94: only text content is supported in `tool_result` blocks with
|
|
9
|
+
`deepseek_web_search`, `deepseek_read_url`, `safety_check` or `title` yet
|
|
10
|
+
(request_id: a0e61cba-94f6-4592-8bf7-5a58ff1856f0)
|
|
11
|
+
```
|
|
12
|
+
|
|
13
|
+
首次失败在 turn 1 step 48,随后 **每一次**新 turn 的 step 1 就失败 —— 与第一起
|
|
14
|
+
`defer_loading` 事故同形:错误发生在历史已被持久化之后,会话被卡死,重试无效。
|
|
15
|
+
|
|
16
|
+
## 归因证据
|
|
17
|
+
|
|
18
|
+
| 事实 | 证据 |
|
|
19
|
+
|---|---|
|
|
20
|
+
| 该会话最后一个工具调用是 `read_image` | 解压 `~/.dsh/sessions/--C-Users-Admin--/session-37bb04f4-.../session.v4.jsonl.zstd`(node `zlib.zstdDecompressSync`),事件序号 351:`CALL read_image {"file_path":"...attachments/v1/objects/e0/e..."}` |
|
|
21
|
+
| 失败前一请求我们注入了 `safety_check` | `~/.dsh/logs/chatbot-tools-safety.ndjson` 在 `15:27:05` 及之后连续多条 `decision:"enforce"` |
|
|
22
|
+
| 同一 runId 连续 4 次失败 | `~/.dsh/logs/desktop-next-2026-11-17.0.jsonl` 中 4 条 `agent.failed`,turn 1 step 48 后 turn 2/3/4 都卡在 step 1 |
|
|
23
|
+
| `deepseek_web_search` 不是 DSH 核心注入的 | `grep -c deepseek_web_search app.asar` = 0(`safety_check` 的 8 次命中全是 SDK 类型定义 `pending_safety_checks`,与本机制无关) |
|
|
24
|
+
|
|
25
|
+
结论:`read_image` 把图片块放进 `tool_result`,而我们插件同时把 `safety_check`
|
|
26
|
+
注入同一请求,触发服务端互斥规则。**这是我们插件引起的**(这是它引入的第三个服务端
|
|
27
|
+
未文档化约束,前两个是 `defer_loading` 与非思考模式)。
|
|
28
|
+
|
|
29
|
+
## 修法
|
|
30
|
+
|
|
31
|
+
`safetyDecision` 新增第三个守卫,顺序在 `thinking-off` 之后、`defer-loading-guard` 之前:
|
|
32
|
+
|
|
33
|
+
```js
|
|
34
|
+
if (nonTextToolResults(request) > 0) return { inject: false, reason: 'non-text-tool-result' }
|
|
35
|
+
```
|
|
36
|
+
|
|
37
|
+
`nonTextToolResults` 扫 `body.messages[].content[]` 里 `type === 'tool_result'` 的块,
|
|
38
|
+
其 `content` 为数组且含非 `text` 成员即计数(`content` 为字符串等价于单个 text 块,
|
|
39
|
+
不计数)。命中即跳过注入 —— 与 `defer_loading` 守卫同样的「客户端让路」策略。
|
|
40
|
+
|
|
41
|
+
同时审计日志新增两个字段,便于下次直接归因:
|
|
42
|
+
|
|
43
|
+
- `serverFields`:四个互斥顶层字段里哪些**在进入 prepare 前**就已在 body 中
|
|
44
|
+
(`safety_check` 若出现在这里,说明是别人注入的,不是我们加的);
|
|
45
|
+
- `nonTextResults`:请求里非文本 tool_result 的块数(由 `safetyDecision` 顺带返回,
|
|
46
|
+
这样 `lib/index.js` 不必新增 import —— 改 import 名单必须重启)。
|
|
47
|
+
|
|
48
|
+
## 验证
|
|
49
|
+
|
|
50
|
+
- 单测:`test/safety-guard.test.mjs` 新增 4 例(图片 tool_result 跳过、纯文本不影响、
|
|
51
|
+
字符串 content 不影响、图片与 defer_loading 同时出现时先命中图片守卫),14 条守卫用例表全绿
|
|
52
|
+
(该文件共打印 21 项 PASS:14 条 `decide()` 用例 + `deferredToolNames` 1 项 + 拒答匹配 6 项)。
|
|
53
|
+
- 待重启后复验:让该会话重试,应能继续(请求仍在,只是不再带 `safety_check`)。
|
|
54
|
+
|
|
55
|
+
## 教训(与事故 1 合并成一条规律)
|
|
56
|
+
|
|
57
|
+
> `safety_check` 是一个**独占性**字段:它会对整条请求的内容形态施加限制
|
|
58
|
+
> (工具集形态、思考模式、tool_result 内容类型)。每发现一条新约束,就必须在
|
|
59
|
+
> `safetyDecision` 里加一个守卫,并补一个单测固化 —— 否则这类 400 会以
|
|
60
|
+
> 「历史已持久化 → 会话不可恢复」的形式爆炸。
|
|
61
|
+
|
|
62
|
+
同类字段的风险面还没穷尽:`deepseek_web_search` / `deepseek_read_url` / `title`
|
|
63
|
+
若日后由别的插件注入,也会踩同一条规则。
|