@modusensus/dsh-mneme 0.8.13 → 0.8.15
This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
- package/LICENSE +21 -21
- package/README.md +655 -626
- package/assets/icon.svg +3 -3
- package/bin/cli.mjs +689 -689
- package/bin/dsh-mneme-mcp.mjs +510 -510
- package/bin/dsh-mneme-serve.mjs +151 -0
- package/cordis.patch.yml +21 -21
- package/docs/CONFIGURATION.md +263 -0
- package/docs/CONTINUITY.md +124 -0
- package/docs/DAEMON.md +46 -0
- package/docs/ENTITIES.md +245 -0
- package/docs/LOCAL_MODEL.md +222 -0
- package/docs/SEMANTIC.md +256 -0
- package/docs/SLEEP.md +164 -0
- package/docs/STORAGE.md +89 -0
- package/lib/api-standalone.js +673 -572
- package/lib/api.js +1437 -1433
- package/lib/bootstrap.js +211 -211
- package/lib/client.js +5444 -5295
- package/lib/commands.js +95 -95
- package/lib/config.js +880 -836
- package/lib/content-hash.js +54 -54
- package/lib/continuity.js +220 -220
- package/lib/document-index.js +94 -94
- package/lib/document.js +303 -303
- package/lib/dream/clustering.js +118 -118
- package/lib/dream/decisions.js +674 -674
- package/lib/dream/narratives.js +44 -44
- package/lib/dream/sleep.js +819 -819
- package/lib/dream.js +1501 -1501
- package/lib/embedding.js +177 -177
- package/lib/entities/extractor.js +252 -252
- package/lib/graph/anchoring.js +179 -179
- package/lib/guide.js +74 -74
- package/lib/heat.js +144 -144
- package/lib/hot-memory.js +46 -46
- package/lib/index.js +535 -671
- package/lib/inject.js +464 -450
- package/lib/lang.js +248 -229
- package/lib/local-embedder.js +358 -358
- package/lib/maintenance.js +142 -142
- package/lib/mirror.js +330 -330
- package/lib/organize.js +450 -450
- package/lib/peak-hours.js +117 -117
- package/lib/placement.js +13 -0
- package/lib/pre-inject-gate.js +340 -0
- package/lib/quality-filter.js +126 -126
- package/lib/recall-stats.js +175 -175
- package/lib/reranker.js +269 -269
- package/lib/runtime/adopt.js +176 -176
- package/lib/runtime/closure.js +172 -172
- package/lib/runtime/download.js +247 -247
- package/lib/runtime/layout.js +265 -265
- package/lib/runtime/loader.js +252 -252
- package/lib/runtime/model-fetch.js +361 -361
- package/lib/runtime/provision.js +237 -237
- package/lib/runtime/tarball.js +130 -130
- package/lib/runtime/verify.js +223 -204
- package/lib/scope.js +146 -146
- package/lib/search/adaptive.js +60 -60
- package/lib/search/bm25.js +96 -96
- package/lib/semantic.js +229 -0
- package/lib/sensitive-scan.js +209 -209
- package/lib/serve.js +215 -0
- package/lib/service.js +2663 -2596
- package/lib/settings.js +517 -509
- package/lib/store.js +3007 -3007
- package/lib/summarize.js +891 -856
- package/lib/tools.js +743 -737
- package/lib/vector-index.js +110 -110
- package/lib/version-check.js +122 -122
- package/lib/write-admission.js +402 -402
- package/locale/en.json +6 -6
- package/locale/zh.json +6 -6
- package/package.json +8 -4
- package/runtime-manifest.json +526 -526
- package/scripts/benchmark-embed.js +201 -201
- package/scripts/benchmark-recall.js +249 -249
- package/scripts/benchmark-rerank.js +166 -166
- package/scripts/build-runtime-manifest.mjs +224 -224
- package/scripts/changelog-prep.mjs +36 -0
- package/scripts/check-sync.js +42 -42
- package/scripts/e2e-dsh.js +220 -220
- package/scripts/mneme-runtime.mjs +277 -277
- package/scripts/stress-dsh.js +255 -255
- package/scripts/sync-lib.js +47 -47
- package/scripts/sync-test-badge.mjs +69 -69
- package/scripts/test-count-sync.mjs +44 -44
- package/src/api-standalone.js +673 -572
- package/src/api.js +1437 -1433
- package/src/bootstrap.js +211 -211
- package/src/commands.js +95 -95
- package/src/config.js +880 -836
- package/src/content-hash.js +54 -54
- package/src/continuity.js +220 -220
- package/src/document-index.js +94 -94
- package/src/document.js +303 -303
- package/src/dream/clustering.js +118 -118
- package/src/dream/decisions.js +674 -674
- package/src/dream/narratives.js +44 -44
- package/src/dream/sleep.js +819 -819
- package/src/dream.js +1501 -1501
- package/src/embedding.js +177 -177
- package/src/entities/extractor.js +252 -252
- package/src/graph/anchoring.js +179 -179
- package/src/guide.js +74 -74
- package/src/heat.js +144 -144
- package/src/hot-memory.js +46 -46
- package/src/index.js +535 -671
- package/src/inject.js +464 -450
- package/src/lang.js +248 -229
- package/src/local-embedder.js +358 -358
- package/src/maintenance.js +142 -142
- package/src/mirror.js +330 -330
- package/src/organize.js +450 -450
- package/src/peak-hours.js +117 -117
- package/src/placement.js +13 -0
- package/src/pre-inject-gate.js +340 -0
- package/src/quality-filter.js +126 -126
- package/src/recall-stats.js +175 -175
- package/src/reranker.js +269 -269
- package/src/runtime/adopt.js +176 -176
- package/src/runtime/closure.js +172 -172
- package/src/runtime/download.js +247 -247
- package/src/runtime/layout.js +265 -265
- package/src/runtime/loader.js +252 -252
- package/src/runtime/model-fetch.js +361 -361
- package/src/runtime/provision.js +237 -237
- package/src/runtime/tarball.js +130 -130
- package/src/runtime/verify.js +223 -204
- package/src/scope.js +146 -146
- package/src/search/adaptive.js +60 -60
- package/src/search/bm25.js +96 -96
- package/src/semantic.js +229 -0
- package/src/sensitive-scan.js +209 -209
- package/src/serve.js +215 -0
- package/src/service.js +2663 -2596
- package/src/settings.js +517 -509
- package/src/store.js +3007 -3007
- package/src/summarize.js +891 -856
- package/src/tools.js +743 -737
- package/src/vector-index.js +110 -110
- package/src/version-check.js +122 -122
- package/src/write-admission.js +402 -402
- package/test/adaptive-inject-budget.test.js +85 -85
- package/test/api-routes-gaps.test.js +218 -218
- package/test/api.test.js +1702 -1688
- package/test/audit.test.js +448 -448
- package/test/baseline-persist.test.js +248 -248
- package/test/benchmark.test.js +94 -94
- package/test/bootstrap.test.js +220 -220
- package/test/changelog-prep.test.js +60 -0
- package/test/client.test.js +1230 -1169
- package/test/clustering.test.js +100 -100
- package/test/commands.test.js +106 -106
- package/test/config.test.js +66 -66
- package/test/conflict-freeze.test.js +300 -300
- package/test/content-hash.test.js +204 -204
- package/test/continuity.test.js +333 -333
- package/test/document-dir.test.js +233 -233
- package/test/document.test.js +671 -671
- package/test/dream-archive-guardrail.test.js +116 -116
- package/test/dream-candidate-hybrid.test.js +281 -281
- package/test/dream-coverage-degrade.test.js +86 -86
- package/test/dream-failure-backoff.test.js +173 -173
- package/test/dream-peak-hours.test.js +194 -194
- package/test/dream.test.js +1385 -1383
- package/test/embedding-ready.test.js +196 -196
- package/test/entities.test.js +627 -547
- package/test/entity-recall.test.js +179 -179
- package/test/epistemic.test.js +325 -325
- package/test/fnew-0112.test.js +311 -311
- package/test/fnew-03.test.js +422 -422
- package/test/graph-anchoring.test.js +184 -184
- package/test/graph-api.test.js +175 -175
- package/test/graph-inject-budget.test.js +103 -103
- package/test/graph-passive-confirm.test.js +91 -91
- package/test/graph-weight-evolution.test.js +104 -104
- package/test/heat.test.js +175 -175
- package/test/helpers/dream-mock.js +82 -82
- package/test/helpers/peer-worker.mjs +25 -25
- package/test/helpers/runtime-source.js +60 -60
- package/test/helpers/tar-builder.js +80 -80
- package/test/helpers/write-admission-samples.js +308 -308
- package/test/hot-memory.test.js +145 -145
- package/test/inject-content-cap.test.js +91 -91
- package/test/inject-first-round-bm25.test.js +89 -89
- package/test/inject-heat.test.js +77 -61
- package/test/inject-parent-gate.test.js +106 -106
- package/test/inject-pools.test.js +194 -194
- package/test/inject-recall.test.js +105 -105
- package/test/inject-rotation.test.js +161 -161
- package/test/inject.test.js +420 -420
- package/test/lang.test.js +87 -87
- package/test/lastrunat-persist.test.js +101 -101
- package/test/lib-smoke.test.js +96 -96
- package/test/llm-audit.test.js +598 -598
- package/test/llm-message-source.test.js +207 -207
- package/test/local-embedder.test.js +292 -292
- package/test/maintenance.test.js +391 -391
- package/test/mcp-stdio.test.js +385 -385
- package/test/mirror-dirty.test.js +424 -424
- package/test/mirror-edit-digest.test.js +187 -187
- package/test/mirror-generation.test.js +499 -499
- package/test/mirror-types.test.js +208 -208
- package/test/mirror.test.js +249 -249
- package/test/narrative-bars.test.js +162 -162
- package/test/organize.test.js +418 -418
- package/test/peer-blockers.test.js +193 -193
- package/test/placement.test.js +36 -0
- package/test/policy-epoch.test.js +259 -259
- package/test/pre-inject-gate.test.js +434 -0
- package/test/quality-filter.test.js +186 -186
- package/test/reasoning-effort.test.js +752 -752
- package/test/recall-anti-update.test.js +82 -82
- package/test/recall-evals.test.js +253 -253
- package/test/recall-layer.test.js +326 -326
- package/test/recall-stats.test.js +189 -189
- package/test/receipt-chain.test.js +451 -451
- package/test/reflection.test.js +226 -226
- package/test/reindex-backfill.test.js +62 -62
- package/test/reranker-single-logit.test.js +73 -73
- package/test/reranker.test.js +197 -197
- package/test/resident-status.test.js +83 -83
- package/test/runtime-adopt.test.js +206 -206
- package/test/runtime-cli.test.js +89 -89
- package/test/runtime-closure.test.js +193 -193
- package/test/runtime-download.test.js +302 -302
- package/test/runtime-layout.test.js +163 -163
- package/test/runtime-loader.test.js +255 -255
- package/test/runtime-manifest.test.js +159 -159
- package/test/runtime-model-fetch.test.js +348 -348
- package/test/runtime-provision.test.js +101 -101
- package/test/runtime-tarball.test.js +81 -81
- package/test/runtime-verify.test.js +319 -279
- package/test/scope-candidates.test.js +239 -239
- package/test/scope-explicit.test.js +452 -452
- package/test/scope-inject-soft.test.js +106 -106
- package/test/scope-retrieval.test.js +197 -197
- package/test/scope-storage.test.js +255 -255
- package/test/scope-strict.test.js +367 -343
- package/test/search-fusion.test.js +90 -90
- package/test/semantic.test.js +124 -124
- package/test/sensitive-scan.test.js +207 -207
- package/test/serve-bin.test.js +121 -0
- package/test/serve.test.js +196 -0
- package/test/service-search.test.js +174 -174
- package/test/service.test.js +405 -405
- package/test/settings.test.js +261 -261
- package/test/skip-invalid-restore.test.js +262 -262
- package/test/sleep-action-set.test.js +422 -422
- package/test/sleep-heat.test.js +126 -126
- package/test/sleep-scheduler-rearm.test.js +89 -89
- package/test/sleep.test.js +527 -527
- package/test/standalone-api.test.js +751 -544
- package/test/store-vector-cache.test.js +98 -98
- package/test/store.test.js +396 -396
- package/test/stress.test.js +209 -209
- package/test/summarize-occurred-at.test.js +127 -0
- package/test/summarize-reasoning-effort.test.js +189 -189
- package/test/summarize.test.js +1465 -1465
- package/test/supersede-state-tracking.test.js +394 -0
- package/test/test-count-sync.test.js +60 -60
- package/test/tools-dto-schema-matrix.test.js +325 -325
- package/test/tools-memory-get-schema.test.js +65 -65
- package/test/tools.test.js +428 -374
- package/test/updated-at-semantics.test.js +113 -113
- package/test/vector-index.test.js +221 -221
- package/test/version-check.test.js +152 -152
- package/test/webServer-optional.test.js +82 -82
- package/test/write-admission.test.js +668 -668
package/lib/sensitive-scan.js
CHANGED
|
@@ -1,209 +1,209 @@
|
|
|
1
|
-
// #164 A2:写入边界的密钥 / PII 判据。判据来源是 #164 A2(维护者 09-28 把认领转给
|
|
2
|
-
// 本侧),消费方是 #254 的写入准入——`write-admission.js` 从 #332 起就留了
|
|
3
|
-
// `sensitiveScan` 注入点,本模块是那个占位的实现。
|
|
4
|
-
//
|
|
5
|
-
// 为什么判据独立成文件、不写进 write-admission.js:判据的归属是 #164 A2,闸门的归属
|
|
6
|
-
// 是 #254。闸门只消费 `{kind, label}`(deny 面已在 #332 定死),判据自己既不认识
|
|
7
|
-
// 「会话预算」也不认识 `llm_audit_logs`——换一个判据(比如将来接更重的 PII 分类器)
|
|
8
|
-
// 只换注入的那一行。写入边界的另外两个出口(autoSummarize / dream 输出)要复用同一份
|
|
9
|
-
// 判据时也直接 import 本模块的 `scanSensitive`,不必各写一套形状。
|
|
10
|
-
//
|
|
11
|
-
// 三条判据口径(前两条是 #254 已定的硬约束,第三条是本模块自己的):
|
|
12
|
-
//
|
|
13
|
-
// 1. 零 LLM、纯确定性。写入路径在最上游,这里多花的时间会乘上每一次写入;EdgeMem
|
|
14
|
-
// (2609.05553)那句「能不用模型判定就不用」说的就是这一层。
|
|
15
|
-
//
|
|
16
|
-
// 2. 假阳率由负样本定。`test/helpers/write-admission-samples.js` 的 12 条负样本是
|
|
17
|
-
// #332 就配好的验收面,维护者把话说死了:「同一套负样本原样跑,抓错任何一条就不
|
|
18
|
-
// 算落地」。所以本模块的形状是**先认形状再认关键词**——纯关键词匹配在那组负样本
|
|
19
|
-
// 上全军覆没(「把 API key 放进环境变量」这类讨论句里一个凭据值都没有)。
|
|
20
|
-
//
|
|
21
|
-
// 3. 报最严重的那一类(`kind` 落审计)。同一个字符串可能同时像两类(`sk_live_` 前缀
|
|
22
|
-
// 既是 Stripe 的形状、也能被通用的 `sk-` 规则吃下),所以规则表按「越具体越靠前」
|
|
23
|
-
// 排,命中即返回。密钥在前、PII 在后:两者误杀面差一个量级(密钥串出现在正常项目
|
|
24
|
-
// 记忆里就是事故,邮箱 / 手机号完全可能是正当内容),同时命中时报更严重的那一类。
|
|
25
|
-
// `kind` 是稳定判据键(不是展示文案),enforce 打开前先按它看分布,将来要按类放行
|
|
26
|
-
// 也只改策略、不动判据。
|
|
27
|
-
//
|
|
28
|
-
// 已知边界(都是「宁漏不误杀」的取舍,不是遗漏):
|
|
29
|
-
// - 只扫文本(title / content / tags)。不扫路径、id、时间戳这类元数据字段——它们
|
|
30
|
-
// 由系统生成,不是用户写进来的内容,扫它们只会引入假阳。
|
|
31
|
-
// - 中文关键词(密码 / 令牌)不认。补进去会让「密码必须脱敏后再入库」这类讨论句
|
|
32
|
-
// 命中,而那正是负样本 group 的形状。要覆盖中文赋值得先设计「关键词语种 × 值形状」
|
|
33
|
-
// 的两维判据,不在本批。
|
|
34
|
-
// - 手机号只认大陆移动号段(1[3-9] + 9 位),固定电话与带国家码的写法不认。宽一位
|
|
35
|
-
// 就会把长度相近的订单号 / 内部编号吃进来,而 PII 这一档的误杀面已经比密钥大一档。
|
|
36
|
-
// - 银行卡号加 Luhn 校验:`0000000000000000`、`4111111111111112` 这类形状对但校验
|
|
37
|
-
// 不过的串不报。少了这道校验,任何 16 位数字串(订单号、时间戳拼接)都会命中。
|
|
38
|
-
// - 身份证同样加校验位(GB 11643 / ISO 7064 MOD 11-2):位数对但校验不过的 18 位
|
|
39
|
-
// 数字串不报。原先只有银行卡有校验、身份证没有,结果是 18 位纯数字先被身份证规则
|
|
40
|
-
// 命中,反倒绕过银行卡那条的 Luhn。
|
|
41
|
-
//
|
|
42
|
-
// 归一化:这里**不**用 content-hash.js 的 normalizeForHash。那套口径(NFKC → 小写 →
|
|
43
|
-
// 去标点)是为「只差格式的两条写入是否同一件事」定的,判据要的是原串的形状——大小写
|
|
44
|
-
// 是密钥 alphabet 的一部分(`AKIA` 与 `akia` 不是同一个值),去掉 `-` / `_` 会把 JWT
|
|
45
|
-
// 与 Slack token 的分段结构一起折没。两个口径别互换。
|
|
46
|
-
|
|
47
|
-
/** 判据命中的返回形状(与 `createWriteAdmission` 的 sensitiveScan 契约一致)。 */
|
|
48
|
-
// kind 是稳定键、label 是给人看的一行说明;两者都落 llm_audit_logs 的
|
|
49
|
-
// metadata.deny,所以别在其中塞运行时的值(命中的凭据本身绝不落盘 / 不回显)。
|
|
50
|
-
const SECRET_RULES = [
|
|
51
|
-
{ kind: "aws_access_key", label: "AWS access key id", re: /\b(?:AKIA|ASIA)[0-9A-Z]{16}\b/ },
|
|
52
|
-
// AWS 的 secret access key 没有前缀,只能靠赋值键认:`AWS_SECRET_ACCESS_KEY` /
|
|
53
|
-
// `aws_secret_access_key` 这个键名是它的形状。最早的一批 `secret` 关键词规则被
|
|
54
|
-
// 「必须在赋值号前」的位置要求挡在外面(多词键里 `secret` 后面跟的是 `_`,不是
|
|
55
|
-
// `:`/`=`),所以它得单独一条。40 位下限取 AWS 官方密钥的固定长度。
|
|
56
|
-
{
|
|
57
|
-
kind: "aws_secret_key",
|
|
58
|
-
label: "AWS secret access key",
|
|
59
|
-
// 键名不分大小写,所以挂 `/i` 而不是行内修饰符组 `(?i:...)`:后者是 ES2025 语法,
|
|
60
|
-
// CI 矩阵里的 Node 22 直接抛 SyntaxError(本文件其余规则也没有用它的)。
|
|
61
|
-
// 值那一半本来就是 `[A-Za-z0-9/+=]`,带上 `/i` 不改变大小写敏感度。
|
|
62
|
-
re: /(?:aws[_-]?secret[_-]?access[_-]?key)\s*[:=]\s*["']?([A-Za-z0-9/+=]{40})(?![A-Za-z0-9/+=])/i
|
|
63
|
-
},
|
|
64
|
-
{ kind: "github_token", label: "GitHub token", re: /\b(?:ghp|gho|ghu|ghs|ghr)_[A-Za-z0-9]{36}\b/ },
|
|
65
|
-
{ kind: "slack_token", label: "Slack token", re: /\bxox[abprs]-[A-Za-z0-9-]{10,}\b/ },
|
|
66
|
-
// PEM 头是明文私钥的确定标志,带不带正文都一样判——`BEGIN` 与 `PRIVATE KEY` 之间
|
|
67
|
-
// 可能有 `RSA` / `EC` / `OPENSSH`,所以中间那段是 [A-Z ]*。
|
|
68
|
-
{ kind: "private_key", label: "PEM private key", re: /-----BEGIN [A-Z ]*PRIVATE KEY-----/ },
|
|
69
|
-
{ kind: "jwt", label: "JSON Web Token", re: /\beyJ[A-Za-z0-9_-]{8,}\.[A-Za-z0-9_-]{8,}\.[A-Za-z0-9_-]{8,}/ },
|
|
70
|
-
// scheme 与 userinfo 两段都加上界。scheme 那段的 `*` 作用在含 `.` 的字符类上,
|
|
71
|
-
// 一条长点分串(包名 / 路径 / 版本链)里每个起点都要一路回溯到结尾才发现没有
|
|
72
|
-
// `://` → 与 email 同源的 O(n²)(实测 120KB 对抗串里这条占 4.1 秒)。
|
|
73
|
-
// URL scheme 名本就短、`user:password` 也不会长到 64,上界只钉住回溯面,
|
|
74
|
-
// 真实连接串一条不少。
|
|
75
|
-
{ kind: "connection_string", label: "credentials in URL", re: /\b[a-z][a-z0-9+.-]{0,31}:\/\/[^\s/:@]{1,64}:[^\s/:@]{6,}@/ },
|
|
76
|
-
// Stripe 排在通用 `sk-` 之前:`sk_live_…` 两条规则都吃,先到的那条决定 kind。
|
|
77
|
-
// 只认 sk_live_(生产密钥):sk_test_ 是公开测试密钥,报它是纯误杀。
|
|
78
|
-
{ kind: "stripe_key", label: "Stripe secret key", re: /\bsk_live_[A-Za-z0-9]{16,}\b/ },
|
|
79
|
-
{ kind: "npm_token", label: "npm auth token", re: /_authToken\s*=\s*[A-Za-z0-9_-]{20,}/ },
|
|
80
|
-
// 下限 24 而不是 20:这是一条纯收紧、不动语料读数的加固——OpenAI 的 key 没有校验
|
|
81
|
-
// 位,前缀 + 长度是唯一形状,20 位会把更长的假阳性面留在表里。`sk-` 后面跟短串的
|
|
82
|
-
// 赋值句仍会被赋值型那条认下(那是**对的**:值长了 8 位以上就该报)。
|
|
83
|
-
{ kind: "openai_key", label: "OpenAI API key", re: /\bsk-(?:proj-)?[A-Za-z0-9_-]{24,}\b/ },
|
|
84
|
-
{
|
|
85
|
-
// 赋值型:最常见的一类,也是负样本组(占位符 / 环境变量 / 模板变量 / 只提关键词)
|
|
86
|
-
// 的主要靶子。判据是「关键词 + 赋值号 + 右边真的是个值的形状」,值本身不校验
|
|
87
|
-
// alphabet——凭据值没有通用形状,能通用的只有「它不像占位符」。
|
|
88
|
-
kind: "assigned_secret",
|
|
89
|
-
label: "assigned credential literal",
|
|
90
|
-
// 左边界不能把 `_` 排除在外:环境变量名正是拿 `_` 当分隔符,排除它会让
|
|
91
|
-
// `DB_PASSWORD=` / `MY_API_KEY=` / `MYSQL_PASSWORD=` 整类漏放(只有恰好落在
|
|
92
|
-
// 行首的 `API_KEY=` 能中)。放宽后 #332 那套 26 条语料(含 12 条负样本)全绿,
|
|
93
|
-
// 说明原写法不是语料换来的取舍。挡误杀的是下面那道占位符守卫,不是这个边界。
|
|
94
|
-
re: /(?:^|[^A-Za-z0-9])(?:password|passwd|pwd|secret|api[_-]?key|token)\b\s*[:=]\s*["']?([^\s"']{8,})/i,
|
|
95
|
-
// 占位符守卫:右边是尖括号占位、shell / 模板变量、环境变量读取、或一串 x / * / …
|
|
96
|
-
// 时不算命中。少这道守卫,`password: <redacted>` 与 `token: ${TOKEN}` 都会被报,
|
|
97
|
-
// 而它们正是「配置里该怎么写」的示例文本。
|
|
98
|
-
guard: (value) => !/^(?:<[^>]*>|\$\{|\$[A-Z_]+$|process\.env|redacted|xx+|\*+|\u2026)/i.test(value)
|
|
99
|
-
}
|
|
100
|
-
];
|
|
101
|
-
|
|
102
|
-
const PII_RULES = [
|
|
103
|
-
{
|
|
104
|
-
kind: "email",
|
|
105
|
-
label: "email address",
|
|
106
|
-
// 先看 TLD 再看 `@`:反过来的 `(?:[A-Za-z]{2,}\.)+[A-Za-z]{2,}` 对
|
|
107
|
-
// `a@b.c.d.e` 这类可以回溯出指数条路径。
|
|
108
|
-
// local part 的 `+` 必须加上界。该字符类含 `.`,所以一条长点分串(包名 / 路径 /
|
|
109
|
-
// 版本链)后跟一个 `@` 时,每个起点都要重扫到那个 `@` 才失败 → 整体 O(n²)。
|
|
110
|
-
// 实测 120KB 对抗串 23.5 秒里这条占 18.6 秒,34KB 点分链要 0.6 秒;本判据在写入
|
|
111
|
-
// 路径上同步跑,等于把写入阻塞住。64 是 RFC 5321 给 local part 的上限,加上界
|
|
112
|
-
// 不缩检测面——放弃的只是长于 64 的非法形状。
|
|
113
|
-
re: /\b[A-Za-z0-9._%+-]{1,64}@(?:[A-Za-z0-9-]+\.)+[A-Za-z]{2,}\b/
|
|
114
|
-
},
|
|
115
|
-
{ kind: "cn_mobile", label: "mainland mobile number", re: /(?<!\d)1[3-9]\d{9}(?!\d)/ },
|
|
116
|
-
{ kind: "cn_id_card", label: "mainland ID number", re: /(?<![0-9A-Za-z])\d{17}[\dXx](?![0-9A-Za-z])/, cnId: true },
|
|
117
|
-
{ kind: "bank_card", label: "payment card number", re: /(?<!\d)(?:\d{13,19})(?!\d)/, luhn: true }
|
|
118
|
-
];
|
|
119
|
-
|
|
120
|
-
/**
|
|
121
|
-
* Luhn(模 10)校验。银行卡号这一档只靠位数与首字符形状会把所有 13–19 位数字串
|
|
122
|
-
* 都吃进来,而项目记忆里长度差不多的数字串(订单号、拼接的时间戳)很常见;校验位
|
|
123
|
-
* 是卡号自带的、零成本的第二道形状。负样本里没有卡号形状的串,这道校验是防未列举
|
|
124
|
-
* 的那一类(同时它也不影响正样本:4111111111111111 是 Luhn 通过的公开测试卡号)。
|
|
125
|
-
* @param {string} value 归一后的数字串(可能含分隔符)
|
|
126
|
-
*/
|
|
127
|
-
function passesLuhn(value) {
|
|
128
|
-
const digits = value.replace(/\D/g, "");
|
|
129
|
-
if (digits.length < 13 || digits.length > 19) return false;
|
|
130
|
-
let sum = 0;
|
|
131
|
-
let double = false;
|
|
132
|
-
for (let i = digits.length - 1; i >= 0; i--) {
|
|
133
|
-
let d = digits.charCodeAt(i) - 48;
|
|
134
|
-
if (double) {
|
|
135
|
-
d *= 2;
|
|
136
|
-
if (d > 9) d -= 9;
|
|
137
|
-
}
|
|
138
|
-
sum += d;
|
|
139
|
-
double = !double;
|
|
140
|
-
}
|
|
141
|
-
return sum % 10 === 0;
|
|
142
|
-
}
|
|
143
|
-
|
|
144
|
-
// 大陆身份证校验位(GB 11643 / ISO 7064 MOD 11-2)。与银行卡的 Luhn 同理:18 位
|
|
145
|
-
// 数字串在项目记忆里很常见(订单号、内部编号、拼接时间戳),位数这个形状拦不住它们,
|
|
146
|
-
// 而校验位是身份证自带的、零成本的第二道形状。权重序列与余数映射都是标准值,别改。
|
|
147
|
-
const CN_ID_WEIGHTS = [7, 9, 10, 5, 8, 4, 2, 1, 6, 3, 7, 9, 10, 5, 8, 4, 2];
|
|
148
|
-
const CN_ID_CODES = "10X98765432";
|
|
149
|
-
/** @param {string} value 命中串(17 位数字 + 校验位,校验位可为 X) */
|
|
150
|
-
function passesCnId(value) {
|
|
151
|
-
if (!/^\d{17}[\dXx]$/.test(value)) return false;
|
|
152
|
-
let sum = 0;
|
|
153
|
-
for (let i = 0; i < 17; i++) sum += Number(value[i]) * CN_ID_WEIGHTS[i];
|
|
154
|
-
return CN_ID_CODES[sum % 11] === value[17].toUpperCase();
|
|
155
|
-
}
|
|
156
|
-
|
|
157
|
-
/**
|
|
158
|
-
* 扫一段文本里的密钥 / PII。命中返回 `{kind, label}`、未命中返回 null,不抛。
|
|
159
|
-
*
|
|
160
|
-
* 只认第一处命中(按规则表顺序 = 严重度顺序)。一次写入里出现第二条凭据时不再报——
|
|
161
|
-
* deny 面只记判据类别,报多条只是把同一件事写几遍。
|
|
162
|
-
* @param {unknown} value
|
|
163
|
-
* @returns {{kind: string, label: string}|null}
|
|
164
|
-
*/
|
|
165
|
-
export function scanSensitive(value) {
|
|
166
|
-
const text = typeof value === "string" ? value : String(value ?? "");
|
|
167
|
-
if (!text) return null;
|
|
168
|
-
for (const rule of [...SECRET_RULES, ...PII_RULES]) {
|
|
169
|
-
const match = text.match(rule.re);
|
|
170
|
-
if (!match) continue;
|
|
171
|
-
// 守卫只看捕获组:没有捕获组的规则天然没有守卫。
|
|
172
|
-
if (rule.guard && !rule.guard(match[1] ?? "")) continue;
|
|
173
|
-
if (rule.luhn && !passesLuhn(match[0])) continue;
|
|
174
|
-
if (rule.cnId && !passesCnId(match[0])) continue;
|
|
175
|
-
return { kind: rule.kind, label: rule.label };
|
|
176
|
-
}
|
|
177
|
-
return null;
|
|
178
|
-
}
|
|
179
|
-
|
|
180
|
-
/**
|
|
181
|
-
* 判据的两种调用面,共用同一份规则表:
|
|
182
|
-
* `scanSensitive(text)` — 任意文本,给写入边界之外的消费方(autoSummarize /
|
|
183
|
-
* dream 输出)直接调;它们手里是文本,不是记忆行。
|
|
184
|
-
* `createSensitiveScan({config})` — `write-admission.js` 的 `sensitiveScan` 契约,
|
|
185
|
-
* 入参是记忆对象、返回 `{kind, label}` 或 null。
|
|
186
|
-
*
|
|
187
|
-
* 开关在工厂里判一次:`sensitiveScanEnabled` 关时返回 null,闸门侧连函数都拿不到,
|
|
188
|
-
* 于是「第 1 级只跑空白 / 噪声」这条路与 #332 合并时**逐字段一致**(那一版根本没有
|
|
189
|
-
* 这个函数)。反过来,本键开着也不会自己去扫:唯一的调用点是闸门的 firstLevelHit,
|
|
190
|
-
* 而闸门要 `writeAdmission.enabled` 打开才走第 1 级判据。所以两个键是「闸门」与
|
|
191
|
-
* 「闸门内这一批判据」的关系,不是互为子开关——任一个关着,A2 都不产生任何判定。
|
|
192
|
-
* 分成两个键是为了能单独观察 A2 的命中分布(空白 / 噪声与密钥 / PII 的误杀面差一个
|
|
193
|
-
* 量级),不是为了让它能脱离闸门独立生效。
|
|
194
|
-
*
|
|
195
|
-
* @param {{config?: object}} [deps]
|
|
196
|
-
* @returns {((memory: object) => ({kind: string, label: string}|null))|null}
|
|
197
|
-
*/
|
|
198
|
-
export function createSensitiveScan({ config } = {}) {
|
|
199
|
-
if (config?.sensitiveScanEnabled !== true) return null;
|
|
200
|
-
const scan = (memory) => {
|
|
201
|
-
const text = [memory?.title, memory?.content, ...(Array.isArray(memory?.tags) ? memory.tags : [])]
|
|
202
|
-
.filter((s) => typeof s === "string")
|
|
203
|
-
.join("\n");
|
|
204
|
-
return scanSensitive(text);
|
|
205
|
-
};
|
|
206
|
-
// 工厂只认「开 / 关」;enforce 由 write-admission 决定(命中即 deny 还是仅告警),
|
|
207
|
-
// 判据自己不碰决策——那一步在闸门里。两层分开就能先开检测看分布、再开拦截。
|
|
208
|
-
return scan;
|
|
209
|
-
}
|
|
1
|
+
// #164 A2:写入边界的密钥 / PII 判据。判据来源是 #164 A2(维护者 09-28 把认领转给
|
|
2
|
+
// 本侧),消费方是 #254 的写入准入——`write-admission.js` 从 #332 起就留了
|
|
3
|
+
// `sensitiveScan` 注入点,本模块是那个占位的实现。
|
|
4
|
+
//
|
|
5
|
+
// 为什么判据独立成文件、不写进 write-admission.js:判据的归属是 #164 A2,闸门的归属
|
|
6
|
+
// 是 #254。闸门只消费 `{kind, label}`(deny 面已在 #332 定死),判据自己既不认识
|
|
7
|
+
// 「会话预算」也不认识 `llm_audit_logs`——换一个判据(比如将来接更重的 PII 分类器)
|
|
8
|
+
// 只换注入的那一行。写入边界的另外两个出口(autoSummarize / dream 输出)要复用同一份
|
|
9
|
+
// 判据时也直接 import 本模块的 `scanSensitive`,不必各写一套形状。
|
|
10
|
+
//
|
|
11
|
+
// 三条判据口径(前两条是 #254 已定的硬约束,第三条是本模块自己的):
|
|
12
|
+
//
|
|
13
|
+
// 1. 零 LLM、纯确定性。写入路径在最上游,这里多花的时间会乘上每一次写入;EdgeMem
|
|
14
|
+
// (2609.05553)那句「能不用模型判定就不用」说的就是这一层。
|
|
15
|
+
//
|
|
16
|
+
// 2. 假阳率由负样本定。`test/helpers/write-admission-samples.js` 的 12 条负样本是
|
|
17
|
+
// #332 就配好的验收面,维护者把话说死了:「同一套负样本原样跑,抓错任何一条就不
|
|
18
|
+
// 算落地」。所以本模块的形状是**先认形状再认关键词**——纯关键词匹配在那组负样本
|
|
19
|
+
// 上全军覆没(「把 API key 放进环境变量」这类讨论句里一个凭据值都没有)。
|
|
20
|
+
//
|
|
21
|
+
// 3. 报最严重的那一类(`kind` 落审计)。同一个字符串可能同时像两类(`sk_live_` 前缀
|
|
22
|
+
// 既是 Stripe 的形状、也能被通用的 `sk-` 规则吃下),所以规则表按「越具体越靠前」
|
|
23
|
+
// 排,命中即返回。密钥在前、PII 在后:两者误杀面差一个量级(密钥串出现在正常项目
|
|
24
|
+
// 记忆里就是事故,邮箱 / 手机号完全可能是正当内容),同时命中时报更严重的那一类。
|
|
25
|
+
// `kind` 是稳定判据键(不是展示文案),enforce 打开前先按它看分布,将来要按类放行
|
|
26
|
+
// 也只改策略、不动判据。
|
|
27
|
+
//
|
|
28
|
+
// 已知边界(都是「宁漏不误杀」的取舍,不是遗漏):
|
|
29
|
+
// - 只扫文本(title / content / tags)。不扫路径、id、时间戳这类元数据字段——它们
|
|
30
|
+
// 由系统生成,不是用户写进来的内容,扫它们只会引入假阳。
|
|
31
|
+
// - 中文关键词(密码 / 令牌)不认。补进去会让「密码必须脱敏后再入库」这类讨论句
|
|
32
|
+
// 命中,而那正是负样本 group 的形状。要覆盖中文赋值得先设计「关键词语种 × 值形状」
|
|
33
|
+
// 的两维判据,不在本批。
|
|
34
|
+
// - 手机号只认大陆移动号段(1[3-9] + 9 位),固定电话与带国家码的写法不认。宽一位
|
|
35
|
+
// 就会把长度相近的订单号 / 内部编号吃进来,而 PII 这一档的误杀面已经比密钥大一档。
|
|
36
|
+
// - 银行卡号加 Luhn 校验:`0000000000000000`、`4111111111111112` 这类形状对但校验
|
|
37
|
+
// 不过的串不报。少了这道校验,任何 16 位数字串(订单号、时间戳拼接)都会命中。
|
|
38
|
+
// - 身份证同样加校验位(GB 11643 / ISO 7064 MOD 11-2):位数对但校验不过的 18 位
|
|
39
|
+
// 数字串不报。原先只有银行卡有校验、身份证没有,结果是 18 位纯数字先被身份证规则
|
|
40
|
+
// 命中,反倒绕过银行卡那条的 Luhn。
|
|
41
|
+
//
|
|
42
|
+
// 归一化:这里**不**用 content-hash.js 的 normalizeForHash。那套口径(NFKC → 小写 →
|
|
43
|
+
// 去标点)是为「只差格式的两条写入是否同一件事」定的,判据要的是原串的形状——大小写
|
|
44
|
+
// 是密钥 alphabet 的一部分(`AKIA` 与 `akia` 不是同一个值),去掉 `-` / `_` 会把 JWT
|
|
45
|
+
// 与 Slack token 的分段结构一起折没。两个口径别互换。
|
|
46
|
+
|
|
47
|
+
/** 判据命中的返回形状(与 `createWriteAdmission` 的 sensitiveScan 契约一致)。 */
|
|
48
|
+
// kind 是稳定键、label 是给人看的一行说明;两者都落 llm_audit_logs 的
|
|
49
|
+
// metadata.deny,所以别在其中塞运行时的值(命中的凭据本身绝不落盘 / 不回显)。
|
|
50
|
+
const SECRET_RULES = [
|
|
51
|
+
{ kind: "aws_access_key", label: "AWS access key id", re: /\b(?:AKIA|ASIA)[0-9A-Z]{16}\b/ },
|
|
52
|
+
// AWS 的 secret access key 没有前缀,只能靠赋值键认:`AWS_SECRET_ACCESS_KEY` /
|
|
53
|
+
// `aws_secret_access_key` 这个键名是它的形状。最早的一批 `secret` 关键词规则被
|
|
54
|
+
// 「必须在赋值号前」的位置要求挡在外面(多词键里 `secret` 后面跟的是 `_`,不是
|
|
55
|
+
// `:`/`=`),所以它得单独一条。40 位下限取 AWS 官方密钥的固定长度。
|
|
56
|
+
{
|
|
57
|
+
kind: "aws_secret_key",
|
|
58
|
+
label: "AWS secret access key",
|
|
59
|
+
// 键名不分大小写,所以挂 `/i` 而不是行内修饰符组 `(?i:...)`:后者是 ES2025 语法,
|
|
60
|
+
// CI 矩阵里的 Node 22 直接抛 SyntaxError(本文件其余规则也没有用它的)。
|
|
61
|
+
// 值那一半本来就是 `[A-Za-z0-9/+=]`,带上 `/i` 不改变大小写敏感度。
|
|
62
|
+
re: /(?:aws[_-]?secret[_-]?access[_-]?key)\s*[:=]\s*["']?([A-Za-z0-9/+=]{40})(?![A-Za-z0-9/+=])/i
|
|
63
|
+
},
|
|
64
|
+
{ kind: "github_token", label: "GitHub token", re: /\b(?:ghp|gho|ghu|ghs|ghr)_[A-Za-z0-9]{36}\b/ },
|
|
65
|
+
{ kind: "slack_token", label: "Slack token", re: /\bxox[abprs]-[A-Za-z0-9-]{10,}\b/ },
|
|
66
|
+
// PEM 头是明文私钥的确定标志,带不带正文都一样判——`BEGIN` 与 `PRIVATE KEY` 之间
|
|
67
|
+
// 可能有 `RSA` / `EC` / `OPENSSH`,所以中间那段是 [A-Z ]*。
|
|
68
|
+
{ kind: "private_key", label: "PEM private key", re: /-----BEGIN [A-Z ]*PRIVATE KEY-----/ },
|
|
69
|
+
{ kind: "jwt", label: "JSON Web Token", re: /\beyJ[A-Za-z0-9_-]{8,}\.[A-Za-z0-9_-]{8,}\.[A-Za-z0-9_-]{8,}/ },
|
|
70
|
+
// scheme 与 userinfo 两段都加上界。scheme 那段的 `*` 作用在含 `.` 的字符类上,
|
|
71
|
+
// 一条长点分串(包名 / 路径 / 版本链)里每个起点都要一路回溯到结尾才发现没有
|
|
72
|
+
// `://` → 与 email 同源的 O(n²)(实测 120KB 对抗串里这条占 4.1 秒)。
|
|
73
|
+
// URL scheme 名本就短、`user:password` 也不会长到 64,上界只钉住回溯面,
|
|
74
|
+
// 真实连接串一条不少。
|
|
75
|
+
{ kind: "connection_string", label: "credentials in URL", re: /\b[a-z][a-z0-9+.-]{0,31}:\/\/[^\s/:@]{1,64}:[^\s/:@]{6,}@/ },
|
|
76
|
+
// Stripe 排在通用 `sk-` 之前:`sk_live_…` 两条规则都吃,先到的那条决定 kind。
|
|
77
|
+
// 只认 sk_live_(生产密钥):sk_test_ 是公开测试密钥,报它是纯误杀。
|
|
78
|
+
{ kind: "stripe_key", label: "Stripe secret key", re: /\bsk_live_[A-Za-z0-9]{16,}\b/ },
|
|
79
|
+
{ kind: "npm_token", label: "npm auth token", re: /_authToken\s*=\s*[A-Za-z0-9_-]{20,}/ },
|
|
80
|
+
// 下限 24 而不是 20:这是一条纯收紧、不动语料读数的加固——OpenAI 的 key 没有校验
|
|
81
|
+
// 位,前缀 + 长度是唯一形状,20 位会把更长的假阳性面留在表里。`sk-` 后面跟短串的
|
|
82
|
+
// 赋值句仍会被赋值型那条认下(那是**对的**:值长了 8 位以上就该报)。
|
|
83
|
+
{ kind: "openai_key", label: "OpenAI API key", re: /\bsk-(?:proj-)?[A-Za-z0-9_-]{24,}\b/ },
|
|
84
|
+
{
|
|
85
|
+
// 赋值型:最常见的一类,也是负样本组(占位符 / 环境变量 / 模板变量 / 只提关键词)
|
|
86
|
+
// 的主要靶子。判据是「关键词 + 赋值号 + 右边真的是个值的形状」,值本身不校验
|
|
87
|
+
// alphabet——凭据值没有通用形状,能通用的只有「它不像占位符」。
|
|
88
|
+
kind: "assigned_secret",
|
|
89
|
+
label: "assigned credential literal",
|
|
90
|
+
// 左边界不能把 `_` 排除在外:环境变量名正是拿 `_` 当分隔符,排除它会让
|
|
91
|
+
// `DB_PASSWORD=` / `MY_API_KEY=` / `MYSQL_PASSWORD=` 整类漏放(只有恰好落在
|
|
92
|
+
// 行首的 `API_KEY=` 能中)。放宽后 #332 那套 26 条语料(含 12 条负样本)全绿,
|
|
93
|
+
// 说明原写法不是语料换来的取舍。挡误杀的是下面那道占位符守卫,不是这个边界。
|
|
94
|
+
re: /(?:^|[^A-Za-z0-9])(?:password|passwd|pwd|secret|api[_-]?key|token)\b\s*[:=]\s*["']?([^\s"']{8,})/i,
|
|
95
|
+
// 占位符守卫:右边是尖括号占位、shell / 模板变量、环境变量读取、或一串 x / * / …
|
|
96
|
+
// 时不算命中。少这道守卫,`password: <redacted>` 与 `token: ${TOKEN}` 都会被报,
|
|
97
|
+
// 而它们正是「配置里该怎么写」的示例文本。
|
|
98
|
+
guard: (value) => !/^(?:<[^>]*>|\$\{|\$[A-Z_]+$|process\.env|redacted|xx+|\*+|\u2026)/i.test(value)
|
|
99
|
+
}
|
|
100
|
+
];
|
|
101
|
+
|
|
102
|
+
const PII_RULES = [
|
|
103
|
+
{
|
|
104
|
+
kind: "email",
|
|
105
|
+
label: "email address",
|
|
106
|
+
// 先看 TLD 再看 `@`:反过来的 `(?:[A-Za-z]{2,}\.)+[A-Za-z]{2,}` 对
|
|
107
|
+
// `a@b.c.d.e` 这类可以回溯出指数条路径。
|
|
108
|
+
// local part 的 `+` 必须加上界。该字符类含 `.`,所以一条长点分串(包名 / 路径 /
|
|
109
|
+
// 版本链)后跟一个 `@` 时,每个起点都要重扫到那个 `@` 才失败 → 整体 O(n²)。
|
|
110
|
+
// 实测 120KB 对抗串 23.5 秒里这条占 18.6 秒,34KB 点分链要 0.6 秒;本判据在写入
|
|
111
|
+
// 路径上同步跑,等于把写入阻塞住。64 是 RFC 5321 给 local part 的上限,加上界
|
|
112
|
+
// 不缩检测面——放弃的只是长于 64 的非法形状。
|
|
113
|
+
re: /\b[A-Za-z0-9._%+-]{1,64}@(?:[A-Za-z0-9-]+\.)+[A-Za-z]{2,}\b/
|
|
114
|
+
},
|
|
115
|
+
{ kind: "cn_mobile", label: "mainland mobile number", re: /(?<!\d)1[3-9]\d{9}(?!\d)/ },
|
|
116
|
+
{ kind: "cn_id_card", label: "mainland ID number", re: /(?<![0-9A-Za-z])\d{17}[\dXx](?![0-9A-Za-z])/, cnId: true },
|
|
117
|
+
{ kind: "bank_card", label: "payment card number", re: /(?<!\d)(?:\d{13,19})(?!\d)/, luhn: true }
|
|
118
|
+
];
|
|
119
|
+
|
|
120
|
+
/**
|
|
121
|
+
* Luhn(模 10)校验。银行卡号这一档只靠位数与首字符形状会把所有 13–19 位数字串
|
|
122
|
+
* 都吃进来,而项目记忆里长度差不多的数字串(订单号、拼接的时间戳)很常见;校验位
|
|
123
|
+
* 是卡号自带的、零成本的第二道形状。负样本里没有卡号形状的串,这道校验是防未列举
|
|
124
|
+
* 的那一类(同时它也不影响正样本:4111111111111111 是 Luhn 通过的公开测试卡号)。
|
|
125
|
+
* @param {string} value 归一后的数字串(可能含分隔符)
|
|
126
|
+
*/
|
|
127
|
+
function passesLuhn(value) {
|
|
128
|
+
const digits = value.replace(/\D/g, "");
|
|
129
|
+
if (digits.length < 13 || digits.length > 19) return false;
|
|
130
|
+
let sum = 0;
|
|
131
|
+
let double = false;
|
|
132
|
+
for (let i = digits.length - 1; i >= 0; i--) {
|
|
133
|
+
let d = digits.charCodeAt(i) - 48;
|
|
134
|
+
if (double) {
|
|
135
|
+
d *= 2;
|
|
136
|
+
if (d > 9) d -= 9;
|
|
137
|
+
}
|
|
138
|
+
sum += d;
|
|
139
|
+
double = !double;
|
|
140
|
+
}
|
|
141
|
+
return sum % 10 === 0;
|
|
142
|
+
}
|
|
143
|
+
|
|
144
|
+
// 大陆身份证校验位(GB 11643 / ISO 7064 MOD 11-2)。与银行卡的 Luhn 同理:18 位
|
|
145
|
+
// 数字串在项目记忆里很常见(订单号、内部编号、拼接时间戳),位数这个形状拦不住它们,
|
|
146
|
+
// 而校验位是身份证自带的、零成本的第二道形状。权重序列与余数映射都是标准值,别改。
|
|
147
|
+
const CN_ID_WEIGHTS = [7, 9, 10, 5, 8, 4, 2, 1, 6, 3, 7, 9, 10, 5, 8, 4, 2];
|
|
148
|
+
const CN_ID_CODES = "10X98765432";
|
|
149
|
+
/** @param {string} value 命中串(17 位数字 + 校验位,校验位可为 X) */
|
|
150
|
+
function passesCnId(value) {
|
|
151
|
+
if (!/^\d{17}[\dXx]$/.test(value)) return false;
|
|
152
|
+
let sum = 0;
|
|
153
|
+
for (let i = 0; i < 17; i++) sum += Number(value[i]) * CN_ID_WEIGHTS[i];
|
|
154
|
+
return CN_ID_CODES[sum % 11] === value[17].toUpperCase();
|
|
155
|
+
}
|
|
156
|
+
|
|
157
|
+
/**
|
|
158
|
+
* 扫一段文本里的密钥 / PII。命中返回 `{kind, label}`、未命中返回 null,不抛。
|
|
159
|
+
*
|
|
160
|
+
* 只认第一处命中(按规则表顺序 = 严重度顺序)。一次写入里出现第二条凭据时不再报——
|
|
161
|
+
* deny 面只记判据类别,报多条只是把同一件事写几遍。
|
|
162
|
+
* @param {unknown} value
|
|
163
|
+
* @returns {{kind: string, label: string}|null}
|
|
164
|
+
*/
|
|
165
|
+
export function scanSensitive(value) {
|
|
166
|
+
const text = typeof value === "string" ? value : String(value ?? "");
|
|
167
|
+
if (!text) return null;
|
|
168
|
+
for (const rule of [...SECRET_RULES, ...PII_RULES]) {
|
|
169
|
+
const match = text.match(rule.re);
|
|
170
|
+
if (!match) continue;
|
|
171
|
+
// 守卫只看捕获组:没有捕获组的规则天然没有守卫。
|
|
172
|
+
if (rule.guard && !rule.guard(match[1] ?? "")) continue;
|
|
173
|
+
if (rule.luhn && !passesLuhn(match[0])) continue;
|
|
174
|
+
if (rule.cnId && !passesCnId(match[0])) continue;
|
|
175
|
+
return { kind: rule.kind, label: rule.label };
|
|
176
|
+
}
|
|
177
|
+
return null;
|
|
178
|
+
}
|
|
179
|
+
|
|
180
|
+
/**
|
|
181
|
+
* 判据的两种调用面,共用同一份规则表:
|
|
182
|
+
* `scanSensitive(text)` — 任意文本,给写入边界之外的消费方(autoSummarize /
|
|
183
|
+
* dream 输出)直接调;它们手里是文本,不是记忆行。
|
|
184
|
+
* `createSensitiveScan({config})` — `write-admission.js` 的 `sensitiveScan` 契约,
|
|
185
|
+
* 入参是记忆对象、返回 `{kind, label}` 或 null。
|
|
186
|
+
*
|
|
187
|
+
* 开关在工厂里判一次:`sensitiveScanEnabled` 关时返回 null,闸门侧连函数都拿不到,
|
|
188
|
+
* 于是「第 1 级只跑空白 / 噪声」这条路与 #332 合并时**逐字段一致**(那一版根本没有
|
|
189
|
+
* 这个函数)。反过来,本键开着也不会自己去扫:唯一的调用点是闸门的 firstLevelHit,
|
|
190
|
+
* 而闸门要 `writeAdmission.enabled` 打开才走第 1 级判据。所以两个键是「闸门」与
|
|
191
|
+
* 「闸门内这一批判据」的关系,不是互为子开关——任一个关着,A2 都不产生任何判定。
|
|
192
|
+
* 分成两个键是为了能单独观察 A2 的命中分布(空白 / 噪声与密钥 / PII 的误杀面差一个
|
|
193
|
+
* 量级),不是为了让它能脱离闸门独立生效。
|
|
194
|
+
*
|
|
195
|
+
* @param {{config?: object}} [deps]
|
|
196
|
+
* @returns {((memory: object) => ({kind: string, label: string}|null))|null}
|
|
197
|
+
*/
|
|
198
|
+
export function createSensitiveScan({ config } = {}) {
|
|
199
|
+
if (config?.sensitiveScanEnabled !== true) return null;
|
|
200
|
+
const scan = (memory) => {
|
|
201
|
+
const text = [memory?.title, memory?.content, ...(Array.isArray(memory?.tags) ? memory.tags : [])]
|
|
202
|
+
.filter((s) => typeof s === "string")
|
|
203
|
+
.join("\n");
|
|
204
|
+
return scanSensitive(text);
|
|
205
|
+
};
|
|
206
|
+
// 工厂只认「开 / 关」;enforce 由 write-admission 决定(命中即 deny 还是仅告警),
|
|
207
|
+
// 判据自己不碰决策——那一步在闸门里。两层分开就能先开检测看分布、再开拦截。
|
|
208
|
+
return scan;
|
|
209
|
+
}
|