@fx-data/ai-diagnostics 0.1.20261027064707 → 0.1.20261107142011
This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
- package/AGENT_SETUP.md +3 -3
- package/README.md +1 -1
- package/bin/core-ai.mjs +18 -18
- package/content/AGENTS.md +37 -59
- package/content/README.md +10 -43
- package/content/docs/architecture.md +45 -74
- package/content/docs/diagnostic-feedback.md +20 -38
- package/content/docs/diagnostic-report.md +19 -46
- package/content/docs/index.md +40 -129
- package/content/docs/scenario-guide.md +34 -52
- package/content/knowledge/README.md +49 -0
- package/content/knowledge/cases/README.md +60 -0
- package/content/knowledge/cases/dashboard-parameter-deep-binding.md +32 -0
- package/content/knowledge/common/README.md +31 -0
- package/content/knowledge/common/concepts.md +49 -0
- package/content/knowledge/common/{knowledge-applicability.md → conclusions.md} +10 -6
- package/content/knowledge/common/queries.md +98 -0
- package/content/knowledge/common/signals.md +58 -0
- package/content/knowledge/common/topics/baseline-comparison.md +23 -0
- package/content/knowledge/common/topics/large-results.md +12 -0
- package/content/knowledge/common/topics/linked-traces.md +11 -0
- package/content/knowledge/common/topics/query-budget.md +18 -0
- package/content/knowledge/common/topics/query-example.md +69 -0
- package/content/knowledge/common/topics/setup-signoz-mcp.md +102 -0
- package/content/knowledge/common/topics/start-and-anchors.md +19 -0
- package/content/knowledge/common/workflow.md +22 -0
- package/content/knowledge/component/README.md +26 -0
- package/content/knowledge/component/concepts.md +22 -0
- package/content/knowledge/component/conclusions.md +11 -0
- package/content/knowledge/component/queries.md +7 -0
- package/content/knowledge/component/signals.md +75 -0
- package/content/knowledge/component/workflow.md +23 -0
- package/content/knowledge/dashboard/README.md +31 -0
- package/content/knowledge/dashboard/concepts.md +26 -0
- package/content/knowledge/dashboard/conclusions.md +21 -0
- package/content/knowledge/dashboard/queries.md +69 -0
- package/content/knowledge/dashboard/signals.md +76 -0
- package/content/knowledge/dashboard/topics/component-comparison.md +9 -0
- package/content/knowledge/dashboard/topics/dynamic-fields.md +21 -0
- package/content/knowledge/dashboard/topics/filter-tree.md +35 -0
- package/content/knowledge/dashboard/topics/name-binding.md +9 -0
- package/content/knowledge/dashboard/workflow.md +35 -0
- package/content/knowledge/dataset/README.md +27 -0
- package/content/knowledge/dataset/concepts.md +30 -0
- package/content/knowledge/dataset/conclusions.md +11 -0
- package/content/knowledge/dataset/queries.md +7 -0
- package/content/knowledge/dataset/signals.md +61 -0
- package/content/knowledge/dataset/topics/steps.md +59 -0
- package/content/knowledge/dataset/workflow.md +27 -0
- package/content/knowledge/engine/README.md +27 -0
- package/content/knowledge/engine/concepts.md +80 -0
- package/content/knowledge/engine/conclusions.md +49 -0
- package/content/knowledge/engine/queries.md +117 -0
- package/content/knowledge/engine/signals.md +73 -0
- package/content/knowledge/engine/topics/metric-fields.md +104 -0
- package/content/knowledge/engine/topics/patterns.md +50 -0
- package/content/knowledge/engine/workflow.md +20 -0
- package/content/knowledge/signal-index.md +117 -0
- package/content/knowledge/update/README.md +39 -0
- package/content/knowledge/update/concepts.md +93 -0
- package/content/knowledge/update/conclusions.md +59 -0
- package/content/knowledge/update/queries.md +103 -0
- package/content/knowledge/update/signals.md +57 -0
- package/content/knowledge/update/topics/correlations.md +63 -0
- package/content/knowledge/update/topics/discover-executions.md +31 -0
- package/content/knowledge/update/topics/events-execution.md +136 -0
- package/content/knowledge/update/topics/events-intake.md +102 -0
- package/content/knowledge/update/topics/events-outcome.md +163 -0
- package/content/knowledge/update/topics/lifecycle.md +58 -0
- package/content/knowledge/update/topics/scene-producers.md +258 -0
- package/content/knowledge/update/workflow.md +29 -0
- package/content-manifest.json +73 -192
- package/package.json +2 -2
- package/content/.agents/skills/analyze-analysis-table-update-runtime/SKILL.md +0 -35
- package/content/.agents/skills/analyze-analysis-table-update-runtime/agents/openai.yaml +0 -7
- package/content/.agents/skills/analyze-analysis-table-update-runtime/references/discover-update-executions.md +0 -34
- package/content/.agents/skills/analyze-analysis-table-update-runtime/references/update-diagnostic-contract.md +0 -101
- package/content/.agents/skills/analyze-engine-metric/SKILL.md +0 -76
- package/content/.agents/skills/analyze-engine-metric/agents/openai.yaml +0 -13
- package/content/.agents/skills/analyze-engine-metric/scripts/analyze_engine_metric.py +0 -270
- package/content/.agents/skills/analyze-engine-metric/scripts/engine_metric_analysis/__init__.py +0 -11
- package/content/.agents/skills/analyze-engine-metric/scripts/engine_metric_analysis/metric_analyzer.py +0 -791
- package/content/.agents/skills/analyze-engine-metric/scripts/engine_metric_analysis/signoz_extract.py +0 -278
- package/content/.agents/skills/diagnose-component-performance/SKILL.md +0 -52
- package/content/.agents/skills/diagnose-component-performance/agents/openai.yaml +0 -7
- package/content/.agents/skills/diagnose-component-performance/references/experience.md +0 -34
- package/content/.agents/skills/diagnose-dashboard-performance/SKILL.md +0 -92
- package/content/.agents/skills/diagnose-dashboard-performance/agents/openai.yaml +0 -7
- package/content/.agents/skills/diagnose-dashboard-performance/references/experience.md +0 -63
- package/content/.agents/skills/diagnose-dataset-performance/SKILL.md +0 -52
- package/content/.agents/skills/diagnose-dataset-performance/agents/openai.yaml +0 -7
- package/content/.agents/skills/diagnose-dataset-performance/references/experience.md +0 -33
- package/content/.agents/skills/diagnose-performance/SKILL.md +0 -77
- package/content/.agents/skills/diagnose-performance/agents/openai.yaml +0 -7
- package/content/.agents/skills/diagnose-update-performance/SKILL.md +0 -55
- package/content/.agents/skills/diagnose-update-performance/agents/openai.yaml +0 -7
- package/content/.agents/skills/diagnose-update-performance/references/experience.md +0 -47
- package/content/.agents/skills/setup-signoz-mcp/SKILL.md +0 -30
- package/content/.agents/skills/setup-signoz-mcp/agents/openai.yaml +0 -7
- package/content/.agents/skills/setup-signoz-mcp/references/installation.md +0 -75
- package/content/.agents/skills/setup-signoz-mcp/references/windows-artifact.md +0 -14
- package/content/docs/npm-cli.md +0 -200
- package/content/docs/roadmap.md +0 -44
- package/content/docs/skill-writing-guide.md +0 -65
- package/content/knowledge/common/signoz-environments.json +0 -52
- package/content/knowledge/common/signoz-environments.md +0 -55
- package/content/knowledge/common/signoz-query-example.md +0 -41
- package/content/knowledge/common/signoz-query-policy.md +0 -145
- package/content/knowledge/common/trace-routing.md +0 -63
- package/content/knowledge/component/observability.md +0 -60
- package/content/knowledge/dashboard/observability.md +0 -168
- package/content/knowledge/dashboard/query-examples.md +0 -63
- package/content/knowledge/dataset/observability.md +0 -68
- package/content/knowledge/engine/metric-artifacts.md +0 -25
- package/content/knowledge/engine/metric-retrieval.md +0 -107
- package/content/knowledge/engine/metric-semantics.md +0 -172
- package/content/knowledge/engine/performance-patterns.md +0 -86
- package/content/knowledge/update/diagnostic/manifest.json +0 -209
- package/content/knowledge/update/diagnostic/observability/edges/edge-attempt-to-capacity-deferral.json +0 -17
- package/content/knowledge/update/diagnostic/observability/edges/edge-attempt-to-lock-requeue.json +0 -18
- package/content/knowledge/update/diagnostic/observability/edges/edge-attempt-to-merge.json +0 -17
- package/content/knowledge/update/diagnostic/observability/edges/edge-candidate-to-effective-root.json +0 -16
- package/content/knowledge/update/diagnostic/observability/edges/edge-capacity-deferral-to-attempt.json +0 -16
- package/content/knowledge/update/diagnostic/observability/edges/edge-chain-node-to-execution-detail.json +0 -18
- package/content/knowledge/update/diagnostic/observability/edges/edge-dlx-recovery-to-attempt.json +0 -16
- package/content/knowledge/update/diagnostic/observability/edges/edge-effective-execution-to-listener-before.json +0 -21
- package/content/knowledge/update/diagnostic/observability/edges/edge-effective-root-to-chain.json +0 -17
- package/content/knowledge/update/diagnostic/observability/edges/edge-engine-task-to-primary-result.json +0 -17
- package/content/knowledge/update/diagnostic/observability/edges/edge-execution-detail-to-publication.json +0 -16
- package/content/knowledge/update/diagnostic/observability/edges/edge-init-recovery-to-publication.json +0 -16
- package/content/knowledge/update/diagnostic/observability/edges/edge-listener-complete-to-child-release.json +0 -21
- package/content/knowledge/update/diagnostic/observability/edges/edge-listener-to-derived-chain.json +0 -21
- package/content/knowledge/update/diagnostic/observability/edges/edge-load-decision-to-load-operation.json +0 -16
- package/content/knowledge/update/diagnostic/observability/edges/edge-load-operation-to-engine-task.json +0 -17
- package/content/knowledge/update/diagnostic/observability/edges/edge-lock-requeue-to-attempt.json +0 -16
- package/content/knowledge/update/diagnostic/observability/edges/edge-logical-parent-to-child.json +0 -18
- package/content/knowledge/update/diagnostic/observability/edges/edge-merge-member-to-effective-execution.json +0 -18
- package/content/knowledge/update/diagnostic/observability/edges/edge-merge-to-load-decision.json +0 -17
- package/content/knowledge/update/diagnostic/observability/edges/edge-no-load-to-primary-result.json +0 -16
- package/content/knowledge/update/diagnostic/observability/edges/edge-primary-result-to-child-frontier.json +0 -18
- package/content/knowledge/update/diagnostic/observability/edges/edge-primary-result-to-listener.json +0 -23
- package/content/knowledge/update/diagnostic/observability/edges/edge-publication-to-attempt.json +0 -16
- package/content/knowledge/update/diagnostic/observability/edges/edge-ready-recovery-to-publication.json +0 -16
- package/content/knowledge/update/diagnostic/observability/edges/edge-request-to-candidate-root.json +0 -16
- package/content/knowledge/update/diagnostic/observability/identity-units/candidate-root.json +0 -13
- package/content/knowledge/update/diagnostic/observability/identity-units/dag-node.json +0 -14
- package/content/knowledge/update/diagnostic/observability/identity-units/effective-root.json +0 -14
- package/content/knowledge/update/diagnostic/observability/identity-units/engine-task.json +0 -13
- package/content/knowledge/update/diagnostic/observability/identity-units/execution-attempt.json +0 -12
- package/content/knowledge/update/diagnostic/observability/identity-units/execution-detail.json +0 -13
- package/content/knowledge/update/diagnostic/observability/identity-units/listener-invocation.json +0 -11
- package/content/knowledge/update/diagnostic/observability/identity-units/load-decision.json +0 -12
- package/content/knowledge/update/diagnostic/observability/identity-units/load-operation.json +0 -11
- package/content/knowledge/update/diagnostic/observability/identity-units/logical-dag-edge.json +0 -11
- package/content/knowledge/update/diagnostic/observability/identity-units/merge-decision.json +0 -12
- package/content/knowledge/update/diagnostic/observability/identity-units/node-primary-result.json +0 -12
- package/content/knowledge/update/diagnostic/observability/identity-units/queue-publication.json +0 -11
- package/content/knowledge/update/diagnostic/observability/identity-units/requeue.json +0 -11
- package/content/knowledge/update/diagnostic/observability/identity-units/update-chain.json +0 -13
- package/content/knowledge/update/diagnostic/observability/identity-units/update-request.json +0 -12
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-after-commit-delivery.json +0 -131
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-attempt-consumed.json +0 -175
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-candidate-root-filter.json +0 -119
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-capacity-deferred.json +0 -121
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-child-release.json +0 -146
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-dlx-recovery.json +0 -100
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-effective-root-selection.json +0 -111
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-engine-handoff.json +0 -171
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-execution-frontier-persisted.json +0 -115
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-init-recovery.json +0 -93
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-intent-accepted.json +0 -151
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-listener-derived-chain.json +0 -112
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-listener-invocation.json +0 -154
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-load-decision.json +0 -155
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-load-operation.json +0 -108
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-lock-requeued.json +0 -108
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-logical-dependency-expansion.json +0 -129
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-merge-decision.json +0 -174
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-primary-node-result.json +0 -318
- package/content/knowledge/update/diagnostic/observability/lookups/analysis-update-ready-recovery.json +0 -92
- package/content/knowledge/update/diagnostic/observability/performance-segments/analysis-update-segment-business-attempt.json +0 -33
- package/content/knowledge/update/diagnostic/observability/performance-segments/analysis-update-segment-capacity-cycle.json +0 -31
- package/content/knowledge/update/diagnostic/observability/performance-segments/analysis-update-segment-child-release.json +0 -32
- package/content/knowledge/update/diagnostic/observability/performance-segments/analysis-update-segment-commit-publication.json +0 -29
- package/content/knowledge/update/diagnostic/observability/performance-segments/analysis-update-segment-control-planning.json +0 -30
- package/content/knowledge/update/diagnostic/observability/performance-segments/analysis-update-segment-engine-task.json +0 -27
- package/content/knowledge/update/diagnostic/observability/performance-segments/analysis-update-segment-listener-callback.json +0 -27
- package/content/knowledge/update/diagnostic/observability/performance-segments/analysis-update-segment-load-operation.json +0 -27
- package/content/knowledge/update/diagnostic/observability/performance-segments/analysis-update-segment-lock-cycle.json +0 -31
- package/content/knowledge/update/diagnostic/observability/performance-segments/analysis-update-segment-main-queue-wait.json +0 -32
- package/content/knowledge/update/diagnostic/observability/performance-segments/analysis-update-segment-merge-evaluation.json +0 -29
- package/content/knowledge/update/diagnostic/observability/performance-segments/analysis-update-segment-parent-dependency-wait.json +0 -31
- package/content/knowledge/update/diagnostic/observability-index.json +0 -558
- package/content/knowledge/update/diagnostic/recipe-index.json +0 -85
- package/content/knowledge/update/diagnostic/recipes/dag-chain.json +0 -676
- package/content/knowledge/update/diagnostic/recipes/performance-window.json +0 -1128
- package/content/knowledge/update/diagnostic/recipes/scene-origin-async-message-or-callback.json +0 -438
- package/content/knowledge/update/diagnostic/recipes/scene-origin-derived-update-chain.json +0 -510
- package/content/knowledge/update/diagnostic/recipes/scene-origin-direct-service-call.json +0 -438
- package/content/knowledge/update/diagnostic/recipes/scene-origin-http.json +0 -438
- package/content/knowledge/update/diagnostic/recipes/scene-origin-internal-event.json +0 -438
- package/content/knowledge/update/diagnostic/recipes/scene-origin-job.json +0 -438
- package/content/knowledge/update/diagnostic/recipes/scene-origin-recovery-or-migration.json +0 -438
- package/content/knowledge/update/diagnostic/recipes/table-history.json +0 -508
- package/content/knowledge/update/diagnostic/recipes/table-in-chain.json +0 -595
- package/content/knowledge/update/diagnostic/scene-index.json +0 -252
- package/content/knowledge/update/diagnostic/scenes/active.json +0 -47
- package/content/knowledge/update/diagnostic/scenes/add.json +0 -140
- package/content/knowledge/update/diagnostic/scenes/agent.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/archive.json +0 -32
- package/content/knowledge/update/diagnostic/scenes/auth-change.json +0 -116
- package/content/knowledge/update/diagnostic/scenes/call-back.json +0 -32
- package/content/knowledge/update/diagnostic/scenes/case-install.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/case-replace.json +0 -7
- package/content/knowledge/update/diagnostic/scenes/cdc-schedule.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/compute-model.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/copy-data.json +0 -32
- package/content/knowledge/update/diagnostic/scenes/corp-linked.json +0 -7
- package/content/knowledge/update/diagnostic/scenes/corp-member-add.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/corp-member-del.json +0 -7
- package/content/knowledge/update/diagnostic/scenes/corp-member-modify.json +0 -32
- package/content/knowledge/update/diagnostic/scenes/corp-member-sync.json +0 -152
- package/content/knowledge/update/diagnostic/scenes/corp-setting-member-rename.json +0 -152
- package/content/knowledge/update/diagnostic/scenes/corp-setting.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/cross-project-allow.json +0 -32
- package/content/knowledge/update/diagnostic/scenes/default.json +0 -32
- package/content/knowledge/update/diagnostic/scenes/del.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/dynamic-time.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/edit.json +0 -92
- package/content/knowledge/update/diagnostic/scenes/excel-append.json +0 -44
- package/content/knowledge/update/diagnostic/scenes/excel-save.json +0 -32
- package/content/knowledge/update/diagnostic/scenes/folder-copy.json +0 -32
- package/content/knowledge/update/diagnostic/scenes/global.json +0 -56
- package/content/knowledge/update/diagnostic/scenes/handover.json +0 -32
- package/content/knowledge/update/diagnostic/scenes/history-handle.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/manual-update.json +0 -44
- package/content/knowledge/update/diagnostic/scenes/migration.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/param-change.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/polars-error.json +0 -32
- package/content/knowledge/update/diagnostic/scenes/preview-exception.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/preview-invalid.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/project-excel-move.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/re-check.json +0 -7
- package/content/knowledge/update/diagnostic/scenes/replace.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/rollback.json +0 -68
- package/content/knowledge/update/diagnostic/scenes/save-as.json +0 -44
- package/content/knowledge/update/diagnostic/scenes/schedu.json +0 -56
- package/content/knowledge/update/diagnostic/scenes/table-move-other-workspace.json +0 -20
- package/content/knowledge/update/diagnostic/scenes/user-holder-to-normal.json +0 -20
- package/content/knowledge/update/observability.md +0 -16
- package/content/knowledge/update/runtime-evidence.md +0 -32
- package/content/scripts/receive_tool_result.py +0 -57
- /package/content/{.agents/skills/setup-signoz-mcp/scripts → scripts}/install_signoz_mcp.ps1 +0 -0
- /package/content/{.agents/skills/setup-signoz-mcp/scripts → scripts}/install_signoz_mcp.py +0 -0
|
@@ -0,0 +1,103 @@
|
|
|
1
|
+
# 更新 · 查询方法
|
|
2
|
+
|
|
3
|
+
回答“怎样取证、怎样查询”。
|
|
4
|
+
|
|
5
|
+
## 目录
|
|
6
|
+
|
|
7
|
+
- [SigNoZ 查询线索](#signoz-查询线索)
|
|
8
|
+
- [公共约定](#公共约定)
|
|
9
|
+
- [选哪个配方](#选哪个配方)
|
|
10
|
+
- [scene-origin:从场景入口开始](#scene-origin从场景入口开始)
|
|
11
|
+
- [table-history:一张表在窗口内的全部运行](#table-history一张表在窗口内的全部运行)
|
|
12
|
+
- [table-in-chain:一条链里的一张表](#table-in-chain一条链里的一张表)
|
|
13
|
+
- [dag-chain:一条链的依赖图与执行时间线](#dag-chain一条链的依赖图与执行时间线)
|
|
14
|
+
- [performance-window:性能片段](#performance-window性能片段)
|
|
15
|
+
|
|
16
|
+
## SigNoZ 查询线索
|
|
17
|
+
|
|
18
|
+
从企业或 dagId 开始时不用先要 trace 或时间,窗口按[公共查询规则](../common/queries.md#默认值速查)。在业务 `service.name` 下组合 `dispatch_*` / `update` span 与 tableId、dagId、updateId;进入引擎后按 task 取 Metric,不套用业务服务过滤。
|
|
19
|
+
|
|
20
|
+
常用的过滤条件(环境与 `service.name` 的对应见[环境识别](../common/concepts.md)):
|
|
21
|
+
|
|
22
|
+
| 想找什么 | 在哪个信号上过滤 | 备注 |
|
|
23
|
+
|---|---|---|
|
|
24
|
+
| 一条链的受理和各节点执行 | `name = 'dispatch_submit' AND dagId = '<链 ID>'`;`name = 'update' AND dagId = '<链 ID>'` | `dagId` 只在 `dispatch_submit` 和已执行的 `update` 上有 |
|
|
25
|
+
| 某张表的消费尝试 | `name = 'node-task-queue receive' AND tableId = '<表 ID>'` | 队列 span 总带 `tableId`、`corpId`,包括限流转发和拿锁失败的投递 |
|
|
26
|
+
| 某张表的节点执行结果 | `name = 'update' AND tableId = '<表 ID>'`,看 `updateType`、`loadData`、`rowCount`、`rootErrorId` | 没有这些属性的 `update` 没走到节点执行 |
|
|
27
|
+
| 某个企业的更新 | 先用 `corpId` 查队列 span 或 `dispatch_submit`,再按 `linked` 找 `update` | `update` 上的 `corpId` 只有执行过的才有,不能用来排除企业 |
|
|
28
|
+
| 从发布方找到执行方(或反过来) | `name = 'update' AND linked = '<发布方 trace ID>'` | `linked` 保存的是发布方 trace ID |
|
|
29
|
+
| 某次加载的起止与耗时 | 日志 `body CONTAINS 'table load success'`(或 `table load start`、`table load fail`),带 `trace_id` | 日志的 `span_id` 等于 `dispatch_node_task_exec` |
|
|
30
|
+
| 某个节点的失败原因 | 日志 `body CONTAINS 'execute task error'`,带 `exception.type`、`exception.message` | 同一次失败还有一条不带堆栈的 `task exec error` |
|
|
31
|
+
| 某张表有没有引用已有结果、tag 和旧版本释放 | `update` 上 `execution.mode = 'REF'`;日志 `body CONTAINS '<表 ID>'` 加 `[ResultBinding]`、`[Snapshot tag`、`[ResultRetention]` | 见 [result-publish](topics/events-outcome.md#result-publish) |
|
|
32
|
+
| 限流和重排队 | 日志 `body CONTAINS 'Tenant limit exceeded'`、`resend execute info` | 慢队列每转一圈打一行,条数不等于节点数 |
|
|
33
|
+
|
|
34
|
+
按已有输入选一个配方,只补当前缺的那一项。配方只限定参考范围,不证明每个分支都发生,也不要求跑完全部步骤。事件见[事件索引](signals.md#事件索引),边与片段见[关联边与性能片段](topics/correlations.md)。
|
|
35
|
+
|
|
36
|
+
## 公共约定
|
|
37
|
+
|
|
38
|
+
- `update` span 上的真假值是字符串,过滤写 `loadData = 'true'`;`rowCount`、`dataModify` 是数字,写 `rowCount > 1000000`、`dataModify = 1`。旧版本的记录里数字也存成字符串,跨版本查询时两种类型分别取。
|
|
39
|
+
- 输入:环境、时区必填;时间窗用绝对半开区间 `[start, end)`;有 trace_id 就精确锚定。
|
|
40
|
+
- 只用[允许的关联边](topics/correlations.md#关联边),第一条必要边缺失就停,报告最后证实的边界。缺失的身份或字段保持未知,不补造入口、明细、发布或异步边,也不扩成另一个配方。
|
|
41
|
+
- 从 trace 开始:记下绝对时间和时区,确认 trace 对应哪个事件、有没有显式的 chain 受理 key;有原生关系或已验证的 chain / node / attempt key 才扩到消费 trace,否则只算候选。之后按 merge、requeue、load、engine task 的顺序检查。
|
|
42
|
+
- 从时间窗开始:先定统计对象和计数单位;区间以完整的服务端聚合为准,原始记录只有分页和覆盖核对完整后才代表总体,否则只是样本。request、chain、distinct node、attempt、load、engine task 分开测,少量代表性 trace 只用来解释过程。
|
|
43
|
+
|
|
44
|
+
## 选哪个配方
|
|
45
|
+
|
|
46
|
+
| 已有输入 | 配方 | 回答什么 |
|
|
47
|
+
|---|---|---|
|
|
48
|
+
| 已知更新场景(如 `ACTIVE`、`SCHEDU`) | scene-origin | 这个场景的更新由哪类入口触发,是否被受理并落到明细 / 发布 |
|
|
49
|
+
| 表 + 发生时间 | table-history | 这张表在时间窗内的更新运行、尝试、重排队、合并、load 与监听器 |
|
|
50
|
+
| 表 + chain | table-in-chain | 这张表在这条链里的节点时间线 |
|
|
51
|
+
| chain / dagId | dag-chain | 链的逻辑依赖图,以及执行时间线(尝试、重排队、合并、load、监听器、子节点释放) |
|
|
52
|
+
| 已选定一条链,要看耗时 | performance-window | 12 个性能片段各自的耗时 |
|
|
53
|
+
|
|
54
|
+
## scene-origin:从场景入口开始
|
|
55
|
+
|
|
56
|
+
范围是某个场景、某类入口、精确锚点内的触发方,没有显式边的上游不算。入口类型决定读哪类上游记录(见[场景入口明细](topics/scene-producers.md)),后续步骤相同:
|
|
57
|
+
|
|
58
|
+
1. 定位受理的更新意图(`intent-accepted`)。入口类型是“监听器派生链”的,先从 `listener-invocation` / `listener-derived-chain` 找派生来源。
|
|
59
|
+
2. 分类候选根(`candidate-root-filter`)。
|
|
60
|
+
3. 确认有效根(`effective-root-selection`)。
|
|
61
|
+
4. 定位落库的执行明细(`execution-frontier-persisted`)。
|
|
62
|
+
5. 定位提交后的发布(`after-commit-delivery`)。
|
|
63
|
+
|
|
64
|
+
停止:受理或落库的信号缺失时停;不能用时间、企业、表名或相似数量把上游入口和 dispatch 连起来;chain ID 不是触发方的请求 ID,也不是 attempt ID。
|
|
65
|
+
|
|
66
|
+
## table-history:一张表在窗口内的全部运行
|
|
67
|
+
|
|
68
|
+
范围是一张表、一个绝对时间窗、所有显式识别的链。必填:绝对时间窗、表;只有 trace 不行。
|
|
69
|
+
|
|
70
|
+
1. 定位表的节点结果(`primary-node-result`)。
|
|
71
|
+
2. 枚举尝试(`after-commit-delivery`、`attempt-consumed`)。
|
|
72
|
+
3. 分类重排队与恢复(`capacity-deferred`、`lock-requeued`、`ready-recovery`、`init-recovery`、`dlx-recovery`)。
|
|
73
|
+
4. 分类合并、load 与引擎(`merge-decision`、`load-decision`、`load-operation`、`result-publish`、`engine-handoff`)。
|
|
74
|
+
5. 定位监听器影响(`listener-invocation`、`listener-derived-chain`)。
|
|
75
|
+
|
|
76
|
+
缺尝试或物理边界时覆盖范围记为未知,不能重建完整历史,也不按明细 ID 去重;不同链的记录不按表名、企业或时间拼接。
|
|
77
|
+
|
|
78
|
+
## table-in-chain:一条链里的一张表
|
|
79
|
+
|
|
80
|
+
范围只是这条链里的这张表,别的链不算。必填:表、chain。
|
|
81
|
+
|
|
82
|
+
1. 明细与发布:`execution-frontier-persisted`、`after-commit-delivery`。
|
|
83
|
+
2. 尝试与重排队时间线:`attempt-consumed` 及各 requeue / recovery 事件。
|
|
84
|
+
3. 合并、load、引擎与节点结果:`merge-decision`、`load-decision`、`load-operation`、`result-publish`、`engine-handoff`、`primary-node-result`。
|
|
85
|
+
4. 监听器与子节点:`listener-invocation`、`child-release`、`listener-derived-chain`。
|
|
86
|
+
|
|
87
|
+
重复投递记为多次尝试;表或链身份缺失就停,不扩成 table-history。
|
|
88
|
+
|
|
89
|
+
## dag-chain:一条链的依赖图与执行时间线
|
|
90
|
+
|
|
91
|
+
范围是一条显式识别的链。逻辑依赖图和执行层(明细、发布、尝试、重排队、副作用)分开统计,答复分“逻辑图”“执行时间线”两节。必填:chain。
|
|
92
|
+
|
|
93
|
+
1. 展开逻辑依赖:`intent-accepted`、`candidate-root-filter`、`effective-root-selection`、`logical-dependency-expansion`。历史依赖对或链范围在物理记录中不存在时停止,当前血缘不能代表历史。
|
|
94
|
+
2. 定位明细与发布:`execution-frontier-persisted`、`after-commit-delivery`。
|
|
95
|
+
3. 组装尝试与重排队:`attempt-consumed`、`capacity-deferred`、`lock-requeued`、`ready-recovery`、`init-recovery`、`dlx-recovery`。每次主队列投递是一次 attempt,每次 capacity / lock / READY / INIT / DLX 路由是一次 requeue。
|
|
96
|
+
4. 分类合并与 load:`merge-decision`、`load-decision`、`load-operation`、`result-publish`、`engine-handoff`、`primary-node-result`。
|
|
97
|
+
5. 分类监听器、子节点与派生链:`listener-invocation`、`child-release`、`listener-derived-chain`。
|
|
98
|
+
|
|
99
|
+
只用[关联边](topics/correlations.md#关联边)声明的 27 条边;缺明细落库、load 或监听器信号时在该分支停下并报告缺口。
|
|
100
|
+
|
|
101
|
+
## performance-window:性能片段
|
|
102
|
+
|
|
103
|
+
对一条链分别测 12 个独立片段,不合成端到端总耗时。必填:chain。片段定义见[性能片段](topics/correlations.md#性能片段)。12 个都要返回,测不了的停在各自最后证实的边界并说明;没有 engine task 身份时,引擎分支停在 server 边界,不按表或时间推断任务。
|
|
@@ -0,0 +1,57 @@
|
|
|
1
|
+
# 更新 · 入口与信号
|
|
2
|
+
|
|
3
|
+
回答“怎样认出入口,各个 span、attribute、日志和字段是什么意思”。
|
|
4
|
+
|
|
5
|
+
## 使用规则
|
|
6
|
+
|
|
7
|
+
- 认场景:trace 里有 `dispatch_submit` 等 `dispatch_*` span、`update` span,或 `dagId`、`updateId`,就是更新。只有 `tableId` 或共享的 Query / engine span,分不清是前台查询还是后台更新。
|
|
8
|
+
- 认出后:性能问题按[更新性能排查](workflow.md#更新性能排查),来源、DAG、计数这类事实问题按[解释更新记录](workflow.md#解释更新记录)。先读[一次更新怎么走完](topics/lifecycle.md),再按下面的索引读具体事件。
|
|
9
|
+
- 用信号前确认这次记录里真有这个字段;字段缺失只限制依赖它的判断,不证明没发生。异步关联只用[关联边](topics/correlations.md#关联边)声明的边和键。
|
|
10
|
+
- server 版本、合并重试路由监听器等配置、span 属性日志模板、服务边界变了,相关判断标 `needs_revalidation`;版本确认不了标 `unknown`。
|
|
11
|
+
|
|
12
|
+
## 事件索引
|
|
13
|
+
|
|
14
|
+
事件按生命周期分在三个文件里(受理与入队、消费与合并、load 与结果),按下表找到要的事件,只读对应文件。重排队与恢复(限流、拿锁失败、补发、等待恢复、死信)从消费环节旁路回到队列。
|
|
15
|
+
|
|
16
|
+
| 事件 | span | 日志 signature |
|
|
17
|
+
|---|---|---|
|
|
18
|
+
| [`intent-accepted`](topics/events-intake.md#intent-accepted) | `dispatch_submit` | `dispatch receive request, chainId {}, root size {},`、`submit root task success, chain {} root size {}, cost {}` |
|
|
19
|
+
| [`candidate-root-filter`](topics/events-intake.md#candidate-root-filter) | 无 | `table don't need update, tableId = {}, tenantId = {}`、`table is not exist in db, can't update, tableId = {}, tenantId = {}` |
|
|
20
|
+
| [`effective-root-selection`](topics/events-intake.md#effective-root-selection) | `dispatch_gen_roots` | 无 |
|
|
21
|
+
| [`logical-dependency-expansion`](topics/events-intake.md#logical-dependency-expansion) | `dispatch_get_ancestors`、`dispatch_get_ancestors_batch`、`dispatch_get_descendants` | `getAncestors error {}`、`getDescendants error {}` |
|
|
22
|
+
| [`execution-frontier-persisted`](topics/events-intake.md#execution-frontier-persisted) | 无 | 无 |
|
|
23
|
+
| [`after-commit-delivery`](topics/events-intake.md#after-commit-delivery) | 无 | `send nodeTaskId {} , executeId {}` |
|
|
24
|
+
| [`attempt-consumed`](topics/events-execution.md#attempt-consumed) | `node-task-queue receive`、`update` | `handle nodeTaskId {}, executeId {}` |
|
|
25
|
+
| [`capacity-deferred`](topics/events-execution.md#capacity-deferred) | `slow-node-task-queue receive` | `Tenant limit exceeded: tenant {}, nodeTaskId {}, executeId {}` |
|
|
26
|
+
| [`lock-requeued`](topics/events-execution.md#lock-requeued) | 无 | `resend execute info, nodeTaskId {}, id {}, chainId {}` |
|
|
27
|
+
| [`ready-recovery`](topics/events-execution.md#ready-recovery) | 无 | `[inspect ready] send nodeTaskId {} , executeId {}` |
|
|
28
|
+
| [`init-recovery`](topics/events-execution.md#init-recovery) | 无 | `send nodeTaskId {} , executeId {}` |
|
|
29
|
+
| [`dlx-recovery`](topics/events-execution.md#dlx-recovery) | `node-task-queue_dlx_queue receive` | `receive msg at dlx queue, msgId = {}`、`send execute info to fast, msgId = {}` |
|
|
30
|
+
| [`merge-decision`](topics/events-execution.md#merge-decision) | 无 | `merge isolationMode {}, executeId {} nodeTaskId: {}, merge mergeExecuteIds {} chainIds {}` |
|
|
31
|
+
| [`load-decision`](topics/events-outcome.md#load-decision) | 无(`update` 上的 `loadData`、`execution.mode` 等属性) | 无 |
|
|
32
|
+
| [`load-operation`](topics/events-outcome.md#load-operation) | 无 | `table load start`、`table load success`、`table load fail` |
|
|
33
|
+
| [`result-publish`](topics/events-outcome.md#result-publish) | `result.binding.commit`、`result.snapshot.tag.<操作>` | `[ResultBinding] event=COMMIT_RESULT`、`[Snapshot tag {}]`、`[ResultRetention] event=RELEASE_REQUESTED` |
|
|
34
|
+
| [`engine-handoff`](topics/events-outcome.md#engine-handoff) | `DataFlowExecutor`、`execute` | `table {} load fail!`、`table {} load success.` |
|
|
35
|
+
| [`primary-node-result`](topics/events-outcome.md#primary-node-result) | `dispatch_node_task_exec` | `finish to exec task, nodeTaskId = {}, chainId = {}, cost = {}ms`、`task exec error, nodeTaskId {}, chainIds {}, {}` |
|
|
36
|
+
| [`listener-invocation`](topics/events-outcome.md#listener-invocation) | `trigger_listener_<监听器名>` | 无 |
|
|
37
|
+
| [`child-release`](topics/events-outcome.md#child-release) | `dispatch_callback_children`、`evaluator_child` | `dispatch callback children, nodeTaskId {}, executeId {}, chainId {}, children size {},` |
|
|
38
|
+
| [`listener-derived-chain`](topics/events-outcome.md#listener-derived-chain) | 无 | `update corp success , update {}` |
|
|
39
|
+
|
|
40
|
+
## 上游出错连带失败
|
|
41
|
+
|
|
42
|
+
更新开始前会先做配置检查,日志 `[TableRedMarkPreLoadValidator] Check table for id {} Is {}`,`Is false` 就是没通过。引用的上游表正处在出错状态时,同一 trace 里会有:
|
|
43
|
+
|
|
44
|
+
- `[GrammarCheck] referenced table is invalid, propagate red mark: curTable=…, parentTable=…, parentStatus=…`:写明是哪张上游表、它是什么状态。常见的 `parentStatus` 有 `mem_insufficient`(上游自己内存不足失败了)、`parent_error`(上游的上游出错,还要再往上找);
|
|
45
|
+
- `[RedMarkCheck] analysis table marked red by grammar check`:本表随之被标红;
|
|
46
|
+
- 最后报 `table <表 ID> is invalid`(`TableInvalidException`),这里的表 ID 是上游表,不是用户看到的那张。
|
|
47
|
+
|
|
48
|
+
同一条链里上游节点这次刚失败时,走的是另一条路,日志是:
|
|
49
|
+
|
|
50
|
+
- `Task is failed by its parent failed, curId {}, fail parent {}, chainId {}`:`fail parent` 是失败的上游表;
|
|
51
|
+
- 随后报 `Task is failed by its dependence failed <上游的错误原文>`(`DependenceFailedException`)。
|
|
52
|
+
|
|
53
|
+
两种情况本表都没进入计算,原因在上游。按 `parentTable` 或 `fail parent` 去查那张表自己的失败记录;如果它的错误也是 `dependence failed` 或 `parent_error`,就继续往上找,直到第一张自己报错的表(`task exec error` 里是 `MemoryLimitExceeded` 这类真实错误),把它讲清楚才算回答了用户。同一时间往往有一批依赖它的下游一起失败,不要逐张当成独立问题。
|
|
54
|
+
|
|
55
|
+
第一张自己报错的表,也可能是本表配置检查没通过,同样没进入计算:`col size over limit 400`(状态 `column_size_over`)是某一步输出的列数超过上限,要减少字段或拆表;`formulaStr {} has error` 是公式校验不通过,常见是引用的字段或参数已经不在了。
|
|
56
|
+
|
|
57
|
+
更新失败后,日志 `[TableConfRecord] record failed table:tableID<表>, rowCount-1, peakMem<值>` 会把失败记到表上:`peakMem-3` 表示这次是内存超限失败,`peakMem-1` 是其他错误。按时间看一张表的这条日志,就能看出它从什么时候开始因为内存失败、什么时候换成了别的错误。
|
|
@@ -0,0 +1,63 @@
|
|
|
1
|
+
# 更新关联边与性能片段
|
|
2
|
+
|
|
3
|
+
本文件补充[更新可观测知识](../signals.md):更新事件之间允许用哪些关联键把记录连起来,以及性能分析时把一条链的耗时切成哪些片段。各事件的含义见[受理与入队](events-intake.md)、[消费、重排队与合并](events-execution.md)、[load、引擎与结果](events-outcome.md);整体流程见[一次更新怎么走完](lifecycle.md)。
|
|
4
|
+
|
|
5
|
+
## 目录
|
|
6
|
+
|
|
7
|
+
- [关联边](#关联边)
|
|
8
|
+
- [性能片段](#性能片段)
|
|
9
|
+
|
|
10
|
+
## 关联边
|
|
11
|
+
|
|
12
|
+
只允许使用下表声明的边。缺少某条必要的边时停止扩展,只报告最后一条证实的边界;表名、租户、时间相近都不能当作关联依据。trace 的父子关系和 link 只能连接遥测范围,不能单独确认业务关联,业务关联仍要有这条边声明的关联键。
|
|
13
|
+
|
|
14
|
+
“异步”指两端不在同一个线程或同一条 trace 里,要靠消息或链接才能连起来。
|
|
15
|
+
|
|
16
|
+
| 边 | 从 → 到 | 关联键 | 异步 | 说明与限制 |
|
|
17
|
+
|---|---|---|---|---|
|
|
18
|
+
| `request-to-candidate-root` | 更新请求 → 候选根 | 同一次调用里的候选集合 | 否 | 没有请求 ID,只在进程内成立。 |
|
|
19
|
+
| `candidate-to-effective-root` | 候选根 → 有效根 | 同一次提交里的表 ID | 否 | 被过滤的候选没有留存。 |
|
|
20
|
+
| `effective-root-to-chain` | 有效根 → 更新链 | 链 ID(`dagId`)、表 ID | 否 | 没有选出任何根时,链 ID 仍会返回,但没有明细。 |
|
|
21
|
+
| `chain-node-to-execution-detail` | 链上的节点 → 执行明细 | 链 ID、节点表 ID、明细 ID | 否 | 明细是临时记录,执行完会删除,不是节点历史。 |
|
|
22
|
+
| `logical-parent-to-child` | 父节点 → 子节点 | 父表 ID、子表 ID、链范围 | 否 | 依赖是现查的当前血缘,不能证明当时的依赖。 |
|
|
23
|
+
| `execution-detail-to-publication` | 执行明细 → 消息发布 | 明细 ID | 是 | 明细提交可见之后才发布;没有独立的发布 ID。 |
|
|
24
|
+
| `publication-to-attempt` | 消息发布 → 一次消费尝试 | 明细 ID;`update` trace 上的 `linked`(发布所在 trace 的 ID)和 span link | 是 | 同一明细被重复投递无法区分第几次。执行 trace 在 `update` 里,要靠 `linked` 或 link 从发布所在的 trace 查到。 |
|
|
25
|
+
| `attempt-to-capacity-deferral` | 尝试 → 限流转发 | 明细 ID、租户 ID | 是 | 没有独立的转发 ID。 |
|
|
26
|
+
| `capacity-deferral-to-attempt` | 限流转发 → 后续尝试 | 明细 ID | 是 | 慢队列里的每一圈是重排队,不是主队列尝试。 |
|
|
27
|
+
| `attempt-to-lock-requeue` | 尝试 → 锁超时重排队 | 明细 ID、节点表 ID、链 ID | 是 | 不增加尝试或重排队 ID。 |
|
|
28
|
+
| `lock-requeue-to-attempt` | 重排队 → 后续尝试 | 明细 ID | 是 | 重复投递的次数没有保留。 |
|
|
29
|
+
| `ready-recovery-to-publication` | 补发巡检 → 消息发布 | 明细 ID | 是 | 只适用于“待发送”的根明细,不适用于子明细。 |
|
|
30
|
+
| `init-recovery-to-publication` | 等待恢复 → 消息发布 | 明细 ID | 是 | 重新判断的是当前依赖,不是当时的历史依赖。 |
|
|
31
|
+
| `dlx-recovery-to-attempt` | 死信恢复 → 后续尝试 | 明细 ID | 是 | 恢复轮次和后续尝试都没有独立 ID。 |
|
|
32
|
+
| `attempt-to-merge` | 尝试 → 合并判断 | 明细 ID、节点表 ID | 否 | 合并判断不留存 ID。 |
|
|
33
|
+
| `merge-member-to-effective-execution` | 被合并的明细 → 实际执行的节点 | 被合并的明细 ID、链 ID、节点表 ID | 否 | 合并成员关系不能证明它们属于同一个请求。 |
|
|
34
|
+
| `merge-to-load-decision` | 合并判断 → load 决定 | 节点表 ID、被合并的链 ID | 否 | load 决定没有独立 ID。 |
|
|
35
|
+
| `effective-execution-to-listener-before` | 实际执行的节点 → 执行前监听器 | 链上下文、节点表 ID、监听器名 | 否 | 此时还没有节点主结果。 |
|
|
36
|
+
| `load-decision-to-load-operation` | load 决定 → 加载 | 同一次执行里的节点对象;加载日志的 `span_id` 等于 `dispatch_node_task_exec` | 否 | 只有通过活跃、可用、执行模式等判断的分支才会调用加载。 |
|
|
37
|
+
| `load-decision-to-result-publish` | load 决定 → 结果提交 | 同一次执行的 `trace_id`,日志里的本表 ID | 否 | 只有 REF 或读取位置变了才有;同一 trace 可能有多张表,按本表 ID 对,不按时间挨着拼。 |
|
|
38
|
+
| `no-load-to-primary-result` | 不加载 → 节点主结果 | 同一次执行里的节点对象 | 否 | 直通、不活跃、跳过或加载前失败,都可以没有引擎任务就得出结果;这种成功不能当作数据变化。 |
|
|
39
|
+
| `load-operation-to-engine-task` | 加载 → 引擎任务 | 服务端调用范围;成功时返回的引擎任务 ID | 否 | 只有进入 Polars 写入才会产生引擎任务;失败和重试过的任务不完整。 |
|
|
40
|
+
| `engine-task-to-primary-result` | 引擎任务 → 节点主结果 | 返回时的引擎任务 ID、服务端执行范围 | 否 | 没有返回任务 ID 时,不能用表名补出任务关系。 |
|
|
41
|
+
| `primary-result-to-listener` | 节点主结果 → 成功/失败/完成监听器 | 链 ID、节点表 ID、监听器名 | 否 | 监听器按固定顺序执行,在释放子节点之前。 |
|
|
42
|
+
| `listener-complete-to-child-release` | 监听器完成 → 释放子节点 | 链 ID、节点表 ID | 否 | 正常走完后才释放子节点;停止工作的情况不会走到这里。 |
|
|
43
|
+
| `primary-result-to-child-frontier` | 节点主结果 → 子节点明细 | 链 ID、节点表 ID、子明细 ID | 否 | 中间隔着监听器,不是相邻步骤,只能作为先后条件。 |
|
|
44
|
+
| `listener-to-derived-chain` | 监听器 → 派生链 | 监听器调用范围里的源链 ID、监听器名、新返回的链 ID | 否 | 派生链的上下文里不保存源链 ID,只有进程内的这次调用能证明关系。 |
|
|
45
|
+
|
|
46
|
+
## 性能片段
|
|
47
|
+
|
|
48
|
+
性能分析把一条链的耗时拆成下面 12 个互相独立的片段,每个片段单独计数,不加成端到端总耗时。某个片段缺少度量信号时保留并说明停在哪个已证实的边界。
|
|
49
|
+
|
|
50
|
+
| 片段 | 起点 → 终点 | 包含 | 不包含 | 度量信号 | 限制 |
|
|
51
|
+
|---|---|---|---|---|---|
|
|
52
|
+
| `control-planning` | 受理 → 根明细落库 | 候选过滤、选根、提交所需的依赖展开、根明细落库 | 外层事务提交等待、队列发布与消费 | `dispatch_submit`、`dispatch_gen_roots`、`dispatch_get_*` 的时长;`submit root task success` 日志里的 `cost` | 没有请求 ID,单凭链 ID 无法还原整个请求群。 |
|
|
53
|
+
| `commit-publication` | 明细落库 → 发布调用返回 | 外层事务提交等待、发布线程调度、根消息发布 | 队列停留、消费 | 日志 `send nodeTaskId` 的时间 | 没有发布 ID;子明细没有根明细的补发保证。 |
|
|
54
|
+
| `main-queue-wait` | 发布被接受 → 主队列开始消费 | 消息在队列里等待的时间 | 慢队列的限流等待、节点锁等待、业务处理 | `send nodeTaskId` 日志、`handle nodeTaskId` 日志、`node-task-queue receive` span、明细 ID | 同一明细的重复投递无法区分。 |
|
|
55
|
+
| `capacity-cycle` | 转到慢队列 → 再次在主队列被消费 | 慢队列里一圈或多圈的额度检查和重发 | 之前的主队列尝试、之后的锁和业务处理 | `Tenant limit exceeded` 日志、`receive executeInfo at slow queue` 日志、`slow-node-task-queue receive` span、明细 ID | 同一明细 ID 被复用,没有轮次序号。 |
|
|
56
|
+
| `lock-cycle` | 锁超时重发 → 再次在主队列被消费 | 从一次锁超时到下一次主队列投递的时间 | 仅限流的慢队列等待、拿锁之后的业务处理 | `resend execute info` 日志、`handle nodeTaskId` 日志、明细 ID | 没有尝试 ID、重排队 ID 或锁等待历史。 |
|
|
57
|
+
| `merge-evaluation` | 拿到节点锁 → 选出合并成员和主上下文 | 同节点明细查询、合并策略判断 | 拿锁前的等待、父节点判断、节点业务 | `merge isolationMode` 日志;多成员合并时 `update` 上的 `merge_count`、`wait_merge_time` | 没有合并判断 ID 或成员台账。 |
|
|
58
|
+
| `parent-dependency-wait` | 子节点以“等待”状态保存 → 之后被某次就绪投递或巡检放行 | 等待状态明细的存续时间 | 保存之前的依赖图年龄、放行后的队列等待 | `child-release` 的 `children size` 日志、`init-recovery` 日志 | 启动巡检只在启动时跑一次,明细消失后无法还原当时的等待时间。 |
|
|
59
|
+
| `business-attempt` | 节点有效执行开始 → 得出成功或失败 | 执行前监听器、父节点失败判断、load 决定和节点工作 | 结果之后的成功/失败/完成监听器、释放子节点 | `update` 上的 `businessConsumed`;XS03 里的同名字段 | 没有尝试 ID,需要别的显式关联。 |
|
|
60
|
+
| `load-operation` | 进入加载 → 加载返回或失败 | 加载内部的服务端准备、下游交接与等待 | 直通、不活跃、复用、不需要加载的分支 | `table load start` / `table load success` 日志(带 `cost`)及其 `span_id` | 没有加载 ID;不同表类型的下游工作不同。 |
|
|
61
|
+
| `engine-task` | 引擎任务创建 → 引擎事务提交或回滚 | 一次引擎执行尝试及其事务 | 创建任务之前的服务端工作、其他任务 ID 的重试 | `DataFlowExecutor`、`execute` span;`write_metric` 属性 | 只暴露最后成功的任务 ID,重试链路不完整。 |
|
|
62
|
+
| `listener-callback` | 一个监听器的一个阶段被调用 → 返回 | 某个监听器的执行前/成功/失败/完成之一 | 其他监听器和阶段、监听器自己的异步工作 | `trigger_listener_<名称>` span 的时长 | 没有调用 ID;span 不区分阶段。 |
|
|
63
|
+
| `child-release` | 释放子节点开始 → 子明细事务和发布调用返回 | 子节点与祖先发现、子节点可执行判断、删除父明细和创建子明细、子节点发布调用 | 释放之前的监听器回调、子节点之后的队列等待 | `dispatch_callback_children`、`evaluator_child` span | 一个结果可能释放多个子明细;发布失败的子节点没有根节点那样的补发巡检。 |
|
|
@@ -0,0 +1,31 @@
|
|
|
1
|
+
# 从企业或 DAG 定位更新执行
|
|
2
|
+
|
|
3
|
+
只有企业 ID 或 dagId、还没定位到更新执行时读这里,用来找候选,不重建完整 DAG。企业入口只覆盖更新,其他企业级性能问题回性能总流程确认范围。环境、服务、时间和结果数按[公共查询规则](../../common/queries.md),已有执行、时间和结果直接复用。
|
|
4
|
+
|
|
5
|
+
## 检索时间
|
|
6
|
+
|
|
7
|
+
企业更新和 dagId 的检索窗口只在这里维护。
|
|
8
|
+
|
|
9
|
+
- **企业**:没给时间或只说“最近”,用当前时间往前 24 小时,说一句“未提供时间,先查看正式环境最近 24 小时的更新,优先检查异常”就直接查,报告里写明范围。用户给的时间、URL 时间、已确认范围优先;“那天”这种明确指向历史的说法不能用最近窗口代替。没结果时先在同范围降级一次,再说明覆盖范围、问更早的时间,不自动扩大企业扫描。
|
|
10
|
+
- **dagId**:就是更新链 ID,一条链里可能有多个节点、尝试和 trace;它不是可以反复运行的表 ID,也不用先问时间。工具必须带时间时,内部先用最近 24 小时,按同环境、服务、精确 dagId 查,再在同范围降级一次;这个窗口只用来发现,命中后按实际记录恢复链的起止,跨出窗口的同链记录不能当无关执行排除。
|
|
11
|
+
- **dagId 两查都空**:核对标识和过滤条件;数据保留期已知、用户没限定时间时,可以再扩一次时间,最多覆盖保留期和最近 30 天的交集,记下新旧边界,不扫描企业、不去掉服务过滤。保留期未知、仍为空或查询失败时,交付实际覆盖范围,再问大致日期,不猜保留期、不循环扩展。
|
|
12
|
+
|
|
13
|
+
## 企业入口
|
|
14
|
+
|
|
15
|
+
1. 按 `corpId` 精确查,只限环境、服务和时间,不同时要求 `span=update`、`dagId` 非空或错误状态。`corpId` 在队列 span 上总有,`update` 上只有执行过的才有(见[attempt-consumed](events-execution.md#attempt-consumed)),所以只有 `corpId` 证明不了是一次完整更新,`update` 上没有 `corpId` 也不能排除企业归属。
|
|
16
|
+
2. 记下命中的 trace/span ID、时间、tableId 和实际返回的属性,按[独立 Trace 的显式链接](../../common/topics/linked-traces.md#独立-trace-的显式链接)用实际的 link 或 `linked` 找关联的更新执行,可以批量用已拿到的精确 ID。不按企业或时间相同把没有链接的执行并进来。
|
|
17
|
+
3. 从关联更新取 dagId、tableId、traceId、时间、结果和耗时。“最近更新情况”先交付概况,突出有明确失败、超时、OOM 或有记录支持的等待异常的执行;只是耗时长或缺结束记录不直接判异常。正常的简述即可,不要求用户选一条;多个不同异常、又判断不了要深入哪个时,才列出差异请用户选,不擅自挑最慢的或全部深挖。
|
|
18
|
+
|
|
19
|
+
## DAG 入口
|
|
20
|
+
|
|
21
|
+
1. 用 `dagId` attribute 精确过滤,在同服务、确认或内部生成的范围里查提交和节点执行。
|
|
22
|
+
2. 没命中或不能按属性查时,在同范围用 [intent-accepted](events-intake.md#intent-accepted)、[primary-node-result](events-outcome.md#primary-node-result) 里带 chain ID 的日志签名降级一次,精确匹配 chain 值,不只搜 `dag` 字样。提交早期失败的可能还没写 dagId attribute。
|
|
23
|
+
3. 日志命中后取真实的 trace_id(没有就按公共规则补),有了 chain 和绝对窗口就进 `dag-chain` 配方,不要求用户另找 trace。
|
|
24
|
+
|
|
25
|
+
## 字段与交付边界
|
|
26
|
+
|
|
27
|
+
- 首查和同范围降级用公共查询预算;只有 dagId 能按上面的规则扩一次时间。拿到执行后只沿精确 ID 补证。没结果时分清是查询为空、字段不能查、权限问题还是本地响应读取失败,不写“企业/DAG 字段未采集”这种笼统结论。
|
|
28
|
+
- XS03 埋点(见 [primary-node-result](events-outcome.md#primary-node-result))只在已经有可访问的数据源或用户材料时用,不作为首查或必需的回退。
|
|
29
|
+
- 到了 limit、分页没完或窗口不全时,报告“已观察到”的数量和覆盖限制,不说是企业的全部更新;节点成功不代表 DAG 完成,多个 span 不代表多次更新。
|
|
30
|
+
- 发现阶段只解释原生记录和显式链接;选定执行后再按[解释更新记录](../workflow.md#解释更新记录)核对版本、范围、字段和关联边。有精确 task 可以继续取 Metric,但不反过来补造 DAG 关系。
|
|
31
|
+
- 发现完成不等于诊断完成:把候选、排除依据、选中的执行和范围带进下一步,性能问题按[更新性能排查](../workflow.md#更新性能排查),来源、计数等事实问题按[解释更新记录](../workflow.md#解释更新记录)。
|
|
@@ -0,0 +1,136 @@
|
|
|
1
|
+
# 更新事件:消费、重排队与合并
|
|
2
|
+
|
|
3
|
+
主队列消息被消费,到因租户限流、拿不到锁而重新排队,再到巡检和死信队列的恢复,以及同一节点多次请求的合并。整体流程见[一次更新怎么走完](lifecycle.md),事件之间的关联见[关联边与性能片段](correlations.md)。
|
|
4
|
+
|
|
5
|
+
## 目录
|
|
6
|
+
|
|
7
|
+
- [attempt-consumed](#attempt-consumed)
|
|
8
|
+
- [capacity-deferred](#capacity-deferred)
|
|
9
|
+
- [lock-requeued](#lock-requeued)
|
|
10
|
+
- [ready-recovery](#ready-recovery)
|
|
11
|
+
- [init-recovery](#init-recovery)
|
|
12
|
+
- [dlx-recovery](#dlx-recovery)
|
|
13
|
+
- [merge-decision](#merge-decision)
|
|
14
|
+
|
|
15
|
+
## attempt-consumed
|
|
16
|
+
|
|
17
|
+
主队列每投递一次消息,就是一次“尝试”。消费者先看租户并发额度,拿到额度才继续去加锁、合并、执行。
|
|
18
|
+
|
|
19
|
+
- 计数单位:`execution-attempt`(没有尝试 ID;同一条执行明细被重复投递,就是多次尝试)
|
|
20
|
+
- 队列 span:`node-task-queue receive`
|
|
21
|
+
- span:`update`
|
|
22
|
+
- 属性:`corpId`、`tableId`
|
|
23
|
+
- 日志 signature:`handle nodeTaskId {}, executeId {}`
|
|
24
|
+
- 其他日志:`nodeTaskKey {} has been executed`、`exec fail, nodeTaskId {}, chainId {}, id {},do not callback children node `(ERROR)、`handle msg error`(ERROR)、`send execute info to dlx, nodeTaskId {}, id {}, chainId {}`、`ignore execute info, nodeTaskId {}, executeId {}, chainId {}`(ERROR)
|
|
25
|
+
- 什么时候出现:
|
|
26
|
+
- 每投递一次,先有队列 span `node-task-queue receive`(Consumer),它在发布这条消息的那条 trace 里,例如提交时挂在 `dispatch_submit` 下;这个 span 总带 `corpId` 和 `tableId`。
|
|
27
|
+
- 随后消费者另开一条 trace,根 span 是 `update`(Consumer),用链接(link)指回队列 span,所以执行细节在 `update` 这条 trace 里,要靠链接才能找到。
|
|
28
|
+
- `update` 上的 `corpId`、`tableId`、`dagId` 等属性只有节点真正执行后才写入。没有这些属性的 `update` 多半是只做了限流转发、重新排队或被判定已执行,没有走到执行,不能当作缺数据。
|
|
29
|
+
- `handle nodeTaskId` 在拿到额度之前就打,所以它出现不代表节点真的执行了。
|
|
30
|
+
- 分支(按消费结果):
|
|
31
|
+
- 没有租户额度:转到慢队列([capacity-deferred](#capacity-deferred))。
|
|
32
|
+
- 拿不到节点运行锁:抛重排队异常,消息重新发回主队列([lock-requeued](#lock-requeued))。
|
|
33
|
+
- 同一链、同一节点本轮已执行过(1 小时内的标记):打 `nodeTaskKey {} has been executed`,删除这条明细,不再执行。
|
|
34
|
+
- 引擎主节点不可用(节点失败后的存活检查没通过),或依赖来源(血缘)不可用:打 `send execute info to dlx`,清掉“已执行”标记,消息拒收并进死信队列([dlx-recovery](#dlx-recovery))。
|
|
35
|
+
- 普通业务失败:节点内部消化成 FAIL 结果,不往外抛,所以队列层看不到失败;见[节点主结果](events-outcome.md#primary-node-result)。
|
|
36
|
+
- 其他未预期异常:打 `handle msg error` 和 `ignore execute info`,这条消息被丢弃,没有自动重试。重排队和被丢弃这两种情况,都会在当前的 `update` span 上记录异常并置为 ERROR,所以 `update` 报错不一定是节点业务失败。
|
|
37
|
+
- 不能说明:没有尝试序号,同一明细多次投递只能按时间排序;`corpId`、`tableId` 写在队列 span 上,查询前先确认它们实际落在哪个 span。
|
|
38
|
+
|
|
39
|
+
## capacity-deferred
|
|
40
|
+
|
|
41
|
+
租户的并发额度用完后,这条消息转到慢队列等待,不在主队列里执行。
|
|
42
|
+
|
|
43
|
+
- 计数单位:`requeue`
|
|
44
|
+
- 队列 span:`slow-node-task-queue receive`
|
|
45
|
+
- span:无
|
|
46
|
+
- 属性:无
|
|
47
|
+
- 日志 signature:`Tenant limit exceeded: tenant {}, nodeTaskId {}, executeId {}`
|
|
48
|
+
- 其他日志:`receive executeInfo at slow queue, nodeTaskId = {}, executeId = {}, chainId = {}`、`reject because of shutdownSignalException`(ERROR)、`sth other error happened, msg = {}`(ERROR)
|
|
49
|
+
- 什么时候出现:
|
|
50
|
+
- 只有配置了租户并发上限(大于 0)才会限流;没有配置时所有消息都有额度,不会出现这类日志。
|
|
51
|
+
- 超限时先把消息发到慢队列,再打 `Tenant limit exceeded`。
|
|
52
|
+
- 租户额度按租约发放,默认 20 秒、每 10 秒续约,持有额度的消费者异常退出后额度自动回收。
|
|
53
|
+
- 慢队列只有一个消费者,每收到一条打 `receive executeInfo at slow queue`;额度可用就发回主队列,仍不可用就再发回慢队列,如此循环,所以一条消息在慢队列里可能出现很多次。
|
|
54
|
+
- 慢队列消费不开 `update` trace,也没有 `corpId`、`tableId`。
|
|
55
|
+
- 分支:收到关闭信号时把消息重新发回慢队列;其他异常只记 ERROR,不重发。
|
|
56
|
+
- 不能说明:慢队列每转一圈是一次重排队,不是一次执行尝试;日志条数多只说明等得久,不说明有多少个不同节点。
|
|
57
|
+
|
|
58
|
+
## lock-requeued
|
|
59
|
+
|
|
60
|
+
同一个节点同一时间只能被一个消费者处理;等锁超时的消息被重新发回主队列。
|
|
61
|
+
|
|
62
|
+
- 计数单位:`requeue`
|
|
63
|
+
- span:无
|
|
64
|
+
- 属性:无
|
|
65
|
+
- 日志 signature:`resend execute info, nodeTaskId {}, id {}, chainId {}`
|
|
66
|
+
- 其他日志:`handle msg error`(ERROR,紧挨着出现)
|
|
67
|
+
- 什么时候出现:
|
|
68
|
+
- 节点运行锁等待超过 30 秒(默认,配置项 `waitTime`)、或节点的“计算来源”被别人占着、或拿锁后发现计算来源变了,都会走这里。
|
|
69
|
+
- 重新发回主队列后,之后的投递是新的一次尝试。
|
|
70
|
+
- 不能说明:`update` 上的 `requeue` 属性不由这个分支设置,现行路径里基本恒为 `false`,不能用它判断是否发生过重排队;没有重排队序号,只能按明细 ID 加时间排。
|
|
71
|
+
|
|
72
|
+
## ready-recovery
|
|
73
|
+
|
|
74
|
+
根节点明细落库后消息没发出去(发布失败或进程在发布前退出),由定时巡检补发。
|
|
75
|
+
|
|
76
|
+
- 计数单位:`requeue`
|
|
77
|
+
- span:无
|
|
78
|
+
- 属性:无
|
|
79
|
+
- 日志 signature:`[inspect ready] send nodeTaskId {} , executeId {}`
|
|
80
|
+
- 其他日志:`find ready execute size {}`、`[inspect ready] error`(ERROR)
|
|
81
|
+
- 什么时候出现:
|
|
82
|
+
- 服务启动时跑一次,之后每 30 分钟跑一次(固定间隔);每次先打 `find ready execute size N`,N 为 0 说明没有需要补发的明细(巡检日志没有 trace)。
|
|
83
|
+
- 只处理“就绪且待发送”的明细(根节点落库时的状态);找到后加锁、补发、把标记改成已发送。
|
|
84
|
+
- 分支:检查时明细已变化或消失,就跳过。
|
|
85
|
+
- 不能说明:只覆盖根节点;子节点创建时就是“已发送”,发布失败后不会被这个巡检补上。没有补发 ID,也没有 broker 确认。
|
|
86
|
+
|
|
87
|
+
## init-recovery
|
|
88
|
+
|
|
89
|
+
子节点自己的父表都完成了,但还在等其他链合并,这类明细状态是“等待”(INIT);巡检会重新判断并放行。
|
|
90
|
+
|
|
91
|
+
- 计数单位:`requeue`
|
|
92
|
+
- span:无
|
|
93
|
+
- 属性:无
|
|
94
|
+
- 日志 signature:`send nodeTaskId {} , executeId {}`
|
|
95
|
+
- 其他日志:`find init execute size {}`、`inspectInit error`(ERROR)
|
|
96
|
+
- 什么时候出现:
|
|
97
|
+
- 只在服务启动时跑一次,且只处理“昨天 0 点到今天 0 点之间”创建的等待明细;跑完之后不会定时重复。
|
|
98
|
+
- 重新判断为就绪才补发,补发时打 `send nodeTaskId ...`,和提交后的正常发布日志是同一个模板。
|
|
99
|
+
- 分支:父表仍有未完成的,明细保持等待,等下一次启动或其他链的释放。
|
|
100
|
+
- 不能说明:同一个日志模板既可能是正常发布,也可能是等待恢复,必须结合前后事件区分;今天创建的等待明细在今天内不会被巡检捞起。
|
|
101
|
+
|
|
102
|
+
## dlx-recovery
|
|
103
|
+
|
|
104
|
+
引擎、依赖来源不可用时,消息被拒收进死信队列;死信队列的消费者等条件恢复后再发回主队列。
|
|
105
|
+
|
|
106
|
+
- 计数单位:`requeue`
|
|
107
|
+
- 队列 span:`node-task-queue_dlx_queue receive`
|
|
108
|
+
- span:无
|
|
109
|
+
- 属性:无
|
|
110
|
+
- 日志 signature:`receive msg at dlx queue, msgId = {}`、`send execute info to fast, msgId = {}`
|
|
111
|
+
- 什么时候出现:
|
|
112
|
+
- 死信队列只有一个消费者;每收到一条先检查执行条件,不满足就每分钟重试一次、没有次数上限;满足后发回主队列。
|
|
113
|
+
- 它会开自己的 `update` trace,没有节点执行属性。
|
|
114
|
+
- 队列名带死信后缀;在配置了队列前缀的环境里 span 名也会带前缀。
|
|
115
|
+
- 分支:检查或重发出错,只记 ERROR,这条消息不会再被处理。
|
|
116
|
+
- 不能说明:`msgId` 就是执行明细 ID,不是死信的重试序号;只在基础设施不可用时才走这里,普通业务失败不会进死信队列。
|
|
117
|
+
|
|
118
|
+
## merge-decision
|
|
119
|
+
|
|
120
|
+
同一节点在不同请求里重复提交时,只执行一次,把几条明细合并成一个任务。
|
|
121
|
+
|
|
122
|
+
- 计数单位:`merge-decision`
|
|
123
|
+
- span:无
|
|
124
|
+
- 属性:`merge_count`、`merge_round_count`、`wait_merge_time`
|
|
125
|
+
- 日志 signature:`merge isolationMode {}, executeId {} nodeTaskId: {}, merge mergeExecuteIds {} chainIds {}`
|
|
126
|
+
- 其他日志:`nodeTaskId {}, merge chainIds {}`、`nodeTaskId {}, id {}, already merged by other task`
|
|
127
|
+
- 什么时候出现:
|
|
128
|
+
- 拿到节点运行锁、没有被转发或重排队之后,每次都要做一次合并判断,打 `merge isolationMode ...`。日志里的 `mergeExecuteIds`、`chainIds` 是这次合并的成员。
|
|
129
|
+
- 场景允许合并(`ALLOW_MERGE`,或在动态配置里放开),才会把同节点其他明细一并纳入;否则只处理自己这一条。
|
|
130
|
+
- 合并了不止一个明细时,才会打 `nodeTaskId {}, merge chainIds {}`,并在 `update` span 上写 `merge_count`(合并的链数)、`merge_round_count`(合并轮次)、`wait_merge_time`(最早成员等待的毫秒数;只有跨链合并才大于 0)。
|
|
131
|
+
- 绝大多数 `update` 没有 `merge_count`:只有真正合并了多条明细的才会有。
|
|
132
|
+
- 分支:
|
|
133
|
+
- 这条明细已被其他任务合并执行:打 `already merged by other task`,这次不执行节点,成员由执行它们的任务清理。
|
|
134
|
+
- 合并轮次达到上限(默认 5 轮):本来要等其他链的子节点直接放行,不再跨链等待。
|
|
135
|
+
- 跨链合并等待窗口默认 15 分钟:窗口内其他链的祖先还没完成,子节点以“等待”状态保存,之后由就绪投递或[等待恢复](#init-recovery)放行。
|
|
136
|
+
- 不能说明:合并不等于一次请求、一条链或一次物理加载;单成员的合并没有这些属性,不能因为属性缺失就判断没有发生合并判断。
|
|
@@ -0,0 +1,102 @@
|
|
|
1
|
+
# 更新事件:受理与入队
|
|
2
|
+
|
|
3
|
+
从业务模块提交更新,到根节点落库、消息发布到队列。整体流程见[一次更新怎么走完](lifecycle.md),事件之间的关联见[关联边与性能片段](correlations.md)。
|
|
4
|
+
|
|
5
|
+
## 目录
|
|
6
|
+
|
|
7
|
+
- [intent-accepted](#intent-accepted)
|
|
8
|
+
- [candidate-root-filter](#candidate-root-filter)
|
|
9
|
+
- [effective-root-selection](#effective-root-selection)
|
|
10
|
+
- [logical-dependency-expansion](#logical-dependency-expansion)
|
|
11
|
+
- [execution-frontier-persisted](#execution-frontier-persisted)
|
|
12
|
+
- [after-commit-delivery](#after-commit-delivery)
|
|
13
|
+
|
|
14
|
+
## intent-accepted
|
|
15
|
+
|
|
16
|
+
受理一次更新请求:业务模块带着一批候选表和更新场景(`updateScene`)调用调度入口,调度生成一条更新链并返回链 ID(即 `dagId`)。
|
|
17
|
+
|
|
18
|
+
- 计数单位:`update-request`(没有请求 ID;受理后生成的 `dagId` 标识这条链)
|
|
19
|
+
- span:`dispatch_submit`
|
|
20
|
+
- 属性:`dagId`、`totalSize`、`updateScene`
|
|
21
|
+
- 日志 signature:`dispatch receive request, chainId {}, root size {},`、`submit root task success, chain {} root size {}, cost {}`
|
|
22
|
+
- 其他日志:`dispatch request rootIds is empty`(WARN)、`transaction is active `(WARN,带堆栈)
|
|
23
|
+
- 什么时候出现:
|
|
24
|
+
- 受理日志在候选不为空时先打;`dispatch_submit` 的三个属性和“success”日志只在提交流程正常走完后才有。
|
|
25
|
+
- `totalSize` 是这条链涉及的表总数:请求的根表加上它们的全部下游。
|
|
26
|
+
- `cost` 是提交流程本身的耗时(毫秒),不含后续排队和执行。
|
|
27
|
+
- 分支:
|
|
28
|
+
- 候选为空:只打 `dispatch request rootIds is empty`,不生成明细,也不会有 `dispatch_submit`;调用方仍拿到一个链 ID。
|
|
29
|
+
- 提交时外层已有数据库事务:打 `transaction is active ` 警告,说明业务方把提交包进了事务(不符合规范,会影响消息发布时机)。
|
|
30
|
+
- 提交中途失败:没有 `dagId` / `totalSize` 属性,也没有“success”日志。
|
|
31
|
+
- 真实 trace 里的样子:`dispatch_submit` 下面挂着 `dispatch_get_descendants`(查全部下游)、每个监听器一个 `trigger_listener_<名称>`(`onStart`,各一次);队列消费 span `node-task-queue receive` 也挂在它下面。
|
|
32
|
+
- 不能说明:请求里有多少表真的会被更新(后面还有过滤和合并);没有请求 ID,不能仅凭 `dagId` 还原“是谁在什么时候发起的”。
|
|
33
|
+
|
|
34
|
+
## candidate-root-filter
|
|
35
|
+
|
|
36
|
+
入口先过滤候选表:不需要更新的表、库里已经不存在的表直接丢掉。
|
|
37
|
+
|
|
38
|
+
- 计数单位:`candidate-root`
|
|
39
|
+
- span:无
|
|
40
|
+
- 属性:无
|
|
41
|
+
- 日志 signature:`table don't need update, tableId = {}, tenantId = {}`、`table is not exist in db, can't update, tableId = {}, tenantId = {}`
|
|
42
|
+
- 什么时候出现:只有走公共入口过滤的调用才会过滤;被保留的候选没有日志,所以日志条数不是候选数。
|
|
43
|
+
- 分支:判断“是否需要更新”本身出错时,保守地当作需要更新,继续调度。
|
|
44
|
+
- 不能说明:日志里的 `tableId`、`tenantId` 只是占位参数,表和租户相同不代表属于同一次请求。
|
|
45
|
+
|
|
46
|
+
## effective-root-selection
|
|
47
|
+
|
|
48
|
+
从候选表里挑出真正的根:如果某张候选表的祖先也在候选里,它就不是根,由祖先更新完成后再释放。
|
|
49
|
+
|
|
50
|
+
- 计数单位:`effective-root`
|
|
51
|
+
- span:`dispatch_gen_roots`
|
|
52
|
+
- 属性:无
|
|
53
|
+
- 日志 signature:无
|
|
54
|
+
- 其他日志:`no root task, check lineage {} `(ERROR)
|
|
55
|
+
- 什么时候出现:
|
|
56
|
+
- 候选加上共享计算来源后只有一张表时,直接把它当根,不产生 `dispatch_gen_roots`;所以 `dispatch_submit` 的次数比这个 span 多。
|
|
57
|
+
- 有多张表时,`dispatch_gen_roots` 内部会调用一次批量祖先查询(`dispatch_get_ancestors_batch`)。
|
|
58
|
+
- 分支:候选非空却没有选出根(血缘异常)时,打 ERROR 日志,退回“全部候选都当根”,提交继续。
|
|
59
|
+
- 不能说明:span 不带候选表和根表的 ID,不能用它数根的个数;选根也不保证这些表最终都会执行。
|
|
60
|
+
|
|
61
|
+
## logical-dependency-expansion
|
|
62
|
+
|
|
63
|
+
查依赖:向上查祖先(用来判断父表是否已完成)、向下查子孙(用来算 `totalSize` 和释放子节点)。
|
|
64
|
+
|
|
65
|
+
- 计数单位:`logical-dag-edge`
|
|
66
|
+
- span:`dispatch_get_ancestors`、`dispatch_get_ancestors_batch`、`dispatch_get_descendants`
|
|
67
|
+
- 属性:无
|
|
68
|
+
- 日志 signature:`getAncestors error {}`、`getDescendants error {}`
|
|
69
|
+
- 什么时候出现:每次向依赖来源(血缘)发起查询就产生一个对应 span。提交时查子孙(`dispatch_get_descendants`),选根和释放子节点时批量查祖先(`dispatch_get_ancestors_batch`);单表祖先查询(`dispatch_get_ancestors`)只在 INIT 巡检里用到,平时几乎看不到。
|
|
70
|
+
- 分支:依赖来源不可用时打 ERROR 日志并按“依赖不可用”处理,当前阶段未知,消息可能转入死信队列恢复(见 [dlx-recovery](events-execution.md#dlx-recovery))。
|
|
71
|
+
- 不能说明:span 不带父子表对、链范围或结果数量;血缘是每次现查的,不是历史快照,不能用现在的血缘还原当时的依赖。
|
|
72
|
+
|
|
73
|
+
## execution-frontier-persisted
|
|
74
|
+
|
|
75
|
+
根节点的执行明细落库。明细是“待执行的节点”的临时记录:执行完进入下一步后会被删除,不是历史台账。
|
|
76
|
+
|
|
77
|
+
- 计数单位:`execution-detail`
|
|
78
|
+
- span:无
|
|
79
|
+
- 属性:无
|
|
80
|
+
- 日志 signature:无
|
|
81
|
+
- 什么时候出现:没有专门的信号标记“明细已写入”;`dispatch_submit` 覆盖了落库、监听器启动和发布调度,空根列表时也会出现,不能当作落库证明。
|
|
82
|
+
- 分支:明细事务失败,则没有明细、也不会发布消息,调用方可以稍后重新提交。
|
|
83
|
+
- 不能说明:明细表里的状态只是当前进度,不能当作更新历史。
|
|
84
|
+
|
|
85
|
+
## after-commit-delivery
|
|
86
|
+
|
|
87
|
+
明细提交成功后,把消息发布到主队列。
|
|
88
|
+
|
|
89
|
+
- 计数单位:`queue-publication`
|
|
90
|
+
- span:无
|
|
91
|
+
- 属性:无
|
|
92
|
+
- 日志 signature:`send nodeTaskId {} , executeId {}`
|
|
93
|
+
- 什么时候出现:
|
|
94
|
+
- 外层有事务时,发布动作等事务提交后再执行;没有事务就立即执行。
|
|
95
|
+
- 发布后,如果这条明细在落库时标记为“待发送”(`PENDING_SENT`),会把标记更新为“已发送”(`SENT`)。
|
|
96
|
+
- 每发布一条消息打一行日志。
|
|
97
|
+
- 分支:
|
|
98
|
+
- 发布线程池拒绝、发布失败:打 ERROR 日志(`[DispatchAfterCommitSubmitExecutor] submit rejected` / `submit failed`、`[DispatchAfterCommitAction] after commit action failed`),根节点仍是“待发送”,由 [ready-recovery](events-execution.md#ready-recovery) 补发。
|
|
99
|
+
- 发布成功但更新“已发送”标记失败:消息可能已投递而明细仍是“待发送”,之后可能重复补发,靠消费端去重。
|
|
100
|
+
- 子节点发布失败:子节点创建时就是“已发送”,补发巡检不会再管它,当前没有对应的自动补发路径。
|
|
101
|
+
- 不能说明:日志只说明“发布调用返回了”,不代表消息被 broker 确认或被消费;发布次数不是尝试次数,补发和重复投递都会增加它。
|
|
102
|
+
- 同一行日志模板还会出现在 [init-recovery](events-execution.md#init-recovery) 里,不能只靠文本区分两者,要结合前后事件。
|