niceeval 0.6.0 → 0.6.2

package/docs-site/zh/guides/write-experiment.mdx

@@ -104,7 +104,7 @@ npx niceeval exp prompt-variants/concise
 | `timeoutMs` | 单个 attempt 的超时 |
 | `budget` | 这一格配置的预算上限 |
 | `maxConcurrency` | 这一格配置的并发上限 |
-| `sandbox` | sandbox agent 使用的后端，如 `dockerSandbox()` / `e2bSandbox()`；spec 上可以链 `.setup()` / `.teardown()` 挂按实验变化的环境钩子 |
+| `sandbox` | sandbox agent 使用的 provider，如 `dockerSandbox()` / `e2bSandbox()`；spec 上可以链 `.setup()` / `.teardown()` 挂按实验变化的环境钩子 |
 
 Experiment 本身是纯配置数据，没有 `setup` / `teardown` 这类字段。要在跑 agent 前按实验准备环境（装二进制、预热、跨 attempt 载入和回存状态），挂在 `sandbox` 字段的 spec 上：
 
@@ -112,12 +112,14 @@ Experiment 本身是纯配置数据，没有 `setup` / `teardown` 这类字段
 export default defineExperiment({
   agent: codexAgent({ mcpServers: [mempalMcp] }),
   sandbox: e2bSandbox({ template: "fasteval-agents" })
-    .setup(mempalSetup("codex"))        // 装二进制、预热、写 hook、载入状态
+    .setup(mempalSetup("codex"))        // 预检、写动态配置、预热、载入状态
     .teardown(mempalTeardown("codex")), // 回存状态
   maxConcurrency: 1,                    // 载入和回存之间不能并发，声明串行
 });
 ```
 
-钩子的执行时机、多钩子顺序和失败语义见 [Sandbox 后端 · 环境钩子](/zh/guides/sandbox-providers#环境钩子)。
+固定的 Agent CLI、系统包和大模型缓存应先做进 image/template/snapshot；`.setup()` 不应在每个 Attempt 重建同一套环境。如何从官方 Docker 镜像、E2B 模板或 Vercel runtime 继续派生来提速，见 [沙箱 provider · 从官方基线继续构建以提速](/zh/guides/sandbox-providers#从官方基线继续构建以提速)。
+
+钩子的执行时机、多钩子顺序和失败语义见 [沙箱 provider · 环境钩子](/zh/guides/sandbox-providers#环境钩子)。
 
 跨配置比较的设计建议见[实验矩阵](/zh/guides/experiments)。adapter 如何消费 `ctx.model` 和 `ctx.flags` 见[Adapter](/zh/concepts/adapter)。

package/docs-site/zh/guides/write-send.mdx

@@ -6,10 +6,11 @@ description: "手写 Adapter 的 send 函数，一条主线七步走：发消息
 
 [Adapter](/zh/concepts/adapter) 讲了契约：`send` 传入 `TurnInput` 和 `AgentContext`，返回 `Turn`。这一页讲怎么写它——从"发一条消息拿到回复"的最小形态起步，一步一步加到完整接入。每一步只在上一步的代码上多几行，前面已有的部分在代码里用 `// ……省略` 标出；每一步末尾说明这几行解锁了哪些断言。改完任何一步都能立刻验证：把新解锁的断言写进一条 eval 重跑 `npx niceeval exp`，`niceeval view` 里能看到这一步新增的数据——多轮轨迹、用量、工具事件、待回答请求。
 
-两个贯穿全文的原则：
+三个贯穿全文的原则：
 
 - **接的位置永远是用户前端本来就在用的那个接口。** 页面调哪个端点、收什么格式，Adapter 就调哪个端点、收什么格式——不为 eval 开新接口，也不 import 应用内部代码直调函数（为什么，见[接入你的 Agent](/zh/guides/connect-your-agent)）。
 - **你唯一真正手写的是 transport**——URL、鉴权、请求体每家本来就不一样。解析（原始返回 → 标准事件流）有官方转换器，从 `niceeval/adapter` 导出；编排（会话续接、HITL 暂停恢复）的状态槽就挂在 `ctx.session` 上，取用即可，不需要额外声明什么。
+- **运行反馈走 `ctx`，不直接写终端。** 长步骤用 `ctx.progress(...)`；需要在运行后回顾的退化或异常上下文用 `ctx.diagnostic(...)`；无法继续时抛错。不要从 Adapter 调用 `console.log/error` 或写 `process.stdout/stderr`。
 
 ![一次 t.send 的完整往返：eval 调用 t.send，运行器组装 TurnInput 与 ctx，adapter 调用你的应用并返回标准事件流 Turn。](/images/agent-turn-roundtrip-zh.svg)
 
@@ -38,6 +39,7 @@ const BASE_URL = "http://localhost:8080";   // 要按 experiment 切换地址，
 export default defineAgent({
   name: "chat-app",
   async send(input, ctx) {
+    ctx.progress({ message: "等待 Chat API" });
     const res = await fetch(`${BASE_URL}/v1/chat/completions`, {  // ← 前端本来就在用的接口
       method: "POST",
       headers: { "content-type": "application/json" },
@@ -56,6 +58,20 @@ export default defineAgent({
 });
 ```
 
+如果接口返回了可继续处理、但证据不完整的响应，报告 diagnostic 而不是把原始响应全部打印出来：
+
+```ts
+if (!res.requestId) {
+  ctx.diagnostic({
+    code: "missing-request-id",
+    level: "warning",
+    message: "响应没有 request id，无法与服务端日志关联",
+  });
+}
+```
+
+`progress` 不落盘；diagnostic 会随 Attempt 保存并可通过 locator 回顾。HTTP 连接失败或响应无法解析时直接抛错，runner 会记录错误发生在 `agent.run`，并把 Attempt 标为 `errored`。
+
 **这一步解锁**：`t.reply`、`t.messageIncludes()`、judge 的全部对话材料，以及 experiment 侧的**模型对比**（`ctx.model` 就是 experiment 声明的 `model`，运行器原样递给你、Adapter 不解释含义，只转发——不需要等到后面的步骤，也不需要应用配合做任何改造，分档见 [Tier](/zh/concepts/tier)）。
 
 它有两个明显的局限：每轮都是一场全新对话（第二次 `t.send` 接不上第一次），工具调用完全看不见。后面两步各解决一个。
@@ -137,7 +153,7 @@ export default defineAgent({
 
 ## 第四步：把工具解析成事件
 
-应用的返回里不只有回复文本——Chat Completions 形返回的 `tool_calls` 记录了这轮调过什么工具。Adapter 最重要的工作就是**把接口的返回归一成标准事件流**：本轮发生的每件事一个对象，按真实发生顺序排进 `Turn.events`，对象是下面九种类型之一（各字段的实际值，[契约页有一轮的完整示例](/zh/concepts/adapter)）：
+应用的返回里不只有回复文本——Chat Completions 形返回的 `tool_calls` 记录了这轮调过什么工具。Adapter 最重要的工作就是**把接口的返回归一成标准事件流**：本轮发生的每件事一个对象，按真实发生顺序排进 `Turn.events`，对象是下面十种类型之一（各字段的实际值，[契约页有一轮的完整示例](/zh/concepts/adapter)）：
 
 ```ts
 type StreamEvent =
@@ -145,6 +161,7 @@ type StreamEvent =
   | { type: "action.called"; callId: string; name: string; input: JsonValue; tool?: ToolName }
   | { type: "action.result"; callId: string; output?: JsonValue;
       status: "completed" | "failed" | "rejected" }
+  | { type: "skill.loaded"; skill: string; callId?: string }
   | { type: "subagent.called"; callId: string; name: string; remoteUrl?: string }
   | { type: "subagent.completed"; callId: string; output?: JsonValue;
       status: "completed" | "failed" }

package/docs-site/zh/index.mdx

@@ -166,7 +166,7 @@ READ https://raw.githubusercontent.com/CorrectRoadH/niceeval/refs/heads/main/doc
 
 <AccordionGroup>
   <Accordion title="需要注册账号吗？">
-    不需要。跑 eval 和 `niceeval view` 看报告全在本地完成；只有被测对象本身是需要隔离工作区的 coding agent 时，才会用到 Docker 或 E2B 这类 sandbox 后端。
+    不需要。跑 eval 和 `niceeval view` 看报告全在本地完成；只有被测对象本身是需要隔离工作区的 coding agent 时，才会用到 Docker 或 E2B 这类 sandbox provider。
   </Accordion>
   <Accordion title="我的 Agent 不是用 TypeScript / JavaScript 写的，能接吗？">
     能。Adapter 只是对着应用本来暴露的接口（HTTP、gRPC、WebSocket 都行）收发；应用本身用什么语言写、部署在哪里，[NiceEval](https://niceeval.com/) 不关心，见 [Adapter](/zh/concepts/adapter)。

package/docs-site/zh/reference/builtin-agents.mdx

@@ -112,6 +112,19 @@ plugins?: ClaudeCodePluginSpec[];
 
 Claude Code 原生 Plugin(先连 Marketplace,再从中装指定 Plugin)。
 
+#### `settingsFile`
+
+```ts
+settingsFile?: string;
+```
+
+一份完整的 Claude Code `settings.json`(官方格式)在本地项目里的路径 —— 相对运行
+niceeval 的项目根(含 `niceeval.config.ts` 的目录)解析,不是 Sandbox 内路径;只接受
+项目根内的相对路径,包含 `..` 的路径、绝对路径、`~` 路径和解析后逃出项目根的符号链接
+都在 setup 阶段报错。原始字节原样上传为沙箱里原本为空的用户级 `~/.claude/settings.json`
+(不继承宿主机配置、不拼接、不重新序列化);保留键 `model` 与 `env` 出现在文件里
+setup 报错。manifest 只记项目相对路径与字节 SHA-256,不落正文。
+
 ### `CodexConfig`
 
 #### `apiKey`
@@ -157,6 +170,20 @@ plugins?: CodexPluginSpec[];
 
 Codex 原生 Plugin(先连 Marketplace,再从中装指定 Plugin)。
 
+#### `configFile`
+
+```ts
+configFile?: string;
+```
+
+一份完整的 Codex `config.toml`(官方 TOML 格式)在本地项目里的路径 —— 相对运行
+niceeval 的项目根(含 `niceeval.config.ts` 的目录)解析,不是 Sandbox 内路径;只接受
+项目根内的相对路径,包含 `..` 的路径、绝对路径、`~` 路径和解析后逃出项目根的符号链接
+都在 setup 阶段报错。原始字节原样并入沙箱里原本为空的用户级 `~/.codex/config.toml`
+(不继承宿主机配置、不解析后重写);保留键 `model`、`model_provider`、`model_providers`、
+`model_reasoning_effort`、`mcp_servers`、`otel` 出现在文件里 setup 报错。manifest 只记
+项目相对路径与字节 SHA-256,不落正文。
+
 ### `BubConfig`
 
 #### `apiKey`

package/docs-site/zh/reference/capabilities.mdx

@@ -22,13 +22,13 @@ description: "NiceEval 怎么知道你的 adapter 做到了什么：没有声明
 
 ## 为什么没有声明这一层
 
-上一版设计里有 `capabilities: { conversation, toolObservability }` 这类布尔声明，用来补"代码证明不了的部分"。这一层已经被拿掉，原因是它承诺的事情本身就不该由声明来担保：
+NiceEval 不设 `capabilities: { conversation, toolObservability }` 这类布尔声明层来补"代码证明不了的部分"，因为这类声明承诺的事情本身就不该由声明来担保：
 
 - **构造即证明**：用了 `defineSandboxAgent`，说明被测对象在沙箱里改文件——不需要再声明一遍 `workspace: true`。
 - **字段即证明**：写了 `tracing`（怎么把 OTLP 端点交给 CLI），tracing 就成立。字段本身就是使用凭证，不需要旁边再放一个布尔值重复一遍。
 - **来源即证明**：`fromAiSdk(result)` 消费的 `result.steps` 是 AI SDK 契约保证的**全量**工具循环记录，返回值自带"事件流完整"的证明；内置 CLI 的 parser 同理。手工映射时，事件完不完整取决于你的映射代码写没写全——这不是一个可以靠声明担保的东西，声明了也不会让代码更完整。
 - **行为即证明**：HITL 没有能力位——`send` 返回 `status: "waiting"` + `input.requested` 事件，行为本身可见。
-- **接了就续得上**：会话续接不再是"声明了才有"的开关。`ctx.session` 一直都在；用了 `id`/`capture` 或 `history` 存取器就会续接上下文，不用就每轮都是全新会话——两种都是正常状态，都不会报错，区别只在你的 adapter 实际怎么写。
+- **接了就续得上**：会话续接没有"声明了才有"的开关。`ctx.session` 一直都在；用了 `id`/`capture` 或 `history` 存取器就会续接上下文，不用就每轮都是全新会话——两种都是正常状态，都不会报错，区别只在你的 adapter 实际怎么写。
 
 ```ts
 export default defineAgent({

package/docs-site/zh/reference/cli.mdx

@@ -25,7 +25,7 @@ description: "NiceEval CLI 参考：exp、show、view、init、list 和 clean
     在终端读取结果；用 `@<locator>` 或 eval ID 前缀下钻断言、Eval 源码、执行事件流、diff 和历史。
   </Card>
   <Card title="npx niceeval view" icon="eye">
-    打开网页结果查看器，读默认报告并交互浏览 Eval 源码、执行事件流、diff 与历史；默认范围与 `show` 相同。
+    打开网页结果查看器，读默认报告并交互浏览 Eval 源码、执行事件流与 diff；默认范围与 `show` 相同。跨 run 时间轴（`--history`）是 `show` 专用的终端能力。
   </Card>
 </CardGroup>
 
@@ -64,7 +64,7 @@ npx niceeval exp compare-models weather
 
 ## 常用 flags
 
-下表由 CLI 的 flag 解析表生成，表外的 flag 一律按未知 flag 报错并以非零状态退出。**没有**用于选择 sandbox 后端的 CLI flag：sandbox 后端只能写在代码里——在 experiment（`defineExperiment`）里设置 `sandbox`，或者在 `niceeval.config.ts`（`defineConfig`）里设置作为项目级兜底，值来自 `niceeval/sandbox` 的 `dockerSandbox()` / `vercelSandbox()` / `e2bSandbox()`。
+下表由 CLI 的 flag 解析表生成，表外的 flag 一律按未知 flag 报错并以非零状态退出。**没有**用于选择 sandbox provider 的 CLI flag：sandbox provider 只能写在代码里——在 experiment（`defineExperiment`）里设置 `sandbox`，或者在 `niceeval.config.ts`（`defineConfig`）里设置作为项目级兜底，值来自 `niceeval/sandbox` 的 `dockerSandbox()` / `vercelSandbox()` / `e2bSandbox()`。
 
 {/* GENERATED:BEGIN cli-flags */}
 
@@ -78,20 +78,27 @@ npx niceeval exp compare-models weather
 | `--max-concurrency` | number | 设置同时运行的 eval 数量。 |
 | `--timeout` | number | 单个 attempt 的超时时间,单位毫秒。 |
 | `--budget` | number | 整次运行的预算上限(美元)。 |
+| `--keep-sandbox` | boolean | `exp` 命令专用:跑完留下 failed/errored attempt 的沙箱现场(= `--keep-sandbox=failed`);`--keep-sandbox=all` 连 passed 也留。事后用 `niceeval sandbox list/enter/stop` 查看与销毁。 |
+| `--all` | boolean | `sandbox stop` 专用:销毁全部留存沙箱。 |
+| `--window` | string | `sandbox diff` 专用:只看某个 send 窗口(如 `--window s1/t2`);省略输出全部窗口的串联视图。 |
+| `--path` | string | `sandbox diff` 专用:只看某个文件的 patch;省略输出该窗口的全部文件。 |
+| `--leave-running` | boolean | `sandbox enter` 专用:shell 退出后让现场保持运行,不送回休眠。 |
 | `--tag` | string | 只运行带有该 tag 的 eval(见 `defineEval` 的 `tags`)。 |
 | `--junit` | string | 额外写一份 JUnit XML 报告到指定路径,供 CI 消费。 |
 | `--json` | string | 额外写一份 JSON 结果(`RunSummary` 原样序列化)到指定路径,供 CI 或下游脚本消费。 |
 | `--out` | string | `view` 命令专用:把结果查看器静态导出到指定目录。 |
 | `--port` | number | `view` 命令专用:指定本地服务器监听端口。 |
+| `--allow-sensitive-artifacts` | boolean | `view --out` 专用:对非发布根(快照没有 publish:&#123;redaction:"applied"&#125; 标记)导出时的显式确认——静态站会原样携带未消毒的证据文件。 |
 | `--eval` | boolean | `show` 命令专用:该 attempt 运行时保存的 Eval 源码,gate/soft 断言标回源码行(证据切面)。 |
 | `--execution` | boolean | `show` 命令专用:该 attempt 的标准执行事件流(消息、thinking、Skill load、工具调用/结果);有 OTel 时同一节点补时间(证据切面)。 |
+| `--timing` | boolean | `show` 命令专用:整个 Attempt 的统一时间树;裸 `--timing` 给有界诊断投影,`--timing=full` 逐节点展开全部 runner/已关联 OTel 节点。 |
 | `--diff` | boolean | `show` 命令专用:sandbox 里的文件改动摘要;`--diff=<文件路径>` 看单个文件的完整改动(路径必须 `=` 连写)。 |
 | `--history` | boolean | `show` 命令专用:跨 run 时间轴,只列真实执行;与 `--report` 互斥。 |
-| `--experiment` | string | `show` / `view` 命令专用:Selection 只留该实验。 |
+| `--experiment` | string | `show` / `view` 命令专用:按路径段前缀收窄 experiment;组名会选中组内全部配置。 |
 | `--run` | string | `show` / `view` 命令专用:钉死看某一个结果目录(某次快照或 `copySnapshots` 产物)。 |
-| `--report` | string | `show` / `view` 命令专用:渲染你的报告文件(文件默认导出 `defineReport(...)`);show 用它替换 Attempt 索引,view 用它替换默认分析报告。 |
-| `--dry` | boolean | 只打印本次会匹配到的 eval × 运行配置,不实际执行。 |
-| `--quiet` | boolean | 关闭控制台 / live 的逐条结果与末尾汇总(attempt 进度行仍写 stderr);errored / failed 的结果各在 stderr 补一行摘要,passed / skipped 静默;reporter 仍会写 artifacts。 |
+| `--report` | string | `show` / `view` 命令专用:用文件默认导出的 `defineReport(...)` 替换两者共用的默认报告。 |
+| `--dry` | boolean | 只打印本次会匹配到的 eval × 运行配置,不实际执行(按下面 `--output` 选中的 profile 给出预览)。 |
+| `--output` | string | 反馈 profile:`auto`(默认)按环境自动选择,`human` / `agent` / `ci` 强制指定;只改变终端展示,不改变选择、调度、判定、artifact 或退出码。`auto` 依次判定:stderr 是 TTY → human;否则 `CI`(或其它常见 CI 平台环境变量)存在 → ci;否则 → agent。 |
 | `--force` | boolean | 忽略上次运行结果,不跳过已通过的 (experiment, eval) 组合,强制全部重跑。 |
 | `--strict` | boolean | CI 中推荐使用:让软阈值(`soft`)失败也计入整条 eval 的 verdict。 |
 | `--early-exit` / `--no-early-exit` | boolean | 某个 eval 的一次 attempt 通过后,停止该 eval 剩余的 attempts。 |
@@ -118,13 +125,32 @@ npx niceeval exp compare-models weather-tool
 
 运行命名 experiment，用矩阵比较 agents、models 或 flags。第二个参数开始是 eval ID 前缀过滤。
 
+`show` 与 `view` 是顶层命令，应写成 `npx niceeval show`、`npx niceeval view`。误写成 `npx niceeval exp show` / `exp view` 且没有同名 experiment 时，CLI 会在“不存在的实验”错误后提示正确命令；仓库确实存在同名 experiment 时仍按合法 id 执行。
+
+## `--output`：human / agent / ci
+
+`--output` 选一种终端反馈模型，只改变展示，不改变选择、调度、判定、artifact 或退出码；省略时的默认值 `auto` 按环境自动选择。三种消费者各有推荐命令：
+
+```bash
+# 人在 TTY 前：动态 dashboard + 永久失败/诊断行
+npx niceeval exp compare --output human
+
+# coding agent / 自动修复循环：低频 checkpoint + 有界 handoff block
+npx niceeval exp compare --output agent
+
+# CI job：单一有序 stdout 事件流 + 退出码 + JSON/JUnit
+npx niceeval exp compare --output ci --strict --json .niceeval/ci-summary.json --junit .niceeval/junit.xml
+```
+
+三种 profile 的完整对比见[运行器 · Reporter](/zh/guides/runner#reporter)；人在终端里怎么读 dashboard 与结束摘要见上面的[常用 flags](#常用-flags)与本页各命令示例；AI 反馈闭环的完整用法（读输出、按 locator 下钻、局部重跑）见 [AI 反馈闭环](/zh/guides/agent-feedback-loop)；CI 集成（GitHub Actions、退出码、JSON/JUnit）见 [CI 集成](/zh/guides/ci-integration)。
+
 ## `view`
 
 ```bash
 npx niceeval view
 ```
 
-打开本地结果查看器。它和 `show` 共用同一份默认报告和同一套默认选择——对每个 experiment、每个 eval，取历次运行里最新的那份判定；只补跑部分 eval 时，其余 eval 从更早的运行补齐。`show` 输出终端文本，`view` 输出网页并提供可交互的证据浏览；eval ID 前缀、`--experiment`、`--run` 对两者的收窄一致。完整说明见[查看结果](/zh/guides/viewing-results)。
+打开本地结果查看器。它和 `show` 共用同一份默认报告和同一套默认选择——对每个 experiment、每个 eval，取历次运行里最新的那份判定；只补跑部分 eval 时，其余 eval 从更早的运行补齐。默认报告按 experiment id 的父目录分组，只在同组内比较。`show` 输出终端文本，`view` 输出网页并提供可交互的证据浏览；eval ID 前缀、`--experiment`、`--run` 对两者的收窄一致。完整说明见[查看结果](/zh/guides/viewing-results)。
 
 ## `show [id-prefix...]`
 
@@ -138,9 +164,9 @@ npx niceeval show fixtures/button --diff
 npx niceeval show weather/brooklyn --history
 ```
 
-`show` 是终端结果入口，适合人直接阅读，也适合 coding agent 在上下文窗口里逐级下钻。位置参数选「看哪些 eval」（ID 前缀）或直接用 `@<locator>` 精确选一个 attempt；不带位置参数时显示默认报告（每行带紧凑 attempt 索引），指定到单个 eval 时显示各 experiment 的 attempt、断言、错误与用量。
+`show` 是终端结果入口，适合人直接阅读，也适合 coding agent 在上下文窗口里逐级下钻。位置参数选「看哪些 eval」（ID 前缀）或直接用 `@<locator>` 精确选一个 attempt；不带位置参数时显示按实验组分区的默认比较报告，指定 eval ID 前缀只收窄报告覆盖的 Eval，不改变组边界。
 
-`@<locator>` 不带证据 flag 时给出该 attempt 的紧凑全景（断言摘要、执行摘要、可选 OTel 时间、diff 摘要）；`--eval`、`--execution`、`--diff` 是同一 attempt 的证据切面，分别展开运行时保存的 Eval 源码、标准执行事件流、工作区文件改动。`--eval`、`--execution`、`--diff` 也能配一个 eval ID 前缀使用，但要求最终只匹配一个 eval——多 experiment 或多 attempt 时默认选择最新一次失败的 attempt；用 `--experiment` 收窄实验，或直接用 `@<locator>` 精确指名。`--run` 钉住某次结果目录，`--history` 查看跨 run 趋势。完整的阅读顺序、输出示例和 artifact 说明见[查看结果](/zh/guides/viewing-results)。
+`@<locator>` 不带证据 flag 时给出该 attempt 的紧凑全景（断言摘要、执行摘要、可选 OTel 时间、diff 摘要）；`--eval`、`--execution`、`--diff` 是同一 attempt 的证据切面，分别展开运行时保存的 Eval 源码、标准执行事件流、工作区文件改动，因此必须搭配 `@<locator>` 精确指名一个 attempt。`--run` 钉住某次结果目录，`--history` 查看跨 run 趋势。完整的阅读顺序、输出示例和 artifact 说明见[查看结果](/zh/guides/viewing-results)。
 
 ## `--early-exit` 与 `--strict`
 

package/docs-site/zh/reference/define-agent.mdx

@@ -92,6 +92,14 @@ name: string;
 
 agent 的显示名/标识,原样进入 `Agent.name`——不是注册表查找 key,只用于展示、结果归属与去重指纹。
 
+#### `coverage`
+
+```ts
+coverage?: EvidenceCoverage;
+```
+
+该 Adapter 的常态证据覆盖声明(完整采集的用 `completeCoverage` 常量);省略 = 全通道 unknown。
+
 #### `setup`
 
 ```ts
@@ -145,6 +153,14 @@ name: string;
 
 agent 的显示名/标识,原样进入 `Agent.name`——不是注册表查找 key,只用于展示、结果归属与去重指纹。
 
+#### `coverage`
+
+```ts
+coverage?: EvidenceCoverage;
+```
+
+该 Adapter 的常态证据覆盖声明(完整采集的用 `completeCoverage` 常量);省略 = 全通道 unknown。
+
 #### `setup`
 
 ```ts
@@ -245,7 +261,9 @@ experiment 跑(如脱离 CLI、直接构造 `AgentRun` 的场景)时为 undefine
 readonly sandbox: Sandbox;
 ```
 
-仅沙箱型 agent 有(运行器按 --sandbox 备好)。
+所有 agent 都有:沙箱型是运行器按项目/experiment 配置备好的真实沙箱句柄,remote 型是
+`createRemoteSandbox()` 产出的 stub(仅含 `workdir`/`sandboxId`/`otlpHost`/`stop` 等
+元信息,其余方法调用即抛错)。
 
 #### `session`
 
@@ -266,16 +284,35 @@ spread 进 send;file-based 的在 tracing.configure 里写配置。远程 HTTP
 只需要把 headers spread 进请求头(每轮一个新 traceparent);端点是启动期配置
 (defineConfig({ telemetry: { port } }))固定的,不从这里传。
 
+#### `progress`
+
+```ts
+progress(update: ProgressUpdate): void;
+```
+
+作用域反馈:报告此刻正在做什么(turn / tool / 安装进度)。短命状态——Human profile
+更新 active 行,`agent`/`ci` 不逐条打印,也不进最终结果;不要每个 token/delta 都调用。
+runner 按当前回调所处的生命周期阶段(agent.setup / agent.run / agent.teardown)归因,
+调用方不能冒充其它阶段(见 docs/feature/experiments/library.md)。
+
+#### `diagnostic`
+
+```ts
+diagnostic(input: DiagnosticInput): void;
+```
+
+作用域反馈:报告运行结束后仍应保留的问题(协议降级、数据不完整、cleanup 问题)。
+永久事件,落进 attempt 的 diagnostics 并进各 profile 的永久输出;`dedupeKey` 去重。
+即使 level 为 "error" 也不改变 Turn.status / verdict——无法继续时抛异常。
+
 #### `log`
 
 ```ts
 log(msg: string): void;
 ```
 
-写一行进运行器自身的进度日志(落 stderr,或调用方传入的 `onProgress` 回调)。
-超时失败时,最近若干行会并入结果的 error 信息,方便定位卡在哪一步。
-与 `Sandbox.appendLog` 是两回事:那个是把一行写进容器自己的原生日志
-(`docker logs` 能看到),这里只是运行器的观测通道。
+`progress({ message: msg })` 的别名,不是第二条通道(见 docs/feature/experiments/cli.md
+「Attempt 阶段」)。超时失败时最近若干行会并入结果的 error 信息,方便定位卡在哪一步。
 
 {/* GENERATED:END agent-def */}
 
@@ -456,6 +493,24 @@ stream?: boolean;
 日志里看到 agent 的【原始输出】。provider 各自实现(docker:tee 到 PID1 tail 的文件;
 不支持的 provider 忽略)—— 日志怎么浮现是 provider 的事,adapter 只声明意图。
 
+#### `onStdout`
+
+```ts
+onStdout?: (chunk: string) => void | Promise<void>;
+```
+
+命令 stdout 每到一块就调用一次。回调只用于运行中的短命反馈；完整 stdout 仍会原样
+出现在返回的 `CommandResult` 里。provider 不支持真流时，至少会在命令结束后按完整
+stdout 调用一次，不能静默丢掉。
+
+#### `onStderr`
+
+```ts
+onStderr?: (chunk: string) => void | Promise<void>;
+```
+
+`onStdout` 的 stderr 对应物；完整 stderr 仍保留在 `CommandResult`。
+
 #### `root`
 
 ```ts

package/docs-site/zh/reference/define-config.mdx

@@ -106,4 +106,4 @@ pricing?: Record<string, PriceOverride>;
 
 {/* GENERATED:END config-fields */}
 
-[NiceEval](https://niceeval.com/) 把环境准备放在普通代码里：eval 自己需要的文件写在 `test(t)`，agent 自己的准备写在 adapter 的 `setup`。sandbox 后端不再从环境变量自动探测，也没有对应的 CLI flag——用 `niceeval/sandbox` 里的 `dockerSandbox()` / `vercelSandbox()` / `e2bSandbox()` 构造后填进 `sandbox` 字段（可以直接写在 experiment 上，也可以只写在这里作为项目级兜底：`exp.sandbox ?? config.sandbox`）。
+[NiceEval](https://niceeval.com/) 把环境准备放在普通代码里：eval 自己需要的文件写在 `test(t)`，agent 自己的准备写在 adapter 的 `setup`。sandbox provider 只来自代码里的 `sandbox` 字段，不做环境变量自动探测，也没有对应的 CLI flag——用 `niceeval/sandbox` 里的 `dockerSandbox()` / `vercelSandbox()` / `e2bSandbox()` 构造后填进 `sandbox` 字段（可以直接写在 experiment 上，也可以只写在这里作为项目级兜底：`exp.sandbox ?? config.sandbox`）。

package/docs-site/zh/reference/define-eval.mdx

@@ -1,7 +1,7 @@
 ---
 title: "defineEval：声明、配置并运行 NiceEval eval"
 sidebarTitle: "defineEval"
-description: "defineEval 参考：选项、test context t、Turn 返回值、sandbox helper 和数据集数组导出。"
+description: "defineEval 参考：选项、test context t、Turn 返回值、sandbox helper，以及数组和 keyed record 数据集导出。"
 ---
 
 `defineEval` 是编写 eval 的主要入口。每个 eval 文件调用一次，传入描述和 `test(t)`，并默认导出结果。
@@ -84,15 +84,28 @@ metadata?: Record<string, unknown>;
 
 任意附加元数据,原样透传进 EvalResult,不参与调度或打分;供自定义 reporter 消费。
 
+#### `diff`
+
+```ts
+diff?: { include?: string[]; ignore?: string[] };
+```
+
+调整 agent diff 的归因排除清单(仅沙箱型;见 docs/feature/eval/README.md):两个数组都是
+gitignore 风格 glob(workdir 相对)。默认排除 .git/node_modules/构建产物/包管理器缓存;
+`ignore` 在默认清单上追加排除;`include` 优先级最高,把匹配路径显式加回。
+合成规则固定为「默认 ∪ ignore,再被 include 打洞」,清单在分类账锚点时冻结。
+
 #### `setup`
 
 ```ts
-setup?: (sandbox: Sandbox) => Promise<void | Cleanup> | void | Cleanup;
+setup?: (sandbox: Sandbox, ctx: SandboxHookContext) => Promise<void | Cleanup> | void | Cleanup;
 ```
 
 eval 级预置:拿到沙箱(已上传 workspace + git 基线 + 装好依赖前)。
 默认命令以非 root 跑(agent 的自然环境);装系统依赖时给 `runCommand` 传 `{ root: true }`
 (如 `runCommand("apt-get", ["install", …], { root: true })`),跨 provider 语义一致。
+第二个参数是绑定到 `eval.setup` 的窄上下文(`ctx.progress` / `ctx.diagnostic`,
+见 docs/feature/eval/README.md);可返回 cleanup 闭包,归因到 `eval.teardown`。
 
 #### `test`
 
@@ -115,10 +128,10 @@ eval 主体:拿到 TestContext,驱动对话 / 沙箱操作并就地断言。
 #### `send`
 
 ```ts
-send(text: string): Promise<TurnHandle>;
+send(input: SendInput): Promise<TurnHandle>;
 ```
 
-向默认会话发一条消息,返回该轮的 TurnHandle。事件同时累加进默认会话的累计事件流,供下面的作用域断言使用。
+向默认会话发一条消息(字符串或结构化消息),返回该轮的 TurnHandle。事件同时累加进默认会话的累计事件流,供下面的作用域断言使用。
 
 #### `sendFile`
 
@@ -219,13 +232,31 @@ readonly flags: Readonly<Record<string, unknown>>;
 
 本次 attempt 生效的实验 flags(experiment.flags 的只读视图;实验条件,非命令行开关)。
 
+#### `progress`
+
+```ts
+progress(update: ProgressUpdate): void;
+```
+
+作用域反馈:报告 eval 自己执行的长步骤(上传 fixture、跑构建……)。短命状态,scope 固定
+为 `eval.run`;只报告不断言(见 docs/feature/eval/library/context.md「向运行反馈长步骤」)。
+
+#### `diagnostic`
+
+```ts
+diagnostic(input: DiagnosticInput): void;
+```
+
+作用域反馈:报告运行结束后仍需保留的问题(永久事件,落 attempt diagnostics)。
+即使 level 为 "error" 也不自动改变 verdict——测试结论仍由断言决定。
+
 #### `log`
 
 ```ts
 log(msg: string): void;
 ```
 
-打一行调试日志;有 live 进度回调时走该回调,否则落到 stderr,不出现在最终结果里。
+`progress({ message: msg })` 的别名(调试日志),不出现在最终结果里。
 
 #### `skip`
 
@@ -380,10 +411,10 @@ eventOrder(types: StreamEvent["type"][]): AssertionHandle;
 #### `eventsSatisfy`
 
 ```ts
-eventsSatisfy(predicate: (events: readonly StreamEvent[]) => boolean, label?: string): AssertionHandle;
+eventsSatisfy(label: string, predicate: (events: readonly StreamEvent[]) => boolean): AssertionHandle;
 ```
 
-用自定义谓词对默认会话累计的整段事件流断言;失败时用 label 说明原因。
+用自定义谓词对默认会话累计的整段事件流断言;label 必填、进断言标题。
 
 #### `sandbox`
 
@@ -633,10 +664,10 @@ eventOrder(types: StreamEvent["type"][]): AssertionHandle;
 #### `eventsSatisfy`
 
 ```ts
-eventsSatisfy(predicate: (events: readonly StreamEvent[]) => boolean, label?: string): AssertionHandle;
+eventsSatisfy(label: string, predicate: (events: readonly StreamEvent[]) => boolean): AssertionHandle;
 ```
 
-用自定义谓词对本轮整段事件流断言;失败时用 label 说明原因。
+用自定义谓词对本轮整段事件流断言;label 必填、进断言标题(谓词不透明,解释责任在 label)。
 
 #### `maxTokens`
 
@@ -678,3 +709,5 @@ export default rows.map((row) =>
 ```
 
 数组导出会生成稳定 ID：`file/0000`、`file/0001` 等。
+
+已有稳定业务 key 时也可以默认导出 `Record<string, EvalDef>`。例如 key `15193` 在 `swelancer.eval.ts` 中生成 `swelancer/15193`。key 必须是非空单一路径片段，不能是 `.` / `..`，不能含 `/`、`\\` 或控制字符；发现顺序按 key 字典序固定。

package/docs-site/zh/reference/events.mdx

@@ -1,7 +1,7 @@
 ---
 title: "标准事件流参考"
 sidebarTitle: "事件流"
-description: "StreamEvent 的九种事件：每种的字段、什么时候吐、哪些断言消费它。adapter 的核心工作就是产出这条流。"
+description: "StreamEvent 的十种事件：每种的字段、什么时候吐、哪些断言消费它。adapter 的核心工作就是产出这条流。"
 ---
 
 adapter 的 `send` 返回一个 `Turn`，其中 `events: StreamEvent[]` 是**断言的唯一数据源**：`t.calledTool()`、`t.reply`、`toolOrder`、`noFailedActions`……全部从这条流上读。把你的 agent"这一轮做了什么"翻成这条流，整套断言就都能用。
@@ -79,7 +79,7 @@ token 用量或 OTel span 反推得到)。存在时优先于按价格表(`define
 
 ## StreamEvent 变体一览
 
-`StreamEvent` 的九种变体，逐字段列出（消费它们的断言 / 使用细节见下面的「事件总表」和「逐事件说明」）：
+`StreamEvent` 的十种变体，逐字段列出（消费它们的断言 / 使用细节见下面的「事件总表」和「逐事件说明」）：
 
 {/* GENERATED:BEGIN stream-events */}
 

package/docs-site/zh/reference/expect.mdx

@@ -136,7 +136,7 @@ export function makeAssertion(spec: {
 t.check(t.reply, includes("Paris"));
 t.check(t.reply, includes(/order #\d+/i));
 t.check(turn.data, equals({ intent: "refund" }));
-t.check(t.reply, matches(/#[A-Z0-9]{8}/));
+t.check(turn.data, matches(OrderSchema)); // Standard Schema / Zod 结构校验;正则匹配用 includes
 t.check(t.reply, similarity("The answer explains the refund window").atLeast(0.8));
 t.check(turn.data, satisfies((value) => Array.isArray(value)));
 ```
@@ -172,6 +172,22 @@ readonly severity: Severity;
 readonly threshold?: number;
 ```
 
+#### `isOptional`
+
+```ts
+readonly isOptional?: boolean;
+```
+
+`.optional()` 链过的标记:评不了只记 unavailable,不把 attempt 拖成 errored。
+
+#### `expected`
+
+```ts
+readonly expected?: string;
+```
+
+期望条件的有界文本描述(如 `contains "Brooklyn"`),失败时进 AssertionResult.expected。
+
 #### `score`
 
 ```ts
@@ -195,18 +211,32 @@ atLeast(threshold: number): ValueAssertion;
 转成软阈值断言:未达 threshold 时该条记为 failed,但默认不拖累整条 eval 的 verdict;
 `--strict` 运行下,软阈值失败也会把整条 eval 的 verdict 计为 failed。返回新实例,不改原对象。
 
+#### `optional`
+
+```ts
+optional(): ValueAssertion;
+```
+
+允许这条断言证据缺席:评不了时只记录 `outcome: "unavailable"`,不影响判定。
+与 severity 正交(severity 说影不影响质量判定,optional 说证据允不允许缺席)。返回新实例,不改原对象。
+
 {/* GENERATED:END value-assertion */}
 
 ## 自定义 matcher
 
 ```ts
-import { makeAssertion } from "niceeval/expect";
+import { makeAssertion, type Assertion } from "niceeval/expect";
 
-const validEmail = makeAssertion("valid email", (value) => {
-  return typeof value === "string" && value.includes("@") ? 1 : 0;
-});
+function validEmail(): Assertion {
+  return makeAssertion({
+    name: "valid email",
+    score(value) {
+      return typeof value === "string" && value.includes("@") ? 1 : 0;
+    },
+  });
+}
 
 t.check(t.reply, validEmail());
 ```
 
-自定义 matcher 应返回 0 到 1 之间的分数，并给出清晰名称。
+`makeAssertion` 接受单个 spec 对象（`name`、可选 `severity`/`threshold`、`score`），直接返回一个 `Assertion`；按惯例用一个同名函数包一层再调用，而不是把 `makeAssertion` 本身当工厂调用。

package/package.json

@@ -1,6 +1,6 @@
 {
   "name": "niceeval",
-  "version": "0.6.0",
+  "version": "0.6.2",
   "description": "Agent-native eval tool — eval agents, services, functions, and coding-agent fixtures",
   "type": "module",
   "license": "MIT",
@@ -24,6 +24,10 @@
       "types": "./src/sandbox/index.ts",
       "import": "./src/sandbox/index.ts"
     },
+    "./sandbox/e2b-template": {
+      "types": "./src/sandbox/e2b-agent-template.ts",
+      "import": "./src/sandbox/e2b-agent-template.ts"
+    },
     "./adapter": {
       "types": "./src/agents/index.ts",
       "import": "./src/agents/index.ts"

package/src/agents/ai-sdk-otel.test.ts

@@ -1,3 +1,4 @@
+// cases: docs/engineering/unit-tests/adapters/cases.md
 import { describe, expect, it } from "vitest";
 
 import { aiSdkOtel } from "./ai-sdk-otel.ts";

package/src/agents/ai-sdk.test.ts

@@ -1,3 +1,4 @@
+// cases: docs/engineering/unit-tests/adapters/cases.md
 import { describe, expect, it } from "vitest";
 
 import { aiSdkAgent, fromAiSdk } from "./ai-sdk.ts";
@@ -457,6 +458,8 @@ function fakeCtx(opts: { id?: string } = {}): AgentContext {
     flags: {},
     sandbox: undefined as unknown as AgentContext["sandbox"],
     session,
+    progress: () => {},
+    diagnostic: () => {},
     log: () => {},
   };
 }

package/src/agents/ai-sdk.ts

@@ -13,6 +13,7 @@
 //     (不在 steps 里),这里挖出来补成 `action.result` —— 拒绝(execution-denied)映射成
 //     `status: "rejected"`,喂 `calledTool(..., { status: "rejected" })` 与 `noFailedActions()`。
 
+import { completeCoverage } from "../scoring/coverage.ts";
 import { randomUUID } from "node:crypto";
 
 import { defineAgent } from "../define.ts";
@@ -466,6 +467,8 @@ export function aiSdkAgent<M = unknown>(options: AiSdkAgentOptions<M>): Agent {
 
   return defineAgent({
     name: options.name ?? "ai-sdk",
+    // 官方 SDK 完整 steps/output:全通道 complete(见 adapters/architecture/evidence.md)。
+    coverage: completeCoverage,
     // tracing 开了才让运行器为这个 agent 起 OTLP 接收器(ctx.telemetry 才会出现);
     // AgentTracing 的其余字段(env/configure/scope)这里都用不上,空对象即可。
     tracing: options.tracing ? {} : undefined,