@volcengine/ark-cli-linux-x64 1.0.46 → 1.0.47-prerelease.470d466f4848
This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
- package/bin/arkcli-linux-amd64 +2 -2
- package/manifest.json +16 -44
- package/package.json +1 -1
- package/skills/arkcli-custommodel/references/arkcli-custommodel-upload.md +7 -0
- package/skills/arkcli-helper/references/arkcli-helper.md +7 -0
- package/skills/arkcli-helper/references/evals.md +1 -0
- package/skills/arkcli-infer-endpoint/SKILL.md +17 -1
- package/skills/arkcli-infer-endpoint/references/arkcli-infer-endpoint-rolling.md +148 -0
- package/skills/arkcli-train-finetune/references/create.md +4 -0
- package/skills/arkcli-train-finetune/references/evals.md +1 -0
package/bin/arkcli-linux-amd64
CHANGED
|
@@ -1,4 +1,4 @@
|
|
|
1
1
|
[diffend] Oversized file quarantined before diffing.
|
|
2
2
|
name: package/bin/arkcli-linux-amd64
|
|
3
|
-
size:
|
|
4
|
-
sha256:
|
|
3
|
+
size: 40177826 bytes
|
|
4
|
+
sha256: 06e94fe78b015e400d61281190b553007a007ad688b87a3188858eb0f8c0ce30
|
package/manifest.json
CHANGED
|
@@ -1,65 +1,37 @@
|
|
|
1
1
|
{
|
|
2
|
-
"version": "1.0.
|
|
2
|
+
"version": "1.0.47-prerelease.470d466f4848",
|
|
3
3
|
"platforms": {
|
|
4
4
|
"darwin-amd64": {
|
|
5
|
-
"url": "https://lf3-static.bytednsdoc.com/obj/eden-cn/psjryh/ljhwZthlaukjlkulzlp/
|
|
6
|
-
"sha256": "
|
|
7
|
-
"fallback": {
|
|
8
|
-
"url": "https://github.com/volcengine/ark-cli/releases/download/v1.0.46/arkcli-1.0.46-darwin-amd64",
|
|
9
|
-
"kind": "github-release"
|
|
10
|
-
}
|
|
5
|
+
"url": "https://lf3-static.bytednsdoc.com/obj/eden-cn/psjryh/ljhwZthlaukjlkulzlp/prerelease/1.0.47-prerelease.470d466f4848/arkcli-1.0.47-prerelease.470d466f4848-darwin-amd64",
|
|
6
|
+
"sha256": "38bb4a827e8ac3639c25eb02fab1b8d4ea3d35f95ffc061d8bba1538902a553e"
|
|
11
7
|
},
|
|
12
8
|
"darwin-arm64": {
|
|
13
|
-
"url": "https://lf3-static.bytednsdoc.com/obj/eden-cn/psjryh/ljhwZthlaukjlkulzlp/
|
|
14
|
-
"sha256": "
|
|
15
|
-
"fallback": {
|
|
16
|
-
"url": "https://github.com/volcengine/ark-cli/releases/download/v1.0.46/arkcli-1.0.46-darwin-arm64",
|
|
17
|
-
"kind": "github-release"
|
|
18
|
-
}
|
|
9
|
+
"url": "https://lf3-static.bytednsdoc.com/obj/eden-cn/psjryh/ljhwZthlaukjlkulzlp/prerelease/1.0.47-prerelease.470d466f4848/arkcli-1.0.47-prerelease.470d466f4848-darwin-arm64",
|
|
10
|
+
"sha256": "95c564d1a27af63f29689178a1091e8ccdb75fe5926ec511cc06d566d0d10f12"
|
|
19
11
|
},
|
|
20
12
|
"linux-amd64": {
|
|
21
|
-
"url": "https://lf3-static.bytednsdoc.com/obj/eden-cn/psjryh/ljhwZthlaukjlkulzlp/
|
|
22
|
-
"sha256": "
|
|
23
|
-
"fallback": {
|
|
24
|
-
"url": "https://github.com/volcengine/ark-cli/releases/download/v1.0.46/arkcli-1.0.46-linux-amd64",
|
|
25
|
-
"kind": "github-release"
|
|
26
|
-
}
|
|
13
|
+
"url": "https://lf3-static.bytednsdoc.com/obj/eden-cn/psjryh/ljhwZthlaukjlkulzlp/prerelease/1.0.47-prerelease.470d466f4848/arkcli-1.0.47-prerelease.470d466f4848-linux-amd64",
|
|
14
|
+
"sha256": "06e94fe78b015e400d61281190b553007a007ad688b87a3188858eb0f8c0ce30"
|
|
27
15
|
},
|
|
28
16
|
"linux-arm64": {
|
|
29
|
-
"url": "https://lf3-static.bytednsdoc.com/obj/eden-cn/psjryh/ljhwZthlaukjlkulzlp/
|
|
30
|
-
"sha256": "
|
|
31
|
-
"fallback": {
|
|
32
|
-
"url": "https://github.com/volcengine/ark-cli/releases/download/v1.0.46/arkcli-1.0.46-linux-arm64",
|
|
33
|
-
"kind": "github-release"
|
|
34
|
-
}
|
|
17
|
+
"url": "https://lf3-static.bytednsdoc.com/obj/eden-cn/psjryh/ljhwZthlaukjlkulzlp/prerelease/1.0.47-prerelease.470d466f4848/arkcli-1.0.47-prerelease.470d466f4848-linux-arm64",
|
|
18
|
+
"sha256": "f23b8316a77a6271fff3ed54b5336844984652c0d31b9048f2ec7ad12852dc8d"
|
|
35
19
|
},
|
|
36
20
|
"windows-amd64": {
|
|
37
|
-
"url": "https://lf3-static.bytednsdoc.com/obj/eden-cn/psjryh/ljhwZthlaukjlkulzlp/
|
|
38
|
-
"sha256": "
|
|
39
|
-
"fallback": {
|
|
40
|
-
"url": "https://github.com/volcengine/ark-cli/releases/download/v1.0.46/arkcli-1.0.46-windows-amd64.exe",
|
|
41
|
-
"kind": "github-release"
|
|
42
|
-
}
|
|
21
|
+
"url": "https://lf3-static.bytednsdoc.com/obj/eden-cn/psjryh/ljhwZthlaukjlkulzlp/prerelease/1.0.47-prerelease.470d466f4848/arkcli-1.0.47-prerelease.470d466f4848-windows-amd64.exe",
|
|
22
|
+
"sha256": "18601c86b5a825995f7576535f51072d3516486b4ae2f5c34d88efc5c3c77207"
|
|
43
23
|
},
|
|
44
24
|
"windows-arm64": {
|
|
45
|
-
"url": "https://lf3-static.bytednsdoc.com/obj/eden-cn/psjryh/ljhwZthlaukjlkulzlp/
|
|
46
|
-
"sha256": "
|
|
47
|
-
"fallback": {
|
|
48
|
-
"url": "https://github.com/volcengine/ark-cli/releases/download/v1.0.46/arkcli-1.0.46-windows-arm64.exe",
|
|
49
|
-
"kind": "github-release"
|
|
50
|
-
}
|
|
25
|
+
"url": "https://lf3-static.bytednsdoc.com/obj/eden-cn/psjryh/ljhwZthlaukjlkulzlp/prerelease/1.0.47-prerelease.470d466f4848/arkcli-1.0.47-prerelease.470d466f4848-windows-arm64.exe",
|
|
26
|
+
"sha256": "6ea928d8755d77a1c58b64f82223837b824b83a79562918562aa4d76ee55614f"
|
|
51
27
|
}
|
|
52
28
|
},
|
|
53
29
|
"skills": {
|
|
54
30
|
"primary": {
|
|
55
|
-
"url": "https://lf3-static.bytednsdoc.com/obj/eden-cn/psjryh/ljhwZthlaukjlkulzlp/
|
|
56
|
-
"sha256": "
|
|
31
|
+
"url": "https://lf3-static.bytednsdoc.com/obj/eden-cn/psjryh/ljhwZthlaukjlkulzlp/prerelease/1.0.47-prerelease.470d466f4848/skills.tar.gz",
|
|
32
|
+
"sha256": "624dad471df1d2318e7235c7ef8b5eccb518823d3f466e04b1cc39af62ac83a8",
|
|
57
33
|
"kind": "cdn"
|
|
58
34
|
},
|
|
59
|
-
"tag": "v1.0.
|
|
60
|
-
"fallback": {
|
|
61
|
-
"url": "https://github.com/volcengine/ark-cli/archive/refs/tags/v1.0.46.tar.gz",
|
|
62
|
-
"kind": "github"
|
|
63
|
-
}
|
|
35
|
+
"tag": "v1.0.47-prerelease.470d466f4848"
|
|
64
36
|
}
|
|
65
37
|
}
|
package/package.json
CHANGED
|
@@ -40,6 +40,13 @@ arkcli models custommodel upload \
|
|
|
40
40
|
`upload` 会启动依赖 TOS 的异步导入,无法在不读取外部状态的条件下给出可靠计划,
|
|
41
41
|
因此不注册 `--dry-run`。复述并确认 `name/base-model/tos/quantization` 后再真实执行。
|
|
42
42
|
|
|
43
|
+
## 上传前检查
|
|
44
|
+
|
|
45
|
+
- CLI 分页读取 TOS 目录,检查目录顶层的 `config.json`、至少一个 `*.safetensors`,以及 `tokenizer.json` / `tokenizer_config.json` 之一(与控制台实际校验规则一致)。嵌套目录、相邻前缀不算;仅有 `tokenizer.model` 不满足当前规则。
|
|
46
|
+
- 目录无法读取、文件缺失或分页异常时停止,不调用 `UploadModel`。
|
|
47
|
+
- 查询当前账号的 `Foundry` 功能资格;仅已启用时调用 `CheckCustomModel`。`Supported=false` 会在输出 `message` 中展示原因,仍按指定基础模型上传,不会误判为链接无效。检查请求失败或响应不完整时停止,修复后重试。
|
|
48
|
+
- 检查不自动修改 `--base-model` / `--quantization`,也不代表异步导入已完成。不要用真实上传作为只读检查。
|
|
49
|
+
|
|
43
50
|
## Flags
|
|
44
51
|
|
|
45
52
|
| 参数 | 必填 | 类型 | 说明 |
|
|
@@ -171,6 +171,13 @@ Plan 模型列表必须区分两条来源:交互式「智能路由」只使用
|
|
|
171
171
|
`ark-code-latest` 合成入口。可用的低/中/高负载只在服务端返回
|
|
172
172
|
`Load.Status=1` 且 `Load.Level=1/2/3` 时展示。
|
|
173
173
|
|
|
174
|
+
Helper 的具体候选、写入 Agent 的模型目录和 `configure --model` 共用文本对话资格校验:
|
|
175
|
+
允许文本输出模型的 image/video/audio 输入;排除生图、生视频、Embedding、专用 TTS/ASR
|
|
176
|
+
以及不能确认用途的条目。套餐 `ModelCapability` 优先,缺失字段才使用 ArkModels 元数据。
|
|
177
|
+
输出模态缺失时,只有能匹配同套餐 LatestModel 文本路由候选的直接 ModelName 才保留;
|
|
178
|
+
`ark-code-latest` 仍作为动态路由入口保留。清单查询失败或没有合格模型时,配置命令报错,
|
|
179
|
+
不写 Harness 配置;显式 `--model` 也不能绕过当前套餐的合格清单。
|
|
180
|
+
|
|
174
181
|
若 ZCode 报 `InvalidParameter` 400 且请求模型的输出上限超过网关限制,先使用新版本
|
|
175
182
|
ArkCLI 重新执行原 `arkcli helper configure zcode --profile ... --model ...`,再完全退出
|
|
176
183
|
ZCode 主进程、重新打开并新建会话;只切换模型或继续使用旧会话不会热加载 provider
|
|
@@ -28,6 +28,7 @@
|
|
|
28
28
|
## Guard / 守卫
|
|
29
29
|
|
|
30
30
|
- `arkcli helper` 全域不支持 `--dry-run`;不得生成该组合。
|
|
31
|
+
- Agent 主模型只选 Helper 已验证的文本对话模型;image/video/audio 输入可以保留,生图、生视频、Embedding、专用 TTS/ASR 和未知用途模型不能通过 `--model` 绕过过滤。套餐清单查询失败时停止,不以显式模型名绕过校验。
|
|
31
32
|
- `helper mcp` 不传 `--capability` 必须保持存量整组 MCP 行为;显式传入时只配所选一项,不改模型、不捎带其它 Harness 工具。
|
|
32
33
|
- Pi 没有 MCP 宿主:不得对 Pi 生成整组或 MCP capability 的 `helper mcp pi` / `--with-mcp`,也不得伪造 MCP 能力。唯一例外是 `helper mcp pi --capability cua`,它只安装 Skill。
|
|
33
34
|
- 开启/关闭抵扣或超额后付费必须由真人在详情页二次确认;默认取消。
|
|
@@ -1,6 +1,6 @@
|
|
|
1
1
|
---
|
|
2
2
|
name: arkcli-infer-endpoint
|
|
3
|
-
version: 1.
|
|
3
|
+
version: 1.4.0
|
|
4
4
|
description: "arkcli 推理接入点管理与显式 raw CRUD 创建能力。**正向触发:用户明确要求脚本化 / CI / 无护栏 / 原始 raw CRUD 创建 Endpoint 时,必须使用本 skill 的 `arkcli infer endpoint create` 路径,不能切到 `arkcli-deploy`**;模型缺失或只有品牌/家族名时仍留在本 skill,先执行实时有界候选与 0/1/N 澄清,模型未唯一确定前禁止 preview 或创建。本 skill 也负责对**已有** Endpoint 做获取、列表、启动、停止、删除、更新,以及在 NotFound 后用当前完整列表 + 历史 usage 判断 ID 是否不完整或仅有历史记录。普通的『创建/新建/部署一个 endpoint』仍走带产品护栏的 arkcli-deploy(`+deploy`),只有用户明确选择上述原始路径才例外。优先使用产品命令 `arkcli infer endpoint ...`,而不是 Raw API。TTS/ASR/语音模型连 raw create 也不要引导,只能转 models search 说明 arkcli 不支持 Endpoint 创建。"
|
|
5
5
|
metadata:
|
|
6
6
|
requires:
|
|
@@ -128,6 +128,21 @@ arkcli infer endpoint list --mine --page-all --page-size 100 --format json
|
|
|
128
128
|
| `arkcli infer endpoint stop <endpoint-id>` | 停止推理接入点 |
|
|
129
129
|
| `arkcli infer endpoint delete <endpoint-id>` | 删除推理接入点(**不可逆**,需二次确认;非交互环境需 `ARKCLI_ALLOW_HEADLESS_DELETE=1`,`--yes` 不授权) |
|
|
130
130
|
| `arkcli infer endpoint update <endpoint-id>` | 更新推理接入点(名称 / 描述 / 限流) |
|
|
131
|
+
| `arkcli infer endpoint rolling <verb> ...` | 滚动切换**已有**接入点绑定的模型版本(plan / create / get / list / cancel / rollback);与 `update` 正交,不要把 `--model` 塞进 `update` |
|
|
132
|
+
| `arkcli infer endpoint ptu rolling <verb> ...` | PTU 自定义模型切换(create / list / cancel) |
|
|
133
|
+
| `arkcli infer endpoint ptu seamless-rolling <verb> ...` | PTU Seamless 自定义模型切换(create / get / list / cancel) |
|
|
134
|
+
| `arkcli infer endpoint router rolling <verb> ...` | 智能路由模型切换(set / get) |
|
|
135
|
+
|
|
136
|
+
## 滚动切换模型版本(rolling)
|
|
137
|
+
|
|
138
|
+
替换**已有** Endpoint 绑定的模型版本用 `infer endpoint rolling`,不是 `update`(update 只改名称 / 描述 / 限流),也不是新建 Endpoint(新建走 `+deploy`)。
|
|
139
|
+
|
|
140
|
+
- 先运行 `rolling plan` 做只读预检,展示目标模型、支持状态、阻断原因和 warning;`plan` 不写。
|
|
141
|
+
- 写操作(`create` / `cancel` / `rollback`)需二次确认:交互终端提示 `Switch endpoint ep-xxx from A to B? This starts a rolling update.`,非交互须 `--yes`(仅授权本次滚动,不授权模型开通)。`plan` / `get` / `list` 只读不确认。
|
|
142
|
+
- `create` 必填 `--model`;可选 `--security-level` 和 `--activate-target-model`。目标模型未开通时,只有显式传 `--activate-target-model` 才会进入独立开通确认;`--yes` 不授权开通。`--wait` 阻塞到终态(Succeeded / Reverted),`--wait-timeout` 默认 15m(0=不限),`--poll-interval` 默认 5s(最小 1s);`--dry-run` 走本地零网络 Client Preview。
|
|
143
|
+
- `create` 默认输出 JSON `{Id, EndpointId, Status}`;`list --format table` 列:`ID ENDPOINT STATUS GRAY ROLLING_IN ROLLING_OUT UPDATE_TIME`。
|
|
144
|
+
- PTU 普通 rolling 使用 `ptu rolling`,Seamless 使用 `ptu seamless-rolling`;智能路由使用 `router rolling`。不要把这些入口混用。
|
|
145
|
+
- 详细行为见 [`references/arkcli-infer-endpoint-rolling.md`](references/arkcli-infer-endpoint-rolling.md)。
|
|
131
146
|
|
|
132
147
|
## 参考
|
|
133
148
|
|
|
@@ -138,4 +153,5 @@ arkcli infer endpoint list --mine --page-all --page-size 100 --format json
|
|
|
138
153
|
- [`references/arkcli-infer-endpoint-stop.md`](references/arkcli-infer-endpoint-stop.md)
|
|
139
154
|
- [`references/arkcli-infer-endpoint-delete.md`](references/arkcli-infer-endpoint-delete.md)
|
|
140
155
|
- [`references/arkcli-infer-endpoint-update.md`](references/arkcli-infer-endpoint-update.md)
|
|
156
|
+
- [`references/arkcli-infer-endpoint-rolling.md`](references/arkcli-infer-endpoint-rolling.md)
|
|
141
157
|
- [`../arkcli-code-example/SKILL.md`](../arkcli-code-example/SKILL.md)
|
|
@@ -0,0 +1,148 @@
|
|
|
1
|
+
# arkcli infer endpoint rolling
|
|
2
|
+
|
|
3
|
+
替换**已有**推理接入点(Endpoint)绑定的模型版本,不新建 Endpoint。语义与 `infer endpoint update`(只改名称 / 描述 / 限流)正交:rolling 只换模型版本。不要把 `--model` 塞进 `update`。
|
|
4
|
+
|
|
5
|
+
命令组:`plan` / `create` / `get` / `list` / `cancel` / `rollback`。写操作(create / cancel / rollback)由 CLI 确认门保护;plan / get / list 只读。命令在全部产品可用,最终是否可切换由 Endpoint 的 `SupportRolling` 和 eligibility 决定。
|
|
6
|
+
|
|
7
|
+
## plan — 只读预检
|
|
8
|
+
|
|
9
|
+
```bash
|
|
10
|
+
arkcli infer endpoint rolling plan <endpoint-id> --model <model-id>
|
|
11
|
+
```
|
|
12
|
+
|
|
13
|
+
返回源/目标模型、`Supported`、`BlockingReasons` 和 `Warnings`。该命令不发起写请求,适合在 create 前先判断是否可切换。
|
|
14
|
+
|
|
15
|
+
## create — 发起滚动切换
|
|
16
|
+
|
|
17
|
+
```bash
|
|
18
|
+
arkcli infer endpoint rolling create <endpoint-id> --model <model-id> [flags]
|
|
19
|
+
```
|
|
20
|
+
|
|
21
|
+
将 `<endpoint-id>` 从当前模型版本滚动切换到 `--model` 指定的新版本。
|
|
22
|
+
|
|
23
|
+
| Flag | Type | Description | Required |
|
|
24
|
+
|------|------|-------------|----------|
|
|
25
|
+
| `--model` | string | 目标模型 ID(基础模型 名/版本,如 `doubao-seed-2-0-pro-260328`) | **Yes** |
|
|
26
|
+
| `--security-level` | string | 目标模型安全级别;需要按产品约束消歧时传入 | No |
|
|
27
|
+
| `--activate-target-model` | bool | 目标模型未开通时,在独立确认门后先开通再滚动(账号级计费写操作,rolling 的确认参数不授权该动作) | No |
|
|
28
|
+
| `--description` | string | 记录在滚动任务上的可选描述 | No |
|
|
29
|
+
| `--wait` | bool | 阻塞直到滚动进入终态(Succeeded / Reverted) | No |
|
|
30
|
+
| `--wait-timeout` | duration | `--wait` 的最长等待时长(Go duration,如 `15m`;`0` = 不限)。默认 `15m` | No |
|
|
31
|
+
| `--poll-interval` | duration | `--wait` 轮询间隔(Go duration,最小 `1s`)。默认 `5s` | No |
|
|
32
|
+
| `--yes` | bool | 宿主托管确认参数;Skill 生成的命令不带该参数,由宿主在执行前完成授权(仅授权本次滚动,不授权模型开通) | No |
|
|
33
|
+
| `--dry-run` | bool | 输出本地 `CreateEndpointRolling` Client Preview,零网络 | No |
|
|
34
|
+
|
|
35
|
+
**确认门**:交互终端会提示 `Switch endpoint ep-xxx from <当前模型/版本> to <目标模型/版本>? This starts a rolling update.`,输入 `y` 确认。Skill 只生成不带确认参数的命令,非交互场景由宿主在执行前统一授权;CLI 返回 `requires_confirmation` / `requires_headless_gate` 时停止并报告,不要自行补确认参数重试。该确认只授权本次滚动,**不**代表授权目标模型的开通 / 实名等前置。
|
|
36
|
+
|
|
37
|
+
**默认输出**:JSON `{Id, EndpointId, Status}`(`--wait` 时输出轮询到的终态 `RollingInfo`)。拿到的 `Id` 用于 `get` / `cancel` / `rollback`。
|
|
38
|
+
|
|
39
|
+
## get — 查询滚动任务详情
|
|
40
|
+
|
|
41
|
+
```bash
|
|
42
|
+
arkcli infer endpoint rolling get <rolling-id>
|
|
43
|
+
```
|
|
44
|
+
|
|
45
|
+
只读,输出 `RollingInfo`(Status、RollingIn / RollingOut 模型快照、RollingGray、轨迹等)。
|
|
46
|
+
|
|
47
|
+
## list — 列出滚动任务
|
|
48
|
+
|
|
49
|
+
```bash
|
|
50
|
+
arkcli infer endpoint rolling list [flags]
|
|
51
|
+
```
|
|
52
|
+
|
|
53
|
+
| Flag | Type | Description |
|
|
54
|
+
|------|------|-------------|
|
|
55
|
+
| `--endpoint-id` | string | 按 endpoint id 过滤 |
|
|
56
|
+
| `--status` | string | 按状态过滤:`Running` / `Reverting` / `Succeeded` / `Reverted`(大小写不敏感) |
|
|
57
|
+
| `--page-number` | int | 页码(>=1) |
|
|
58
|
+
| `--page-size` | int | 每页数量 |
|
|
59
|
+
| `--sort-by` | string | 排序字段(透传后端) |
|
|
60
|
+
| `--sort-order` | string | 排序方向:`Asc` / `Desc` |
|
|
61
|
+
| `--format` | string | 输出格式:`table` / `json`(默认 json) |
|
|
62
|
+
|
|
63
|
+
支持全局 `--page-all` 自动翻页。`--format table` 的列:`ID ENDPOINT STATUS GRAY ROLLING_IN ROLLING_OUT UPDATE_TIME`。
|
|
64
|
+
|
|
65
|
+
## cancel — 取消进行中的滚动
|
|
66
|
+
|
|
67
|
+
```bash
|
|
68
|
+
arkcli infer endpoint rolling cancel <rolling-id> [flags]
|
|
69
|
+
```
|
|
70
|
+
|
|
71
|
+
取消当前切换并**立即全量**切回原模型版本。高危:当前流量较大时原模型可能瞬时压力过高、触发限流,建议仅在有明确需求或非业务高峰期使用;需要逐步切回请用 `rollback`。写操作,确认参数宿主托管,Skill 生成的命令不带 `--yes`(仅授权本次 cancel)。
|
|
72
|
+
|
|
73
|
+
## rollback — 回滚滚动
|
|
74
|
+
|
|
75
|
+
```bash
|
|
76
|
+
arkcli infer endpoint rolling rollback <rolling-id> [flags]
|
|
77
|
+
```
|
|
78
|
+
|
|
79
|
+
按后端灰度策略**渐进**回滚到滚动开始前的模型版本(与 cancel 的立即全量切回不同)。写操作,确认参数宿主托管,Skill 生成的命令不带 `--yes`(仅授权本次 rollback)。
|
|
80
|
+
|
|
81
|
+
## PTU 与智能路由入口
|
|
82
|
+
|
|
83
|
+
Web 控制台中的其他 rolling 形态使用独立命令组,不混入普通 foundation-model rolling:
|
|
84
|
+
|
|
85
|
+
```bash
|
|
86
|
+
arkcli infer endpoint ptu rolling create <endpoint-id> --custom-model <cm-id> [flags]
|
|
87
|
+
arkcli infer endpoint ptu rolling list --endpoint-id <endpoint-id>
|
|
88
|
+
arkcli infer endpoint ptu rolling cancel <endpoint-id> [flags]
|
|
89
|
+
|
|
90
|
+
arkcli infer endpoint ptu seamless-rolling create <endpoint-id> --custom-model <cm-id> [--strategy <json|@file>] [--wait]
|
|
91
|
+
arkcli infer endpoint ptu seamless-rolling get <rolling-id>
|
|
92
|
+
arkcli infer endpoint ptu seamless-rolling list --endpoint-id <endpoint-id>
|
|
93
|
+
arkcli infer endpoint ptu seamless-rolling cancel <endpoint-id> [flags]
|
|
94
|
+
|
|
95
|
+
arkcli infer endpoint router rolling set <endpoint-id> --model <router-model-id> --router <json|@file> [flags]
|
|
96
|
+
arkcli infer endpoint router rolling get <endpoint-id>
|
|
97
|
+
```
|
|
98
|
+
|
|
99
|
+
PTU 命令只接受 `cm-` 自定义模型;Router 命令只接受智能路由 Endpoint,并通过 `TargetRouter` 发起普通 `CreateEndpointRolling`。写命令的确认参数同样由宿主托管。
|
|
100
|
+
|
|
101
|
+
## Global Flags
|
|
102
|
+
|
|
103
|
+
| Flag | Type | Description |
|
|
104
|
+
|------|------|-------------|
|
|
105
|
+
| `--debug` | | Print request and response debug details to stderr |
|
|
106
|
+
| `--format` | string | Output format: json (default "json") |
|
|
107
|
+
| `--page-all` | | Automatically fetch all pages when supported |
|
|
108
|
+
| `--page-delay` | int | Delay in milliseconds between pages (default 200) |
|
|
109
|
+
| `--page-limit` | int | Maximum pages to fetch with --page-all (default 10) |
|
|
110
|
+
| `--profile` | string | Active config profile |
|
|
111
|
+
| `--transform` | string | Transform output with a GJSON-style path expression |
|
|
112
|
+
|
|
113
|
+
## Examples
|
|
114
|
+
|
|
115
|
+
发起滚动并等待完成:
|
|
116
|
+
|
|
117
|
+
```bash
|
|
118
|
+
arkcli infer endpoint rolling create ep-20260428194457-p8b47 \
|
|
119
|
+
--model doubao-seed-2-0-pro-260328 --wait
|
|
120
|
+
```
|
|
121
|
+
|
|
122
|
+
只发起、不等待(确认由交互终端或宿主 Hook 完成):
|
|
123
|
+
|
|
124
|
+
```bash
|
|
125
|
+
arkcli infer endpoint rolling create ep-20260428194457-p8b47 \
|
|
126
|
+
--model doubao-seed-2-0-pro-260328 --format json
|
|
127
|
+
```
|
|
128
|
+
|
|
129
|
+
本地预演(零网络,不发请求):
|
|
130
|
+
|
|
131
|
+
```bash
|
|
132
|
+
arkcli infer endpoint rolling create ep-20260428194457-p8b47 \
|
|
133
|
+
--model doubao-seed-2-0-pro-260328 --dry-run
|
|
134
|
+
```
|
|
135
|
+
|
|
136
|
+
按 endpoint 列出进行中的滚动(表格):
|
|
137
|
+
|
|
138
|
+
```bash
|
|
139
|
+
arkcli infer endpoint rolling list --endpoint-id ep-20260428194457-p8b47 \
|
|
140
|
+
--status Running --format table
|
|
141
|
+
```
|
|
142
|
+
|
|
143
|
+
取消 / 回滚(高危动作,确认由交互终端或宿主 Hook 完成):
|
|
144
|
+
|
|
145
|
+
```bash
|
|
146
|
+
arkcli infer endpoint rolling cancel er-xxxx
|
|
147
|
+
arkcli infer endpoint rolling rollback er-xxxx
|
|
148
|
+
```
|
|
@@ -109,6 +109,10 @@ arkcli train finetune create --help
|
|
|
109
109
|
| `--resource-group` | `resource-group list` 返回的稳定资源组 ID;按不透明字符串原样传入,CLI 会在 estimate 和真实提交前重新校验权限、任务资源需求与可用性 |
|
|
110
110
|
| `--yes` | 跳过 CLI 确认;Agent 只能在用户二次确认/明确表示直接创建后添加 |
|
|
111
111
|
|
|
112
|
+
`--output-compression-strategies W4A8C16` 用于选择导出自动量化,前提是精确模型版本和训练方法声明支持该策略。可重复传入或用逗号分隔多个策略。创建和在线 `--estimate` 共用 `OutputConfig.OutputCompressionStrategies`;估算 JSON 的 `output_config` 和提交前摘要展示最终策略。这是产物配置,不是 `--hyperparameters` 中的训练超参。
|
|
113
|
+
|
|
114
|
+
通过 `train finetune capability get` 的 `items[].quant_modes` 查询精确版本能力:LoRA 类训练使用 `LoraModelCompressionChoices`,全量训练使用 `FullModelCompressionChoices`。未指定参数时合并 `RequiredStrategies` 与 `DefaultChooseStrategies`;显式选择时保留全部必选项,可选范围来自默认推荐项和 `OptionalAllowedStrategies`。`--output-compression-strategies=` 表示只保留必选项。非法策略或显式选择所需能力缺失会在上传、开通及提交前停止;未指定且能力未返回时不发送产物配置。不根据模型名称猜测支持精度,也不假定所有模型支持 W4A8C16。自定义模型续训按其精确来源基础模型版本解析能力。
|
|
115
|
+
|
|
112
116
|
## 3. 获取并校验训练数据
|
|
113
117
|
|
|
114
118
|
本 skill 不创建或维护平台 Dataset;只有独立 Dataset 生命周期操作或不涉及精调任务的独立校验才转 [`../../arkcli-datasets/SKILL.md`](../../arkcli-datasets/SKILL.md)。精调任务创建或预检所需的本地/TOS 数据校验继续留在本流程,直接使用下方 `arkcli dataset validate`。创建任务可接受:
|
|
@@ -12,3 +12,4 @@
|
|
|
12
12
|
| remote-train-local-validation | 训练集为已存在的 TOS URI,验证集为本地文件 | 验证集仍上传并转换为 TOS 引用;缺失文件或上传失败时停止提交,不重放未知结果的创建。 |
|
|
13
13
|
| volc-create-url | 用户确认提交,创建返回任务 ID | 只按返回 ID 和 `console.volcengine.com` URL 报告创建结果,不声称训练已完成。 |
|
|
14
14
|
| unsupported-local-preview | 要求 `create --dry-run` | 说明当前命令不支持本地 Client Preview;在线 `--estimate` 有上传副作用,不静默替换执行。 |
|
|
15
|
+
| export-auto-quantization | 用户在精调提交时选择 W4A8C16 | 按精确模型版本/训练方法能力使用 --output-compression-strategies,保留必选项,估算展示 output_config;非法选择在上传前停止,不放入 hyperparameters 或替换为事后 quantize。 |
|