aipctl 2026.10.11 → 2026.10.13
This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
- package/README.md +48 -1
- package/build/index.cjs +1459 -84
- package/docs/api-contract-inventory.md +23 -2
- package/evaluation/README.md +155 -0
- package/evaluation/cases.csv +7 -0
- package/evaluation/evaluation.example.json +13 -0
- package/evaluation/judge-instructions.md +47 -0
- package/package.json +14 -10
package/README.md
CHANGED
|
@@ -63,6 +63,35 @@ admission 사용량·활성/미확정 실행 수를 조회합니다. 업무 한
|
|
|
63
63
|
사용량 조회에 실패하면 `usage.status`는 `UNAVAILABLE`이고 사용량과 reset 필드는 `null`입니다.
|
|
64
64
|
정책 버전이 `null`이면 해당 override 없이 기본값을 상속합니다.
|
|
65
65
|
|
|
66
|
+
## Skill 파일 전송과 GitHub 연동
|
|
67
|
+
|
|
68
|
+
기존 공개 기능과의 호환성을 위해 사용자 Skill과 조직 Skill의 upload/download를 production에서
|
|
69
|
+
지원합니다. `admin skill`은 전역 Back Office가 아니라 선택한 조직의 AI Operator 권한을 사용합니다.
|
|
70
|
+
일반 `skill download`는 본인이 올린 개인 Skill 또는 조직 라이브러리에 공개된 Skill만 다운로드하고,
|
|
71
|
+
`admin skill download`는 AI Operator가 조직 범위 Skill만 다운로드합니다.
|
|
72
|
+
|
|
73
|
+
```bash
|
|
74
|
+
aipctl skill upload ./my-skill.zip
|
|
75
|
+
aipctl skill download <skill-id> --output ./my-skill.zip
|
|
76
|
+
aipctl admin skill upload ./organization-skill.zip
|
|
77
|
+
aipctl admin skill download <skill-id> --output ./organization-skill.zip
|
|
78
|
+
```
|
|
79
|
+
|
|
80
|
+
조직 AI Operator는 GitHub-backed Skill도 관리할 수 있습니다. PAT 원문 대신 PAT를 보관한
|
|
81
|
+
환경 변수 이름을 `--pat-env`로 전달합니다.
|
|
82
|
+
|
|
83
|
+
```bash
|
|
84
|
+
aipctl admin skill github inspect <github-url> [--pat-env GITHUB_TOKEN]
|
|
85
|
+
aipctl admin skill github import <github-url> [--pat-env GITHUB_TOKEN]
|
|
86
|
+
aipctl admin skill github sync <skill-id> [--apply]
|
|
87
|
+
aipctl admin skill github credentials set <skill-id> --pat-env GITHUB_TOKEN
|
|
88
|
+
aipctl admin skill github credentials clear <skill-id>
|
|
89
|
+
```
|
|
90
|
+
|
|
91
|
+
upload는 `.zip`과 `.skill`만 허용하며 실패한 준비 upload는 abort합니다. download는 10분·128 MiB
|
|
92
|
+
상한을 적용합니다. `sync`는 `--apply`가 없으면 변경 유무만 확인하고 준비 결과를 폐기합니다.
|
|
93
|
+
이 기능들은 기존 Web Skill 계약을 유지하는 호환 경로입니다.
|
|
94
|
+
|
|
66
95
|
API 실패 시 `--json`은 stderr에 `{ "error": { "code", "message", ... } }` 한 건을 출력하고
|
|
67
96
|
exit 1로 종료합니다. 일반 요청은 로컬 대기부터 응답 본문 처리까지 120초·8 MiB로 제한합니다.
|
|
68
97
|
변경 요청이 전송된 뒤 timeout이나 응답 유실이 생기면 `outcome: "unknown"`이므로 대상 상태를
|
|
@@ -90,7 +119,8 @@ aipctl model-exec get <model-id> [--json]
|
|
|
90
119
|
aipctl model-exec sample <model-id> [--save input.json]
|
|
91
120
|
```
|
|
92
121
|
|
|
93
|
-
`model-exec chat`, `agent chat`, `chat send`, transfer
|
|
122
|
+
`model-exec chat`, `agent chat`, `chat send`, Drive transfer·Agent export, 외부 실행과
|
|
123
|
+
Integration/Preset/Tunnel credential 회전 후보는
|
|
94
124
|
production에서 비공개입니다. 개발 artifact(`npx aipctl@dev`)와 설정된 개발 App URL, 해당
|
|
95
125
|
서버의 인증·release·quota gate가 모두 충족되어야 시험할 수 있습니다. 개발 artifact만 설치해도
|
|
96
126
|
서버 차단을 통과하는 것은 아닙니다. 아래 예시는 text 실행 gate를 연 개발 환경에만 적용됩니다.
|
|
@@ -126,3 +156,20 @@ mise run desktop:cli:local -- run --help
|
|
|
126
156
|
## Architecture
|
|
127
157
|
|
|
128
158
|
자세한 구조는 [`docs/architecture.md`](./docs/architecture.md)를 봅니다.
|
|
159
|
+
|
|
160
|
+
## Agent 평가
|
|
161
|
+
|
|
162
|
+
기존 에이전트의 설정과 MCP 연결·인증을 동일 조직에 복제할 수 있습니다. 새 CUSTOM 에이전트는 비활성 상태로 생성됩니다. 활성화에는 기존 승인 정책이 적용됩니다.
|
|
163
|
+
|
|
164
|
+
```bash
|
|
165
|
+
aipctl admin agent clone --org <org-slug> --name "개선 테스트" --json <source-agent-id>
|
|
166
|
+
aipctl agent enable --org <org-slug> <new-agent-id>
|
|
167
|
+
```
|
|
168
|
+
|
|
169
|
+
복제에는 Backend clone API 및 Gateway 배포가 필요합니다. PERSONAL·파트너 배포 유형은 지원하지 않으며, 설정을 누락한 부분 복제로 대체하지 않습니다. 공유 Skill·Knowledge·MCP 리소스 연결과 인증 grant는 유지하고, 에이전트·MCP 설정 레코드는 별도로 생성합니다. 대화·메모리 데이터는 복사하지 않습니다.
|
|
170
|
+
|
|
171
|
+
`aipctl eval run --config evaluation.json`으로 `en`/`ko`/`ja` 단일턴 데이터셋 실행, Judge 채점, 언어별 집계, 이전 결과 비교와 My Drive 저장을 수행합니다. 케이스 실행 언어, 보고서 언어, `--optimize` instruction 언어를 각각 설정합니다. 저장 실패는 `aipctl eval upload <local-run-directory>`로 Agent 재호출 없이 재시도합니다.
|
|
172
|
+
|
|
173
|
+
새 결과는 My Drive의 `Agent Evaluations/<Agent name> [ID]`에 영문 중립 파일명으로 저장합니다. Markdown 본문과 CLI 안내는 설정한 `reportLocale`로 표시하고, CSV/JSON schema와 사용자 평가 증거는 번역하지 않습니다. 기존 v1/v2 결과는 조회하되 v3 결과와 자동 비교하지 않습니다.
|
|
174
|
+
|
|
175
|
+
공식 Judge는 [Judge 지침](evaluation/judge-instructions.md)의 전체 내용을 `AIP Evaluation Judge` (`BUILT_IN / MASTER / MASTRA`, `claude-5-sonnet`)에 등록하고 조직에 설치합니다. 별도 평가 Skill은 필요하지 않습니다. CLI는 실행 전에 공식 `aip-eval-v2` 설정과 instruction hash를 검사합니다. locale 설정, CSV, 저장 구조, 비교·복구 방법은 [평가 가이드](evaluation/README.md)를 참조하세요.
|