claude-cli-analytics 0.0.5 → 0.0.6
This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
package/README.md
CHANGED
|
@@ -129,10 +129,9 @@ CLAUDE_PROJECTS_DIR=/path/to/claude/projects claude-cli-analytics
|
|
|
129
129
|
|------|----------|------|------|
|
|
130
130
|
| **캐시 히트율** | `cache_read / (input + cache_read) × 100` | ≥ 70% | 스킬(컨텍스트)이 자동으로 로드된 비율 |
|
|
131
131
|
| **스펙 컨텍스트 활용률** | `spec 파일 읽은 세션 / 전체 세션 × 100` | ≥ 90% | `.claude/` 스펙이 자동 트리거된 비율 |
|
|
132
|
-
| **위험 레벨** |
|
|
133
|
-
| **리미트 영향도** | `(총 컨텍스트 / 44,000) × 100%` | — | Claude Pro 5시간 한도 대비 사용량 |
|
|
132
|
+
| **위험 레벨** | 모델별 비용 가중 `avgContext × costMultiplier` | 최적 | 컨텍스트 과부하 경고 (모델별 기준 상이) |
|
|
134
133
|
|
|
135
|
-
**측정 방법**:
|
|
134
|
+
**측정 방법**: 세션별 캐시 히트 비율과 스펙 컨텍스트 로드 비율을 자동 추적합니다.
|
|
136
135
|
|
|
137
136
|
#### 2. 도구 호출 효율성 (Tool Call Efficiency)
|
|
138
137
|
|
|
@@ -163,29 +162,29 @@ CLAUDE_PROJECTS_DIR=/path/to/claude/projects claude-cli-analytics
|
|
|
163
162
|
|
|
164
163
|
### 🎯 정성적 지표 (Qualitative Metrics)
|
|
165
164
|
|
|
166
|
-
#### 4. 사용자 개입
|
|
165
|
+
#### 4. 사용자 개입 효율 (User Intervention Efficiency)
|
|
167
166
|
|
|
168
|
-
> *Anthropic 기준:
|
|
167
|
+
> *Anthropic 기준: 숙련된 사용자는 "능동적 모니터링" 전략을 취하므로, 단순 개입 횟수보다 **편집 대비 개입 비율**(HT/E)이 중요함*
|
|
169
168
|
|
|
170
169
|
| 지표 | 계산 방식 | 목표 | 의미 |
|
|
171
170
|
|------|----------|------|------|
|
|
172
|
-
| **
|
|
173
|
-
| **
|
|
174
|
-
|
|
|
171
|
+
| **HT/E** | `Human Turns / Edit 횟수` | < 1.0 | 코드 수정 1회당 인간 감독의 "세금" |
|
|
172
|
+
| **HT/E 개선율** | `(1 - HTE_spec / HTE_nospec) × 100` | 양수 | Spec 도입으로 인한 감독 감소 효과 |
|
|
173
|
+
| **자율 실행률** | `Auto Turns / (Auto + Human) × 100` | ≥ 60% | 사용자 개입 없이 진행된 비율 |
|
|
175
174
|
|
|
176
|
-
**측정 방법**:
|
|
175
|
+
**측정 방법**: Spec 유무별 HT/E를 자동 계산하여, Spec 도입이 인간 감독 부담을 실제로 줄이는지 정량화합니다.
|
|
177
176
|
|
|
178
177
|
#### 5. 워크플로우 자립 완료율 (Workflow Autonomy)
|
|
179
178
|
|
|
180
|
-
> *Anthropic 기준:
|
|
179
|
+
> *Anthropic 기준: SEI(Spec Efficiency Index)와 P99 자율 실행 시간이 에이전트의 자율성 한계를 보여주는 핵심 지표*
|
|
181
180
|
|
|
182
181
|
| 지표 | 계산 방식 | 목표 | 의미 |
|
|
183
182
|
|------|----------|------|------|
|
|
184
|
-
|
|
|
185
|
-
|
|
|
186
|
-
|
|
|
183
|
+
| **SEI** | `(Accuracy × 100) / log₁₀(CacheRead + 1)` | ≥ 25 (Elite) | Spec 문서의 실효성 지수 |
|
|
184
|
+
| **P99 자율 실행 시간** | 세션 시간의 99th percentile (분) | 증가 추세 | 에이전트에게 맡기는 최장 자율 실행 시간 |
|
|
185
|
+
| **효율성 점수** | 캐시·오류·작업 효율·비용 종합 (100점) | ≥ 80 | 워크플로우 자립 완성도 |
|
|
187
186
|
|
|
188
|
-
**측정 방법**:
|
|
187
|
+
**측정 방법**: Spec 유무별 SEI와 P99 자율 실행 시간을 비교하여, Spec이 에이전트의 자율적 작업 능력을 얼마나 향상시키는지 추적합니다. 평균 세션 시간 대신 99th percentile tail-end를 추적하는 것이 Anthropic의 권장 방법입니다.
|
|
189
188
|
|
|
190
189
|
#### 6. 세션 간 일관성 (Cross-Session Consistency)
|
|
191
190
|
|
|
@@ -195,7 +194,7 @@ CLAUDE_PROJECTS_DIR=/path/to/claude/projects claude-cli-analytics
|
|
|
195
194
|
|------|----------|------|------|
|
|
196
195
|
| **Engineering Grade** | Efficiency(40%) + Stability(30%) + Precision(30%) - Penalty | S급 | 세션별 품질 등급 일관성 |
|
|
197
196
|
| **등급 분포** | S/A/B/C 세션 비율 | S·A ≥ 80% | 전체 세션의 품질 편차 |
|
|
198
|
-
|
|
|
197
|
+
| **Spec 자율성 효과** | Spec 유무별 HT/E · SEI · P99 비교 | — | Spec 도입 효과의 정량적 입증 |
|
|
199
198
|
|
|
200
199
|
**측정 방법**: 신규 사용자가 최소한의 안내만으로 첫 시도에서 작업을 완료할 수 있는지 평가합니다.
|
|
201
200
|
|