@aibyzero/byz 0.0.0 → 0.1.1

package/workflows/cm/skills/darwin-skill/README.md

@@ -0,0 +1,272 @@
+<div align="right">
+
+**[English](README_EN.md)** | 中文
+
+</div>
+
+![达尔文.skill](assets/banner.svg)
+
+<p align="center">
+  <img src="assets/hero.gif" alt="Darwin Skill Animation" />
+  <br/>
+  <sub>动画由 <a href="https://github.com/alchaincyf/huashu-design">huashu-design</a> skill 制作</sub>
+</p>
+
+<div align="center">
+
+# 达尔文.skill 2.0
+
+**像训练模型一样优化你的 Agent Skills。**
+
+受 [Andrej Karpathy 的 autoresearch](https://github.com/karpathy/autoresearch) 启发，将自主实验循环从模型训练搬到 Skill 优化领域。一个只能向前转的棘轮。
+
+**v2.0** · 更新于 2026-05-28 · 吸收微软研究院 [SkillLens](https://arxiv.org/abs/2605.23899) 与 [SkillOpt](https://arxiv.org/abs/2605.23904) 两篇论文做的系统性升级。
+
+[![License: MIT](https://img.shields.io/badge/License-MIT-yellow.svg)](LICENSE)
+[![Version](https://img.shields.io/badge/version-2.0-blue.svg)](#whats-new-in-20)
+[![Agent Skill](https://img.shields.io/badge/Agent%20Skill-Compatible-blueviolet)](https://skills.sh)
+[![Skills](https://img.shields.io/badge/skills.sh-Compatible-green)](https://skills.sh)
+[![Microsoft SkillOpt](https://img.shields.io/badge/Microsoft_SkillOpt-Listed_Integration-0078D4?logo=microsoft&logoColor=white)](https://github.com/microsoft/SkillOpt)
+
+```
+npx skills add alchaincyf/darwin-skill
+```
+
+</div>
+
+---
+
+> [!NOTE]
+> **🤝 微软研究院把达尔文列进了 SkillOpt 的官方集成名单。**
+> 2026-06-03，微软在 [SkillOpt 仓库](https://github.com/microsoft/SkillOpt) 的更新里写道：
+> *「gbrain, gbrain-evals, and **darwin-skill** have all integrated SkillOpt.」*
+> 我们吸收了它的 validation-gated 框架，它把达尔文写进了自己的集成名单。这是一次双向的致意。👉 [去 SkillOpt 仓库看看](https://github.com/microsoft/SkillOpt)
+
+---
+
+## What's New in 2.0
+
+2.0 不是缝缝补补，是系统性吸收微软研究院 2026-05-22 两篇论文后的结构性升级。五个变化：
+
+**1. 评分标准 8 维 → 9 维**（吸收 [SkillLens](https://arxiv.org/abs/2605.23899) 实证的 73.8% rubric 药方）
+
+- 原「错误处理」维度升级为 **失败模式编码** (Failure Mechanism Encoding)：不只是「告诉 agent 别犯错」，而是把已知失败路径显式编码进 skill
+- 原「明确性」维度升级为 **可执行具体性** (Actionable Specificity)：明文禁止「建议/可以考虑/根据情况/灵活把握/视情况而定」等模糊词
+- 新增第九维 **高风险行动黑名单** (High-Risk Action Blacklist)：rm/git reset --hard/force push 等破坏性操作必须在 skill 中显式列禁
+
+**2. 验证机制对齐 SkillOpt 的 validation-gated 设计**
+
+- 多评委独立审查：每轮启动 2 个独立评委
+- 评委不复用：下一轮启动全新评委，避免锚定效应
+- 早停机制：单轮涨幅 < 1 分自动停手，避免凑分堆冗余
+- 干跑模式控制：干跑比例 > 30% 自动告警
+
+**3. Human in the Loop 三层守关**（达尔文区别于 SkillOpt 全自动设计的核心）
+
+- Phase 1 基线评估：自动 + 人工审报告，决定改什么
+- Phase 2 单维度优化：🔴 CHECKPOINT 强制暂停，等用户确认
+- Phase 2.5 测试提示词跑（可选）
+- Phase 3 回归测试：🛑 STOP 涨幅低于阈值强制停手
+
+**4. 反例黑名单 8 条**（明文禁止的反模式）
+
+1. 同一个 AI 又改又评（SkillLens 实证：LLM 自评准确率仅 46.4%）
+2. 用 `git reset --hard` 当回滚手段（应用 `git revert`）
+3. 为凑分而堆冗余
+4. 跳过测试提示词直接评分
+5. 一轮内改多个维度
+6. 干跑比例 > 30%
+7. 静默跳过异常
+8. 忽视维度相关簇
+
+**5. 实测验证数据**
+
+- huashu-gpt-image skill：**80.8 → 91.5 → 91.65**（+10.85，6 个独立评委共识）
+- darwin-skill 自评：**86.05 → 92.05 → 92.7**
+
+---
+
+## 核心循环
+
+![Core Loop](assets/chart-loop.png)
+
+---
+
+## 为什么做这个
+
+Agent Skill 生态在快速扩张。Claude Code、Codex、OpenClaw、Trae、CodeBuddy 等工具都支持 SKILL.md 格式。当你有 10 个 Skills 时可以手动维护；当你有 60+ 个 Skills 时，你需要一个系统。
+
+传统的 Skill 审查是**纯结构性的**：检查格式对不对、步骤有没有编号、路径能不能访问。但一个格式完美的 Skill，跑出来的效果可能很差。
+
+达尔文.skill 同时评估**结构质量**和**实际效果**，然后只保留真正有改进的修改。
+
+---
+
+## 从 autoresearch 到 Skill Optimizer
+
+这个项目直接受 Karpathy autoresearch 启发。autoresearch 的做法是：写一个 `program.md` 定义目标和约束，让 agent 自主生成和测试代码变更，只保留可测量的改进。
+
+我们把同样的思路搬到了 Skill 优化：
+
+| autoresearch | 达尔文.skill | 为什么这样映射 |
+|:---|:---|:---|
+| `program.md` | 本 SKILL.md | 定义评估标准和约束规则 |
+| `train.py` | 每个待优化的 SKILL.md | 被优化的资产，每次实验只改它 |
+| `val_bpb` | 9 维加权总分（满分 100） | 可量化的优化目标 |
+| `git ratchet` | keep / revert 机制 | 只保留有改进的 commit |
+| `test set` | test-prompts.json | 验证改进是否真的有效 |
+| 全自主运行 | **人在回路** | Skill 的好坏比 loss 更微妙，需要人的判断 |
+
+---
+
+## 五条核心原则
+
+| # | 原则 | 说明 |
+|:---|:---|:---|
+| 01 | **单一可编辑资产** | 每次只改一个 SKILL.md，变量可控，改进可归因 |
+| 02 | **双重评估** | 结构评分（静态分析）+ 效果验证（跑测试看输出） |
+| 03 | **棘轮机制** | 只保留改进，自动回滚退步，分数只升不降 |
+| 04 | **独立评分** | 评分用子 agent，避免「自己改自己评」的偏差（SkillLens 实证 LLM 自评仅 46.4% 准确率） |
+| 05 | **人在回路** | 每个 Skill 优化完后暂停，用户确认再继续下一个 |
+
+---
+
+## 9 维度评估体系
+
+总分 100。结构维度靠静态分析，效果维度必须实测。v2.0 新增三个维度直接来自 SkillLens 论文的实证 rubric。
+
+![Evaluation Rubric](assets/chart-rubric.png)
+
+新增的三个维度（SkillLens 73.8% rubric 药方）：
+
+| 维度 | 说明 |
+|:---|:---|
+| **失败模式编码** | 显式编码已知失败路径，不是简单「别犯错」式叮嘱 |
+| **可执行具体性** | 禁用「建议/可以考虑/根据情况/灵活把握/视情况而定」等模糊措辞 |
+| **高风险行动黑名单** | rm / git reset --hard / force push 等破坏性操作必须明文列禁 |
+
+> 实测表现权重最高。Skill 写得再漂亮，跑出来效果不好就是零。
+
+---
+
+## 优化循环：5 个阶段
+
+系统在每个阶段内自主运行，但在阶段之间暂停等待人类确认。
+
+![Optimization Lifecycle](assets/chart-phases.png)
+
+**Phase 2 的核心逻辑**（v2.0 强化）：
+
+1. 找出得分最低的维度
+2. 针对该维度生成 1 个具体改进方案（一轮只改一个维度，反例黑名单第 5 条）
+3. 编辑 SKILL.md，git commit
+4. 启动 **2 个独立子 agent** 重新评分（下一轮换全新评委，避免锚定）
+5. 新分 > 旧分 → 保留；否则 → `git revert`（禁用 `git reset --hard`，反例黑名单第 2 条）
+6. 单轮涨幅 < 1 分 → 自动早停（避免凑分堆冗余）
+7. 🔴 CHECKPOINT 暂停，展示 diff + 分数变化，等用户确认
+
+---
+
+## 棘轮机制
+
+分数只能上升。每一轮要么改进 Skill，要么干净地回滚。不会随时间积累局部退化。
+
+![Ratchet Mechanism](assets/chart-ratchet.png)
+
+轮次 2 的 75 分低于当前最优的 78 分，被自动回滚。有效基线始终锁定在 78，后续改进从 78 继续。
+
+---
+
+## 快速开始
+
+```bash
+npx skills add alchaincyf/darwin-skill
+```
+
+安装后在任何支持 Skill 的 Agent 工具中说「优化所有skills」或「优化某个skill」就行。
+
+无法访问 GitHub 的朋友，可以直接下载 zip 包：[darwin-skill.zip](https://pub-161ae4b5ed0644c4a43b5c6412287e03.r2.dev/skills/darwin-skill.zip)，解压后把 SKILL.md 放到 `~/.claude/skills/darwin-skill/` 目录即可。
+
+---
+
+## 设计灵感
+
+这个项目的设计直接受 **Andrej Karpathy 的 [autoresearch](https://github.com/karpathy/autoresearch)** 启发。
+
+核心机制完全相同：**只保留可测量的改进，其余全部回滚。**
+
+v2.0 在此基础上吸收了微软研究院 2026-05-22 发布的两篇论文：[SkillLens](https://arxiv.org/abs/2605.23899) 提供了实证验证的 rubric 设计，[SkillOpt](https://arxiv.org/abs/2605.23904) 提供了 validation-gated edits 的形式化框架。
+
+---
+
+## References & Credits
+
+v2.0 的设计直接基于以下学术工作。强烈推荐 skill 生态的研究者和工程师阅读：
+
+### SkillLens
+
+> Microsoft Research. *From Raw Experience to Skill Consumption: A Systematic Study of Model-Generated Agent Skills.* arXiv:2605.23899, 2026.
+
+- 论文：https://arxiv.org/abs/2605.23899
+- **贡献**：实证验证的 73.8% rubric 药方。达尔文.skill v2.0 的三个新维度（Failure Mechanism Encoding / Actionable Specificity / High-Risk Action Blacklist）直接来自该论文。同时也是「同一个 AI 又改又评」反模式的实证来源——LLM 自评准确率仅 46.4%。
+
+### SkillOpt
+
+> Microsoft Research. *SkillOpt: Executive Strategy for Self-Evolving Agent Skills.* arXiv:2605.23904, 2026.
+
+- 🔗 **代码仓库**：[github.com/microsoft/SkillOpt](https://github.com/microsoft/SkillOpt)（`pip install skillopt`，v0.1.0 已上 PyPI）
+- 项目页：https://microsoft.github.io/SkillOpt/
+- 论文：https://arxiv.org/abs/2605.23904
+- **贡献**：validation-gated edits 的形式化框架。把 skill 当作 frozen 模型的「外部可训练状态」，每次编辑都必须通过独立验证才能保留。达尔文.skill v2.0 的多评委独立审查、评委不复用、早停机制、干跑比例控制都对齐了该框架。
+- 🤝 **双向印证**：2026-06-03，SkillOpt 官方仓库把 darwin-skill 写进了集成名单，原文是 *"gbrain, gbrain-evals, and darwin-skill have all integrated SkillOpt."* 它给我们框架，我们给它实战验证。
+
+### autoresearch
+
+> Andrej Karpathy. *autoresearch.* GitHub repository, 2026.
+
+- 代码：https://github.com/karpathy/autoresearch
+- **贡献**：达尔文.skill 1.0 的原始灵感来源。核心机制（program.md / train.py / val_bpb / git ratchet / test set）的映射逻辑完全继承自 autoresearch。
+
+**达尔文 vs SkillOpt 的关键区别**：SkillOpt 是全自主系统，达尔文.skill 强调 human-in-the-loop——Skill 的好坏比 validation loss 更微妙，关键阶段（基线评估、单维度优化、回归测试）强制暂停，让人来做最终判断。
+
+---
+
+## 关于作者
+
+| | |
+|:---|:---|
+| 🌐 官网 | [bookai.top](https://bookai.top) · [huasheng.ai](https://www.huasheng.ai) |
+| 𝕏 Twitter | [@AlchainHust](https://x.com/AlchainHust) |
+| 📺 B站 | [花叔](https://space.bilibili.com/14097567) |
+| ▶️ YouTube | [@Alchain](https://www.youtube.com/@Alchain) |
+| 📕 小红书 | [花叔](https://www.xiaohongshu.com/user/profile/5abc6f17e8ac2b109179dfdf) |
+| 💬 公众号 | 微信搜「花叔」 |
+
+---
+
+## 许可证
+
+MIT
+
+---
+
+<div align="center">
+
+**[女娲](https://github.com/alchaincyf/nuwa-skill)** 造 Skill。<br>
+**达尔文** 让 Skill 进化。<br><br>
+*只保留改进，时间就站在你这边。*
+
+<br>
+
+MIT License © [花叔 Huashu](https://github.com/alchaincyf)
+
+</div>
+
+---
+
+<div align="center">
+<sub>作者的其他项目 · also by 花叔</sub>
+
+[![FanBox · Coding Agent 的驾驶舱](https://raw.githubusercontent.com/alchaincyf/fanbox/master/assets/promo-banner.jpg)](https://github.com/alchaincyf/fanbox)
+
+</div>