math-skill 1.0.0 → 2.1.0

This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
Files changed (87) hide show
  1. package/README.en-US.md +313 -0
  2. package/README.md +313 -278
  3. package/agents/math-critic.en.md +235 -0
  4. package/agents/math-critic.md +237 -203
  5. package/commands/abstraction.md +11 -34
  6. package/commands/algorithmic-thinking.md +11 -34
  7. package/commands/ask.md +18 -21
  8. package/commands/axiomatization.md +11 -34
  9. package/commands/causal-inference.md +11 -34
  10. package/commands/discrete-combinatorial.md +11 -34
  11. package/commands/game-theory.md +11 -34
  12. package/commands/induction-analogy.md +11 -34
  13. package/commands/information-theory.md +11 -34
  14. package/commands/logic-deduction.md +11 -34
  15. package/commands/modeling.md +11 -37
  16. package/commands/optimization.md +11 -33
  17. package/commands/probability-statistics.md +11 -36
  18. package/commands/symmetry-invariance.md +11 -34
  19. package/commands/topological-thinking.md +11 -33
  20. package/commands/transformation.md +11 -33
  21. package/knowledge-base/overview.en.md +228 -0
  22. package/knowledge-base/overview.md +230 -230
  23. package/package.json +73 -59
  24. package/references/agentic-workflow.en.md +53 -0
  25. package/references/agentic-workflow.md +55 -0
  26. package/references/books/abstract-algebra.md +124 -0
  27. package/references/books/algebraic-geometry-rising-sea.md +171 -0
  28. package/references/books/differential-geometry.md +140 -0
  29. package/references/books/matrix-analysis.md +146 -0
  30. package/references/books/micro-lie-theory.md +116 -0
  31. package/references/books/optimization-ml.md +164 -0
  32. package/references/books/smooth-manifolds.md +105 -0
  33. package/references/gpu-friendly-math.en.md +65 -0
  34. package/references/gpu-friendly-math.md +67 -0
  35. package/references/inspiration.en.md +113 -0
  36. package/{docs → references}/inspiration.md +2 -0
  37. package/skills/abstraction/SKILL.en.md +117 -0
  38. package/skills/abstraction/SKILL.md +121 -264
  39. package/skills/abstraction/original-texts.en.md +163 -0
  40. package/skills/algorithmic-thinking/SKILL.en.md +132 -0
  41. package/skills/algorithmic-thinking/SKILL.md +138 -371
  42. package/skills/algorithmic-thinking/original-texts.en.md +253 -0
  43. package/skills/axiomatization/SKILL.en.md +144 -0
  44. package/skills/axiomatization/SKILL.md +151 -213
  45. package/skills/axiomatization/original-texts.en.md +154 -0
  46. package/skills/causal-inference/SKILL.en.md +147 -0
  47. package/skills/causal-inference/SKILL.md +151 -374
  48. package/skills/causal-inference/original-texts.en.md +136 -0
  49. package/skills/discrete-combinatorial/SKILL.en.md +124 -0
  50. package/skills/discrete-combinatorial/SKILL.md +131 -286
  51. package/skills/discrete-combinatorial/original-texts.en.md +184 -0
  52. package/skills/game-theory/SKILL.en.md +117 -0
  53. package/skills/game-theory/SKILL.md +123 -318
  54. package/skills/game-theory/original-texts.en.md +131 -0
  55. package/skills/induction-analogy/SKILL.en.md +145 -0
  56. package/skills/induction-analogy/SKILL.md +152 -310
  57. package/skills/induction-analogy/original-texts.en.md +140 -0
  58. package/skills/information-theory/SKILL.en.md +134 -0
  59. package/skills/information-theory/SKILL.md +140 -242
  60. package/skills/information-theory/original-texts.en.md +127 -0
  61. package/skills/logic-deduction/SKILL.en.md +130 -0
  62. package/skills/logic-deduction/SKILL.md +135 -280
  63. package/skills/logic-deduction/original-texts.en.md +160 -0
  64. package/skills/math-research-activator/SKILL.en.md +132 -0
  65. package/skills/math-research-activator/SKILL.md +136 -0
  66. package/skills/math-research-activator/original-texts.en.md +105 -0
  67. package/skills/{meta-selector → math-research-activator}/original-texts.md +104 -104
  68. package/skills/modeling/SKILL.en.md +135 -0
  69. package/skills/modeling/SKILL.md +139 -318
  70. package/skills/modeling/original-texts.en.md +162 -0
  71. package/skills/optimization/SKILL.en.md +129 -0
  72. package/skills/optimization/SKILL.md +135 -292
  73. package/skills/optimization/original-texts.en.md +167 -0
  74. package/skills/probability-statistics/SKILL.en.md +146 -0
  75. package/skills/probability-statistics/SKILL.md +151 -312
  76. package/skills/probability-statistics/original-texts.en.md +191 -0
  77. package/skills/symmetry-invariance/SKILL.en.md +135 -0
  78. package/skills/symmetry-invariance/SKILL.md +139 -358
  79. package/skills/symmetry-invariance/original-texts.en.md +206 -0
  80. package/skills/topological-thinking/SKILL.en.md +124 -0
  81. package/skills/topological-thinking/SKILL.md +128 -273
  82. package/skills/topological-thinking/original-texts.en.md +134 -0
  83. package/skills/transformation/SKILL.en.md +120 -0
  84. package/skills/transformation/SKILL.md +124 -264
  85. package/skills/transformation/original-texts.en.md +204 -0
  86. package/docs/CLAUDE.md +0 -187
  87. package/skills/meta-selector/SKILL.md +0 -188
@@ -0,0 +1,53 @@
1
+ # Agentic Research Workflow / Human-in-the-Agent-Loop
2
+
3
+ > Distilled from frontline auto-research practice (Infra / Algorithms / Chip Co-design). It defines the **collaborative mindset** this skill expects: what humans do, what the agent does, and what loop grounds "activating mathematical capability" in practice.
4
+ > The activator references this file at runtime. This file defines the collaboration style the skill expects.
5
+
6
+ ## Creed
7
+
8
+ 1. **The mathematical foundation of this AI revolution is the first time 20th-century mathematics has stepped onto the commercial computing stage** — category theory, algebraic topology, algebraic geometry. The mathematical foundations of most mainstream algorithms still largely rest on the calculus and linear algebra of 1800–1900. Activating modern mathematics in algorithm design is the most important task during the algorithm exploration phase.
9
+ 2. **Humility**: The breadth of knowledge from the pre-training stage already surpasses any individual. **More knowledge is learned from the model than taught to it.** Letting go of the bias toward "teaching the model" usually yields better results.
10
+ 3. **Mathematical beauty ≠ computability**: Many mathematically elegant constructs break down in the face of GPU parallelism and low-precision arithmetic errors. Every deliverable must pass the acceptance gate defined in `gpu-friendly-math.md`.
11
+
12
+ ## Division of Labor
13
+
14
+ **Humans are responsible for (what humans excel at and find most valuable):**
15
+ - **Cross-domain activation**: Transferring the structure of one domain to another. The model already contains sufficient internal knowledge, but "without someone to activate it, that knowledge is unlikely to be developed." Example: applying algebraic geometry perspectives to study model architectures; historically, the correspondence between fiber bundles and gauge fields — the structure was already there, awaiting only a single cross-domain activation.
16
+ - **Avoid hard-coding subjective bias**: The more rules you add, the more you constrain the model's ability to explore alternatives. To get good results, **do not impose human subjective preferences by force.**
17
+ - **Expanding cognitive context with the model**: The human brain can manually compare at most 2–3 variables simultaneously, while the model's long context window can weigh many at once. Leveraging the model to expand an individual's cognitive context is a core principle of agentic development.
18
+ - **Choosing directions and setting acceptance gates**: Deciding which path to explore and what standards to apply for acceptance.
19
+
20
+ **The Agent is responsible for (what the model excels at):**
21
+ - **Large-context search and enumeration**: Enumerating large numbers of candidate structures, comparing multi-parameter combinations in parallel.
22
+ - **Verification**: Checking mathematical correctness + GPU feasibility.
23
+ - **Building and executing test plans**: Recording research tasks as trackable markdown tables, autonomously adding new cases, fixing compilation errors, and retrying on failure.
24
+
25
+ ## The Activation Loop
26
+
27
+ > The activator's `Diagnosis → Mapping → GPU Filtering` main pipeline is a distillation of this loop.
28
+
29
+ 1. **Diagnosis**: What is the algorithmic structure / bottleneck of the problem? (Do not start by piling on math tutorials.)
30
+ 2. **Cross-domain activation**: Scan `books/*.md` for transferable modern mathematical structures, **enumerate multiple candidates** (leveraging the model's large-context advantage).
31
+ 3. **Dual acceptance gate**: Each candidate passes two gates — (1) Mathematically correct (differentiable, self-consistent, with correctness guarantees); (2) GPU-feasible (the eight dimensions of `gpu-friendly-math.md`).
32
+ 4. **Iterative tracking**: Record candidates, scores, and status in a markdown test plan, converging step by step.
33
+
34
+ ## Markdown Test Plan Template / Tracking Template
35
+
36
+ Record research tasks in a table that the Agent can continuously update:
37
+
38
+ ```markdown
39
+ | Candidate Structure | Math Correctness | GPU 8-Dim | Complexity | Status | Notes / Next Steps |
40
+ |--------------------|-----------------|-----------|------------|--------|-------------------|
41
+ | Tropical gating replacing TopK | ✅ Differentiable relaxation | 1✅2❌3✅… | Sub-quadratic (per-token) | Verifying | Compare with SWA baseline |
42
+ | … | | | | Todo | |
43
+ ```
44
+
45
+ The Agent is responsible for tracking execution and updating this table; the human is responsible for reading the table and adjusting direction.
46
+
47
+ ## Operating Principles
48
+
49
+ - **Diagnose first, then map, then filter** — do not produce lengthy math tutorials; go straight to structural mapping and GPU feasibility.
50
+ - **Preserve exploratory freedom**: Add fewer hard rules; leave room for the model to explore.
51
+ - **Humans should be "lazy"**: Delegate all tedious work to the Agent; humans focus only on cross-domain activation and directional judgment.
52
+ - **Progressive disclosure**: The methodology layer, GPU checklist, and book layer are all loaded on demand; only the minimal trigger and diagnostic logic stays resident, to save tokens.
53
+ - **Do not create a pile of skills / rules right away**: The model already has many capabilities; use them fully first, then add structure.
@@ -0,0 +1,55 @@
1
+ > **语言路由**:若用户消息为英文,请读取并遵循同目录下的 `agentic-workflow.en.md`。
2
+
3
+ # Agentic 研究工作方式 / Human-in-the-Agent-Loop
4
+
5
+ > 提炼自一线 auto-research 实践(Infra / 算法 / 芯片 Co-design)。它定义本 skill 期望的**协作思维方式**:人做什么、Agent 做什么、用什么循环把"激发数学能力"落地。
6
+ > activator 在工作时引用本文件。This file defines the collaboration style the skill expects.
7
+
8
+ ## 核心信条 / Creed
9
+
10
+ 1. **这一次 AI 革命的数学基础,是 20 世纪数学第一次登上商用计算舞台**——范畴论、代数拓扑、代数几何。当前主流算法的数学基础大多还停留在 1800–1900 年代的微积分/线性代数。把现代数学激活进算法设计,是算法探索阶段最重要的事。
11
+ 2. **谦卑**:模型预训练阶段的知识在广度上已超越任何个人。**更多是从模型里学知识,而不是教模型做事**。放下"教模型"的偏见,结果通常更好。
12
+ 3. **数学美 ≠ 可算**:很多数学上很美的东西,遇到 GPU 并行与低精度误差就不能用。任何产出都要过 `gpu-friendly-math.md` 的验收门。
13
+
14
+ ## 分工 / Division of Labor
15
+
16
+ **人负责(人类擅长、且最有价值的部分):**
17
+ - **跨领域激活**:把一个领域的结构迁移到另一个领域。模型内部已有足够知识,但"没有人去激活它就很难被开发出来"。例:用代数几何观点研究模型结构;历史上纤维丛与规范场的对应——结构本就在那里,只差一次跨域激活。
18
+ - **不把主观偏见写死**:规则加得越多,越会限制模型探索更多可能。要好结果,**别把人的主观意愿硬塞进去**。
19
+ - **用模型扩大认知 context**:人脑同时手工比较的可变因子最多 2–3 个,模型的长上下文能同时权衡很多。借模型扩大个人认知的 context,是 agentic 开发的核心原则。
20
+ - **选方向、定验收门**:决定探索哪条路、用什么标准验收。
21
+
22
+ **Agent 负责(模型擅长的部分):**
23
+ - **大上下文搜索与枚举**:枚举大量候选结构、并行比较多参数组合。
24
+ - **验证**:检验数学正确性 + GPU 可行性。
25
+ - **构建并执行 testplan**:把研究任务写成 markdown 表格追踪,自主新增 case、编译纠错、失败重试。
26
+
27
+ ## 工作循环 / The Activation Loop
28
+
29
+ > activator 的 `诊断 → 映射 → GPU 筛选` 主流程就是这个循环的浓缩。
30
+
31
+ 1. **诊断**:问题的算法结构 / 瓶颈是什么?(不要一上来堆数学科普。)
32
+ 2. **跨域激活**:用 `books/*.md` 扫描可迁移的现代数学结构,**枚举多个候选**(发挥模型大上下文优势)。
33
+ 3. **双验收门**:每个候选过两关——① 数学正确(可微、自洽、有保证);② GPU 可行(`gpu-friendly-math.md` 八维)。
34
+ 4. **迭代追踪**:用 markdown testplan 记录候选、评分、状态,逐步收敛。
35
+
36
+ ## markdown testplan 模板 / Tracking Template
37
+
38
+ 把研究任务写进一张可被 Agent 持续更新的表:
39
+
40
+ ```markdown
41
+ | 候选结构 | 数学正确性 | GPU 八维 | 复杂度 | 状态 | 备注/下一步 |
42
+ |---------|-----------|---------|-------|------|-----------|
43
+ | 热带门控替代 TopK | ✅ 可微松弛 | 1✅2❌3✅… | 亚二次(逐token) | 验证中 | 对比 SWA 基线 |
44
+ | … | | | | 待办 | |
45
+ ```
46
+
47
+ Agent 负责追踪执行并更新此表;人负责读表、调方向。
48
+
49
+ ## 原则清单 / Operating Principles
50
+
51
+ - **先诊断,再映射,最后筛选**——不做大段数学科普,直奔结构映射与 GPU 可行性。
52
+ - **保留探索自由**:少加硬规则,给模型留出探索空间。
53
+ - **人要"懒"**:把琐碎工作全交给 Agent,人只做跨域激活与方向判断。
54
+ - **渐进式披露**:方法论层、GPU 清单、书籍层都按需加载,常驻只留最短的触发与诊断逻辑,省 token。
55
+ - **不要一来就造一堆 skill / 规则**:模型本身已有很多能力,先用足,再补结构。
@@ -0,0 +1,124 @@
1
+ # 🔢 抽象代数 / Abstract Algebra
2
+
3
+ > **Contemporary Abstract Algebra**, Eighth Edition · Joseph A. Gallian · Brooks/Cole, Cengage Learning.
4
+ > 本文件是「激活」参考:把书里的群/环/域结构映射到 ML/算法/Infra,不复述原文。全保真回查见文末「深挖入口」。
5
+
6
+ ## 概要
7
+
8
+ 本书是标准本科抽象代数教材,主线三段:**群 → 环 → 域**,从公理出发,重点讲**对称、结构守恒的映射(同态/同构)、商结构、有限对象的分类与计数**。对 AI 的价值不在定理本身,而在它给出的**「在某种变换下保持不变」的语言**——这正是等变网络、置换不变聚合、编码与哈希的代数底座。
9
+
10
+ 一句话激活观点:**对称性是一种免费的归纳偏置(inductive bias)**。与其让模型从数据里硬学"旋转后还是同一只猫",不如把对称群 G 的作用直接编进网络结构,让参数沿轨道共享——既省参数又给出泛化保证。群(变换本身)→ 环(带两种运算的代数,松弛后给出广义矩阵乘)→ 域(算术封闭且精确,给出编码与哈希)这条主线,恰好覆盖了"等变 / 广义 GEMM / 容错计算"三类 Infra 需求。
11
+
12
+ **本书的边界(避免误用)**:Gallian 是初等本科教材,**只讲环、不讲半环**(热带半环要自行做公理松弛);表示论只到有限阿贝尔群的层面,**不展开非阿贝尔表示论与字符理论**;不涉及范畴论、模、同调代数。需要这些更现代的工具时,本书只作"激活起点",深入要转到表示论/代数几何专著。
13
+
14
+ 真实章节地图(按主题归并,章号取自本书目录):
15
+
16
+ - **群的基础**:1 Introduction to Groups(二面体群 Dₙ 即对称群范例)、2 Groups、3 Finite Groups; Subgroups、4 Cyclic Groups。
17
+ - **对称与作用**:5 Permutation Groups(轨道 orbit / 稳定子 stabilizer)、6 Isomorphisms、7 Cosets and Lagrange's Theorem、8 External Direct Products。
18
+ - **商与同态**:9 Normal Subgroups and Factor Groups、10 Group Homomorphisms、11 Fundamental Theorem of Finite Abelian Groups。
19
+ - **环**:12 Introduction to Rings、13 Integral Domains、14 Ideals and Factor Rings、15 Ring Homomorphisms、16 Polynomial Rings、17 Factorization of Polynomials、18 Divisibility in Integral Domains。
20
+ - **域与扩张**:19 Vector Spaces、20 Extension Fields、21 Algebraic Extensions、**22 Finite Fields**、23 Geometric Constructions。
21
+ - **进阶群论**:24 Sylow Theorems、25 Finite Simple Groups、26 Generators and Relations。
22
+ - **对称的应用**:27 Symmetry Groups、28 Frieze and Crystallographic Groups、**29 Symmetry and Counting**(Burnside 计数)、30 Cayley Digraphs of Groups。
23
+ - **编码与 Galois**:**31 Introduction to Algebraic Coding Theory**(Hamming 码、有限域上的线性码)、**32 An Introduction to Galois Theory**、33 Cyclotomic Extensions。
24
+
25
+ ## 可迁移到 AI/Infra 的核心结构
26
+
27
+ | 代数结构(章号) | 一句话本质 | ML/Infra 对应 |
28
+ |---|---|---|
29
+ | **群作用 group action**(5, 29)| G 作用在输入空间上,轨道-稳定子定理 \|orbit\|=\|G\|/\|stab\| | 等变层 + **权重共享**:参数在一条轨道上复用 |
30
+ | **同态 homomorphism**(10, 15)| 保运算的映射 φ(ab)=φ(a)φ(b) | **表示 representation** = 同态 G→GL(V)(书中即 GL(2,F));可学习线性作用 |
31
+ | **商/因子结构 quotient**(9, 14)| 对正规子群/理想取商 = "遗忘"一个对称方向 | 池化 / 粗化 / 等变下采样:对 Sₙ 取商 = 置换不变聚合 |
32
+ | **循环 & 有限阿贝尔群**(4, 11)| Zₙ 的周期结构,任意有限阿贝尔群 ≅ 循环群直积 | DFT/FFT、循环卷积、RoPE(SO(2)/循环旋转的表示)|
33
+ | **环 ring**(12–14)→ 放松公理 | 去掉加法逆元公理 → **半环 semiring**(书本身只讲环,半环是公理松弛)| 广义矩阵乘:把 (×,+) 换成 (+, min/max) 的 **min-plus / 热带半环 tropical semiring** GEMM |
34
+ | **有限域 GF(pⁿ)**(22, 16, 17)| 元素有限、算术封闭精确的域 | 纠错码、哈希/LSH、CRC、Shamir 秘密共享、量化码本 |
35
+ | **线性码 linear code**(31)| 有限域 F 上的 k 维子空间,生成矩阵 G、Hamming 距离/权重 | 鲁棒存储/通信、梯度压缩、容错训练、安全聚合 |
36
+
37
+ ### 三个最值得激活的映射(展开)
38
+
39
+ - **群作用 → 等变 + 权重共享**:轨道-稳定子定理 \|orbit\|=\|G\|/\|stab\|(5 章)正是"权重共享"的代数解释——同一轨道上的输入共用一组参数,独立参数量按群阶被压缩 \|G\| 倍。等变约束 f(g·x)=ρ(g)·f(x) 串起一族真实模型:CNN(平移群)、Group Equivariant CNN(Dₙ 旋转/镜像 steerable filter)、DeepSets / Set Transformer(Sₙ 置换不变)、E(3)-等变 GNN(刚体群,分子/点云)。
40
+ - **环公理松弛 → 半环 → 广义 GEMM**:本书 12–14 章给出环的两条运算 (+,×) 与公理;**去掉加法逆元**(即不再要求减法可逆)就得到半环。把通用矩阵乘 C=A⊗B 里的 (×,+) 抽象成任意半环 (⊙,⊕),一套代码即可同时表达标准 GEMM、布尔可达性 (∧,∨)、最短路/Viterbi/DTW (+, min)。这是把"动态规划"装进矩阵乘的统一视角。
41
+ - **有限域 → 精确可重放算术**:GF(pⁿ)(22 章,由多项式环模不可约多项式构造,见 16–17 章)的算术封闭且**无浮点误差**,天然适合需要可重放、可验证、可纠错的场景:Reed-Solomon / Hamming 纠错码(31 章)、Shamir 秘密共享(GF(p) 多项式插值)、一致性哈希与 LSH。
42
+
43
+ ## 适合激活的问题类型
44
+
45
+ - 输入带**明确对称性**:平移、旋转、镜像(Dₙ)、置换(Sₙ)、周期(Zₙ)——想要等变/不变而非靠数据增强硬学。
46
+ - 需要**硬选择/离散路由**但要端到端可微(Top-K、最短路、对齐)——可用半环松弛。
47
+ - 需要**鲁棒压缩/通信/存储**:KV-Cache、梯度、checkpoint 的容错与压缩。
48
+ - 需要把**周期/循环结构**嵌进位置编码或 token 混合。
49
+ - 需要把一条**约束/守恒律**写成可学习的线性映射,天然落到 GEMM。
50
+
51
+ ## 可能的算法启发
52
+
53
+ 1. **群等变层 G-equivariant layer**(源:5, 6, 10):把对称群 G 的作用实现为置换/旋转矩阵 ρ(g),权重沿轨道共享,约束 f(g·x)=ρ(g)·f(x)。实现上对每个 g∈G 把输入用 ρ(g) 变换后过同一组权重,再聚合——相当于把卷积核扩成 [\|G\|, C_out, C_in] 的 batched GEMM,独立参数量 ↓\|G\| 倍。落地模型:CNN(平移)、G-CNN(Dₙ steerable filter)、DeepSets/Set Transformer(Sₙ)、E(3)-等变 GNN(点云/分子)。
54
+ 2. **热带 / min-plus 注意力与路由**(源:12–14 环公理松弛):把 softmax 的 (×,+)+exp 换成 (+, min/max) 的 min-plus matmul:score⊕=min_k(Q_ik+K_kj)。硬 Top-K 路由 → 热带半环**分段线性门控**(次可微——折点需 LogSumExp 软化,软化后退回标准 softmax;替代不可微的 argmax)。Viterbi、DTW、最短路本质都是这条 min-plus matmul——见 `../gpu-friendly-math.md` 的 Tropical Gating 范例(只在低维门控用、且**不上 Tensor Core**——max/min 落 CUDA core,主干仍走标准 (×,+) GEMM)。
55
+ 3. **置换不变聚合 permutation-invariant aggregation**(源:9, 29):对 Sₙ 作用取商即得 sum/max/mean pooling——天然 O(n) 且并行友好,是 DeepSets ρ(Σφ(xᵢ)) 与 GNN message passing 的代数基础。Burnside 计数(29)可在设计期估"本质不同的配置有多少",用于预测参数节省比与数据去重收益。
56
+ 4. **有限域编码做 Infra**(源:22, 31):线性码 c=mG(生成矩阵 G 在 GF(q) 上)做容错存储与梯度压缩,Hamming 距离给纠错能力下界;Shamir 秘密共享(GF(p) 多项式插值,t 个分片可恢复)做联邦学习安全聚合;有限域哈希/CRC 做去重与一致性校验。共性:纯 int/bitwise,放数据流前后处理。
57
+ 5. **循环群表示 → 频域 token mixing**(源:4, 11):Zₙ 的不可约表示即 DFT 基,催生 FFT 卷积(O(n log n) 取代 O(n²))、RoPE(把位置编成 SO(2) 旋转、即 Z 上的酉表示)、循环/相对位置编码。有限阿贝尔群分类定理(11)保证任意此类周期结构都可分解成循环分量做 FFT。
58
+ 6. **群上的傅里叶 / 谱方法**(源:10 同态 + 4/11):把表示论的不可约分解推广到一般有限群,得到群卷积定理——谱 GNN、球面 CNN(SO(3) 上的调和分析)即其特例;代价是非阿贝尔群的快速变换不一定存在,需评估复杂度。
59
+
60
+ ## GPU 友好性警告
61
+
62
+ > 八维标准与判分规则唯一来源:`../gpu-friendly-math.md`(张量化 / GEMM 可映射 / 复杂度 / 显存 / 低精度 / 并行 / 稀疏 / 算子融合)。此处只给本书结构的逐维裁决。
63
+
64
+ **焦点 A:半环 GEMM 能上 Tensor Core 吗?——默认不能。**
65
+
66
+ - **维度 2 GEMM 可映射(❌不友好)**:Tensor Core 硬件只做 (×,+) 的 MAC(fp16/bf16/fp8 累加到 fp32)。min-plus / max-plus 用的是 (+, min/max),**非原生**,朴素 tropical GEMM 退化到 CUDA core 标量比较,吃不到 Tensor Core。
67
+ - **维度 3 复杂度(❌)**:min-plus 矩阵乘没有 Strassen 式亚立方加速(等价于 APSP 难题),朴素 O(n³)。
68
+ - **维度 5 低精度(✅)**:tropical 用 max/min,无 exp 上溢,反而数值稳健。
69
+ - **维度 8 可微/融合(⚠️可改造)**:min/max 不可微,需松弛。
70
+ - **改造(→ 八维转友好)**:① log-sum-exp 软化 min/max 退回 (×,+) 稳定 softmax,重上 Tensor Core;② 把热带运算**只放在低维门控**,主干仍走标准 (×,+) GEMM(范例文件中 Tropical Gating = dim 1✅张量化 / 2❌非 Tensor Core GEMM / 3✅逐 token 门控亚二次,dim 8 需 LogSumExp 软化);③ 分块——块内标准 GEMM、块间 min-plus 归约。
71
+
72
+ **焦点 B:群操作能张量化吗?——小群能,大群和精确算术不能。**
73
+
74
+ - **有限群作用(维度 1/2 ✅)**:置换矩阵 / 稠密表示矩阵 → batched GEMM,G-CNN 已工程化。正交的旋转/置换矩阵在 bf16 下数值稳定(维度 5 ✅)。
75
+ - **大群枚举(维度 3/4 ❌)**:\|Sₙ\|=n! 爆炸,显式枚举群元素 → 显存与算力爆。**改造**:只用生成元(26 Generators and Relations)+ Cayley 图(30)做局部传播,不物化整群。
76
+ - **置换 = gather/scatter(维度 7/1/8 ❌)**:实现为不规则 gather/scatter 会 warp divergence。**改造**:固定置换模式预编译为结构化稀疏或 dense 索引。
77
+ - **有限域 / 模算术(维度 2 ❌、维度 1/6 ✅)**:mod p、GF(2ⁿ)、XOR、查表**不是浮点 MAC**,吃不到 Tensor Core,但在 int/bitwise kernel 上高并行。结论:**适合放编码/哈希的前后处理,绝不放进训练主干 GEMM**。Galois/精确域算术要求 int、不可微,违反维度 8。
78
+
79
+ **判分结论**:群等变(小群、稠密表示)与频域结构 = 数学美 × GPU 友好,可进主干;半环、有限域、精确 Galois = 需先松弛/隔离,否则只能当辅助算子或离线工具。
80
+
81
+ **范例对照(候选 × 八维裁决)**:
82
+
83
+ | 候选设计 | 代数来源(章) | 关键维度裁决 | 进主干? |
84
+ |---|---|---|---|
85
+ | 群等变层(小群 Dₙ/Sₙ,置换+旋转矩阵)| 5, 6, 10 | 1✅ 2✅ 5✅,群大时 3/4❌ | ✅(限小群/生成元)|
86
+ | 热带门控(低维 min-plus 取代硬 Top-K)| 12–14 松弛 | 1✅ 2✅ 8 需松弛,主干仍 (×,+) | ✅(仅门控)|
87
+ | 纯 min-plus 主干注意力 | 12–14 松弛 | 2❌ Tensor Core 不支持、3❌ O(n³) | ❌(先 log-sum-exp 软化)|
88
+ | 有限域编码压缩 KV/梯度 | 22, 31 | 2❌ 非浮点 MAC,1/6✅ int 并行 | ❌主干 / ✅前后处理 |
89
+ | 循环群表示(FFT/RoPE token mixing)| 4, 11 | 1✅ 2✅ 3✅(n log n)| ✅ |
90
+
91
+ ## 该调用哪个思想武器
92
+
93
+ - **主:`symmetry-invariance`(对称与不变性)**——群作用、等变/不变、轨道-稳定子是本书与 ML 的最大接口。
94
+ - **副:`abstraction`**——提取群/环/域的公共结构,看穿"不同模块其实是同一代数对象"。
95
+ - **副:`axiomatization`**——放松环公理得半环、逐条核对所设代数性质是否真成立(防伪对称)。
96
+ - **副:`transformation`**——同态/同构作等价转换、FFT/频域变换简化问题。
97
+ - **副:`discrete-combinatorial`**——有限群计数(Burnside, 29)、编码(31)、有限域枚举(22)。
98
+
99
+ 典型组合链:先 `symmetry-invariance` 识别问题里的群与不变量 → `abstraction` 抽出公共代数结构 → `axiomatization` 核对公理是否真成立(防伪对称、防误用减法)→ `transformation` 落成可学习线性映射 → 最后过 `../gpu-friendly-math.md` 八维门。
100
+
101
+ ## 反模式
102
+
103
+ - **把"群之美"硬塞进主干却吃不到 Tensor Core**:tropical / 有限域算术当 GEMM 用,实测全程 CUDA core 标量。
104
+ - **枚举整群**而非用生成元(\|Sₙ\|=n! / \|GL\| 爆显存)。
105
+ - **死磕精确 Galois / 有限域结构**:导致不可微、必须 int、阻断端到端梯度。
106
+ - **过度对称约束**:把"近似对称/伪对称"写成硬等变,扼杀表达力与模型探索(呼应 agentic-workflow 的"别把主观偏见写死")。
107
+ - **混淆环与半环**:默认有加法逆元做减法/求逆,到 min-plus 上不成立 → 正确性出错。
108
+ - **为"群之美"造一堆模块**:能用现成等变库/FFT 时不要新造 skill;先用足模型已有能力,再补结构(呼应 agentic-workflow "不要一来就造一堆 skill")。
109
+ - **把同态当同构**:同态可丢信息(有核 kernel),误当可逆双射会导致重构/解码错误。
110
+
111
+ ## 深挖入口
112
+
113
+ > **📖 书目信息**:Joseph A. Gallian, *Contemporary Abstract Algebra*, 8th Edition, Brooks/Cole, Cengage Learning, 2013. ISBN 978-1-133-59971-5.
114
+ >
115
+ > **启用方式**:将 `Contemporary Abstract Algebra.pdf` 放入项目根目录的 `math_book/` 文件夹,Agent 即可自动搜索原文。PDF 不随 npm/git 分发(版权原因),需自行获取。
116
+
117
+ > **全保真回查 = Agent 自动搜索本地 PDF**:`math_book/Contemporary Abstract Algebra.pdf`。需要精确定义/定理/例子时,让 Agent 按下列真实章号定向略读,不要凭记忆;若安装环境没有 `math_book/`,停在本蒸馏稿层。
118
+
119
+ - **Ch 5 Permutation Groups**——轨道 orbit / 稳定子 stabilizer:等变权重共享的根。
120
+ - **Ch 22 Finite Fields**——GF(pⁿ) 构造与算术:编码/哈希/安全聚合的底座。
121
+ - **Ch 29 Symmetry and Counting**——Burnside 计数:估等价类数 / 参数节省。
122
+ - **Ch 31 Introduction to Algebraic Coding Theory**——Hamming 码、有限域上的线性码(生成矩阵、Hamming 距离/权重):压缩与容错。
123
+ - **Ch 32 An Introduction to Galois Theory**——域扩张的对称群:结构化变换的范例(落地需先过 GPU 门)。
124
+ - (半环松弛起点:Ch 12–14 环公理 → 去加法逆元 → 热带半环。)
@@ -0,0 +1,171 @@
1
+ # 🌊 代数几何(The Rising Sea)/ Algebraic Geometry
2
+
3
+ > 《The Rising Sea: Foundations of Algebraic Geometry》,Ravi Vakil 著,Princeton University Press,2025 年版(ISBN 978-0-691-26866-8)。
4
+ > 书名取自 Grothendieck 的"涨潮(la mer monte)"比喻:不正面强攻坚果般的难题,而是让抽象之水(范畴、层、上同调)缓缓上涨,悄无声息地淹没并瓦解问题。
5
+ > 本文件把这套"涨潮式抽象"蒸馏成 AI/GPU 的可激活算法结构——只取最能迁移的骨架,不复述原书证明。
6
+
7
+ ## 概要
8
+
9
+ 本书用约 30 章、从零搭起 Grothendieck 学派的现代代数几何(algebraic geometry):核心是把**几何对象翻译成交换代数(commutative algebra)**,再用**层(sheaf)+ 上同调(cohomology)**度量"局部数据能否黏成全局"。
10
+
11
+ 对 AI 而言,真正可迁移的不是椭圆曲线或除子,而是三件抽象机械:
12
+
13
+ - **层(sheaf)= 局部数据 + 一致黏合(gluing)**——图上几何感知聚合的本体。
14
+ - **上同调(cohomology)= 全局一致性的障碍度量(obstruction)**——幻觉/不一致的代数判据。
15
+ - **范畴(category)= 统一不同构造的接口**——把异构算子收拢为一套伴随(adjoint)关系。
16
+
17
+ 一句话:**层管"怎么把局部拼成全局",上同调管"拼不起来时差在哪",范畴管"用同一套语言说所有这些事"。**
18
+
19
+ ### 真实章节地图
20
+
21
+ 按本书章号(`*`/`**` 为进阶节):
22
+
23
+ - **Part I 预备(Preliminaries)**
24
+ - **§1 Just Enough Category Theory to Be Dangerous**:§1.1 范畴与函子,§1.2 泛性质(universal property),§1.3 极限与余极限(limits/colimits),§1.4 伴随(adjoints),§1.5 阿贝尔范畴(abelian categories),§1.6\* 谱序列(spectral sequences)。
25
+ - **§2 Sheaves**:§2.1 动机(光滑函数层),§2.2 层与预层定义,§2.3 态射,§2.4 茎与层化(stalks & sheafification),§2.5 sheaf on a base,§2.6 OX-模构成阿贝尔范畴,§2.7 逆像层(inverse image sheaf)。
26
+ - **Part II 概形(Schemes)**:§3 仿射概形的集合与拓扑空间(Zariski 拓扑、generic point),§4 结构层与概形定义,§5 概形的性质,§6 拟凝聚层(quasicoherent sheaves)。
27
+ - **Part III 概形的态射(Morphisms)**:§7 概形态射(§7.7 Grassmannian 第一构造),§8 各类有限性态射(§8.4 Chevalley 定理与消元理论),§9 闭嵌入,§10 纤维积与基变换(§10.6 Segre 嵌入),§11 分离与紧合态射、簇(varieties)。
28
+ - **Part IV 概形的"几何"性质**:§12 维数,§13 正则性与光滑性(§13.1 Zariski 切空间)。
29
+ - **Part V 概形上的拟凝聚层及其应用**:§14 向量丛"="局部自由层(vector bundles = locally free sheaves),§15 线丛、到射影空间的映射与除子(§15.4 线丛与 Weil 除子),§16 线丛性质(§16.2 充裕/极充裕,§16.4 Grassmannian 作为模空间),§17 射影态射与相对 Spec/Proj。
30
+ - **§18 拟凝聚层的 Čech 上同调(Čech Cohomology)**:§18.1 期望性质,§18.2 定义与证明,§18.3 射影空间上线丛的上同调,§18.4 Riemann–Roch 与算术亏格,§18.5 Serre 对偶(Serre duality)初窥。
31
+ - §19 应用:曲线,§20\* 交点理论一瞥,§21 微分(differentials),§22 Riemann–Hurwitz 公式。
32
+ - **Part VI 更多上同调工具**:**§23 导出函子(derived functors,§23.5 Čech 上同调与导出函子上同调一致)**,§24 平直性(flatness),§25 上同调与基变换。
33
+
34
+ > 注:**热带几何(tropical geometry)** 是代数几何在热带/min-plus 半环(tropical semiring)上的"骨架化",是 §15–17 射影簇的 tropicalization,本书未单列章节。下文"热带门控"以此为数学来源,引用时**不绑定具体章号**(避免编造)。
35
+
36
+ ## 可迁移到 AI/Infra 的核心结构
37
+
38
+ 先看总览映射,再逐条展开:
39
+
40
+ | 数学概念(本书章节) | AI/ML 对应 | 工程落地形态 |
41
+ |---|---|---|
42
+ | 层 sheaf(§2) | 图上几何感知信息聚合 | 节点=截面、边=变换的消息传递 |
43
+ | 限制映射 restriction map(§2.3, §14) | 边上的方向性特征变换 | 每边一个低秩线性映射 = 小 GEMM |
44
+ | 层拉普拉斯 sheaf Laplacian(§2, §14) | 几何注意力/扩散算子 | L = δᵀδ 上的传播 |
45
+ | 上同调 H⁰/H¹(§18, §23) | 全局一致性 / 幻觉判据 | Čech H¹ 正则项 |
46
+ | 范畴+伴随 adjoint(§1.3–1.4) | 统一算子接口 | pullback=对齐、pushforward=聚合 |
47
+ | Grassmannian+Plücker(§7.7, §16.4) | 子空间压缩编码 | Plücker 坐标块摘要压 KV-Cache |
48
+ | 平直性 flatness(§24) | 分布平滑迁移判据 | 纤维无跳变 → 无秩坍塌信号 |
49
+
50
+ **1. 层 → 图上几何感知的信息聚合(sheaf → geometry-aware aggregation)**(§2)
51
+
52
+ - **本体**:层把"每个开集/节点配一个数据空间(茎/截面 stalk/section)+ 沿包含关系的限制映射(restriction map)+ 局部一致即可黏合(gluing axiom)"系统化。
53
+ - **映射**:节点特征 = 截面,边 = 限制映射,消息传递 = 强制相邻截面在限制下一致。
54
+ - **落地**:这正是**胞腔层扩散(cellular sheaf diffusion)/ sheaf neural network** 的本体;普通 GNN 是其"平凡层(trivial sheaf)"特例——层结构给每条边注入了方向性几何归纳偏置。
55
+
56
+ **2. 限制映射 → 每条边一个低秩线性变换(restriction map → per-edge low-rank linear map)**(§2.3, §14)
57
+
58
+ - **本体**:每条边携带一个学习到的线性映射 F(U)→F(V)。
59
+ - **算子**:由此定义**层拉普拉斯(sheaf Laplacian)** L = δᵀδ(δ 为协边界算子),扩散/注意力即 L 上的传播;当所有限制映射为恒等时退化为标准图拉普拉斯。
60
+ - **落地**:每边映射取低秩 → 一串**小 GEMM**,天然落 Tensor Core;秩即可调的表达力旋钮。
61
+
62
+ **3. 上同调 → 全局一致性 / 幻觉判据(cohomology → global-consistency / hallucination criterion)**(§18, §23)
63
+
64
+ - **H⁰** = 全局截面(global sections):所有局部一致并真能黏成的全局解。
65
+ - **H¹** = **黏合障碍(obstruction)**:局部两两一致、却拼不出全局——即"自洽的矛盾"。形式上 H¹ = ker δ¹ / im δ⁰。
66
+ - **判据**:给幻觉一个**代数判据**——H¹≠0 ⇔ 模型局部自信但全局冲突。
67
+ - **可算性边界**:**Čech 上同调(§18.2)** 用覆盖(cover)的交叠(overlap)直接算,局部、廉价;§23.5 证明它在好情形下与昂贵的导出函子上同调一致——这条边界线决定"哪种上同调能上 GPU"。
68
+
69
+ **4. 范畴 + 泛性质 + 伴随 → 统一抽象接口(category → unified interface)**(§1)
70
+
71
+ - **本体**:pullback / pushforward(f\*, f\_\*)是一对伴随(adjoint,§1.4);积、和、纤维积统一为(余)极限(§1.3)。
72
+ - **落地**:用一个抽象接口统一不同算子——**pullback = 特征对齐/重采样,pushforward = 聚合/池化**,由伴随关系自动保证二者相容,少写超参、少出对不齐的 bug。
73
+
74
+ **5. Proj / 射影 + Plücker 坐标 → 子空间压缩编码(projective + Plücker → subspace compression)**(§7.7, §16.4, §15)
75
+
76
+ - **本体**:Grassmannian 把"k 维子空间"参数化,并经 **Plücker 嵌入(Plücker embedding,本书显式出现)** 用外积坐标(Plücker coordinates)塞进射影空间。
77
+ - **落地**:一组 KV 向量张成的子空间,可用少量 Plücker/外积坐标做**块摘要**,从而压缩 KV-Cache——存"子空间"而非逐个向量。
78
+
79
+ **6. 平直性 → 分布平滑过渡的几何判据(flatness → smooth deformation)**(§24)
80
+
81
+ - **本体**:平直态射的纤维(fiber)随基"无跳变"地连续变化。
82
+ - **落地**:可作为训练/微调中"分布平滑迁移、无秩坍塌(rank collapse)"的几何正确性信号(偏理论,落地需谨慎验证)。
83
+
84
+ ## 适合激活的问题类型
85
+
86
+ - **图/集合结构上的注意力与消息传递**:节点带异质特征空间、边带方向性变换 → 层扩散比朴素 GNN 表达力更强。
87
+ - **多源/多视图一致性**:多模态、多 agent、检索增强(RAG)的局部证据要黏成全局答案 → H⁰/H¹ 度量一致性。
88
+ - **幻觉 / 自洽性检测与正则**:需要一个"局部自洽但全局矛盾"的可微惩罚 → Čech H¹ 正则项。
89
+ - **长上下文推理的显存压缩**:KV 子空间冗余高 → Plücker 式块摘要。
90
+ - **稀疏路由 / 门控(MoE、Top-K)**:需要可微地逼近离散选择 → 热带半环分段线性门控。
91
+ - **需要统一异构算子的框架**:用 pullback/pushforward 伴随对统一对齐与聚合。
92
+
93
+ ## 可能的算法启发
94
+
95
+ **Tropical Sheaf Attention 三件套**(与 `../gpu-friendly-math.md` 的候选验证范例一致):
96
+
97
+ 1. **热带门控(Tropical Gating)**
98
+ - 把硬 Top-K 路由换成 max-plus 半环上的**分段线性**评分。
99
+ - 次可微(折点需 LogSumExp 软化,软化后退回标准 softmax)、可张量化但**非 Tensor Core GEMM**(max/min 落 CUDA core)—— 替代不可微的离散选择。
100
+ 2. **胞腔层扩散(Cellular Sheaf Diffusion)**
101
+ - 注意力 = 可学习层拉普拉斯上的扩散。
102
+ - 每条边一个**低秩限制映射(= 小 GEMM)**,给注意力注入边方向的几何归纳偏置。
103
+ 3. **Čech 上同调正则(Čech Cohomology Regularizer)**
104
+ - 在注意力图的**固定有限覆盖**上计算一阶 Čech H¹。
105
+ - 作为幻觉/不一致惩罚项;局部、廉价。可微性需用代理(如 H¹-分量投影范数 ‖(I−P_im δ⁰)c‖²,经 SVD/伪逆可微,秩跳变处非光滑),非精确 Betti 数。
106
+
107
+ **其他单点启发:**
108
+
109
+ - **低秩基底 KV 压缩(Grassmannian/Plücker 视角)**:把每块 KV 子空间用其**低秩基底**(低秩分解,kn 或 k(n−k) 参数)表示以压缩显存。注意:Plücker 坐标本身在低秩时共 C(n,k) 个、反而**扩张**,故真正起压缩作用的是低秩基底而非 Plücker 坐标——「Plücker」是借名。压缩率取决于块的原冗余度,需实测。
110
+ - **热带半环上的 MoE 路由(Tropical-Semiring MoE Routing)**:路由 logits 在 max-plus 上做分段线性,得到**结构化稀疏**且可微的专家选择。
111
+ - **伴随式 Pull/Push 算子对(Adjoint Pull/Push)**:把上/下采样、对齐/聚合实现为一对伴随,强制相容性、减少超参。
112
+
113
+ ## GPU 友好性警告
114
+
115
+ > **必读且唯一权威**:`../gpu-friendly-math.md`
116
+ > 八维记分卡:①张量化 ②GEMM 可映射 ③复杂度 ④显存/KV ⑤低精度稳定 ⑥并行通信 ⑦稀疏结构 ⑧算子融合。
117
+ > **数学美 ≠ 可算**;任一维"不友好且不可改造"即淘汰。
118
+
119
+ **可落 GEMM / 亚二次(友好 ✅):**
120
+
121
+ | 构造 | 命中维度 | 说明 |
122
+ |---|---|---|
123
+ | 低秩限制映射 restriction map | ①②④ | 批量小 GEMM,吃满 Tensor Core,低秩省显存 |
124
+ | 热带门控 tropical gating | ①③(非②) | 可张量化、逐 token 门控亚二次;**非 GEMM**(不落 Tensor Core);次可微,max 折点需 LogSumExp 软化 |
125
+ | Čech H¹ 正则(固定覆盖) | ③⑧ | 局部廉价,可与注意力 kernel 融合(FlashAttention 式)|
126
+ | 低秩基底块摘要(Plücker 视角) | ④ | 低秩分解压缩 KV,推理显存大降(压缩率需实测) |
127
+
128
+ **美但不可算(不友好 ❌,禁止塞进训练 forward):**
129
+
130
+ - **一般层上同调的导出函子计算(derived functor cohomology,§23)**
131
+ - 需内射分解(injective resolution)+ 谱序列(spectral sequence),属**符号代数**。
132
+ - 无张量化、无 GEMM、非亚二次、不可微 → 违反维度①②③⑤⑧。
133
+ - 只能离线、小规模、作分析;**只用与之一致的 Čech 版本(§23.5)且限定固定覆盖**。
134
+ - **Spec/Proj 的拓扑层(Zariski 拓扑、generic point,§3–4)**:离散非数值结构、不可微 → 违反维度①。仅作概念脚手架。
135
+ - **理想消元 / Gröbner 基(Chevalley 定理与消元理论,§8.4)**:组合爆炸、串行、非结构化 → 违反维度③⑥⑦。
136
+ - **动态 / 非结构化的 Čech 覆盖**:若覆盖随输入变化或交叠不规则,H¹ 计算退化为随机 gather/scatter → 违反维度⑦。**必须固定有限覆盖 + 结构化(块/带状)交叠。**
137
+
138
+ ## 该调用哪个思想武器
139
+
140
+ - **topological-thinking(🌀 拓扑思想)** — 主力:上同调、H¹ 障碍、连续变形下的不变量,正是层/上同调激活的母题。
141
+ - **abstraction(🧩 抽象化)**:用"层 = 局部数据 + 黏合"提取消息传递的本质,把工程算子抽象为限制映射。
142
+ - **transformation(🔄 变换思想)**:tropicalization、Plücker 嵌入、pullback/pushforward —— 用等价转换把难算问题搬到可算坐标系。
143
+ - **symmetry-invariance(⚛️ 对称与不变性)**:射影不变、规范(gauge)对称、层的协变性,约束模型的等变结构。
144
+ - **axiomatization(📐 公理化)**:把层公理(局部性 + 黏合)、上同调长正合列当作正确性约束,审查"该有的一致性是否被违反"。
145
+
146
+ ## 反模式
147
+
148
+ - **把抽象/导出函子上同调直接塞进训练 forward**:符号计算、无梯度、不可算 —— 经典"美但不可算",违反 GPU 八维。要用 Čech + 固定覆盖的可微替身。
149
+ - **为"显得高级"引入整套 Scheme/Proj 机械**,而任务其实只需要一个图拉普拉斯:过度工程,违反 CLAUDE.md「Simplicity First」。先问"是否只需平凡层(= 普通 GNN)?"
150
+ - **把 Zariski 拓扑 / generic point 等离散结构当可微对象**优化:类型错误。
151
+ - **让 Čech 覆盖动态化、交叠非结构化**:退化成随机访存,毁掉 GPU 并行(维度⑦)。
152
+ - **把 max-plus 半环当真半环做精确算术**而不在不可微点做松弛:梯度断裂,训练不动。
153
+ - **盲目相信 H¹=0 等于"没幻觉"**:它只保证所选覆盖下的局部黏合一致,不等于事实正确;它是结构一致性信号,不是真值判据。
154
+
155
+ ## 深挖入口
156
+
157
+ > **📖 书目信息**:Ravi Vakil, *The Rising Sea: Foundations of Algebraic Geometry*, Princeton University Press, 2025. ISBN 978-0-691-26866-8.
158
+ >
159
+ > **启用方式**:将 `The Rising Sea Foundations of Algebraic Geometry.pdf` 放入项目根目录的 `math_book/` 文件夹,Agent 即可自动搜索原文。PDF 不随 npm/git 分发(版权原因),需自行获取。
160
+
161
+ **全保真回查(full-fidelity lookup)**:当摘要不足以支撑设计时,让 Agent 自动检索本地 PDF
162
+ `math_book/The Rising Sea Foundations of Algebraic Geometry.pdf`
163
+ (用 `pdftotext -f <start> -l <end>` 取定向页,**不要 dump 整本**)。
164
+
165
+ 值得深读的真实章号:
166
+
167
+ 1. **§2 Sheaves**(重点 §2.2 定义、§2.4 茎与层化、§2.5 sheaf on a base、§2.7 逆像层)—— 胞腔层扩散与限制映射的数学地基。
168
+ 2. **§18 Čech Cohomology of Quasicoherent Sheaves**(§18.1 期望性质、§18.2 定义与证明、§18.4 Riemann–Roch、§18.5 Serre 对偶初窥)—— H¹ 幻觉正则的来源与可算性边界。
169
+ 3. **§23 Derived Functors**(§23.5 Čech 上同调与导出函子上同调一致)—— 划清"可算 Čech vs 不可算导出函子"的红线。
170
+ 4. **§7.7 + §16.4 Grassmannian**(配 §15 线丛与除子,Plücker 嵌入在此体系出现)—— Plücker KV 压缩的几何依据。
171
+ 5. **§1 Category Theory**(§1.3 极限/余极限、§1.4 伴随)—— pullback/pushforward 伴随对与统一算子接口。
@@ -0,0 +1,140 @@
1
+ # 📐 流形与微分几何 / Manifolds & Differential Geometry
2
+
3
+ > **Manifolds and Differential Geometry** — Jeffrey M. Lee
4
+ > American Mathematical Society, *Graduate Studies in Mathematics*, Volume 107 (2009), ISBN 978-0-8218-4815-9.
5
+ > MSC: 58A05, 53C05, 22E15, 53C20, 53B30, 55R10. 本文件是「激活」摘要,非原文转录;全保真回查见末尾「深挖入口」。
6
+
7
+ ## 概要
8
+
9
+ 本书是一部从零构建**光滑流形(smooth manifold)→ 张量 / 微分形式 → 联络与曲率 → 黎曼几何**的研究生教材。它的主线不是"在欧氏空间里算",而是**在弯曲空间上做微积分**:当没有全局坐标、没有"自然"的向量加法时,如何定义微分、如何比较不同点的向量、如何度量距离与弯曲程度。这恰好是把"参数空间是平坦欧氏的"这一默认假设打破后,深度学习需要的语言。
10
+
11
+ 前言里有一句对 AI 研究极关键的话:**纤维丛上的联络(connection on a fiber bundle)与物理学的规范场(gauge field)是数学家与物理学家各自独立发现的同一个概念**(前言脚注 2)。这正是本技能包反复强调的"跨域激活"原型——结构早就在那里,只差有人把它接到算法设计上(规范等变网络就是这次接驳的产物)。
12
+
13
+ 真实章节地图(按依赖排序,章号与节号经 PDF 目录核对):
14
+
15
+ | 章 | 标题 | 对 AI 的钩子 |
16
+ |----|------|-------------|
17
+ | 1–2 | Differentiable Manifolds / The Tangent Structure | 切空间(tangent space)= 局部线性化、梯度的归属空间 |
18
+ | 3 | Immersion and Submersion | 子流形、降维 / 嵌入 |
19
+ | 4 | Curves and Hypersurfaces in Euclidean Space | Gauss / mean curvature 的几何直觉来源 |
20
+ | 5 | Lie Groups | 连续对称群、指数映射、伴随表示 → 等变架构 |
21
+ | 6 | Fiber Bundles(§6.1 一般丛, §6.2 向量丛, §6.8 主丛与配丛)| **规范等变的几何骨架** |
22
+ | 7 | Tensors(§7.6 Metric Tensors)| 度量张量 g = 内积场 → Fisher 度量 |
23
+ | 8 | Differential Forms(§8.5 丛值形式)| 反对称张量、外微分、规范场强 |
24
+ | 9 | Integration and Stokes' Theorem(§9.8 Electromagnetism)| Maxwell = U(1) 联络曲率的实例 |
25
+ | 10 | De Rham Cohomology | 整体拓扑不变量(积分守恒量)|
26
+ | 11 | Distributions and Frobenius' Theorem | 可积性、约束分布 |
27
+ | 12 | Connections and Covariant Derivatives(§12.2 联络形式, §12.4 Ehresmann, §12.5/§12.10 曲率, §12.12 G-联络)| **平行移动 + 曲率** |
28
+ | 13 | Riemannian & Semi-Riemannian Geometry(§13.1 Levi-Civita, §13.2 Riemann 曲率, §13.4 测地线, §13.7 Jacobi 场, §13.11 Rauch 比较)| **自然梯度 / 优化地形** |
29
+
30
+ ## 可迁移到 AI/Infra 的核心结构
31
+
32
+ 每条都按 **几何概念 → 数学内核 → AI 迁移** 三段给出,方便直接接到算法设计上。
33
+
34
+ - **黎曼度量 g(Riemannian metric, §7.6 / §13.1)→ 自然梯度与信息几何。**
35
+ - 内核:度量张量在每点给切空间一个内积 ⟨u,v⟩_g = uᵀg v,决定"谁离谁近"、什么方向算"最陡"。
36
+ - 迁移:概率分布族上的天然度量就是 **Fisher 信息矩阵(Fisher–Rao metric)**;参数空间因此不是平坦欧氏的,而是弯曲流形。最陡下降方向不是 ∇L 而是 **g⁻¹∇L(natural gradient)**,对重参数化不变。
37
+ - **联络 / 协变导数(connection, §12.1–§12.4)→ 平行移动(parallel transport)。**
38
+ - 内核:不同点的切空间无法直接相加;联络 ∇ 规定"如何把一个向量沿曲线搬到另一点而不额外旋转"。**Levi-Civita 联络**是唯一与度量相容且无挠的那一个。
39
+ - 迁移:把**动量(momentum)/ 历史梯度 / 二阶状态**在参数流形上正确搬运,是 Riemannian SGD/Adam 中 vector transport 的来源。
40
+ - **曲率(curvature, §12.5 / §13.2 / §13.7)→ 优化地形(loss landscape)。**
41
+ - 内核:曲率 = 向量绕一个小环平行移动一圈后偏转多少,是"空间弯不弯、路径依不依赖"的度量,本质是 Hessian 的几何化身。
42
+ - 迁移:损失曲面的曲率决定条件数与尖锐度;**Jacobi 场 / Rauch 比较定理(§13.7 / §13.11)** 描述测地线发散—汇聚,等价于优化轨迹的稳定 vs 发散。
43
+ - **测地线与指数映射(geodesics, §13.4)→ 流形上的"直线步"。**
44
+ - 内核:测地线是局部最短路径;指数映射 exp_p(v) 把切空间向量 v 映回流形上对应的最短路径终点。
45
+ - 迁移:在 SPD 矩阵、Stiefel / Grassmann 流形上做**约束优化**时,exp_p 是 retraction 的精确版;latent 空间的测地插值比欧氏直线更尊重数据流形。
46
+ - **纤维丛 / 主丛 + G-联络(§6.8 / §12.12 / §9.8)→ 规范等变(gauge equivariance)。**
47
+ - 内核:主 G-丛把"局部坐标系 / frame 的任意选择"打包成纤维上的群作用;丛上的联络 = 规范场(gauge field),曲率 = 场强。
48
+ - 迁移:物理量不应依赖局部 frame 选择,这个"规范自由度(gauge freedom)"正是 **gauge-equivariant CNN(球面 / mesh / 一般流形卷积)** 的归纳偏置;§9.8 用 Maxwell 给出 U(1) 联络曲率的真实样板。
49
+ - **李群与李代数(§5)→ 连续对称作为先验。**
50
+ - 内核:指数映射 exp: 𝔤→G、伴随表示 Ad 给出"无穷小生成元 → 有限变换"的通道。
51
+ - 迁移:把对称群作为网络的硬归纳偏置(等变层、李代数参数化的旋转 / 刚体变换)。
52
+
53
+ ## 适合激活的问题类型
54
+
55
+ - 优化在**欧氏假设下病态 / 收敛慢**,但底层参数有自然的概率或几何结构(用度量重新定义"距离")。
56
+ - 数据本身住在**非欧流形**上:协方差 / SPD 矩阵、旋转 SO(3)、方向数据、图与网格、球面信号。
57
+ - 需要**严格的对称 / 等变保证**:旋转、平移、局部规范变换下输出可预测地变化。
58
+ - 需要把**"坐标选择的任意性"**显式建模成对称性(多视角、多 frame、传感器姿态无关)。
59
+ - 想用**几何量(曲率 / 测地距离)做正则或诊断**:sharpness、泛化、轨迹稳定性。
60
+
61
+ ## 可能的算法启发
62
+
63
+ - **自然梯度 / K-FAC(natural gradient / K-FAC)**:用 Fisher 度量做预条件,更新方向 = F⁻¹∇L 而非 ∇L。
64
+ - 关键工程:K-FAC 把每层 Fisher 近似成 Kronecker 积 **F ≈ A ⊗ B**(A 来自输入激活、B 来自输出梯度),求逆变两小矩阵求逆、作用变小 GEMM(见下节记分卡)。
65
+ - **信息几何优化(information-geometric optimization)**:把训练看成在分布流形上沿 Fisher–Rao 测地线移动。
66
+ - 镜像下降(mirror descent)、Bregman 散度、指数族的对偶坐标都是这套 Hessian 度量的特例;可用来设计对参数化不敏感的优化器。
67
+ - **Riemannian optimization**:在 SPD / Stiefel / Grassmann / 双曲流形上做 SGD/Adam。
68
+ - 三件套:retraction(exp 的廉价近似)、vector transport(平行移动的离散版)、流形上的动量;常用于度量学习、正交约束、层次结构嵌入。
69
+ - **Gauge-equivariant CNN**:在流形 / 网格上卷积时引入局部规范(local gauge)。
70
+ - 用 G-联络对齐相邻点的 frame,使特征对局部坐标选择不变;适用于球面信号、mesh、晶格等没有全局坐标的域。
71
+ - **曲率正则 / SAM 的几何视角(curvature regularization)**:用 Hessian-vector product 估计曲率。
72
+ - 惩罚尖锐极小(flat minima 偏好),或用 Jacobi 场刻画轨迹发散,给 sharpness-aware 训练一个几何解释。
73
+ - **测地插值与流形增广(geodesic interpolation)**:latent / 嵌入空间沿测地线插值与采样,比欧氏直线更尊重数据流形,可用于数据增广与可控生成。
74
+
75
+ ## GPU 友好性警告
76
+
77
+ > 用 `../gpu-friendly-math.md` 的**八维记分卡**逐项评判。微分几何最大的坑是"度量 / 曲率矩阵的求逆与物化"。
78
+
79
+ - **维度 2/3(GEMM 可映射 / 复杂度)—— 求逆是生死线。** 朴素自然梯度要算 N×N Fisher 的逆,N 是参数量(~10⁹),O(N³) 求逆 + O(N²) 显存,**直接出局**。
80
+ - **可改造 ✅**:**K-FAC** 把 F 分块为 Kronecker 积 A⊗B,利用 (A⊗B)⁻¹ = A⁻¹⊗B⁻¹,只需对两个小因子求逆,且预条件作用到梯度上**就是 GEMM**。这就是"能否 Kronecker 因子化为 GEMM"的肯定答案——能,且这是它唯一可上集群的形态。
81
+ - **维度 4(显存)—— 不要物化全 Hessian / 全曲率张量。** Riemann 曲率张量是 4 阶,全物化爆显存。用 **Hessian-vector product(HVP)** 经一次反向以 O(N) 拿到曲率信息,避免 N×N。
82
+ - **维度 5(低精度)—— Fisher / 度量矩阵常病态。** bf16/fp16 下求逆灾难性放大误差,**必须加阻尼(damping / Tikhonov,F+λI)** 并把求逆留在 fp32;否则违反"低精度稳定"。
83
+ - **维度 6(并行)—— 平行移动 / 测地线是串行 ODE。** 沿曲线积分联络方程是长串行递推,并行性差;工程上用**一步 retraction / 闭式平行移动**(特定流形有解析公式)替代逐步积分。
84
+ - **维度 1/2(张量化 / GEMM)—— 群卷积可友好,但连续群要当心。** 离散群(如 C_n、八面体群)的群卷积可展开成 GEMM ✅;连续李群需采样离散化,采样不当会导致等变性破缺 + 不规则 gather/scatter(维度 7 稀疏不友好)。
85
+
86
+ **自然梯度 / K-FAC 八维记分卡(worked example):**
87
+
88
+ | 维度 | 朴素自然梯度(全 Fisher 求逆)| K-FAC(Kronecker 因子化)|
89
+ |------|------------------------------|--------------------------|
90
+ | 1 张量化 | ❌ 大矩阵显式逆 | ✅ 批量小矩阵代数 |
91
+ | 2 GEMM | ❌ N×N 求逆无法 GEMM | ✅ A⁻¹⊗B⁻¹ 作用 = GEMM 链 |
92
+ | 3 复杂度 | ❌ O(N³) | ✅ 两个小因子,亚立方 |
93
+ | 4 显存 | ❌ 物化 N×N | ✅ 只存两个小因子 |
94
+ | 5 低精度 | ❌ 病态、需 fp64 | ⚠️ 加阻尼 + fp32 求逆可改造 |
95
+ | 6 并行 | ⚠️ 单次大求逆难并行 | ✅ 各层因子独立、可并行 |
96
+ | 7 稀疏 | — | ✅ 块对角结构化 |
97
+ | 8 融合 | ❌ | ✅ 预条件可融进优化器 kernel |
98
+
99
+ **结论**:黎曼 / 信息几何方法**只有在度量被结构化因子化(Kronecker / 块对角 / 低秩)后才 GPU 可行**;精确求逆与精确平行移动都属于"美但不可算",须改造或淘汰。
100
+
101
+ ## 该调用哪个思想武器
102
+
103
+ - **symmetry-invariance(⚛️ 对称与不变性)—— 首选。** 规范等变、李群对称、纤维丛 = 把"frame / 坐标选择无关"编码成对称性,是本书与 DL 最强的接口。
104
+ - **optimization(⚖️ 优化)—— 并列首选。** 自然梯度、Riemannian SGD、曲率正则都是"在弯曲约束空间里找最优"。
105
+ - **transformation(🔄 变换)**:指数 / 对数映射、retraction、坐标变换简化问题。
106
+ - **modeling(🌉 建模)**:把参数 / 数据空间显式建模为流形,再翻译回算法。
107
+ - **topological-thinking(🌀 拓扑)**:辅助——de Rham 上同调 / 整体不变量用于守恒量与可积性诊断。
108
+
109
+ 组合建议:先 `symmetry-invariance` 定对称结构 → `optimization` 落到自然梯度 / Riemannian 优化 → `transformation` 处理 retraction → 过 `../gpu-friendly-math.md` 验收门。
110
+
111
+ ## 反模式
112
+
113
+ 每条给出 **反模式 → 正解**:
114
+
115
+ - **物化并精确求逆全 Fisher / 全 Hessian**:O(N³) / O(N²),集群上不可行。
116
+ - 正解:先做 Kronecker / 块对角 / 低秩因子化,再求逆;不做因子化就别上自然梯度。
117
+ - **在 fp16 直接求逆病态度量矩阵**:灾难性抵消,结果是噪声。
118
+ - 正解:加阻尼 F+λI,求逆留在 fp32,必要时用 CG / Woodbury 隐式求解。
119
+ - **逐步 ODE 积分做平行移动 / 测地线**:串行递推杀死并行度。
120
+ - 正解:用闭式 retraction / vector transport(特定流形有解析式),把递推换成单步。
121
+ - **连续群无脑离散化**:等变性悄悄破缺,还引入不规则 gather/scatter。
122
+ - 正解:选可精确表示的离散子群,或用可证明误差界的求积 / 频域(球谐)方案。
123
+ - **为"几何美"强行流形化**:绝大多数任务欧氏近似已足够。
124
+ - 正解:上黎曼机制前先用实验证明欧氏确实病态(条件数 / 收敛曲线),再引入。
125
+ - **把曲率正则当万能药**:曲率估计本身昂贵且噪声大。
126
+ - 正解:先用 HVP 在小规模验证收益,确认信噪比再放大。
127
+
128
+ ## 深挖入口
129
+
130
+ > **📖 书目信息**:Jeffrey M. Lee, *Manifolds and Differential Geometry*, Graduate Studies in Mathematics Vol. 107, American Mathematical Society, 2009. ISBN 978-0-8218-4815-9.
131
+ >
132
+ > **启用方式**:将 `Manifolds and Differential Geometry.pdf` 放入项目根目录的 `math_book/` 文件夹,Agent 即可自动搜索原文。PDF 不随 npm/git 分发(版权原因),需自行获取。
133
+
134
+ > 全保真回查 = 让 Agent **自动搜索本地 PDF** `math_book/Manifolds and Differential Geometry.pdf`(按章号 / 节号定位,勿凭记忆复述)。本摘要只给坐标,不替代原文。
135
+
136
+ - **§6.8 Principal and Associated Bundles** + **§12.12 G-Connections**:规范等变的几何基础(主丛 + 联络 = 规范场)。
137
+ - **§7.6 Metric Tensors** + **§13.1 Levi-Civita Connection**:度量张量与自然梯度 / Fisher 度量的源头。
138
+ - **§13.2 Riemann Curvature Tensor** + **§13.7 Jacobi Fields**:曲率与优化地形、轨迹稳定性。
139
+ - **§13.4 Geodesics** + **§13.11 Rauch's Comparison Theorem**:测地线 / retraction 与收敛—发散比较。
140
+ - **§9.8 Electromagnetism**:规范场作为 U(1) 联络曲率的具体实例(跨域激活的历史样板)。