@furongjun1999/dsh-memory 0.3.1 → 0.4.0

package/docs//347/231/275/347/256/261/346/231/272/350/203/275/346/230/257/344/273/200/344/271/210/357/274/237.md

@@ -0,0 +1,812 @@
+# 白箱智能是什么？
+## ——让 AI 不只是给出答案，而是知道自己为什么能够回答
+
+> 术语约定：本文的英文缩写均首次出现处给出中文全称与英文全称（见文末「术语表」）。
+> 核心四态：ACCEPT（接受）/ REJECT（拒绝）/ DEFER（延后）/ BLINDSPOT（盲区）。
+
+---
+
+## 〇 先用一句话理解白箱智能
+
+**白箱智能，是一种把“条件、知识、规则、执行和验证”显式组织起来的智能系统。**
+
+它在面对一个问题时，不只是寻找“最像答案的东西”，而是依次判断：
+
+> **我面对的是什么问题？  
+> 在什么条件下成立？  
+> 我有哪些知识和能力可以处理它？  
+> 如果条件不足怎么办？  
+> 如果结果错误，应该修改什么？**
+
+因此，白箱智能最核心的能力可以概括成四个状态：
+
+```text
+条件满足
+   ↓
+ACCEPT —— 我有资格处理，执行
+
+条件冲突
+   ↓
+REJECT —— 这个能力不适用，拒绝
+
+条件不足
+   ↓
+DEFER —— 现在不能判断，继续寻找缺失条件
+
+无法归属
+   ↓
+BLINDSPOT —— 我不知道，不强行猜测
+```
+
+**“不知道”不是系统失败，而是系统对自己认知边界的正确判断。**
+
+---
+
+# 一、为什么需要白箱智能？
+
+今天的人工智能（AI · Artificial Intelligence）已经可以完成大量令人惊叹的工作：
+
+- 回答问题
+- 写代码
+- 总结资料
+- 进行推理
+- 使用工具
+- 生成图片和文本
+
+但当我们继续追问：
+
+> **“你为什么这么回答？”**
+
+问题就开始变得复杂。
+
+假设问 AI：
+
+> **水在海拔 3000 米的地方，沸点还是 100°C 吗？**
+
+一个普通系统可能直接回答：
+
+> “不是。由于海拔升高，大气压降低，水的沸点会下降。”
+
+这个答案可能是正确的。
+
+但是白箱会继续追问：
+
+```text
+海拔升高
+ ↓
+大气压变化
+ ↓
+沸点变化
+ ↓
+具体知识单元
+ ↓
+适用条件
+ ↓
+验证
+ ↓
+结论
+```
+
+于是答案不再只是：
+
+> “因为这是常识。”
+
+而可以进一步回答：
+
+> **哪条知识支持这个结论？  
+> 这条知识在什么条件下成立？  
+> 中间经过了哪些推导？  
+> 如果发现结果不符合观测，应该检查哪一个条件？**
+
+这就是白箱智能关注的问题。
+
+---
+
+# 二、白箱智能并不是“不要 AI”
+
+这是一个非常重要的区别。
+
+**白箱不是要消灭大语言模型（LLM · Large Language Model，下称 LLM），而是重新安排大语言模型在智能系统中的位置。**
+
+可以把两者简单理解成：
+
+```text
+LLM
+ ↓
+提出假设 / 生成候选 / 处理开放性问题
+ ↓
+白箱
+ ↓
+识别条件
+ ↓
+查找知识
+ ↓
+验证条件
+ ↓
+执行规则
+ ↓
+接受 / 拒绝 / 继续分析
+```
+
+因此：
+
+> **LLM 可以负责“提出可能是什么”，白箱负责“判断在当前条件下是否成立”。**
+
+在开放世界中，两者甚至可以互补：
+
+```text
+未知问题
+   ↓
+LLM 提出候选解释
+   ↓
+白箱寻找条件和已有知识
+   ↓
+符合 → ACCEPT（接受）
+冲突 → REJECT（拒绝）
+条件不足 → DEFER（延后）
+无法判断 → BLINDSPOT（盲区）
+```
+
+这也是为什么白箱不等于“一个更大的数据库”。
+
+---
+
+# 三、白箱最核心的概念：条件
+
+白箱智能的一个基本假设是：
+
+> **知识不是脱离条件存在的。**
+
+例如：
+
+> 水的沸点是 100°C。
+
+这个说法实际上隐含了条件。
+
+更完整的知识应该类似：
+
+```text
+条件：
+标准大气压附近
+
+知识：
+水的沸点约为 100°C
+```
+
+改变条件：
+
+```text
+海拔升高
+ ↓
+大气压降低
+ ↓
+沸点降低
+```
+
+因此，白箱不是简单保存：
+
+```text
+问题 → 答案
+```
+
+而更接近：
+
+```text
+条件 → 知识 → 条件 → 知识 → 结论
+```
+
+这些关系可以进一步组织成条件路由图。
+
+---
+
+# 四、什么是条件路由？
+
+假设系统拥有三个知识单元：
+
+```text
+K1：海拔升高 → 大气压降低
+
+K2：大气压降低 → 水的沸点降低
+
+K3：标准大气压下水的沸点约为 100°C
+```
+
+用户提出：
+
+> “高原地区烧水为什么更难把食物煮熟？”
+
+系统不是寻找一个最相似的答案，而是寻找能够满足当前条件的路径：
+
+```text
+高海拔
+ ↓
+大气压降低
+ ↓
+水的沸点降低
+ ↓
+烹饪温度下降
+ ↓
+食物更难煮熟
+```
+
+每一步都有自己的知识和条件。
+
+这就是**条件路由**。
+
+---
+
+# 五、条件不足怎么办？
+
+这是白箱和普通检索系统非常重要的区别。
+
+假设有两个能力：
+
+```text
+A：信任累积
+B：信任阈值检查
+```
+
+两者都可能出现：
+
+> 信任、判断、验证、状态……
+
+仅仅依靠关键词，很容易认为 A 和 B 是同一个能力。
+
+白箱不会急着选择。
+
+它可以进入：
+
+```text
+DEFER（延后）
+ ↓
+比较候选能力
+ ↓
+寻找两者之间的条件差异
+ ↓
+发现：
+“累积” 对比 “阈值检查”
+ ↓
+继续寻找当前任务真正需要的条件
+ ↓
+重新判断
+```
+
+这就是**条件递归**。
+
+换句话说：
+
+> **不知道答案时，不是马上猜一个，而是先问：我到底缺少什么条件？**
+
+---
+
+# 六、如果最终还是不知道呢？
+
+那么白箱应该明确进入：
+
+## BLINDSPOT —— 盲区
+
+例如系统收到：
+
+> “请使用一种它从未学习过、也没有任何相关规则支持的能力完成任务。”
+
+如果系统无法建立：
+
+```text
+问题
+ ↓
+条件
+ ↓
+知识
+ ↓
+规则
+ ↓
+执行路径
+```
+
+那么正确行为不是编造答案。
+
+而是：
+
+```text
+无法建立有效条件链
+        ↓
+无法证明自己具有处理资格
+        ↓
+BLINDSPOT（盲区）
+```
+
+这也是白箱智能非常重视的一条原则：
+
+> **明确知道“不知道”，比生成一个看起来合理但无法验证的答案更重要。**
+
+---
+
+# 七、那么白箱如何学习？
+
+白箱并不是一个永远不会变化的静态规则库。
+
+它可以形成：
+
+```text
+预测
+ ↓
+执行
+ ↓
+得到结果
+ ↓
+发现预测误差
+ ↓
+检查遗漏条件
+ ↓
+形成候选新规则
+ ↓
+验证
+ ↓
+通过 → 固化
+失败 → 拒绝
+```
+
+因此：
+
+> **错误不是简单地让系统“调一个参数”，而可以成为寻找遗漏条件的入口。**
+
+例如：
+
+```text
+原理论：
+
+条件 A + 条件 B
+       ↓
+      结果 X
+
+实际观察：
+
+结果 ≠ X
+
+于是系统检查：
+
+是否遗漏条件 C？
+
+如果发现：
+
+A + B + C
+       ↓
+      结果 X
+
+那么新的 C 就可能成为理论结构的一部分。
+```
+
+这就是白箱中的**预测误差 → 条件更新**。
+
+---
+
+# 八、白箱和传统专家系统有什么区别？
+
+这个问题非常值得问。
+
+白箱确实继承了专家系统的一部分思想：
+
+- 显式知识
+- 规则
+- 条件
+- 可验证性
+
+但它进一步尝试解决：
+
+- 开放式问题如何产生候选知识？
+- 不同知识之间如何组合？
+- 如何发现缺失条件？
+- 如何递归寻找条件？
+- 如何从错误中更新结构？
+- 如何判断自己什么时候没有能力？
+
+因此，白箱智能目前更适合被理解为：
+
+> **一种以条件、显式知识、规则、验证和递归为核心的智能架构探索。**
+
+它不是简单地把专家系统重新包装一次。
+
+---
+
+# 九、灵枢正在验证什么？
+
+目前的灵枢（AEIS · Agent Engineering Implementation Specification，智能体工程实现规范）项目并不是声称：
+
+> “我们已经解决了通用人工智能（AGI · Artificial General Intelligence）。”
+
+恰恰相反，我们希望把问题拆成可以实验验证的小问题。
+
+其中一个重要实验方向是：
+
+## CCG：代码能力条件路由
+
+CCG（Code Condition Graph · 代码条件路由图）：以「条件词 → 节点」为检索面的代码能力索引。
+
+首先测试：
+
+> **自然语言描述能不能成为代码能力的索引？**
+
+实验结果显示，在当前测试集和实验设置下：
+
+- Top-1（检索第一名即命中的比例）：96/96，100%
+- Top-5（检索前五名内命中的比例）：96/96，100%
+- 函数名被抹掉后，Top-1 仍保持 100%
+
+这意味着在该实验设置下，系统并不必须依赖函数名称，而可以利用代码实体的语义描述进行定位。
+
+---
+
+# 十、然后我们故意让它失败
+
+这一步比“100%”更加重要。
+
+我们制造：
+
+> **关键词很像，但实际能力不同**
+
+的对抗任务。
+
+最开始：
+
+```text
+对抗负条件拒绝率：28%
+```
+
+这暴露出一个问题：
+
+> CCG 当时更接近语义检索（semantic retrieval：按意思相似找答案），而不是条件路由（condition routing：按「条件是否满足」找路径）。
+
+于是系统增加了：
+
+> **能力级不适用条件**
+
+然后重新测试：
+
+```text
+28%
+ ↓
+88%
+```
+
+接着使用完全不同机制的新对抗集：
+
+```text
+91%
+```
+
+这说明改进并不只是针对原测试题打补丁。
+
+---
+
+# 十一、最终形成四态路由
+
+继续把实验推进后，CCG 形成：
+
+| 状态 | 含义 |
+|---|---|
+| **ACCEPT** | 条件满足，有资格执行 |
+| **REJECT** | 条件冲突，明确不适用 |
+| **DEFER** | 相关但条件不足，继续分析 |
+| **BLINDSPOT** | 无法建立可靠归属，不强行选择 |
+
+在当前实验集上：
+
+- 能力域正任务 ACCEPT：100%
+- 域外负任务 REJECT：100%
+- 邻域任务未错误 ACCEPT：100%
+- REJECT precision（拒绝精确率：被判「拒绝」的样本中确实不该接受的比例）：100%
+
+这些结果都应该理解为：
+
+> **当前测试集和实验条件下的工程实验结果，而不是对一般智能能力的普遍证明。**
+
+---
+
+# 十二、白箱自举是什么意思？
+
+如果一个系统只能依赖外部人工告诉它：
+
+> “你应该如何解释自己。”
+
+那么它还没有真正形成完整的自描述能力。
+
+灵枢正在尝试让白箱使用自己的知识、条件和规则描述自身。
+
+例如：
+
+```text
+白箱是什么？
+ ↓
+寻找“白箱”的知识
+ ↓
+找到白箱组成规则
+ ↓
+找到条件路由机制
+ ↓
+组合
+ ↓
+验证
+ ↓
+得到关于白箱自身的解释
+```
+
+进一步地，系统还可以对自己的知识结构进行分析、验证和迭代。
+
+因此这里所说的“自举”，不是简单地让 AI 修改自己的源代码。
+
+更准确地说：
+
+> **系统开始使用自身的认知机制描述、验证和扩展自身。**
+
+---
+
+# 十三、白箱真正想解决的是什么？
+
+我们并不认为：
+
+> “模型越大越没用。”
+
+也不认为：
+
+> “所有 AI 都应该变成规则系统。”
+
+我们关注的是另一个问题：
+
+> **如果未来 AI 越来越接近真正的智能体，那么它是否应该知道自己的知识边界、行为依据和错误修正路径？**
+
+如果答案是“应该”，那么：
+
+```text
+条件
+知识
+规则
+验证
+记忆
+自省
+盲区
+```
+
+就不应该只是外挂功能。
+
+它们可能需要成为智能系统本身的一部分。
+
+---
+
+# 十四、白箱的核心闭环
+
+把所有内容压缩到一起，可以得到：
+
+```text
+                 ┌──────────────┐
+                 │     问题      │
+                 └──────┬───────┘
+                        ↓
+                 ┌──────────────┐
+                 │   识别条件    │
+                 └──────┬───────┘
+                        ↓
+                 ┌──────────────┐
+                 │ 找知识与规则  │
+                 └──────┬───────┘
+                        ↓
+                 ┌──────────────┐
+                 │   条件路由    │
+                 └──────┬───────┘
+                        ↓
+             ┌──────────┼──────────┐
+             ↓          ↓          ↓
+          ACCEPT      DEFER      REJECT
+             │          │
+             │          ↓
+             │      寻找缺失条件
+             │          │
+             │          ↓
+             │       递归判断
+             │          │
+             │      无法判断
+             │          ↓
+             │      BLINDSPOT
+             ↓
+           执行
+             ↓
+           验证
+             ↓
+        ┌────┴────┐
+        ↓         ↓
+       正确       错误
+        │         │
+        ↓         ↓
+      固化     寻找遗漏条件
+                  │
+                  ↓
+                更新
+                  │
+                  └────→ 重新判断
+```
+
+这就是目前白箱智能最核心的工程闭环。
+
+> 图中四态：ACCEPT（接受，条件满足则执行）· REJECT（拒绝，条件冲突则不适用）· DEFER（延后，条件不足则继续找）· BLINDSPOT（盲区，无法归属则不猜）。
+
+---
+
+# 十五、白箱与 AGI 的关系
+
+我们不宣称：
+
+> **“白箱智能已经是 AGI。”**
+
+我们提出的是一个可以被讨论和证伪的观点：
+
+> **一个能够长期自主运行的智能体，如果无法可靠地判断自己的知识边界、行为依据、适用条件和错误修正路径，那么它的可靠性将受到结构性限制。**
+
+因此我们探索的不是：
+
+> “如何制造一个万能答案机器？”
+
+而是：
+
+> **“如何让一个智能系统知道自己为什么能够做、什么时候不能做，以及犯错之后应该改变什么？”**
+
+这也是我们为什么选择白箱方向。
+
+---
+
+# 十六、我们现在已经知道什么，又不知道什么？
+
+### 已经进行了工程验证的
+
+- 条件化知识单元
+- 确定性知识路由
+- 知识组合与验证
+- 预测误差反馈
+- CCG 代码能力索引
+- 能力级负路由
+- ACCEPT（接受）/ REJECT（拒绝）/ DEFER（延后）/ BLINDSPOT（盲区）四态路由
+- 白箱知识自举
+- 长期记忆与知识结构
+
+### 仍然需要进一步证明的
+
+- 开放域条件自动发现能力
+- 大规模知识图上的稳定递归
+- 新领域迁移能力
+- 更复杂的因果推理
+- 长期自主学习的稳定性
+- 白箱架构是否能够扩展到更一般的智能任务
+- 白箱是否最终能够成为 AGI 的基础架构
+
+**我们不把尚未证明的部分写成已经证明的结论。**
+
+这本身也是白箱理念的一部分。
+
+---
+
+# 十七、如何亲自验证？
+
+你不需要先相信我们。
+
+### 5 分钟：看懂一次条件路由
+
+运行灵枢的白箱知识问答，观察：
+
+```text
+问题
+ ↓
+知识单元
+ ↓
+条件
+ ↓
+规则
+ ↓
+结论
+```
+
+重点不是答案本身，而是：
+
+> **答案是否能够追溯到结构化知识和条件。**
+
+### 1 小时：复现实验
+
+运行项目中的测试集，观察：
+
+- 正向路由
+- 负条件拒绝
+- 对抗任务
+- 四态路由
+- 盲区声明
+
+然后不要只看成功案例。
+
+**优先寻找失败案例。**
+
+因为：
+
+> **一个白箱系统真正值得研究的地方，不是它什么时候回答得对，而是它什么时候知道自己不应该回答。**
+
+### 长期：贡献一个知识域
+
+选择一个确定性知识领域，例如：
+
+- 初中物理
+- 基础化学
+- 数据结构
+- 编译原理
+
+尝试把一个知识写成：
+
+```text
+适用条件
+↓
+子功能
+↓
+执行规则
+↓
+验证方式
+↓
+不适用条件
+```
+
+然后观察它如何进入条件路由图。
+
+---
+
+# 十八、最后
+
+白箱智能不是一个要求你“相信”的答案。
+
+它更像是一项可以被不断攻击、测试和证伪的工程假设：
+
+> **智能不仅应该产生答案，还应该知道答案成立的条件；不仅应该知道如何执行，还应该知道什么时候没有资格执行；不仅应该发现错误，还应该能够寻找导致错误的遗漏条件。**
+
+所以我们欢迎的不是：
+
+> “这个理论听起来很厉害。”
+
+而是：
+
+> **“给我一个会让它失败的问题。”**
+
+如果它失败：
+
+```text
+记录失败
+ ↓
+定位条件缺失
+ ↓
+修改结构
+ ↓
+重新测试
+```
+
+如果修改后仍然无法解释：
+
+```text
+BLINDSPOT（盲区）
+```
+
+这就是我们希望建立的研究方式：
+
+> **不要求相信白箱。验证白箱。**
+
+---
+
+# 附录 · 术语表
+
+> 正文约定：英文缩写首次出现处给出全称；下表集中收录本文全部英文术语，供查阅。
+
+| 缩写 / 术语 | 英文全称 | 中文含义 |
+|---|---|---|
+| AI | Artificial Intelligence | 人工智能 |
+| LLM | Large Language Model | 大语言模型（如 GPT、DeepSeek 一类） |
+| AGI | Artificial General Intelligence | 通用人工智能（能与人类相提并论的广泛智能） |
+| AEIS | Agent Engineering Implementation Specification | 智能体工程实现规范——灵枢（本项目的实现体）的英文名 |
+| CCG | Code Condition Graph | 代码条件路由图——以「条件词 → 节点」为检索面的代码能力索引 |
+| ACCEPT | （英文原词，非缩写） | 接受：条件满足，有资格执行 |
+| REJECT | （英文原词，非缩写） | 拒绝：条件冲突，明确不适用 |
+| DEFER | （英文原词，非缩写） | 延后：相关但条件不足，继续寻找缺失条件 |
+| BLINDSPOT | （英文原词，非缩写） | 盲区：无法建立可靠归属，不强行猜测 |
+| Top-1 / Top-5 | — | 检索命中指标：Top-1=检索第一名即命中；Top-5=前五名内命中 |
+| semantic retrieval | — | 语义检索：按「意思相似」找答案的检索方式 |
+| condition routing | — | 条件路由：按「条件是否满足」找路径的检索方式 |
+| REJECT precision | — | 拒绝精确率：被判「拒绝」的样本中确实不该接受的比例 |