mindstudio-probe 1.0.4__py3-none-any.whl → 1.1.0__py3-none-any.whl

msprobe/docs/02.config_introduction.md

@@ -3,24 +3,22 @@
 - 当调用 **PrecisionDebugger** 接口执行 dump 或其他操作时，需要使用 [config.json](../config.json) 文件；当未指定 config.json 时，将使用默认配置。
 - msprobe 成功安装后，config.json 一般位于如下目录：
 ```
-/home/***/miniconda3/envs/***/lib/python3.8/site-packages/msprobe/
+/home/xxx/miniconda3/envs/xxx/lib/python3.xx/site-packages/msprobe/
 ```
 
 ## 1 参数介绍
 
 ### 1.1 通用配置
 
-| 参数名    | 解释    | 是否必选 |
+| 参数    | 解释    | 是否必选 |
 | ----------------- | ---------------- | -------- |
-| task              | dump 的任务类型，str 类型。可取值，<br/>  "statistics"：仅 dump API 统计信息，默认值；<br/> "tensor"：dump API 统计信息和完全复刻整网的 API 运行情况的真实数据；<br/> "run_ut"：精度预检，仅 PyTorch 场景支持。<br/> "overflow_check"：溢出检测，仅 PyTorch 和 MindSpore 静态图场景支持；<br/>  "free_benchmark"：无标杆比对；<br/>    根据 task 参数取值的不同，可以配置不同场景参数，详见：<br/>[1.2 task 配置为 statistics](#12-task-配置为-statistics)，<br/>[1.3 task 配置为 tensor](#13-task-配置为-tensor)，<br/>[1.4 task 配置为 run_ut](#14-task-配置为-run_ut)，<br/>[1.5 task 配置为 overflow_check](#15-task-配置为-overflow_check)，<br/>[1.6 task 配置为 free_benchmark](#16-task-配置为-free_benchmark)。 <br/>  **配置示例**："task": "tensor"。  | 否       |
-| dump_path         | 设置 dump 数据目录路径，str 类型。<br/>  **配置示例**："dump_path": "./dump_path"。MindSpore 场景仅支持绝对路径。 | 是       |
-| rank              | 指定对某张卡上的数据进行 dump，list[int] 类型，默认未配置（表示 dump 所有卡的数据），应配置为 ≥0 的整数，且须配置实际可用的 Rank ID。<br/>  <hr>PyTorch 场景：Rank ID 从 0 开始计数，最大取值为所有节点可用卡总数-1，若所配置的值大于实际训练所运行的卡的 Rank ID，则 dump 数据为空，比如当前环境 Rank ID 为 0 到 7，实际训练运行 0 到 3 卡，此时若配置 Rank ID 为 4 或不存在的 10 等其他值，dump 数据为空。<br/>  **配置示例**："rank": [1]。<hr> MindSpore 场景：所有节点的 Rank ID 均从 0 开始计数，最大取值为每个节点可用卡总数-1，config.json 配置一次 rank 参数对所有节点同时生效。<br/>  **配置示例**："rank": [1]。 | 否       |
-| step              | 指定 dump 某个 step 的数据，list[int] 类型。默认未配置，表示 dump 所有 step 数据。dump 特定 step 时，须指定为训练脚本中存在的 step。step 为 list 格式，可配置逐个 step。<br/>  **配置示例**："step": [0,1,2]。 | 否       |
-| level             | dump 级别，str 类型，根据不同级别 dump 不同数据。可取值，<br/>"L0"：dump 模块级精度数据，仅 PyTorch 与 MindSpore 动态图场景支持，使用背景详见 [1.1.1 模块级精度数据 dump 说明](#111-模块级精度数据-dump-说明)；<br/>"L1"：dump API 级精度数据，默认值，仅 PyTorch 与 MindSpore 动态图场景支持；<br/>"L2"：dump kernel 级精度数据，PyTorch场景下须配置 acl_config 参数；<br/>"mix"：dump module 模块级和 API 级精度数据，即"L0"+"L1"，仅 PyTorch 场景支持。<br/>  **配置示例**："level": "L1"。 | 否 |
-| acl_config        | kernel dump 的配置文件，str 类型。level 取"L2"时，该参数必要；level 为其他值时，该参数不选。<br/> **配置示例**：acl_config="./acl_config.json"。具体配置见[ acl_config 示例](./04.acl_config_examples.md)。 | 否       |
-| seed              | 随机种子数，int 类型，默认值为：1234，仅 PyTorch 场景支持。通过固定随机数保证模型的输入或输出一致，可固定的随机数详见 [1.1.2 固定随机数范围（仅 PyTorch 场景支持）](#112-固定随机数范围仅-pytorch-场景支持)。<br/>  **配置示例**："seed": 1234。 | 否       |
-| is_deterministic  | 确定性计算模式，bool 类型，仅 PyTorch 场景支持。可取值 true（开启）或 false（关闭），默认关闭。<br/>  即使在相同的硬件和输入下，API 多次执行的结果也可能不同，开启确定性计算是为了保证在相同的硬件和输入下，API 多次执行的结果相同。<br/>确定性计算会导致 API 执行性能降低，建议在发现模型多次执行结果不同的情况下开启。<br/> rnn 类算子、ReduceSum、ReduceMean 等算子可能与确定性计算存在冲突，若开启确定性计算后多次执行的结果不相同，则考虑存在这些算子。<br/>  **配置示例**："is_deterministic": true。<br/>  | 否       |
-| enable_dataloader | 自动控制开关，bool 类型，仅 PyTorch 场景支持。可取值 true（开启）或 false（关闭），默认为 false。配置为 True 后自动识别 step 参数指定的迭代，并在该迭代执行完成后退出训练，此时 start、stop 和 step 函数可不配置，开启该开关要求训练脚本是通过 torch.utils.data.dataloader 方式加载数据。仅支持 PyTorch 单卡训练使用，分布式训练场景下存在数据 dump 不全问题，**下个版本即将废弃该功能**。 | 否       |
+| task              | dump 的任务类型，str 类型。可选参数：<br/>  "statistics"：仅采集统计信息，默认值；<br/> "tensor"：采集统计信息和完全复刻整网的真实数据；<br/> "run_ut"：精度预检，仅 PyTorch 场景支持，采集数据时勿选；<br/> "overflow_check"：溢出检测；<br/>  "free_benchmark"：无标杆比对。<br/>    根据 task 参数取值的不同，可以配置不同场景参数，详见：<br/>[1.2 task 配置为 statistics](#12-task-配置为-statistics)，<br/>[1.3 task 配置为 tensor](#13-task-配置为-tensor)，<br/>[1.4 task 配置为 run_ut](#14-task-配置为-run_ut)，<br/>[1.5 task 配置为 overflow_check](#15-task-配置为-overflow_check)，<br/>[1.6 task 配置为 free_benchmark](#16-task-配置为-free_benchmark)。 <br/>  **配置示例**："task": "tensor"。  | 否       |
+| dump_path         | 设置 dump 数据目录路径，str 类型。<br/>  **配置示例**："dump_path": "./dump_path"。 | 是       |
+| rank              | 指定对某张卡上的数据进行采集，list[Union[int, str]] 类型，默认未配置（表示采集所有卡的数据），应配置元素为 ≥0 的整数或类似"4-6"的字符串，且须配置实际可用的 Rank ID。<br/>  PyTorch 场景: Rank ID 从 0 开始计数，最大取值为所有节点可用卡总数-1，若所配置的值大于实际训练所运行的卡的 Rank ID，则 dump 数据为空，比如当前环境 Rank ID 为 0 到 7，实际训练运行 0 到 3 卡，此时若配置 Rank ID 为 4 或不存在的 10 等其他值，dump 数据为空。<br/>  MindSpore 场景：所有节点的 Rank ID 均从 0 开始计数，最大取值为每个节点可用卡总数-1，config.json 配置一次 rank 参数对所有节点同时生效。<br/>**配置示例**："rank": [1, "4-6"]。 | 否       |
+| step              | 指定采集某个 step 的数据，list[Union[int, str]] 类型。默认未配置，表示采集所有 step 数据。采集特定 step 时，须指定为训练脚本中存在的 step，可逐个配置，也可以指定范围。<br/>  **配置示例**："step": [0, 1 , 2, "4-6"]。 | 否       |
+| level             | dump 级别，str 类型，根据不同级别采集不同数据。可选参数：<br/>"L0"：dump 模块级精度数据，仅 PyTorch 与 MindSpore 动态图场景支持，使用背景详见 [1.1.1 模块级精度数据 dump 说明](#111-模块级精度数据-dump-说明)；<br/>"L1"：dump API 级精度数据，默认值，仅 PyTorch 与 MindSpore 动态图场景支持；<br/>"L2"：dump kernel 级精度数据，PyTorch 场景下须配置 acl_config 参数；<br/>"mix"：dump module 模块级和 API 级精度数据，即"L0"+"L1"，仅 PyTorch 与 MindSpore 动态图场景支持。<br/>  **配置示例**："level": "L1"。 | 否 |
+| acl_config        | kernel dump 的配置文件，str 类型。当 PyTorch 场景的 level 取"L2"时，该参数必选；level 为其他值时，该参数不选。<br/> **配置示例**：acl_config="./acl_config.json"。具体配置见[ acl_config 示例](./04.acl_config_examples.md)。 | 否       |
+| enable_dataloader | 自动控制开关，bool 类型，仅 PyTorch 场景支持。可选参数 true（开启）或 false（关闭），默认为 false。配置为 true 后自动识别 step 参数指定的迭代，并在该迭代执行完成后退出训练，此时 start、stop 和 step 函数可不配置，开启该开关要求训练脚本是通过 torch.utils.data.dataloader 方式加载数据。仅支持 PyTorch 单卡训练使用，分布式训练场景下存在数据 dump 不全问题。 | 否       |
 
 #### 1.1.1 模块级精度数据 dump 说明
 
@@ -32,79 +30,50 @@
 
 模块指的是继承 nn.Module 类（PyTorch场景）或 nn.Cell 类（MindSpore场景）的子类，通常情况下这类模块就是一个小模型，可以被视为一个整体，dump 数据时以模块为粒度进行 dump。
 
-#### 1.1.2 固定随机数范围（仅 PyTorch 场景支持）
-
-seed_all 函数可固定随机数的范围如下表。
-
-| API                                      | 固定随机数                  |
-| ---------------------------------------- | --------------------------- |
-| os.environ['PYTHONHASHSEED'] = str(seed) | 禁止 Python 中的 hash 随机化 |
-| random.seed(seed)                        | 设置 random 随机生成器的种子  |
-| np.random.seed(seed)                     | 设置 numpy 中随机生成器的种子 |
-| torch.manual_seed(seed)                  | 设置当前 CPU 的随机种子       |
-| torch.cuda.manual_seed(seed)             | 设置当前 GPU 的随机种子       |
-| torch.cuda.manual_seed_all(seed)         | 设置所有 GPU 的随机种子       |
-| torch_npu.npu.manual_seed(seed)          | 设置当前 NPU 的随机种子       |
-| torch_npu.npu.manual_seed_all(seed)      | 设置所有 NPU 的随机种子       |
-| torch.backends.cudnn.enable=False        | 关闭 cuDNN                   |
-| torch.backends.cudnn.benchmark=False     | cuDNN 确定性地选择算法       |
-| torch.backends.cudnn.deterministic=True  | cuDNN 仅使用确定性的卷积算法 |
-
-需要保证 CPU 或 GPU 以及 NPU 的模型输入完全一致，dump 数据的比对才有意义，seed_all 并不能保证模型输入完全一致，如下表所示场景需要保证输入的一致性。
-
-| 场景            | 固定方法      |
-| --------------- | ------------- |
-| 数据集的 shuffle | 关闭 shuffle。 |
-| dropout         | 关闭 dropout。 |
-
-关闭 shuffle 示例：
-
-```python
-train_loader = torch.utils.data.DataLoader(
-train_dataset,
-batch_size = batch_size,
-shuffle = False,
-num_workers = num_workers
-)
-```
+### 1.2 task 配置为 statistics
 
-关闭 dropout：
+<table>
+    <tr><th>参数</th><th>解释</th><th>是否必选</th></tr>
+    <tr><td>scope</td><td>PyTorch 和 MindSpore 动态图场景 dump 范围，list[str] 类型，默认未配置（list 也未配置时表示 dump 所有 API 的数据）。该参数可以在 [ ] 内配置两个模块名或 API 名，用于锁定区间，dump 该范围内的数据；也可以在 [ ] 内配置一个模块名，表示dump此模块内部的API或子模块数据（仅level配置为mix时支持配置一个模块名）。<br/><b>配置示例</b>："scope": ["MyModuleOP1", "MyModuleOP2"]或"scope": ["MyModuleOP1"]。与 level 参数取值相关，level 为 L0 和 mix 级别时，可配置模块名；level 为 L1 级别时，可配置 API 名。</td><td>否</td></tr>
+    <tr><td rowspan="4">list</td><td>自定义采集的算子列表，list[str] 类型，默认未配置（scope 也未配置时表示 dump 所有 API 的数据），包含以下配置方法：</td><td rowspan="4">否</td></tr>
+    <tr><td>PyTorch 和 MindSpore 动态图场景配置具体的 API 全称，dump 该 API 数据。<br/><b>配置示例</b>："list": ["Tensor.permute.1.forward", "Tensor.transpose.2.forward", "Torch.relu.3.backward"]。</td></tr>
+    <tr><td>PyTorch 和 MindSpore 动态图场景指定某一类 API，dump 某一类的 API 级别输入输出数据。<br/><b>配置示例</b>："list": ["relu"]。</td></tr>
+    <tr><td>MindSpore 静态图场景配置 kernel_name，可以是算子的名称列表，也可以指定算子类型（"level": "L2"时不支持），还可以配置算子名称的正则表达式（当字符串符合“name-regex(xxx)”格式时，后台则会将其作为正则表达式。<br/><b>配置示例</b>：list: ["name-regex(Default/.+)"]<br/>可匹配算子名称以“Default/”开头的所有算子。</td></tr>
+    <tr><td rowspan="3">data_mode</td><td>dump 数据过滤，str 类型。</td><td rowspan="3">否</td></tr>
+    <tr><td>PyTorch 场景：支持"all"、"forward"、"backward"、"input"和"output"，表示仅采集包含"forward"、"backward"、"input"和"output"字段的数据。<br/> <b>配置示例</b>："data_mode": ["backward"] 或 "data_mode": ["forward", "backward"]。默认为["all"]，即保存所有 dump 的数据。除了 all 参数只能单独配置外，其他参数可以自由组合。</td></tr>
+    <tr><td>MindSpore 场景：仅支持"all"、"input"和"output"参数，且各参数只能单独配置，不支持自由组合。<br/><b>配置示例</b>："data_mode": ["all"]。</td></tr>
+    <tr><td>summary_mode</td><td>控制 dump 文件输出的模式，str 类型，仅 PyTorch 场景支持，可选参数：<br/> md5：dump 输出包含 md5 值以及 API 统计信息的 dump.json 文件，用于验证数据的完整性；<br/> statistics：dump 仅输出包含 API 统计信息的 dump.json 文件，默认值。<br/><b>配置示例</b>："summary_mode": "md5"。</td><td>否</td></tr>
+</table>
 
-在使用 `from msprobe.pytorch import PrecisionDebugger` 后，工具会自动将 `torch.nn.functional.dropout`、`torch.nn.functional.dropout2d`、`torch.nn.functional.dropout3d`、`torch.nn.Dropout`、`torch.nn.Dropout2d`、`torch.nn.Dropout3d` 的接口参数 p 置为0。
 
-### 1.2 task 配置为 statistics
 
-| 参数名       | 解释               | 是否必选 |
-| ------------ | ------------------- | -------- |
-| scope        | PyTorch 和 MindSpore 动态图场景 dump 范围，list[str] 类型，默认未配置（list 也未配置时表示 dump 所有 API 的数据）。该参数在 [ ] 内配置两个模块名或 API 名，用于锁定区间，dump 该范围内的数据。<br/>**配置示例**："scope": ["MyModuleOP1", "MyModuleOP2"]。与 level 参数取值相关，level 为 L0 和 mix 级别时，可配置模块名；level 为 L1 级别时，可配置 API 名。MindSpore 动态图场景当前仅支持配置为 API 名。  | 否       |
-| list         | 自定义 dump 范围，list[str] 类型，默认未配置（scope 也未配置时表示 dump 所有 API 的数据）。包含如下配置方法：<br>        PyTorch 和 MindSpore 动态图场景配置具体的 API 全称，dump 该 API 数据。<br/>**配置示例**："list": ["Tensor.permute.1.forward", "Tensor.transpose.2.forward", "Torch.relu.3.backward"]。<br/>  <hr>      PyTorch 和 MindSpore 动态图场景指定某一类 API，dump 某一类的 API 级别输入输出数据。<br/>**配置示例**："list": ["relu"]。<hr> MindSpore 静态图场景配置 kernel_name，可以是算子的名称列表，也可以指定算子类型（"level": "L2"时不支持），还可以配置算子名称的正则表达式（当字符串符合“name-regex(xxx)”格式时，后台则会将其作为正则表达式。例如，“name-regex(Default/.+)”可匹配算子名称以“Default/”开头的所有算子）。 | 否      |
-| data_mode    | dump 数据过滤，str 类型。<br/><hr>PyTorch 场景：支持"all"、"forward"、"backward"、"input"和"output"，表示仅保存 dump 的数据中文件名包含"forward"、"backward"、"input"和"output"的前向、反向、输入或输出的 dump 文件。<br/> **配置示例**："data_mode": ["all"]。 <hr>MindSpore 场景：仅支持"all"、"input"和"output"参数，且各参数只能单独配置，不支持自由组合。<br/>**配置示例**："data_mode": ["backward"] 或 "data_mode": ["forward", "backward"]。默认为["all"]，即保存所有 dump 的数据。除了 all 参数只能单独配置外，其他参数可以自由组合。 | 否       |
-| summary_mode | 控制 dump 文件输出的模式，str 类型，仅 PyTorch 场景支持，可取值，<br/> md5：dump 输出包含 md5 值以及 API 统计信息的 dump.json 文件，用于验证数据的完整性；<br/> statistics：dump 仅输出包含 API 统计信息的 dump.json 文件，默认值。<br/> **配置示例**："summary_mode": "md5"。 | 否       |
 
 ### 1.3 task 配置为 tensor
 
-| 参数名         | 解释         | 是否必选 |
+| 参数         | 解释         | 是否必选 |
 | -------------- | ---------------------- | -------- |
 | scope          | 与[ 1.2 task 配置为 statistics ](#12-task-配置为-statistics)中的解释相同。 | 否       |
+| list           | 与[ 1.2 task 配置为 statistics ](#12-task-配置为-statistics)中的解释相同。 | 否       |
+| backward_input | 首次运行训练采集得到反向 API 输入的 dump 文件，list[str] 类型，仅支持 PyTorch 场景的 kernel dump，默认未配置。例如，若需要采集 Functional.conv2d.1 API 反向过程的输入输出，则需要在 dump 目录下查找命名包含 Functional.conv2d.1、backward 和 input 字段的 dump 文件。<br/>**配置示例**："backward_input": ["./npu_dump/step0/rank0/dump_tensor_data/Functional.conv2d.1.backward.input.0.pt"] | 否       |
 | list           | 与[ 1.2 task 配置为 statistics ](#12-task-配置为-statistics)中的解释相同。另外，<br/> PyTorch 和 MindSpore 动态图场景配置 kernel_api，dump 前向和反向 API 的kernel_api 级别数据，其中 dump 反向 API 时需要配置 **backward_input** 参数。<br/>**前向 API 配置示例**："list": ["Tensor.permute.1.forward"]；<br/>**反向 API 配置示例**："list": ["Tensor.permute.1.forward"], "backward.input": ["./npu_dump/step0/rank0/Functional.conv2d.1.backward.input.0.pt"]。<br/> | 否       |
-| backward_input | 该输入文件为首次运行训练 dump 得到反向 API 输入的 dump 文件，str 类型，仅 PyTorch 场景支持，默认未配置。例如若需要 dump Functional.conv2d.1 API 的反向过程的输入输出，则需要在 dump 目录下查找命名包含 Functional.conv2d.1、backward 和 input 字段的 dump 文件。<br/>**配置示例**："backward_input": ["./npu_dump/step0/rank0/Functional.conv2d.1.backward.input.0.pt"] | 否       |
+| backward_input | 该输入文件为首次运行训练 dump 得到反向 API 输入的 dump 文件，list[str] 类型，仅 PyTorch 场景支持，默认未配置。例如若需要 dump Functional.conv2d.1 API 的反向过程的输入输出，则需要在 dump 目录下查找命名包含 Functional.conv2d.1、backward 和 input 字段的 dump 文件。<br/>**配置示例**："backward_input": ["./npu_dump/step0/rank0/Functional.conv2d.1.backward.input.0.pt"] | 否       |
 | data_mode      | 与[ 1.2 task 配置为 statistics ](#12-task-配置为-statistics)中的解释相同 | 否       |
-| file_format    | MindSpore 静态图场景 tensor 数据的保存格式，str 类型，可取值，<br/> "bin"：dump 的 tensor 文件为二进制格式，"level": "L1" 时不支持；<br/>"npy"：dump 的 tensor 文件后缀为 .npy，默认值。 | 否       |
-| online_run_ut<sup>a<sup/>  | 在线预检模式开关，bool 类型，可取值 true（开启）、false（关闭），默认未配置，表示关闭。配置为 true 表示开启在线预预检。| 否 |
-| nfs_path<sup>a<sup/> | 在线预检模式共享存储目录路径，str 类型，用于 GPU 设备和 NPU 设备间进行通信。仅在 online_run_ut 字段配置为 true 时生效，未配置该参数后 host 和 port 不生效。 | 否 |
-| host<sup>a<sup/> | 在线预检模式局域网场景信息接收端 IP，str 类型，用于 GPU 设备和 NPU 设备间进行通信，NPU 侧须配置为 GPU 侧的局域网 IP 地址。仅在 online_run_ut 字段配置为 true 时生效，局域网场景时，不能配置 nfs_path 参数，否则局域网场景不生效。 | 否 |
-| port<sup>a<sup/> | 在线预检模式局域网场景信息接收端端口号，int 类型，用于 GPU 设备和 NPU 设备间进行通信，NPU 侧须配置为 GPU 侧的端口号。仅在 online_run_ut 字段配置为 true 时生效，局域网场景时，不能配置 nfs_path 参数，否则局域网场景不生效。| 否 |
+| file_format    | tensor 数据的保存格式，str 类型，仅支持 MindSpore 静态图场景的 L2，不支持 L0 和 L1。可选参数：<br/> "bin"：dump 的 tensor 文件为二进制格式；<br/>"npy"：dump 的 tensor 文件后缀为 .npy，默认值。 | 否       |
+| online_run_ut<sup>a</sup>  | 在线预检模式开关，bool 类型，可选参数 true（开启）、false（关闭），默认未配置，表示关闭。配置为 true 表示开启在线预检。| 否 |
+| nfs_path<sup>a</sup> | 在线预检模式共享存储目录路径，str 类型，用于 GPU 设备和 NPU 设备间进行通信。仅在 online_run_ut 字段配置为 true 时生效，配置该参数后 host 和 port 不生效。 | 否 |
+| host<sup>a</sup> | 在线预检模式局域网场景信息接收端 IP，str 类型，用于 GPU 设备和 NPU 设备间进行通信，NPU 侧须配置为 GPU 侧的局域网 IP 地址。仅在 online_run_ut 字段配置为 true 时生效，局域网场景时，不能配置 nfs_path 参数，否则局域网场景不生效。 | 否 |
+| port<sup>a</sup> | 在线预检模式局域网场景信息接收端端口号，int 类型，用于 GPU 设备和 NPU 设备间进行通信，NPU 侧须配置为 GPU 侧的端口号。仅在 online_run_ut 字段配置为 true 时生效，局域网场景时，不能配置 nfs_path 参数，否则局域网场景不生效。| 否 |
 
 **a**：online_run_ut、nfs_path、host、port 等字段仅在线预检场景 NPU 机器生效。
 
 ### 1.4 task 配置为 run_ut
 
-| 参数名称        | 解释                   | 是否必选 |
+| 参数        | 解释                   | 是否必选 |
 | --------------- | ------------------------ | ------------ |
 | white_list<sup>a</sup>      | API dump 白名单，仅对指定的 API 进行 dump。<br/>**配置示例**："white_list": ["conv1d", "conv2d"]。默认未配置白名单，即 dump 全量 API 数据。 | 否       |
 | black_list<sup>a</sup>      | API dump 黑名单，被指定的 API 不进行 dump。<br/>**配置示例**："black_list": ["conv1d", "conv2d"]。默认未配置黑名单，即 dump 全量 API 数据。 | 否       |
 | error_data_path | 配置保存精度未达标的 API 输入输出数据路径，默认为当前路径。<br/>**配置示例**："error_data_path": "./"。 | 否       |
-| is_online<sup>b</sup>       | 在线预检模式开关，bool 类型，可取值 true（开启）、false（关闭），默认关闭。 | 否 |
+| is_online<sup>b</sup>       | 在线预检模式开关，bool 类型，可选参数 true（开启）、false（关闭），默认关闭。 | 否 |
 | nfs_path<sup>b</sup>        | 在线预检模式共享存储目录路径，str 类型，用于 GPU 设备和 NPU 设备间进行通信。配置该参数后 host 和 port 不生效，仅在 is_online 字段配置为 true 时生效。 | 否    |
 | host<sup>b</sup>            | 在线预检模式局域网场景信息接收端 IP，str 类型，用于 GPU 设备和 NPU 设备间进行通信，GPU 侧配置为本机地址 127.0.0.1 或本机局域网 IP。局域网场景时，不能配置 nfs_path 参数，否则局域网场景不生效。仅在 is_online 字段配置为 true 时生效。 | 否 |
 | port<sup>b</sup>            | 在线预检模式局域网场景信息接收端端口号，int 类型，用于 GPU 设备和 NPU 设备间进行通信，GPU 侧配置为本机可用端口。局域网场景时，不能配置 nfs_path 参数，否则局域网场景不生效。仅在 is_online 字段配置为 true 时生效。| 否 |
@@ -116,12 +85,12 @@ num_workers = num_workers
 
 ### 1.5 task 配置为 overflow_check
 
-PyTorch 与 MindSpore 动态图场景下，"level"须为"L1"；MindSpore 静态图场景下，"level"须为"L2"。
+PyTorch 与 MindSpore 动态图场景下，"level"须为"L1"；MindSpore 静态图场景下，"level"须为"L2"，且模型编译优化等级（jit_level）须为"O2"。
 
-| 参数名        | 解释                 | 是否必选 |
+| 参数        | 解释                 | 是否必选 |
 | ------------- | ---------------------- | -------- |
 | overflow_nums | 最大溢出次数，int 类型，默认为 1，仅 PyTorch 与 MindSpore 动态图场景支持。表示第 N 次溢出后，不再进行溢出检测。过程中检测到溢出 API 对应的 输入输出 数据均 dump。<br/>**配置示例**："overflow_nums": 3。配置为 -1 时，表示持续检测溢出直到训练结束。 | 否       |
-| check_mode    | MindSpore 静态图场景 kernel 级别的溢出检测，str 类型，可取值：<br/>"aicore"：开启 AI Core 的溢出检测；<br/>"atomic"：开启 Atomic 的溢出检测；<br/>"all"：开启 AI Core 和 Atomic 的溢出检测，默认值。<br/>**配置示例**："check_mode": "aicore"。 | 否       |
+| check_mode    | 溢出类型，str 类型，仅 MindSpore 场景支持，可选参数：<br/>"aicore"：开启 AI Core 的溢出检测，不支持 MindSpore v2.3.0 以上版本；<br/>"atomic"：开启 Atomic 的溢出检测，不支持 MindSpore v2.3.0 以上版本；<br/>"all"：开启算子的溢出检测，默认值。<br/>**配置示例**："check_mode": "all"。 | 否       |
 
 ### 1.6 task 配置为 free_benchmark
 
@@ -133,18 +102,21 @@ PyTorch 与 MindSpore 动态图场景下，"level"须为"L1"；MindSpore 静态
 
 - 建议配置白名单（配置 scope 或 list）控制少量 API 进行无标杆比对，一次对过多 API 执行无标杆比对可能导致显存溢出或性能膨胀。
 
-| 参数名       | 解释               | 是否必选 |
-| ------------ | -------------- | -------- |
-| scope        | 自定义检测 API 列表（仅 PyTorch 场景支持），list[str] 类型，默认值为空列表，当 list 也为空列表时，表示检测所有 API。需要在 [ ] 内配置具体 API 名（在 dump 的结果中查看）。<br/>**配置示例**："scope": ["Torch.matmul.0", "Tensor.pow.4"]。<br/>与 list 参数不能同时配置。 | 否       |
-| list         | 自定义检测 API 类型或 API 名称，list[str] 类型，默认值为空列表，表示检测所有 API（PyTorch 场景下还需 scope 也为空列表）。<br><hr>        PyTorch 场景：指定某一类 API，对某一类的 API 进行无标杆比对。<br/>**配置示例**："list": ["relu"]。<br/> <hr>       MindSpore 场景：指定 API 名称，对列表中的 API 进行检测。<br/>**配置示例**："list": ["mindspore.mint.div", "mindspore.ops.bmm", "mindspore.Tensor.\_\_add\_\_"]。<br/>与 scope 参数不能同时配置。 | 否       |
-| fuzz_device  | 标杆设备，str 类型。可取值，<br/>        "npu"：无标杆，通过添加扰动因子进行比对，默认值；<br/>        "cpu"：以 CPU 为标杆，pert_mode 须配置为"to_cpu"（仅 PyTorch 场景支持）。<br/>**配置示例**："fuzz_device": "cpu"。 | 否       |
-| pert_mode    | 无标杆扰动因子，str 类型。可取值，<br/>  "improve_precision"：对输入做升精度，默认值；<br/>        "add_noise"：对输入增加噪声；<br/>        "no_change"：不加扰动直接二次执行；<br/>        "bit_noise"：输入的末位比特翻转；<br/>        "change_value"：输入的张量首尾值调换（仅 PyTorch 场景支持）；<br/>        "to_cpu"：在 CPU 等价执行（仅 PyTorch 场景支持）。<br/>**配置示例**："pert_mode": "improve_precision"。 | 否       |
-| handler_type | 处理类型，可取值，<br/> "check"：进行无标杆比对检查，默认值；<br/> "fix"：将扰动后的 API 输出结果覆盖原始 API 输出结果，尝试将 Loss 曲线恢复正常，该模式下不支持预热 if_preheat。<br/> **配置示例**："handler_type": "fix"。 | 否       |
-| fuzz_level   | 无标杆数据 dump 级别，即选择比对结果文件应输出的表头属性，当前仅支持取值为："L1"。输出结果详见 [1.6.1 无标杆比对数据存盘格式]()。 | 否       |
-| fuzz_stage   | 前反向，选择对 API 前向或反向进行无标杆比对，可取值：<br/> "forward"：前向，默认值；<br/>  "backward"：反向。<br/>  **配置示例**："fuzz_stage": "backward"。 | 否       |
-| if_preheat   | 预热功能（仅 PyTorch 场景支持），开启功能后工具可以根据每次迭代的输出调整精度算法的阈值，从而更准确地找出存在精度问题的 API，bool 类型。可取值：<br/>  true（开启）或 false（关闭），默认关闭。<br/>  **配置示例**："if_preheat": "true"。"handler_type": "fix"不支持预热。 | 否       |
-| preheat_step | 开启预热的迭代数量（仅 PyTorch 场景支持），int 类型，默认值为 15。须配置 "if_preheat": "true"。 | 否       |
-| max_sample   | 每个算子预热的采样次数的最大阈值（仅 PyTorch 场景支持），int 类型，默认值为 20。须配置 "if_preheat": "true"。 | 否       |
+<table>
+    <tr><th>参数</th><th>解释</th><th>是否必选</th></tr>
+    <tr><td>scope</td><td>自定义检测 API 列表（仅 PyTorch 场景支持），list[str] 类型，默认值为空列表，当 list 也为空列表时，表示检测所有 API。需要在 [ ] 内配置具体 API 名（在 dump 的结果中查看）。与 list 参数不能同时配置。<br/><b>配置示例</b>："scope": ["Torch.matmul.0.forward", "Tensor.pow.4.forward"]。</td><td>否</td></tr>
+    <tr><td rowspan="3">list</td><td>自定义检测 API 类型或 API 名称，list[str] 类型，默认值为空列表，表示检测所有 API（PyTorch 场景下还需 scope 也为空列表）。与 scope 参数不能同时配置。</td><td rowspan="3">否</td></tr>
+    <tr><td>PyTorch 场景：指定某一类 API，对某一类的 API 进行无标杆比对。<br/><b>配置示例</b>："list": ["relu"]。</td></tr>
+    <tr><td>MindSpore 场景：指定 API 名称，对列表中的 API 进行检测。<br/><b>配置示例</b>："list": ["mindspore.mint.div", "mindspore.ops.bmm", "mindspore.Tensor.__add__"]。</td></tr>
+    <tr><td>fuzz_device</td><td>标杆设备，str 类型。可选参数：<br/>        "npu"：无标杆，通过添加扰动因子进行比对，默认值；<br/>        "cpu"：以 CPU 为标杆，pert_mode 须配置为"to_cpu"（仅 PyTorch 场景支持）。<br/><b>配置示例</b>："fuzz_device": "npu"。</td><td>否</td></tr>
+    <tr><td>pert_mode</td><td>无标杆扰动因子，str 类型。可选参数：<br/>  "improve_precision"：对输入做升精度，默认值；<br/>        "add_noise"：对输入增加噪声；<br/>        "no_change"：不加扰动直接二次执行；<br/>        "bit_noise"：输入的末位比特翻转，MindSpore 场景不支持 BF16 类型的向量；<br/>        "change_value"：输入的张量首尾值调换；<br/>        "to_cpu"：在 CPU 等价执行（仅 PyTorch 场景支持）。<br/><b>配置示例</b>："pert_mode": "improve_precision"。</td><td>否</td></tr>
+    <tr><td>handler_type</td><td>处理类型，可选参数：<br/> "check"：进行无标杆比对检查，默认值；<br/> "fix"：将扰动后的 API 输出结果覆盖原始 API 输出结果，尝试将 Loss 曲线恢复正常，该模式下不支持预热功能与反向过程，且仅支持"improve_precision"、"to_cpu"（ PyTorch 场景）两种扰动因子。<br/> <b>配置示例</b>："handler_type": "check"。</td><td>否</td></tr>
+    <tr><td>fuzz_level</td><td>无标杆数据 dump 级别，即选择比对结果文件应输出的表头属性，当前仅支持取值为："L1"。输出结果详见 <a href="#161-无标杆比对数据存盘格式">1.6.1 无标杆比对数据存盘格式</a>。</td><td>否</td></tr>
+    <tr><td>fuzz_stage</td><td>比对过程，选择对 API 前向或反向进行无标杆比对，可选参数：<br/> "forward"：前向，默认值；<br/>  "backward"：反向, 仅 PyTorch 场景支持。当 fuzz_stage 为 "backward" 时，handler_type 只能为 "check"。<br/>  <b>配置示例</b>："fuzz_stage": "backward"。</td><td>否</td></tr>
+    <tr><td>if_preheat</td><td>预热功能（仅 PyTorch 场景支持），bool 类型。开启功能后工具可以根据每次迭代的输出调整精度算法的阈值，从而更准确地找出存在精度问题的 API。当"handler_type": "fix"时，不支持预热。可选参数：<br/>  true（开启）或 false（关闭），默认关闭。<br/>  <b>配置示例</b>："if_preheat": "true"。</td><td>否</td></tr>
+    <tr><td>preheat_step</td><td>开启预热的迭代数量（仅 PyTorch 场景支持），int 类型，默认值为 15。须配置 "if_preheat": "true"。</td><td>否</td></tr>
+    <tr><td>max_sample</td><td>每个算子预热的采样次数的最大阈值（仅 PyTorch 场景支持），int 类型，默认值为 20。须配置 "if_preheat": "true"。</td><td>否</td></tr>
+</table>
 
 #### 1.6.1 无标杆比对数据存盘格式
 
@@ -152,7 +124,7 @@ PyTorch 与 MindSpore 动态图场景下，"level"须为"L1"；MindSpore 静态
 
 ![free_benchmark](./img/free_benchmark.png)
 
-| 字段         | 说明                                                         |
+| 字段         | 解释                                                         |
 | ------------ | --------------------- |
 | rank         | Rank ID，int 类型。                                           |
 | pert_mode    | 扰动因子的类型，string 类型。                                 |

msprobe/docs/03.config_examples.md

@@ -13,8 +13,6 @@
     "rank": [],
     "step": [],
     "level": "L1",
-    "seed": 1234,
-    "is_deterministic": false,
     "enable_dataloader": false,
 
     "statistics": {
@@ -35,15 +33,13 @@
     "rank": [],
     "step": [],
     "level": "L1",
-    "seed": 1234,
-    "is_deterministic": false,
     "enable_dataloader": false,
 
     "tensor": {
         "scope": [],
         "list":[],
         "data_mode": ["all"],
-        "backward_input": ""
+        "backward_input": []
     }
 }
 ```
@@ -57,8 +53,6 @@
     "rank": [],
     "step": [],
     "level": "L1",
-    "seed": 1234,
-    "is_deterministic": false,
     "enable_dataloader": false,
 
     "run_ut": {
@@ -78,8 +72,6 @@
     "rank": [],
     "step": [],
     "level": "L1",
-    "seed": 1234,
-    "is_deterministic": false,
     "enable_dataloader": false,
 
     "overflow_check": {
@@ -97,8 +89,6 @@
     "rank": [],
     "step": [],
     "level": "L1",
-    "seed": 1234,
-    "is_deterministic": false,
     "enable_dataloader": false,
 
     "free_benchmark": {
@@ -116,7 +106,7 @@
 }
 ```
 
-## 2 MindSpore 静态图场景 
+## 2 MindSpore 静态图场景
 
 ### 2.1 task 配置为 statistics
 
@@ -149,7 +139,7 @@
     "tensor": {
         "list":[],
         "data_mode": ["all"],
-        "backward_input": ""
+        "backward_input": []
     }
 }
 ```

msprobe/docs/04.acl_config_examples.md

@@ -14,6 +14,7 @@
 	"rank": [0],
 	"step": [0],
 	"is_deterministic": false,
+
 	"tensor": {
 		"scope": ["Tensor.__mul__.10.forward"],
 		"list":[],
@@ -29,7 +30,7 @@
 
 执行反向 kernel dump 前需要先使用工具 dump 该 API 的反向输入，保存 pt 文件，"backward_input"参数中传入该 pt 文件路径。
 
-"scope"配置为反向API名称，仅支持配置一个API。
+"scope"配置为反向 API 名称，仅支持配置一个 API。
 
 ```json
 {
@@ -39,6 +40,7 @@
 	"rank": [0],
 	"step": [0],
 	"is_deterministic": false,
+
 	"tensor": {
 		"scope": ["Tensor.__mul__.10.backward"],
 		"list":[],
@@ -56,13 +58,13 @@
 
 ```json
 {
- "dump":
- {
-	"dump_list":[],
-	"dump_path":"./dump/output",
-	"dump_mode":"all",
-	"dump_op_switch":"on"
- }
+	"dump":
+	{
+		"dump_list":[],
+		"dump_path":"./dump/output",
+		"dump_mode":"all",
+		"dump_op_switch":"on"
+		}
 }
 ```
 
@@ -73,4 +75,4 @@
 | dump_list      | 待 dump 数据的 API 模型。为空，无需配置。                        |
 | dump_path      | dump 数据文件存储到运行环境的目录，主要配置的是 kernel 级数据的存放路径。支持配置绝对路径或相对路径。dump_path 须为已存在目录。 |
 | dump_mode      | dump 数据模式，可取值，<br/> output：dump API 的输出数据，默认值；<br/> input：dump API 的输入数据；<br/> all：dump API 的输入、输出数据。 |
-| dump_op_switch | 单 API 模型 dump 数据开关，可取值，<br>        off：关闭单API模型dump，默认值；<br>        on：开启单API模型dump。 |
+| dump_op_switch | 单 API 模型 dump 数据开关，可取值，<br>        off：关闭单 API 模型 dump，默认值；<br>        on：开启单 API 模型 dump。 |

msprobe/docs/05.data_dump_PyTorch.md

@@ -23,7 +23,7 @@ functional:  # functional为算子类别，找到对应的类别，在该类别
 PrecisionDebugger(config_path=None, task=None, dump_path=None, level=None, model=None, step=None)
 ```
 
-1. config_path：指定 dump 配置文件路径；model：指定具体的 torch.nn.Module，默认未配置，level 配置为"L0"或"mix"时必须配置该参数。其他参数均在 [config.json](../config.json) 文件中可配，详细配置可见 [config.json 介绍](./02.config_introduction.md)。
+1. config_path：指定 dump 配置文件路径；model：指定具体的 torch.nn.Module，默认未配置，level 配置为"L0"或"mix"时，必须在该接口或 **start** 接口中配置该参数。其他参数均在 [config.json](../config.json) 文件中可配，详细配置可见 [config.json 介绍](./02.config_introduction.md)。
 2. 此接口的参数均不是必要，且优先级高于 [config.json](../config.json) 文件中的配置，但可配置的参数相比 config.json 较少。
 
 ### 1.2 start
@@ -33,12 +33,15 @@ PrecisionDebugger(config_path=None, task=None, dump_path=None, level=None, model
 **原型**：
 
 ```Python
-debugger.start()
+debugger.start(model=None)
 ```
 
+1.  model：指定具体的 torch.nn.Module，默认未配置，level 配置为"L0"或"mix"时，必须在该接口或 **PrecisionDebugger** 接口中配置该参数。
+本接口中的 model 比 PrecisionDebugger 中 model 参数优先级更高，会覆盖 PrecisionDebugger 中的 model 参数。
+
 ### 1.3 stop
 
-**功能说明**：停止精度数据采集。在 **start** 函数之后的任意位置添加。若需要 dump 反向数据，则需要添加在反向计算代码（如，loss.backward）之后。使用示例可参见 [2.1 采集 model 的精度数据](#21-采集-model-的精度数据)和 [2.2 采集完整的前反向数据](#22-采集完整的前反向数据)。
+**功能说明**：停止精度数据采集。在 **start** 函数之后的任意位置添加。若需要 dump 反向数据，则需要添加在反向计算代码（如，loss.backward）之后。使用示例可参见 [2.1 快速上手](#21-快速上手)和 [2.2 采集完整的前反向数据](#22-采集完整的前反向数据)。
 
 **原型**：
 
@@ -66,9 +69,89 @@ forward_backward_dump_end()
 debugger.step()
 ```
 
+### 1.6 module_dump
+
+**功能说明**：开启模块级精度数据dump。该接口为函数模块化接口，即只会dump输入的模块数据，不会dump子模块和模块内API的数据。
+需要配合start、stop和step等接口使用。使用示例可参考[2.4 采集函数模块化数据](#24-采集函数模块化数据)
+
+**原型**：
+
+```Python
+module_dump(module, module_name)
+```
+**参数说明**:
+
+1. module: 网络中实例化好的nn.Module类对象。数据类型：torch.nn.Module。必选。
+2. module_name：用户自定义该module名称，主要用于dump数据的命名。数据类型：str。必选。
+
+### 1.7 module_dump_end
+
+**功能说明**：结束模块级精度数据dump。在module_dump和module_dump_end之间的API或者Module，除了传入的module，其他数据均不会被dump。
+在执行完module_dump_end后数据恢复正常的dump模式。
+
+**原型**：
+
+```Python
+module_dump_end()
+```
+
+### 1.8 seed_all
+
+**功能说明**：对于网络中随机性的固定和确定性计算，msprobe工具提供了seed_all接口用于固定网络中的随机性和开启确定性计算。
+
+**原型**：
+```python
+seed_all(seed=1234, mode=False)
+```
+
+**参数说明**:
+
+1. seed: 随机性种子。参数示例: seed=1000。默认值：1234。非必选
+2. mode：确定性计算模式。可配置True或False。参数示例：mode=True。默认为False。非必选（注意：确定性计算会导致API执行性能降低，建议在发现模型多次执行结果不同的情况下开启）
+
+seed_all 函数可固定随机数的范围如下表。
+
+| API                                      | 固定随机数                  |
+| ---------------------------------------- | --------------------------- |
+| os.environ['PYTHONHASHSEED'] = str(seed) | 禁止 Python 中的 hash 随机化 |
+| os.environ['HCCL_DETERMINISTIC'] = True  | 固定通信算子计算的确定性       |
+| random.seed(seed)                        | 设置 random 随机生成器的种子  |
+| np.random.seed(seed)                     | 设置 numpy 中随机生成器的种子 |
+| torch.manual_seed(seed)                  | 设置当前 CPU 的随机种子       |
+| torch.cuda.manual_seed(seed)             | 设置当前 GPU 的随机种子       |
+| torch.cuda.manual_seed_all(seed)         | 设置所有 GPU 的随机种子       |
+| torch_npu.npu.manual_seed(seed)          | 设置当前 NPU 的随机种子       |
+| torch_npu.npu.manual_seed_all(seed)      | 设置所有 NPU 的随机种子       |
+| torch.use_deterministic_algorithms(True) | CUDA/CANN 使能确定性计算（注意mode为True时才会调用该方法开启确定性     |
+| torch.backends.cudnn.enable=False        | 关闭 cuDNN                   |
+| torch.backends.cudnn.benchmark=False     | cuDNN 确定性地选择算法       |
+| torch.backends.cudnn.deterministic=True  | cuDNN 仅使用确定性的卷积算法 |
+
+需要保证 CPU 或 GPU 以及 NPU 的模型输入完全一致，dump 数据的比对才有意义，seed_all 并不能保证模型输入完全一致，如下表所示场景需要保证输入的一致性。
+
+| 场景            | 固定方法      |
+| --------------- | ------------- |
+| 数据集的 shuffle | 关闭 shuffle。 |
+| dropout         | 关闭 dropout。 |
+
+关闭 shuffle 示例：
+
+```python
+train_loader = torch.utils.data.DataLoader(
+train_dataset,
+batch_size = batch_size,
+shuffle = False,
+num_workers = num_workers
+)
+```
+
+关闭 dropout：
+
+在使用 `from msprobe.pytorch import PrecisionDebugger` 后，工具会自动将 `torch.nn.functional.dropout`、`torch.nn.functional.dropout2d`、`torch.nn.functional.dropout3d`、`torch.nn.Dropout`、`torch.nn.Dropout2d`、`torch.nn.Dropout3d` 的接口参数 p 置为0.
+
 ## 2 示例代码
 
-### 2.1 采集 model 的精度数据
+### 2.1 快速上手
 
 这个示例定义了一个 nn.Module 类型的简单网络，在进行数据采集时使用原型函数 PrecisionDebugger 传入 config_path 参数和 model 参数。
 
@@ -78,8 +161,9 @@ import torch
 import torch.nn as nn
 import torch_npu  # 需安装 torch_npu
 import torch.nn.functional as F
-from msprobe.pytorch import PrecisionDebugger
-
+from msprobe.pytorch import PrecisionDebugger, seed_all
+# 在模型训练开始前固定随机性
+seed_all()
 
 torch.npu.set_device("npu:0")
 # 定义网络
@@ -110,8 +194,9 @@ if __name__ == "__main__":
 ### 2.2 采集完整的前反向数据
 
 ```Python
-from msprobe.pytorch import PrecisionDebugger
-
+from msprobe.pytorch import PrecisionDebugger, seed_all
+# 在模型训练开始前固定随机性
+seed_all()
 # 请勿将PrecisionDebugger的初始化流程插入到循环代码中
 debugger = PrecisionDebugger(config_path="./config.json", dump_path="./dump_path")
 # 模型、损失函数的定义及初始化等操作
@@ -130,8 +215,9 @@ for data, label in data_loader:
 ### 2.3 采集指定代码块的前反向数据
 
 ```Python
-from msprobe.pytorch import PrecisionDebugger
-
+from msprobe.pytorch import PrecisionDebugger, seed_all
+# 在模型训练开始前固定随机性
+seed_all()
 # 请勿将PrecisionDebugger的初始化流程插入到循环代码中
 debugger = PrecisionDebugger(config_path="./config.json", dump_path="./dump_path")
 
@@ -149,7 +235,46 @@ for data, label in data_loader:
 	debugger.step() # 结束一个step的dump
 ```
 
+### 2.4 采集函数模块化数据
+
+```Python
+# 根据需要import包
+import torch
+import torch.nn as nn
+import torch_npu  # 需安装 torch_npu
+import torch.nn.functional as F
+from msprobe.pytorch import PrecisionDebugger, module_dump, module_dump_end
+
+torch.npu.set_device("npu:0")
+# 定义网络
+class ModuleOP(nn.Module):
+    def __init__(self) -> None:
+        super().__init__()
+        self.linear_1 = nn.Linear(in_features=8, out_features=4)
+        self.linear_2 = nn.Linear(in_features=4, out_features=2)
 
+    def forward(self, x):
+        x1 = self.linear_1(x)
+        x2 = self.linear_2(x1)
+        r1 = F.relu(x2)
+        return r1
+
+if __name__ == "__main__":
+    module = ModuleOP()
+    # 注册工具
+    debugger = PrecisionDebugger(config_path='./config.json')
+    debugger.start()                   # 开启数据dump
+    
+    x = torch.randn(10, 8)             
+    # ...                              # start和module_dump接口之间的数据正常dump
+    module_dump(module, "MyModuleOP")  # 开启模块级精度数据dump
+    out = module(x)                    # module内部的child modules或API不会被dump
+    module_dump_end()                  # 关闭模块级精度数据dump
+    loss = out.sum()                   # module_dump_end和stop接口之间的数据正常dump
+    loss.backward()          
+
+    debugger.stop()                    # 关闭数据dump
+```
 
 ## 3 dump 结果文件介绍
 
@@ -183,7 +308,7 @@ for data, label in data_loader:
 
 dump 过程中，pt 文件在对应算子或者模块被执行后就会落盘，而 json 文件则需要在正常执行 PrecisionDebugger.stop() 后才会写入完整数据，异常的程序终止会保存终止前被执行算子的相关 npy 文件，可能会导致 json 文件中数据丢失。
 
-其中 rank 为设备上各卡的 ID，每张卡上 dump 的数据会生成对应 dump 目录。非分布式场景下没有rank ID，目录名称为rank。
+其中 rank 为设备上各卡的 ID，每张卡上 dump 的数据会生成对应 dump 目录。非分布式场景下没有 rank ID，目录名称为 rank。
 
 pt 文件保存的前缀和 PyTorch 对应关系如下：
 
@@ -192,7 +317,10 @@ pt 文件保存的前缀和 PyTorch 对应关系如下：
 | Tensor      | torch.Tensor        |
 | Torch       | torch               |
 | Functional  | torch.nn.functional |
-| NPU         | NPU亲和算子         |
+| NPU         | NPU 亲和算子         |
 | VF          | torch._VF           |
 | Aten        | torch.ops.aten      |
 | Distributed | torch.distributed   |
+
+
+