mindstudio-probe 1.0.3__py3-none-any.whl → 1.1.0__py3-none-any.whl

msprobe/pytorch/doc/ptdbg_ascend_overview.md

@@ -1,68 +0,0 @@
-# **精度比对工具**
-
-## 简介
-
-在PyTorch训练网络，对同一模型或API调试过程中，遇到API相关的计算精度问题，定位时费时费力。
-
-msprobe的精度比对工具，用来进行PyTorch整网API粒度的数据dump、精度比对和溢出检测，从而定位PyTorch训练场景下的精度问题。
-
-**使用场景**
-
-主要的使用场景包括：
-
-- 同一模型，从CPU或GPU移植到NPU中存在精度下降问题，对比NPU芯片中的API计算数值与CPU或GPU芯片中的API计算数值，进行问题定位。
-- 同一模型，进行迭代（模型、框架版本升级或设备硬件升级）时存在的精度下降问题，对比相同模型在迭代前后版本的API计算数值，进行问题定位。
-
-## 原理介绍
-
-精度对比工具，通过在PyTorch模型中注册hook，跟踪计算图中API的前向传播与反向传播时的输入与输出，排查存在计算精度误差，进行问题的精准定位。
-
-**精度比对流程**
-
-1. 当模型在CPU或GPU上进行正向和反向传播时，分别dump每一层的数值输入与输出。
-
-2. 当模型在NPU中进行计算时，采用相同的方式dump下相应的数据。
-
-3. 通过对比dump出的数值，计算余弦相似度和最大绝对误差的方式，定位和排查NPU API存在的计算精度问题。如下图所示。
-
-   精度比对逻辑图
-
-   ![module_compare](img/module_compare.png)
-
-**API匹配条件**
-
-进行精度比对时，需要判断CPU或GPU的API与NPU的API是否相同可比对，须满足以下匹配条件：
-
-- 两个API的名称相同，API命名规则：`{api_type}.{api_name}.{api调用次数}.{正反向}.{输入输出}.index`，如：Functional.conv2d.1.backward.input.0。
-- 两个API的输入输出Tensor数量和各个Tensor的Shape相同。
-
-通常满足以上两个条件，工具就认为是同一个API，成功进行API的匹配，后续进行相应的计算精度比对。
-
-## 精度比对总体流程
-
-1. 准备CPU或GPU训练工程。
-
-2. 在环境下安装msprobe工具。详见《[MindStudio精度调试工具](../../README.md)》的“工具安装”章节。
-
-3. 在训练脚本内添加msprobe工具dump接口PrecisionDebugger采集标杆数据。详见《[精度数据采集](./dump.md)》。
-
-4. 执行训练dump数据。
-
-5. 将CPU或GPU训练工程迁移为NPU训练工程。详见《[PyTorch模型迁移调优指南](https://www.hiascend.com/document/detail/zh/Pytorch/60RC1/ptmoddevg/trainingmigrguide/PT_LMTMOG_0003.html)》。
-
-6. 在NPU环境下安装msprobe工具。详见《[MindStudio精度调试工具](../../README.md)》的“工具安装”章节。
-
-7. 在NPU训练脚本内添加msprobe工具dump接口PrecisionDebugger采集标杆数据。详见《[精度数据采集](./dump.md)》。
-
-8. NPU环境下执行训练dump数据。
-
-9. 执行精度比对。
-
-   1. 创建并配置精度比对脚本，例如compare.py。
-
-   2. 执行CPU或GPU dump与NPU dump数据的精度比对。
-
-   3. 比对结果分析。
-
-      详见《[CPU或GPU与NPU精度数据比对](./ptdbg_ascend_compare.md)》。
-

msprobe/pytorch/doc/ptdbg_ascend_quickstart.md

@@ -1,381 +0,0 @@
-# **精度比对工具**
-
-本文主要介绍msprobe的精度比对工具的快速入门和场景化示例。
-
-本文介绍的操作需要安装msprobe工具，详见《[MindStudio精度调试工具](../../README.md)》的“工具安装”章节。
-
-本文介绍的操作主要是精度数据dump和精度比对，详细操作指导可参考《[精度数据采集](./dump.md)》和《[CPU或GPU与NPU精度数据比对](./ptdbg_ascend.md)》。
-
-## 快速入门
-
-### 单卡场景精度比对
-
-**精度分析建议**
-
-PyTorch训练场景的精度问题分析建议参考以下思路进行精度比对和比对结果分析：
-
-1. 整网比对：dump整网数据并进行精度比对，初步定位异常范围。
-
-   对于模型数据庞大（比如达到T级别）的场景，不推荐直接dump整网比对，整网dump可能导致磁盘不足，需要预留足够的存储空间或者分多次dump。
-
-2. 缩小范围：根据Accuracy Reached or Not找出不符合精度标准的API。
-
-3. 范围比对：对不符合精度标准的API重新dump详细信息。
-
-4. 分析原因并优化：分析API精度不符合标准的原因并进行优化调整。
-
-5. 整网比对：重新进行整网比对，判断优化后的API是否已符合精度标准以及是否出现新的精度问题。
-
-6. 重复1~5步，直到不存在精度问题为止。
-
-**精度分析示例**
-
-1. 修改dump配置文件config.json。
-
-   ```json
-   {
-       "task": "tensor",
-       "dump_path": "./npu_dump",
-       "rank": [],
-       "step": [],
-       "level": "L1",
-       "seed": 1234,
-       "is_deterministic": false,
-   
-       "tensor": {
-           "scope": [], 
-           "list": [],
-           "data_mode": ["all"],
-           "summary_mode": "statistics"
-       }
-   }
-   ```
-
-2. 在训练脚本内添加msprobe工具，dump整网数据。
-
-   分别dump CPU或GPU以及NPU数据，在PyTorch训练脚本插入dump接口，示例代码如下（下面以NPU为例，CPU或GPU dump基本相同）：
-
-   ```python
-   from msprobe.pytorch import PrecisionDebugger
-   debugger = PrecisionDebugger(config_path="./config.json", dump_path="./npu_dump")
-   # 请勿将以上初始化流程插入到循环代码中
-   
-   # 模型初始化
-   # 下面代码也可以用PrecisionDebugger.start()和PrecisionDebugger.stop()
-   debugger.start()
-   
-   # 需要dump的代码片段1
-   
-   debugger.stop()
-   debugger.start()
-   
-   # 需要dump的代码片段2
-   
-   debugger.stop()
-   debugger.step()
-   ```
-
-3. 比对整网数据。
-
-   第1步中的NPU dump数据目录为npu_dump，假设GPU dump数据目录为gpu_dump；dump将生成dump.json、stack.json、construct.json文件以及dump数据目录。
-
-   创建并配置精度比对脚本，以创建compare.py为例，示例代码如下：
-
-   ```python
-   from msprobe.pytorch import compare
-   input_param={
-   "npu_json_path": "./npu_dump/dump.json",
-   "bench_json_path": "./bench_dump/dump.json",
-   "stack_json_path": "./npu_dump/stack.json",
-   "is_print_compare_log": True
-   }
-   compare(input_param, output_path="./output", stack_mode=True)
-   ```
-   
-   执行比对：
-
-   ```bash
-python3 compare.py
-   ```
-   
-   在output目录下生成结果文件，包括：`compare_result_{timestamp}.xlsx`和`advisor_{timestamp}.txt`
-
-4. 找出存在问题的API。
-
-   1. 根据`advisor_{timestamp}.txt`或打屏信息的提示，可找到存在精度问题的算子（Suspect Nodes）和专家建议（Expert Advice)。
-
-      ![auto_analyze_log](img/auto_analyze_log.png)
-
-   2. 根据第2步结果文件`compare_result_{timestamp}.xlsx`中的Accuracy Reached or No字段显示为NO的API，针对该API执行后续比对操作，分析该API存在的精度问题。
-
-5. （可选）重新比对。
-
-   根据第3步的dump数据重新配置compare.py并执行比对，可以对单API模型进行问题复现。
-
-**注意**：部分API存在调用嵌套关系，比如functional.batch_norm实际调用torch.batch_norm，该场景会影响kernel init初始化多次，导致功能异常。
-
-### 溢出检测场景
-
-溢出检测是针对NPU的PyTorch API，检测是否存在溢出的情况。当前仅支持识别aicore浮点溢出。
-
-溢出检测原理：针对溢出阶段，开启acl dump模式，重新对溢出阶段执行，落盘数据。
-
-建议按照如下步骤操作：
-
-1. 修改dump配置文件config.json。
-
-   ```json
-   {
-       "task": "overflow_check",
-       "dump_path": "./npu_dump",
-       "rank": [],
-       "step": [],
-       "level": "L1",
-       "seed": 1234,
-       "is_deterministic": false,
-   
-       "overflow_check": {
-           "overflow_nums": 3
-       }
-   }
-   ```
-   
-2. 在NPU训练脚本内添加msprobe工具，执行溢出检测dump。
-
-   ```python
-   from msprobe.pytorch import PrecisionDebugger
-   debugger = PrecisionDebugger(config_path="./config.json", dump_path="./npu_dump")
-   # 请勿将以上初始化流程插入到循环代码中
-   
-   # 模型初始化
-   # 下面代码也可以用PrecisionDebugger.start()和PrecisionDebugger.stop()
-   debugger.start()
-   
-   # 需要dump的代码片段1
-   
-   debugger.stop()
-   debugger.start()
-   
-   # 需要dump的代码片段2
-   
-   debugger.stop()
-   debugger.step()
-   ```
-   
-   多卡使用时各卡单独计算溢出次数。
-   
-3. NPU环境下执行训练dump溢出数据。
-
-   针对输入正常但输出存在溢出的API，会在训练执行目录下将溢出的API信息dump并保存为`dump.json`通过《[溢出解析工具](./run_overflow_check.md)》对json文件进行解析，输出溢出API为正常溢出还是非正常溢出，从而帮助用户快速判断。
-
-   溢出解析工具执行命令如下：
-
-   ```bash
-   msprobe -f pytorch run_overflow_check -api_info ./dump.json
-   ```
-   
-   反向过程溢出的API暂不支持精度预检功能。
-   
-
-当重复执行溢出检测dump操作时，需要删除上一次dump目录下的溢出检测dump数据，否则将因重名而报错。
-
-**注意事项**
-
-* （暂不支持）level为L2场景下，会增加npu的内存消耗，请谨慎开启。
-* （暂不支持）l部分API存在调用嵌套关系，比如functional.batch_norm实际调用torch.batch_norm，该场景会影响acl init初始化多次，导致level为L2功能异常。
-* 混合精度动态loss scale场景下，正常训练会有"Gradient overflow. SKipping step"日志，添加溢出检测后日志消失，可以通过设置环境变量export OVERFLOW_DEBUG_MODE_ENABLE=1，并将register_hook位置调整amp.initialize之前解决。此功能需要cann包配套支持，不支持版本执行报错EZ3003。
-
-## 场景化示例
-
-### 多卡场景精度比对
-
-精度工具支持多卡场景的精度比对，多卡场景的dump步骤与单卡场景完全一致，请参见“**单卡场景精度比对**”章节，不同的是多卡数据精度比对时需要使用“compare_distributed”函数进行比对。
-
-如下示例：
-
-说明：多机多卡场景需要每个节点单独执行比对操作。
-
-假设NPU dump 数据目录为npu_dump，GPU dump数据目录为gpu_dump。
-
-1. 创建比对脚本，例如compare_distributed.py，拷贝如下代码。
-
-   ```python
-   from msprobe.pytorch import *
-   compare_distributed('./npu_dump/step0', './gpu_dump/step0', './output')
-   ```
-
-   dump数据目录须指定到step级。
-
-2. 执行比对：
-
-   ```bash
-   python3 compare_distributed.py
-   ```
-
-两次运行须用相同数量的卡，传入`compare_distributed`的两个文件夹下须有相同个数的rank文件夹，且不包含其他无关文件，否则将无法比对。
-
-**多卡set_dump_path注意事项**
-
-多卡一般为多进程，须保证每个进程都正确调用PrecisionDebugger，或把PrecisionDebugger插入到import语句后，如：
-
-```python
-from msprobe.pytorch import PrecisionDebugger
-debugger = PrecisionDebugger(config_path="./config.json", dump_path="./npu_dump")
-```
-
-如此可保证set_dump_path在每个进程都被调用。
-
-### NPU vs NPU精度比对
-
-对于NPU vs NPU场景，是针对同一模型，进行迭代（模型、API版本升级或设备硬件升级）时存在的精度下降问题，对比相同模型在迭代前后版本的API计算数值，进行问题定位。
-
-一般情况下迭代涉及NPU自定义算子，因此，可以仅dump NPU自定义算子进行比对。比对精度问题分析请参见“**单卡场景精度比对**”章节。
-
-工具当前支持dump NPU自定义算子如下：
-
-| 序号 | NPU自定义算子                                   |
-| :--- | ----------------------------------------------- |
-| 1    | torch_npu.one_                                  |
-| 2    | torch_npu.npu_sort_v2                           |
-| 3    | torch_npu.npu_transpose                         |
-| 4    | torch_npu.npu_broadcast                         |
-| 5    | torch_npu.npu_dtype_cast                        |
-| 6    | torch_npu.empty_with_format                     |
-| 7    | torch_npu.npu_one_hot                           |
-| 8    | torch_npu.npu_stride_add                        |
-| 9    | torch_npu.npu_ps_roi_pooling                    |
-| 10   | torch_npu.npu_roi_align                         |
-| 11   | torch_npu.npu_nms_v4                            |
-| 12   | torch_npu.npu_iou                               |
-| 13   | torch_npu.npu_nms_with_mask                     |
-| 14   | torch_npu.npu_pad                               |
-| 15   | torch_npu.npu_bounding_box_encode               |
-| 16   | torch_npu.npu_bounding_box_decode               |
-| 17   | torch_npu.npu_batch_nms                         |
-| 18   | torch_npu.npu_slice                             |
-| 19   | torch_npu._npu_dropout                          |
-| 20   | torch_npu.npu_indexing                          |
-| 21   | torch_npu.npu_ifmr                              |
-| 22   | torch_npu.npu_max                               |
-| 23   | torch_npu.npu_scatter                           |
-| 24   | torch_npu.npu_layer_norm_eval                   |
-| 25   | torch_npu.npu_alloc_float_status                |
-| 26   | torch_npu.npu_confusion_transpose               |
-| 27   | torch_npu.npu_bmmV2                             |
-| 28   | torch_npu.fast_gelu                             |
-| 29   | torch_npu.npu_sub_sample                        |
-| 30   | torch_npu.npu_deformable_conv2d                 |
-| 31   | torch_npu.npu_mish                              |
-| 32   | torch_npu.npu_anchor_response_flags             |
-| 33   | torch_npu.npu_yolo_boxes_encode                 |
-| 34   | torch_npu.npu_grid_assign_positive              |
-| 35   | torch_npu.npu_normalize_batch                   |
-| 36   | torch_npu.npu_masked_fill_range                 |
-| 37   | torch_npu.npu_linear                            |
-| 38   | torch_npu.npu_bert_apply_adam                   |
-| 39   | torch_npu.npu_giou                              |
-| 40   | torch_npu.npu_ciou                              |
-| 41   | torch_npu.npu_diou                              |
-| 42   | torch_npu.npu_sign_bits_pack                    |
-| 43   | torch_npu.npu_sign_bits_unpack                  |
-| 44   | torch_npu.npu_flash_attention                   |
-| 45   | torch_npu.npu_scaled_masked_softmax             |
-| 46   | torch_npu.npu_rotary_mul                        |
-| 47   | torch_npu.npu_roi_align                         |
-| 48   | torch_npu.npu_roi_alignbk                       |
-| 49   | torch_npu.npu_ptiou                             |
-| 50   | torch_npu.npu_fusion_attention                  |
-| 51   | torch_npu.npu_dropout_with_add_softmax          |
-| 52   | torch_npu.npu_random_choice_with_mask           |
-| 53   | torch_npu.npu_rotated_iou                       |
-| 54   | torch_npu.npu_conv2d                            |
-| 55   | torch_npu.npu_conv3d                            |
-| 56   | torch_npu.npu_softmax_cross_entropy_with_logits |
-| 57   | torch_npu.npu_all_gather_base_mm                |
-| 58   | torch_npu.npu_swiglu                            |
-| 59   | torch_npu.npu_rms_norm                          |
-| 60   | torch_npu.npu_mm_reduce_scatter_base            |
-| 61   | torch_npu.npu_mm_all_reduce_base                |
-| 62   | torch_npu.npu_conv_transpose2d                  |
-| 63   | torch_npu.npu_convolution                       |
-| 64   | torch_npu.npu_convolution_transpose             |
-| 65   | torch_npu.npu_min                               |
-| 66   | torch_npu.npu_nms_rotated                       |
-| 67   | torch_npu.npu_reshape                           |
-| 68   | torch_npu.npu_rotated_box_decode                |
-| 69   | torch_npu.npu_rotated_box_encode                |
-| 70   | torch_npu.npu_rotated_overlaps                  |
-| 71   | torch_npu.npu_silu                              |
-| 72   | torch_npu.npu_fused_attention_score             |
-| 73   | torch_npu.npu_multi_head_attention              |
-| 74   | torch_npu.npu_gru                               |
-| 75   | torch_npu.npu_incre_flash_attention             |
-| 76   | torch_npu.npu_prompt_flash_attention            |
-| 77   | torch_npu.npu_lstm                              |
-| 78   | torch_npu.npu_apply_adam                        |
-
-### 通信API的数据dump
-
-通信类API数据可以使用全量dump方式获取，若只dump通信类API数据，可以使用如下示例：
-
-1. 修改dump配置文件config.json。
-
-   ```json
-   {
-       "task": "tensor",
-       "dump_path": "./npu_dump",
-       "rank": [],
-       "step": [],
-       "level": "L1",
-       "seed": 1234,
-       "is_deterministic": false,
-   
-       "tensor": {
-           "scope": [], 
-           "list": ["distributed"],
-           "data_mode": ["all"],
-           "summary_mode": "statistics"
-       }
-   }
-   ```
-
-2. 在训练脚本内添加msprobe工具，dump整网数据。
-
-   ```python
-   from msprobe.pytorch import PrecisionDebugger
-   debugger = PrecisionDebugger(config_path="./config.json", dump_path="./npu_dump")
-   # 请勿将以上初始化流程插入到循环代码中
-   
-   # 模型初始化
-   # 下面代码也可以用PrecisionDebugger.start()和PrecisionDebugger.stop()
-   debugger.start()
-   
-   # 需要dump的代码片段1
-   
-   debugger.stop()
-   debugger.start()
-   
-   # 需要dump的代码片段2
-   
-   debugger.stop()
-   debugger.step()
-   ```
-
-通信类API支持列表：
-
-| 序号 | Distributed          |
-| :--- | -------------------- |
-| 1    | send                 |
-| 2    | recv                 |
-| 3    | broadcast            |
-| 4    | all_reduce           |
-| 5    | reduce               |
-| 6    | all_gather           |
-| 7    | gather               |
-| 8    | isend                |
-| 9    | irecv                |
-| 10   | scatter              |
-| 11   | reduce_scatter       |
-| 12   | _reduce_scatter_base |
-| 13   | _all_gather_base     |
-

msprobe/pytorch/doc/run_overflow_check.md

@@ -1,25 +0,0 @@
-# **溢出解析工具**
-
-针对训练过程中的溢出检测场景（当《[精度数据采集](./dump.md)》开启溢出检测dump时），对于输入正常但输出存在溢出的API，会在训练执行目录下将溢出的API信息按照前向和反向分类，dump并保存为`dump.json`，前向过程溢出的API可通过该工具对`dump.json`进行解析，输出溢出API为正常溢出还是非正常溢出，从而帮助用户快速判断。
-
-工具支持PyTorch版本：1.11/2.0/2.1/2.2。
-
-操作步骤如下：
-
-1. 安装工具。
-
-   详见《[MindStudio精度调试工具](../../README.md)》的“工具安装”章节。
-
-2. 执行溢出API解析操作。
-
-   ```bash
-   msprobe -f pytorch run_overflow_check -api_info ./dump.json
-   ```
-   
-| 参数名称                   | 说明                                               | 是否必选 |
-| -------------------------- | -------------------------------------------------- | -------- |
-| -api_info或--api_info_file | 指定API信息文件dump.json。                         | 是       |
-| -j或--jit_compile          | 开启jit编译。                                      | 否       |
-| -d或--device               | 指定Device ID，选择UT代码运行所在的卡，默认值为0。 | 否       |
-
-反向过程溢出的API暂不支持该功能。

msprobe/pytorch/doc//321/206/320/247/320/260/321/206/320/260/320/227/321/206/320/255/320/226/321/205/342/225/226/320/265/321/205/320/225/342/225/226/321/205/320/254/342/225/221/321/206/320/251/320/277/321/211/320/272/320/234/321/210/320/277/320/221/321/205/320/242/320/234/321/206/320/220/320/267/321/210/320/223/342/225/234/321/205/320/257/342/225/221/321/207/342/225/221/342/224/220/321/206/320/232/320/265/321/205/320/241/320/232.md

@@ -1,151 +0,0 @@
-# 无标杆工具场景验证和性能基线报告
-
-## 环境信息
-
-NPU：Atlas A2 训练系列产品
-
-CPU：
-
-![输入图片说明](img/cpu_info.png)
-
-Torch：2.1.0
-
-CANN：8.0.T5
-
-除上述环境信息影响性能外，API的数量、种类以及Shape都会对性能产生影响，因此本次选取不同场景网络和不同算子进行测试。
-
-## 模型信息和性能基线
-
-大模型在使用msprobe工具dump数据时，建议先简化模型层数，减少dump数据量。
-
-以下场景的性能基线测试数据均为多次测试后取平均值，因此实际运行时性能数据可能会根据环境状态稍有浮动。
-
-
-
-### LLaMA2-7B
-
-NUM_LAYER：1，1卡，主要数据类型：FLOAT16，模型来源: ascend/ModelLink
-其中，softmax算子为FLOAT32，输入输出均为2G大小，为模型最大显存开销的API。
-
-在该模型下、对无标杆工具处理模式、插装范围、扰动方式组合下性能和显存基线进行覆盖。
-
-性能基线报告
-其中耗时为训练10步，去除第一步耗时所得的平均每步耗时。
-
-| 处理模式                     | 前/反向                 | 算子范围                 | 扰动方式 | 耗时（s） | 显存峰值（GB） | 耗时膨胀倍数 | 显存峰值膨胀倍数 | 备注                           |
-|--------------------------------|-----------------------------------|-----------------|----------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|
-| /        | /       | /           | /                 | 0.24      | 13.69          | 1            | 1                | 混精模式基线                   |
-| check    | 前      | ["softmax"] | improve_precision | 0.26      | 13.69          | 1.08         | 1             | softmax本身为高精度，跳过      |
-| check    | 前      | ["softmax"] | add_noise         | 0.54      | 19.17          | 2.25         | 1.40             |                                |
-| check    | 前      | ["softmax"] | bit_noise         | 0.56      | 19.17          | 2.33         | 1.40             |                                |
-| check    | 前      | ["softmax"] | change_value      | 0.48      | 14.9           | 2            | 1.09             |                                |
-| check    | 前      | ["softmax"] | no_change         | 0.47      | 14.9           | 1.96         | 1.09             |                                |
-| check | 前 | ["softmax"] | to_cpu | 26.45 | 22.67 | 110.21 | 1.66 | 不建议整网 |
-| check    | 前      | ["matmul"]  | improve_precision | 0.57      | 13.69          | 2.38       | 1                |                                |
-| check    | 前      | ["matmul"]  | change_value      | 0.48      | 13.69          | 2            | 1                |                                |
-| check | 前 | ["matmul"] | to_cpu | 78.43 | 19.20 | 326.79 | 1.40 | 不建议整网 |
-| check | 前 | [] | improve_precision | 3.45 | 18.79 | 14.37 | 1.37 | |
-| check | 前 | [] | add_noise | 4.67 | 19.17 | 19.46 | 1.40 | |
-| check | 前 | [] | bit_noise | 16.99 | 19.17 | 70.79 | 1.40 | |
-| check | 前 | [] | no_change | 3.22 | 14.90 | 13.42 | 1.09 | |
-| check    | 反      | ["softmax"] | improve_precision | 6.23      | 25.69          | 25.96        | 1.88             | 不建议整网                     |
-| check    | 反      | ["softmax"] | change_value      | 22.76     | 25.69          | 94.83        | 1.88             | 不建议整网                     |
-| check | 反 | ["softmax"] | to_cpu | 141.71 | 26.19 | 590.46 | 1.91 | 不建议整网 |
-| fix      | 前      | ["softmax"] | to_cpu            | 9.70      | 16.67          | 40.42        | 1.22             | 不支持整网、不支持反向         |
-| fix      | 前      | ["softmax"] | improve_precision | 0.26      | 14.67          | 1.08         | 1.07             | 不支持整网、不支持反向         |
-| 预热     | 前      | []          | improve_precision | 155.07 | 24.79 | 646.13 | 1.81 | 低精度模型基线、只测预热的迭代 |
-| 预热     | 反      | []          | improve_precision | 72.29 | 22.01 | 301.21 | 1.61 | 低精度模型基线、只测预热的迭代，grad_output为高精度的算子跳过 |
-
-### Aquila2-7B
-
-NUM_LAYER：1，1卡，主要数据类型：FLOAT16，模型来源: ascend/ModelLink
-
-| 处理模式                     | 前/反向                 | 算子范围                 | 扰动方式 | 耗时（s） | 显存峰值（GB） | 耗时膨胀倍数 | 显存峰值膨胀倍数 | 备注                           |
-|--------------------------------|-----------------------------------|-----------------|----------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|
-| /        | /       | /           | /                 | 0.17 | 13.66 | 1            | 1                | 混精模式基线                   |
-| check    | 前      | []          | improve_precision | 1.57 | 14.24 | 9.24 | 1.04 |                                |
-| check    | 反      | []          | add_noise         | 21.05 | 14.19 | 123.82 | 1.04 |                                |
-| fix      | 前      | []          | improve_precision | 0.95 | 15.55 | 5.59 | 1.14 |                                |
-
-### Baichuan2-7B
-
-NUM_LAYER：1，1卡，主要数据类型：FLOAT16，模型来源: ascend/ModelLink
-
-| 处理模式                     | 前/反向                 | 算子范围                 | 扰动方式 | 耗时（s） | 显存峰值（GB） | 耗时膨胀倍数 | 显存峰值膨胀倍数 | 备注                           |
-|--------------------------------|-----------------------------------|-----------------|----------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|
-| /        | /       | /           | /                 | 0.26 | 12.12 | 1            | 1                | 混精模式基线                   |
-| check    | 前      | []          | improve_precision | 1.02 | 12.27 | 3.92 | 1.01 |                                |
-| check    | 反      | []          | add_noise         | 11.15 | 12.67 | 42.88 | 1.05 |                                |
-| fix      | 前      | []          | improve_precision | 0.95 | 12.82 | 3.65 | 1.06 |                                |
-
-### Bloom-7B
-
-NUM_LAYER：1，1卡，主要数据类型：FLOAT16，模型来源: ascend/ModelLink
-
-| 处理模式                     | 前/反向                 | 算子范围                 | 扰动方式 | 耗时（s） | 显存峰值（GB） | 耗时膨胀倍数 | 显存峰值膨胀倍数 | 备注                           |
-|--------------------------------|-----------------------------------|-----------------|----------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|
-| /        | /       | /           | /                 | 0.14 | 9.51 | 1            | 1                | 混精模式基线                   |
-| check    | 前      | []          | improve_precision | 1.64 | 11.58 | 11.71 | 1.22 |                                |
-| check    | 反      | []          | add_noise         | 17.15 | 9.51 | 122.5 | 1 |                                |
-| fix      | 前      | []          | improve_precision | 0.87 | 10.62 | 6.21 | 1.12 |                                |
-
-### Interlm-7B
-
-NUM_LAYER：1，1卡，主要数据类型：FLOAT16，模型来源: ascend/ModelLink
-
-| 处理模式                     | 前/反向                 | 算子范围                 | 扰动方式 | 耗时（s） | 显存峰值（GB） | 耗时膨胀倍数 | 显存峰值膨胀倍数 | 备注                           |
-|--------------------------------|-----------------------------------|-----------------|----------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|
-| /        | /       | /           | /                 | 0.13 | 10.76 | 1            | 1                | 混精模式基线                   |
-| check    | 前      | []          | improve_precision | 1.19 | 11.68 | 9.15 | 1.09 |                                |
-| check    | 反      | []          | add_noise         | 11.69 | 10.89 | 89.92 | 1.01 |                                |
-| fix      | 前      | []          | improve_precision | 0.75 | 11.68 | 5.77 | 1.09 |                                |
-
-### Qwen-7B
-
-NUM_LAYER：1，1卡，主要数据类型：FLOAT16，模型来源: ascend/ModelLink
-
-| 处理模式                     | 前/反向                 | 算子范围                 | 扰动方式 | 耗时（s） | 显存峰值（GB） | 耗时膨胀倍数 | 显存峰值膨胀倍数 | 备注                           |
-|--------------------------------|-----------------------------------|-----------------|----------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|
-| /        | /       | /           | /                 | 0.28 | 18.41 | 1            | 1                | 混精模式基线                   |
-| check    | 前      | []          | improve_precision | 2.34 | 23.18 | 8.36 | 1.26 |                                |
-| check    | 反      | []          | add_noise         | 22.07 | 19.47 | 78.82 | 1.06 |                                |
-| fix      | 前      | []          | improve_precision | 1.31 | 21.11 | 4.68 | 1.15 |                                |
-
-### Gemma-7B
-
-NUM_LAYER：1，1卡，主要数据类型：FLOAT16，模型来源: ascend/ModelLink
-
-| 处理模式                     | 前/反向                 | 算子范围                 | 扰动方式 | 耗时（s） | 显存峰值（GB） | 耗时膨胀倍数 | 显存峰值膨胀倍数 | 备注                           |
-|--------------------------------|-----------------------------------|-----------------|----------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|
-| /        | /       | /           | /                 | 0.15 | 11.06 | 1            | 1                | 混精模式基线                   |
-| check    | 前      | []          | improve_precision | 1.49 | 13.17 | 9.93 | 1.19 |                                |
-| check    | 反      | []          | add_noise         | 16.69 | 11.06 | 111.27 | 1 |                                |
-| fix      | 前      | []          | improve_precision | 0.87 | 12.25 | 5.8 | 1.11 |                                |
-
-### ResNet50-Cifar
-1卡，主要数据类型：FLOAT16，模型来源: ascend/ModelZoo-PyTorch。
-主要算子为conv2d，每个step有51个, 因此对conv2d进行检测。
-CV模型、依赖mmcv实现（如果不修改mmcv代码、工具无法获取step信息和反向信息）。
-
-| 处理模式                     | 前/反向                 | 算子范围                 | 扰动方式 | 耗时（s） | 显存峰值（GB） | 耗时膨胀倍数 | 显存峰值膨胀倍数 | 备注                           |
-|--------------------------------|-----------------------------------|-----------------|----------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|
-| /        | /       | /           | /                 | 0.09      |  7.63         | 1            | 1                | 基线                   |
-| check    | 前      | ["conv2d"]  | improve_precision | 0.889      | 7.94          |  9.81       |  1.04            |                                |
-| fix      | 前      | ["conv2d"]  | improve_precision | 0.328      | 7.47          |  3.64       |  0.91            |                                |
-| fix      | 前      | ["conv2d"]  | to_cpu            | 12.23      | 7.47          |  135.88     |  0.91              |                                |
-
-### OpenSora1.0
-
-4卡，主要数据类型：FLOAT16，模型来源: ascend/ModelZoo-PyTorch
-
-每张卡每个step中linear算子个数为257个，FA算子个数为83（FA算子反向无效）。
-
-| 处理模式                     | 前/反向                 | 算子范围                 | 扰动方式 | 耗时（s） | 显存峰值（GB） | 耗时膨胀倍数 | 显存峰值膨胀倍数 | 备注                           |
-|--------------------------------|-----------------------------------|-----------------|----------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|--------------------------------|
-| /        | /       | /           | /                 | 0.99 | 17.61 | 1            | 1                | 混精模式基线                   |
-| check    | 前      | ["linear","npu_fusion_attention"] | improve_precision | 3.88 | 17.61 | 3.92 | 1 |                                |
-| check | 前 | ["linear","npu_fusion_attention"] | add_noise | 3.46 | 17.61 | 3.49 | 1 | |
-| check | 反 | ["linear"] | improve_precision | 12.61 | 17.61 | 12.74 | 1 | |
-| check    | 反      | ["linear"]  | add_noise         | 9.8 | 17.61 | 9.90 | 1 |                                |
-| fix      | 前      | ["linear"] | to_cpu            | 18.83 | 17.61 | 19.02 | 1 |                                |
-| fix | 前 | ["linear"] | improve_precision | 2.83 | 17.61 | 2.86 | 1 | |

msprobe/pytorch/functional/dump_module.py

@@ -1,39 +0,0 @@
-import torch.nn as nn
-from msprobe.pytorch.common.log import logger
-from msprobe.core.common.const import Const
-from msprobe.pytorch.hook_module.api_registry import api_register
-from msprobe.pytorch.debugger.precision_debugger import PrecisionDebugger
-from msprobe.core.common.exceptions import MsprobeException
-from msprobe.core.data_dump.scope import BaseScope
-
-module_count = {}
-
-
-def module_dump(module, dump_name):
-    if not isinstance(module, nn.Module):
-        logger.error("The parameter:module in module_dump is not a Module subclass.")
-        raise MsprobeException(MsprobeException.INVALID_PARAM_ERROR)
-    if not isinstance(dump_name, str):
-        logger.error("The parameter:dump_name in module_dump is not a str type.")
-        raise MsprobeException(MsprobeException.INVALID_PARAM_ERROR)
-    api_register.api_originality()
-    if dump_name not in module_count:
-        module_count[dump_name] = 0
-    else:
-        module_count[dump_name] += 1
-    dump_name = dump_name + Const.SEP + str(module_count.get(dump_name)) + Const.SEP
-
-    pdg = PrecisionDebugger()
-    _, forward_hook, backward_hook, _ = pdg.service.build_hook(BaseScope.Module_Type_Module, dump_name)
-    module.register_forward_hook(forward_hook, with_kwargs=True)
-    module.register_full_backward_hook(backward_hook)
-
-    module.register_forward_pre_hook(pdg.service.module_processor.node_hook(dump_name + Const.FORWARD, Const.START))
-    module.register_forward_hook(pdg.service.module_processor.node_hook(dump_name + Const.FORWARD, Const.STOP))
-    module.register_full_backward_pre_hook(
-        pdg.service.module_processor.node_hook(dump_name + Const.BACKWARD, Const.START))
-    module.register_full_backward_hook(pdg.service.module_processor.node_hook(dump_name + Const.BACKWARD, Const.STOP))
-
-
-def module_dump_end():
-    api_register.api_modularity()