RvcPyInfer 0.1.0__tar.gz

rvcpyinfer-0.1.0/.github/workflows/release.yml

@@ -0,0 +1,59 @@
+name: Release
+
+on:
+  push:
+    tags:
+      - "v*.*.*"
+
+jobs:
+  check:
+    runs-on: ubuntu-latest
+    steps:
+      - name: Checkout code
+        uses: actions/checkout@v4
+
+      - name: Setup uv
+        uses: astral-sh/setup-uv@v6
+        with:
+          enable-cache: true
+
+      - name: Install dependencies
+        run: uv sync --extra dev
+
+      - name: Run ruff lint
+        run: uv run ruff check
+
+      - name: Run pyright type check
+        run: uv run pyright
+
+  release:
+    needs: check
+    runs-on: ubuntu-latest
+    environment: pypi
+    permissions:
+      id-token: write
+      contents: write
+    steps:
+      - name: Checkout code
+        uses: actions/checkout@v4
+
+      - name: Setup uv
+        uses: astral-sh/setup-uv@v6
+        with:
+          enable-cache: true
+
+      - name: Set SOURCE_DATE_EPOCH
+        run: echo "SOURCE_DATE_EPOCH=$(git log -1 --pretty=%ct)" >>$GITHUB_ENV
+
+      - name: Build package
+        run: uv build
+
+      - name: Publish to PyPI
+        uses: pypa/gh-action-pypi-publish@release/v1
+
+      - name: Create GitHub Release
+        uses: softprops/action-gh-release@v2
+        with:
+          name: ${{ github.ref_name }}
+          generate_release_notes: true
+          files: dist/*

rvcpyinfer-0.1.0/.gitignore

@@ -0,0 +1,20 @@
+# Python-generated files
+__pycache__/
+*.py[oc]
+build/
+dist/
+wheels/
+*.egg-info
+
+# ruff
+.ruff_cache/
+
+# Virtual environments
+.venv
+
+# 模型文件
+models/
+
+# 音频
+input/
+output/

rvcpyinfer-0.1.0/.python-version

@@ -0,0 +1 @@
+3.13

rvcpyinfer-0.1.0/PKG-INFO

@@ -0,0 +1,158 @@
+Metadata-Version: 2.4
+Name: RvcPyInfer
+Version: 0.1.0
+Summary: Rvc 的 ONNX 模型导出格式推理实现
+Project-URL: Homepage, https://github.com/TwoCreepers/RvcPyInfer
+Project-URL: Repository, https://github.com/TwoCreepers/RvcPyInfer
+Author: 观赏鱼
+License-Expression: MIT
+Requires-Python: >=3.13
+Requires-Dist: numpy>=2.3
+Requires-Dist: pyworld>=0.3.5
+Requires-Dist: samplerate>=0.2.4
+Requires-Dist: soundfile>=0.14.0
+Provides-Extra: cpu
+Requires-Dist: onnxruntime>=1.27.0; extra == 'cpu'
+Provides-Extra: cuda
+Requires-Dist: onnxruntime-gpu>=1.27.0; extra == 'cuda'
+Provides-Extra: dev
+Requires-Dist: pyright>=1.1.411; extra == 'dev'
+Requires-Dist: ruff>=0.15.21; extra == 'dev'
+Provides-Extra: dml
+Requires-Dist: onnxruntime-directml>=1.24.4; extra == 'dml'
+Provides-Extra: index
+Requires-Dist: faiss-cpu>=1.14.3; extra == 'index'
+Provides-Extra: openvino
+Requires-Dist: openvino>=2026.2.1; extra == 'openvino'
+Description-Content-Type: text/markdown
+
+# [RvcPyInfer](https://github.com/TwoCreepers/RvcPyInfer)
+
+[![License: MIT](https://img.shields.io/badge/License-MIT-yellow.svg)](https://mit-license.org/)  
+[![Python 3.13+](https://img.shields.io/badge/python-3.13+-blue.svg)](https://www.python.org/downloads/)  
+![ONNX](https://img.shields.io/badge/ONNX-supported-blue)
+
+[RVC](https://github.com/RVC-Project/Retrieval-based-Voice-Conversion-WebUI) 的 ONNX 模型导出格式推理实现。  
+
+- 支持原 RVC 项目的 ONNX 模型推理。  
+- 跨平台支持多种推理引擎（CPU, CUDA, DirectML, OpenVINO）。  
+- 提供 Windows 下一键导出 ONNX 模型的 CLI 工具。  
+- 兼容原项目的 `.index` 特征索引文件。  
+
+## Python 版本需求
+本项目要求 Python 版本 `>= 3.13`。由于项目代码中使用了 `Python 3.12+` 引入的 `TypeParam` 等现代语法特性，因此无法向下兼容更低版本的 Python。  
+~~并且推理真的很难测试欸。~~
+
+## 安装
+本库尚未上传至 [PyPI](https://pypi.org) ，我们还在筹备这方面的工作。  
+你可以直接 clone 该仓库然后使用如下命令构建 `.whl` 文件。
+```shell
+# 克隆该仓库
+git clone https://github.com/TwoCreepers/RvcPyInfer.git
+# 进入该仓库目录
+cd RvcPyInfer
+# 使用 uv 构建
+uv build
+# 安装生成的 wheel 包 (以实际文件名为准)
+pip install ./dist/rvcpyinfer-0.1.0-py3-none-any.whl
+```
+不出意外的话，现在你需要的轮子文件应该出现在 `dist/` 下面了。  
+这里出现的 [`uv`](https://github.com/astral-sh/uv) 是一个使用 `Rust` 编写的 `Python` 项目管理工具。  
+它可以为你剩下非常多在依赖管理方面的麻烦，就比如上面的 `uv build` 它会自动为你生成虚拟环境并安装好依赖。  
+当然了， [`uv`](https://github.com/astral-sh/uv) 不是必须的，我们使用 [`hatchling`](https://pypi.org/project/hatchling) 作为构建后端，你可以自己研究一下如何构建。  
+
+或者你也可以直接把当前项目作为库安装，例如：
+```shell
+# 假设你已经在仓库目录里了
+pip install .
+# 如果需要安装 CPU 引擎和特征索引支持的话是
+pip install ".[cpu,index]"
+```
+
+
+## 关于特征模型
+你可以在[这里](https://huggingface.co/NaruseMioShirakana/MoeSS-SUBModel/tree/main)找到 `MoeSS` 使用的 `onnx` 特征模型。它们是通用的。  
+**通常情况下最常见的 `v2` 版本的生成器模型使用的是 `vec-768-layer-12.onnx`**
+
+## 关于推理引擎
+你可能已经看到了那个未安装任何推理引擎的警告或者错误。  
+请在安装命令后面添加 `[xxx]` 来安装可选依赖。  
+例如：
+```shell
+# 假设你已经在 dist/ 目录下构建好了 whl 文件
+pip install "./dist/rvcpyinfer-0.1.0-py3-none-any[cpu]"
+```
+目前我们支持以下推理引擎：
+
+- `onnxruntime`
+  - `[cpu]`：ONNX Runtime (CPU)，通用
+  - `[cuda]`：ONNX Runtime (CUDA)，Nvidia GPU 加速
+  - `[dml]`：ONNX Runtime (DML)，Windows DirectML 加速
+- `openvino`
+  - `[openvino]`：OpenVINO，Intel 硬件加速
+
+请注意 `onnxruntime` 的三个可选依赖是互斥的，你只能选择其中的一个。  
+关于 `openvino` 的 `IR` 格式，本库会转换 `IR` 格式并存档在 `.onnx` 同目录下的同名文件中，以便在下一次加载时加速，该行为目前无法被禁用。
+
+## 关于特征索引
+原项目的 `.index` 文件可直接使用，无需转换。  
+但你需要使用 `[index]` 来安装我们需要用于读取特征索引的依赖—— `faiss`。  
+
+## 快速使用
+一个简单的示例：
+```python
+import RvcPyInfer
+
+context = RvcPyInfer.RvcContext() # 创建一个上下文
+
+task = context.build_task(
+    "./你的特征模型.onnx",
+    "./你的 Rvc 生成器模型.onnx",
+    48000, # 你的 Rvc 生成器模型的生成采样率
+    "./你要推理的源文件.wav", # 可以填多个源文件
+    # 后续可选参数需显式写明名称，例如: 
+    sid=1,    # 说话者 id，一般情况下就是 0
+    seed=4321 # 噪声种子，默认 1234
+)
+task.run_and_save(
+    "./你要保存的结果.wav" # 请注意，它不会自动创建目录
+)
+```
+
+## CLI
+我们已经预制了一些 `CLI` 在库中了，并随库一并打包。  
+以下是库内置的命令：  
+- `rvc-infer`：用以快速推理模型而无需编写代码
+- `rvc-model`：与原项目模型相关的命令
+
+### rvc-infer
+最简格式： `rvc-infer --vec-model <你的特征模型路径> --gen-model <你的生成器模型路径> --gen-model-sr <你的生成器模型的输出采样率> -i <输入音频文件路径> -o <输出音频文件路径>`  
+**Tips：可出现多个 -i 和 -o，只要它们的数量一致，多个 -i 和 -o 按出现顺序一一对应。**
+
+### rvc-model
+该命令用于查看原项目的 `.pth` 模型的生成采样率，以及在 `Windows` 上快速导出 onnx 模型。
+
+#### rvc-model show-sr
+格式： `rvc-model show-sr -m <你的pth模型路径>`
+
+#### rvc-model export
+**⚠️注意：你必须安装源项目的整合包或至少有一个能运行源项目的环境以便 `PyTorch` 导出 `.onnx` 模型。**  
+它并不依赖项目内置的 `tools/export_onnx.py` 我们有自己的方法。  
+~~事实上原项目的 export_onnx.py 甚至没有做 v2 版本的支持~~  
+格式： `rvc-model export -m <你的pth模型路径> -t <你希望输出到哪> -r <rvc 原项目的根路径> --runtime <可选的导出用的 python 解释器路径，默认使用 rvc 原项目整合包自带的解释器>`  
+
+## 未来的计划
+- [ ] Github Action 可重现性构建流水线  
+- [ ] 发布至 PyPI  
+
+## 许可证
+在文件头部或文件所在目录未有额外说明的情况下，本项目代码部分使用 [`MIT`](https://mit-license.org/) 许可证授权与你，非代码部分使用 `CC BY 4.0` 授权与你。  
+
+## 🎉鸣谢
+
+- [原项目组的所有成员](https://github.com/RVC-Project)  
+没有TA们的付出就没有 RVC 模型，该项目也不会出现  
+- [提前打好特征模型 ONNX 的 MoeSS](https://github.com/Miuzarte/MoeSS)  
+省去了诸多导出特征模型的麻烦  
+- [帮了作者很多的 GLM AI](https://chatglm.cn)  
+省去了很多查资料和写 CLI 的时间  

rvcpyinfer-0.1.0/README.md

@@ -0,0 +1,130 @@
+# [RvcPyInfer](https://github.com/TwoCreepers/RvcPyInfer)
+
+[![License: MIT](https://img.shields.io/badge/License-MIT-yellow.svg)](https://mit-license.org/)  
+[![Python 3.13+](https://img.shields.io/badge/python-3.13+-blue.svg)](https://www.python.org/downloads/)  
+![ONNX](https://img.shields.io/badge/ONNX-supported-blue)
+
+[RVC](https://github.com/RVC-Project/Retrieval-based-Voice-Conversion-WebUI) 的 ONNX 模型导出格式推理实现。  
+
+- 支持原 RVC 项目的 ONNX 模型推理。  
+- 跨平台支持多种推理引擎（CPU, CUDA, DirectML, OpenVINO）。  
+- 提供 Windows 下一键导出 ONNX 模型的 CLI 工具。  
+- 兼容原项目的 `.index` 特征索引文件。  
+
+## Python 版本需求
+本项目要求 Python 版本 `>= 3.13`。由于项目代码中使用了 `Python 3.12+` 引入的 `TypeParam` 等现代语法特性，因此无法向下兼容更低版本的 Python。  
+~~并且推理真的很难测试欸。~~
+
+## 安装
+本库尚未上传至 [PyPI](https://pypi.org) ，我们还在筹备这方面的工作。  
+你可以直接 clone 该仓库然后使用如下命令构建 `.whl` 文件。
+```shell
+# 克隆该仓库
+git clone https://github.com/TwoCreepers/RvcPyInfer.git
+# 进入该仓库目录
+cd RvcPyInfer
+# 使用 uv 构建
+uv build
+# 安装生成的 wheel 包 (以实际文件名为准)
+pip install ./dist/rvcpyinfer-0.1.0-py3-none-any.whl
+```
+不出意外的话，现在你需要的轮子文件应该出现在 `dist/` 下面了。  
+这里出现的 [`uv`](https://github.com/astral-sh/uv) 是一个使用 `Rust` 编写的 `Python` 项目管理工具。  
+它可以为你剩下非常多在依赖管理方面的麻烦，就比如上面的 `uv build` 它会自动为你生成虚拟环境并安装好依赖。  
+当然了， [`uv`](https://github.com/astral-sh/uv) 不是必须的，我们使用 [`hatchling`](https://pypi.org/project/hatchling) 作为构建后端，你可以自己研究一下如何构建。  
+
+或者你也可以直接把当前项目作为库安装，例如：
+```shell
+# 假设你已经在仓库目录里了
+pip install .
+# 如果需要安装 CPU 引擎和特征索引支持的话是
+pip install ".[cpu,index]"
+```
+
+
+## 关于特征模型
+你可以在[这里](https://huggingface.co/NaruseMioShirakana/MoeSS-SUBModel/tree/main)找到 `MoeSS` 使用的 `onnx` 特征模型。它们是通用的。  
+**通常情况下最常见的 `v2` 版本的生成器模型使用的是 `vec-768-layer-12.onnx`**
+
+## 关于推理引擎
+你可能已经看到了那个未安装任何推理引擎的警告或者错误。  
+请在安装命令后面添加 `[xxx]` 来安装可选依赖。  
+例如：
+```shell
+# 假设你已经在 dist/ 目录下构建好了 whl 文件
+pip install "./dist/rvcpyinfer-0.1.0-py3-none-any[cpu]"
+```
+目前我们支持以下推理引擎：
+
+- `onnxruntime`
+  - `[cpu]`：ONNX Runtime (CPU)，通用
+  - `[cuda]`：ONNX Runtime (CUDA)，Nvidia GPU 加速
+  - `[dml]`：ONNX Runtime (DML)，Windows DirectML 加速
+- `openvino`
+  - `[openvino]`：OpenVINO，Intel 硬件加速
+
+请注意 `onnxruntime` 的三个可选依赖是互斥的，你只能选择其中的一个。  
+关于 `openvino` 的 `IR` 格式，本库会转换 `IR` 格式并存档在 `.onnx` 同目录下的同名文件中，以便在下一次加载时加速，该行为目前无法被禁用。
+
+## 关于特征索引
+原项目的 `.index` 文件可直接使用，无需转换。  
+但你需要使用 `[index]` 来安装我们需要用于读取特征索引的依赖—— `faiss`。  
+
+## 快速使用
+一个简单的示例：
+```python
+import RvcPyInfer
+
+context = RvcPyInfer.RvcContext() # 创建一个上下文
+
+task = context.build_task(
+    "./你的特征模型.onnx",
+    "./你的 Rvc 生成器模型.onnx",
+    48000, # 你的 Rvc 生成器模型的生成采样率
+    "./你要推理的源文件.wav", # 可以填多个源文件
+    # 后续可选参数需显式写明名称，例如: 
+    sid=1,    # 说话者 id，一般情况下就是 0
+    seed=4321 # 噪声种子，默认 1234
+)
+task.run_and_save(
+    "./你要保存的结果.wav" # 请注意，它不会自动创建目录
+)
+```
+
+## CLI
+我们已经预制了一些 `CLI` 在库中了，并随库一并打包。  
+以下是库内置的命令：  
+- `rvc-infer`：用以快速推理模型而无需编写代码
+- `rvc-model`：与原项目模型相关的命令
+
+### rvc-infer
+最简格式： `rvc-infer --vec-model <你的特征模型路径> --gen-model <你的生成器模型路径> --gen-model-sr <你的生成器模型的输出采样率> -i <输入音频文件路径> -o <输出音频文件路径>`  
+**Tips：可出现多个 -i 和 -o，只要它们的数量一致，多个 -i 和 -o 按出现顺序一一对应。**
+
+### rvc-model
+该命令用于查看原项目的 `.pth` 模型的生成采样率，以及在 `Windows` 上快速导出 onnx 模型。
+
+#### rvc-model show-sr
+格式： `rvc-model show-sr -m <你的pth模型路径>`
+
+#### rvc-model export
+**⚠️注意：你必须安装源项目的整合包或至少有一个能运行源项目的环境以便 `PyTorch` 导出 `.onnx` 模型。**  
+它并不依赖项目内置的 `tools/export_onnx.py` 我们有自己的方法。  
+~~事实上原项目的 export_onnx.py 甚至没有做 v2 版本的支持~~  
+格式： `rvc-model export -m <你的pth模型路径> -t <你希望输出到哪> -r <rvc 原项目的根路径> --runtime <可选的导出用的 python 解释器路径，默认使用 rvc 原项目整合包自带的解释器>`  
+
+## 未来的计划
+- [ ] Github Action 可重现性构建流水线  
+- [ ] 发布至 PyPI  
+
+## 许可证
+在文件头部或文件所在目录未有额外说明的情况下，本项目代码部分使用 [`MIT`](https://mit-license.org/) 许可证授权与你，非代码部分使用 `CC BY 4.0` 授权与你。  
+
+## 🎉鸣谢
+
+- [原项目组的所有成员](https://github.com/RVC-Project)  
+没有TA们的付出就没有 RVC 模型，该项目也不会出现  
+- [提前打好特征模型 ONNX 的 MoeSS](https://github.com/Miuzarte/MoeSS)  
+省去了诸多导出特征模型的麻烦  
+- [帮了作者很多的 GLM AI](https://chatglm.cn)  
+省去了很多查资料和写 CLI 的时间  

rvcpyinfer-0.1.0/license

@@ -0,0 +1,7 @@
+Copyright © 2026 TwoCreepers
+
+Permission is hereby granted, free of charge, to any person obtaining a copy of this software and associated documentation files (the “Software”), to deal in the Software without restriction, including without limitation the rights to use, copy, modify, merge, publish, distribute, sublicense, and/or sell copies of the Software, and to permit persons to whom the Software is furnished to do so, subject to the following conditions:
+
+The above copyright notice and this permission notice shall be included in all copies or substantial portions of the Software.
+
+THE SOFTWARE IS PROVIDED “AS IS”, WITHOUT WARRANTY OF ANY KIND, EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.

rvcpyinfer-0.1.0/pyproject.toml

@@ -0,0 +1,126 @@
+[project]
+name = "RvcPyInfer"
+description = "Rvc 的 ONNX 模型导出格式推理实现"
+readme = "README.md"
+license = "MIT"
+requires-python = ">=3.13"
+dependencies = [
+    "numpy>=2.3",
+    "pyworld>=0.3.5",
+    "samplerate>=0.2.4",
+    "soundfile>=0.14.0",
+]
+authors = [
+    { name = "观赏鱼" }
+]
+
+dynamic = ["version"]
+
+# 读取版本号
+[tool.hatch.version]
+path = "src/RvcPyInfer/_version.py"
+
+classifiers = [
+    "Development Status :: 4 - Beta",
+    "License :: OSI Approved :: MIT License",
+    "Intended Audience :: Developers",
+    "Programming Language :: Python :: 3.13",
+]
+keywords = [
+    "rvc", 
+    "onnx", 
+    "voice-conversion",
+]
+
+[project.urls]
+Homepage = "https://github.com/TwoCreepers/RvcPyInfer"
+Repository = "https://github.com/TwoCreepers/RvcPyInfer"
+
+[project.scripts]
+rvc-model = "RvcPyInfer.onnx.export.cli:main"
+rvc-infer = "RvcPyInfer.__main__:infer_main"
+
+# 构建系统
+[build-system]
+requires = ["hatchling"]
+build-backend = "hatchling.build"
+
+# 可选模块，方便调用
+[project.optional-dependencies]
+cpu = [
+    "onnxruntime>=1.27.0",
+]
+dml = [
+    "onnxruntime-directml>=1.24.4",
+]
+cuda = [
+    "onnxruntime-gpu>=1.27.0",
+]
+openvino = [
+    "openvino>=2026.2.1",
+]
+index = [
+    "faiss-cpu>=1.14.3",
+]
+dev = [
+    "pyright>=1.1.411",
+    "ruff>=0.15.21",
+]
+
+[tool.uv]
+conflicts = [   # 这几个是互斥的，防止 uv 傻乎乎地全装上了
+    [
+        { extra = "cpu" },
+        { extra = "cuda" },
+        { extra = "dml" }
+    ],
+]
+
+[tool.uv.workspace]
+members = [
+    "testEnv",
+]
+
+[tool.pyright]
+include = ["src"]
+exclude = ["**/node_modules", "**/__pycache__", ".venv", "**/.*", "src/RvcPyInfer/resource/**/.*"]
+venvPath = "."
+venv = ".venv"
+typeCheckingMode = "basic"
+reportMissingTypeStubs = "none"
+reportUnknownMemberType = "none"
+reportUnusedImport = "warning"
+reportMissingImports = "error"
+
+[tool.ruff]
+line-length = 180
+target-version = "py313"
+exclude = [
+    ".git",
+    ".venv",
+    "__pycache__",
+    "build",
+    "dist",
+    "src/RvcPyInfer/resource/"
+]
+
+[tool.ruff.lint]
+# 启用的规则集
+select = [
+    "E",  # pycodestyle 错误
+    "F",  # pyflakes
+    "I",  # isort
+    "UP", # pyupgrade
+]
+
+ignore = [
+    
+]
+fixable = ["ALL"]
+unfixable = []
+
+[tool.ruff.format]
+quote-style = "double"
+indent-style = "space"
+skip-magic-trailing-comma = false
+line-ending = "auto"

rvcpyinfer-0.1.0/src/RvcPyInfer/InferProviders.py

@@ -0,0 +1,108 @@
+from enum import Flag, auto
+
+from .error.InferEnvError import InferEnvError
+
+
+class InferProviders(Flag):
+    NONE = auto() # 仅用于内部方便处理
+
+    # ort
+    ORT_CPU = auto()
+    FORCE_CUDA = auto()
+    FORCE_DML = auto()
+    CUDA = ORT_CPU | FORCE_CUDA
+    DML = ORT_CPU | FORCE_DML
+
+    # openvino
+    OPENVINO_AUTO = auto()
+    OPENVINO_CPU = auto()
+    OPENVINO_GPU = auto()
+    OPENVINO_NPU = auto()
+    OPENVINO_OPTIONAL_MULTI  = auto()
+    OPENVINO_OPTIONAL_HETERO = auto()
+    OPENVINO_ALL = OPENVINO_CPU | OPENVINO_GPU | OPENVINO_NPU | OPENVINO_OPTIONAL_MULTI
+
+    def is_ort(self) -> bool:
+        return bool((InferProviders.ORT_CPU | InferProviders.CUDA | InferProviders.DML) & self)
+    def is_ov(self) -> bool:
+        return bool((InferProviders.OPENVINO_CPU | InferProviders.OPENVINO_GPU | InferProviders.OPENVINO_NPU | InferProviders.OPENVINO_AUTO) & self)
+
+    def get_onnx_provider(self) -> list[str]:
+        res = []
+        if self.FORCE_CUDA in self:
+            res.append("CUDAExecutionProvider")
+        if self.FORCE_DML in self:
+            res.append("DmlExecutionProvider")
+        if self.ORT_CPU in self:
+            res.append("CPUExecutionProvider")
+        return res
+    
+    def get_openvino_device(self) -> str:
+        devices: list[str] = []
+        if self.OPENVINO_GPU in self:
+            # 现场找全
+            from openvino import Core  # pyright: ignore[reportMissingImports]
+            devices.extend(filter(lambda name: name.startswith("GPU"), Core().available_devices))
+        if self.OPENVINO_NPU in self:
+            devices.append("NPU")
+        if self.OPENVINO_CPU in self:
+            devices.append("CPU")
+        devices_str = ",".join(devices)
+        if self.OPENVINO_AUTO in self:
+            if len(devices) != 0:
+                return f"AUTO:{devices_str}"
+            else:
+                return "AUTO"
+        elif self.OPENVINO_OPTIONAL_MULTI in self:
+            return f"MULTI:{devices_str}"
+        elif self.OPENVINO_OPTIONAL_HETERO in self:
+            return f"HETERO:{devices_str}"
+        else:
+            return devices[0]
+
+    @staticmethod
+    def default() -> "InferProviders":
+        available = InferProviders.currently_available()
+
+        if InferProviders.FORCE_CUDA in available:
+            return InferProviders.CUDA
+        elif InferProviders.FORCE_DML in available:
+            return InferProviders.DML
+        elif InferProviders.OPENVINO_CPU in available:
+            # 有时候自动的异构并行反而比纯 CPU 还慢，这里保守点
+            return InferProviders.OPENVINO_CPU
+        elif InferProviders.ORT_CPU in available:
+            return InferProviders.ORT_CPU
+        else:
+            raise InferEnvError("没有任意一个支持的推理引擎，请至少安装一个可选模块")
+        
+    @staticmethod
+    def currently_available() -> "InferProviders":
+        from .infer_env import HAS_ONE, HAS_OPENVINO, HAS_ORT
+        res = InferProviders.NONE
+
+        if HAS_ORT:
+            import onnxruntime as ort  # pyright: ignore[reportMissingImports]
+            available_providers = ort.get_available_providers()
+            if "CPUExecutionProvider" in available_providers:
+                res = res | InferProviders.ORT_CPU
+            if "CUDAExecutionProvider" in available_providers:
+                res = res | InferProviders.FORCE_CUDA
+            if "DmlExecutionProvider" in available_providers:
+                res = res | InferProviders.FORCE_DML
+        if HAS_OPENVINO:
+            from openvino import Core  # pyright: ignore[reportMissingImports]
+            devices = Core().available_devices
+            res = res | InferProviders.OPENVINO_AUTO | InferProviders.OPENVINO_OPTIONAL_MULTI | InferProviders.OPENVINO_OPTIONAL_HETERO
+            if "CPU" in devices:
+                res = res | InferProviders.OPENVINO_CPU
+            if any(i.startswith("GPU") for i in devices):
+                res = res | InferProviders.OPENVINO_GPU
+            if "NPU" in devices:
+                res = res | InferProviders.OPENVINO_NPU
+        if not HAS_ONE: 
+            raise InferEnvError("没有任意一个支持的推理引擎，请至少安装一个可选模块")
+        
+        assert res != InferProviders.NONE, "我算是知道了，你们各个都身怀绝技"
+        res = res & ~InferProviders.NONE
+        return res