@mcptoolshop/backpropagate 1.5.0 → 1.7.0

package/README.zh.md

@@ -15,9 +15,9 @@
   <a href="https://mcp-tool-shop-org.github.io/backpropagate/"><img src="https://img.shields.io/badge/Landing_Page-live-blue" alt="Landing Page"></a>
 </p>
 
-# 训练一个适配器。将其部署到 Ollama。然后继续
+# 在一个 GPU 上微调一个 32B 的 QLoRA 模型，或者一个 7B 的端到端模型。然后将其部署到 Ollama 中
 
-Backpropagate 是一个 Python 库，用于在单个 GPU 上对大型语言模型进行微调。只需三行代码即可在一个 16GB 显卡上训练一个 7B 模型。再添加一条命令，即可将其导出到 Ollama，以便你可以使用 `ollama run` 命令运行你的微调模型。它在 Windows 上也能很好地运行。
+在单个 GPU 上进行反向传播，以微调大型语言模型，GPU 的大小应与您实际拥有的显卡相匹配。只需三行 Python 代码，即可在一个具有 32GB 内存的消费级显卡（RTX 5090）上对一个 7B-34B 模型进行 QLoRA 微调；使用一个标志 `--full-ft-offload`，可以将优化器状态溢出到主机 RAM 中，从而对一个 7B 级别的模型进行完全微调。再添加一条命令即可导出到 Ollama，然后使用 `ollama run` 命令运行您的微调模型。可以很好地扩展到 16GB。在 Windows 系统上表现出色。
 
 ```python
 from backpropagate import Trainer
@@ -69,33 +69,38 @@ Backpropagate 是缺失的选项：**一个 3 行 Python API，适用于在单
 
 如果你尝试了上述库中的一个，但因为配置文件的复杂性而放弃，或者遇到了模型系列的问题，或者想要默认支持 Windows——那么 Backpropagate 适合你。
 
-## 你可以在 16GB 消费级 GPU 上进行哪些微调
+## 您可以在单个 GPU 上微调的内容
 
-以下是在 16GB 显卡（RTX 4080 / 5080 / 4070 Ti Super）上的实际范围：
+反向传播会根据您的显卡调整运行大小。以下是在具有 64GB 主机 RAM 的 **32 GB** 消费级 GPU（RTX 5090）上的实际限制：
 
-| 模型 | 方法 | 状态 |
+| 模型大小 | 方法 | 在 32 GB 显卡上的状态 |
 |---|---|---|
-| Qwen-3.5-4B / Phi-4-mini-3.8B / SmolLM3-3B | LoRA / QLoRA / DoRA | 运行良好。完整的序列长度，还有剩余空间。 |
-| SmolLM3-3B / Qwen2.5-3B / Llama-3.2-3B / Llama-3.2-1B | `mode="full"`（完全微调） | v1.4——在 `backprop train` 命令或 `Trainer(..., mode="full")` 中传递 `--mode=full`。加载全精度（bf16）权重——没有 4 位，也没有适配器；梯度检查点 + 分页 8 位 Adam 保持在 16GB 以内。 |
-| Qwen-2.5-7B / Llama-3.1-8B / Mistral-7B | QLoRA | 标准。~7-8 GB。Backpropagate 的默认预设。 |
-| Llama-3 13B | QLoRA + 样本打包 | 比较紧张，但可以运行。使用较短的序列。 |
-| Mixtral 8x7B（总共 470 亿个参数） | — | 超出范围——2 位（AQLM / QuIP#）破坏了可合并的适配器 + GGUF 导出协议，因此在 [v1.5 路线图简报](docs/V1_5_BRIEF.md) 中已停止使用。在 16GB 显卡上，使用 ≤8B 的基础模型。 |
+| 7B (Qwen 2.5 7B / Llama-3.1-8B / Mistral 7B) | QLoRA | 运行流畅——约 7–8 GB。完整的序列长度，有充足的余量。 |
+| **14B** (Qwen2.5-14B) | QLoRA | **日常使用的最佳选择——测量值为约 8.5 GB**。rank/alpha 32，分页 8 位 AdamW，4096 ctx。 |
+| 24B (Mistral-Small-24B) | QLoRA | 约 18 GB。在 4096 ctx 下运行，仍有余量。 |
+| **32B** (Qwen2.5-32B) | QLoRA | **刚好可以运行——在 `max_len 2048` + 分页 8 位 AdamW 下，约 26 GB**。达到了极限。 |
+| ≤6B | `mode="full"`（完全微调） | 纯 GPU 完全微调——bf16 权重，不使用适配器。在 32 GB 上，显卡能够支持的上限是 6B。 |
+| **7B 级别** (Qwen 2.5 7B / Llama-3.1-8B / Mistral 7B) | `mode="full" --full-ft-offload` | **通过 FSDP2 CPU 卸载进行完全微调**——将参数 + 优化器溢出到 64 GB 主机 RAM 中。速度较慢（受带宽限制）；Linux/WSL2。 |
 
-`mode="full"` 允许使用最多 **40 亿个参数**的模型。上述“完全微调”行中的四个预设都是真实的 ~3B（实际参数数量为 3.08–3.24B），并且可以适应 16GB 显卡。3.8–4B 类别（Phi-4-mini-3.8B、Qwen-3.5-4B）也符合上限，但需要 **24GB+** 显卡进行完全微调——仅权重和梯度就接近 16GB，然后是优化器和激活——因此，在 16GB 显卡上，对这些模型使用 `mode="lora"`（它们位于 LoRA 行中）。参数 >4B 的模型会显示 `RUNTIME_FULL_FT_MODEL_TOO_LARGE` 错误。
+大多数单 GPU 库都会让您使用其他方法来处理两件事——**24–34B QLoRA** 和 **单个显卡上的 7B 级别完全微调**——反向传播可以在一个消费级显卡上完成，然后将结果直接导出到 Ollama。
 
-2 位量化（AQLM / QuIP#）**超出范围**。它最初计划用于 v1.4，然后在 [v1.5 路线图简报](docs/V1_5_BRIEF.md) 中停止使用：2 位基础模型无法干净地合并回全精度权重，这破坏了 Backpropagate 的可合并适配器 → GGUF → Ollama 导出协议（这是整个流水线的目的）。Backpropagate 提供的替代方案是 v1.5 **FP8 计算路径**（`--fp8`，Blackwell/Hopper）和 `mode="full"`，用于 ≤4B 的模型——两者都保持可合并和可导出。
+**完全微调的上限取决于显卡。**它基于以下训练内存算术（权重 + 梯度 + 优化器 + 激活值）与您*检测到的* VRAM：**16 GB → 4B，24 GB → 5B，32 GB → 6B** 纯 GPU。`--full-ft-offload` 通过将参数 + 优化器状态溢出到主机 RAM 中（通过 FSDP2 `fully_shard` + `CPUOffloadPolicy`），将其提升到 **7B 级别**（速度较慢，受 PCIe/CPU 带宽限制；需要约 64 GB 主机 RAM 和一个 NCCL 后端，即 Linux/WSL2）。使用 `--full-ft-ceiling-billions` 显式地覆盖上限。即使超过了卸载上限的模型也会显示 `RUNTIME_FULL_FT_MODEL_TOO_LARGE`，并说明恢复方法（`--full-ft-offload` 或 LoRA/QLoRA）。请参阅[完整的微调手册页面](https://mcp-tool-shop-org.github.io/backpropagate/handbook/full-fine-tuning/)，了解 VRAM 计算 + Biderman 2024 / Thinking Machines 2025 的质量比较。
 
-对于 3B 及更小模型，在 16GB 上进行完全微调（不仅仅是 LoRA）是可行的，并且现在在 v1.4 中作为 `mode="full"` 提供。传递 `Trainer(..., mode="full")` 或 `backprop train --mode=full --model phi-4-mini-3.8b` 以启用它。一个硬性限制会拒绝参数 > 4B 模型的模式，并显示 `RUNTIME_FULL_FT_MODEL_TOO_LARGE` 错误，并将 LoRA 和小于 4B 的预设作为恢复选项。有关配置数学 + Biderman 2024 / Thinking Machines 2025 质量比较，请参阅[完整的微调手册页面](https://mcp-tool-shop-org.github.io/backpropagate/handbook/full-fine-tuning/)。对于 7B+ 模型，完全微调需要 24GB+ GPU——可以考虑租用 A100 云服务器，或者坚持使用 LoRA，最近的研究表明，在大多数后训练任务中，LoRA 的质量与完全微调相当（请参阅[反驳部分](#backpropagate-not-for) 中的引用）。
+### 可以扩展到 16 GB
+
+即使是 16 GB（RTX 4080 / 5080 / 4070 Ti Super）的配置仍然表现出色：7B QLoRA 占用约 7–8 GB，并且可以在 16 GB 中完全微调一个真正的 ~3B 模型（SmolLM3-3B、Qwen2.5-3B、Llama-3.2-3B/1B），通过 `mode="full"` 实现（bf16 权重 + 梯度检查点 + 分页 8 位 AdamW）。相同的代码会选择适合检测到的任何显卡的批大小和完全微调上限——无需更改标志。
+
+2 位量化 (AQLM / QuIP#) **不在本次讨论范围内**——一个 2 位的基模型无法干净地合并回全精度权重，这会破坏可合并的适配器 → GGUF → Ollama 导出流程（这是整个流水线的目的）。反向传播提供的替代方案是——QLoRA、`mode="full"`、`--full-ft-offload` 和 FP8 计算路径 (`--fp8`, Blackwell/Hopper)——所有这些都保持可合并和可导出。
 
 ## Backpropagate 不适用于以下情况
 
 如果你的用例如下，你最好使用不同的库——Backpropagate 不是正确的选择，并且尝试使其工作会花费更多的时间。在开始之前阅读本部分可以节省安装和放弃的周期：
 
-- **对 7B+ 模型进行全参数微调**——Backpropagate 使用 LoRA/QLoRA，它训练一个小型适配器，而不是更新每个权重。对于 7B 及更大的模型，全参数微调需要 24GB+ 的 GPU 内存，并且无法在 16GB 的消费级显卡上运行。对于 3B 及更小的模型，在 16GB 显卡上进行全参数微调是可行的，并在 v1.4 版本中以 `mode="full"` 的形式提供（在 CLI 中传递 `Trainer(..., mode="full")` 或 `--mode=full`；一个硬性限制会为大于 4B 的模型触发 `RUNTIME_FULL_FT_MODEL_TOO_LARGE`，并将 LoRA 以及小于 4B 的预设设置为备选方案）。更广泛地说：最近的研究（[Biderman 2024](https://arxiv.org/abs/2405.09673)，[Thinking Machines 2025](https://thinkingmachines.ai/blog/lora/））表明，在正确的配置下，LoRA 在大多数训练后任务（指令遵循、领域适应、个性/风格）上的质量与全参数微调相当，并且计算量仅为后者的 67%——因此，对于大多数用户实际需要的工作，坚持使用 LoRA 没有任何损失。`mode="full"` 适用于您已经衡量了质量差距并决定花费更多计算资源的情况。如果您确实需要对 7B+ 模型进行全参数微调，请直接在 24GB+ 显卡上使用 HuggingFace `transformers.Trainer`。
-- **在线强化学习——PPO/GRPO/RLVR**——Backpropagate 执行单阶段 SFT 以及无参考偏好调整（ORPO 包含在 v1.5 中；SimPO/KTO 计划中）。它不执行在线强化学习——PPO、GRPO 或 RLVR——这需要一个奖励模型或在训练步骤之上进行生成和评分循环。对于这些，请直接使用 TRL 或 LLaMA-Factory。（无参考偏好调整符合单阶段的范围，因为没有单独的参考模型需要保存在内存中；请参阅 [快速入门](#quick-start) 下的 ORPO 注释。）
+- **超出卸载上限的全参数微调（≈13B+）**——在 32GB 的显卡上，通过 `--full-ft-offload` 将全参数微调回溯到最多 **~6GB 的纯 GPU 和 ~7GB 级别的模型**（参见[此处](#what-you-can-fine-tune-on-one-gpu)）。对 13B+ 模型进行*真正的完整*微调已经超出了这个范围——它需要多 GPU FSDP 或更大的显卡（使用 `transformers.Trainer` 在多个 GPU 上运行，或租用 A100/H100）。但在投入大量计算资源之前：最近的研究（[Biderman 2024](https://arxiv.org/abs/2405.09673)，[Thinking Machines 2025](https://thinkingmachines.ai/blog/lora/)）表明，在大多数后训练任务（指令遵循、领域适应、个性/风格）中，LoRA 在正确的配置下可以达到与完整微调相同的质量，并且计算量仅为 ~67%——因此，QLoRA 可以扩展到 34B，Backpropagate 在单个显卡上运行，对于大多数用户实际需要的任务来说，不会有任何损失。
+- **在线强化学习——PPO / GRPO / RLVR**——Backpropagate 执行单阶段 SFT 以及无参考偏好调整（v1.5 中的 ORPO；v1.6 中的 SimPO + KTO）。它*不*执行在线强化学习——PPO、GRPO 或 RLVR——这些方法需要一个奖励模型或在训练步骤之上进行生成和评分循环。对于这些，请直接使用 TRL 或 LLaMA-Factory。（无参考偏好调整符合单阶段的范围，因为不需要将单独的参考模型保存在内存中；参见[快速入门](#quick-start)中的 ORPO 注释。）
 - **多节点训练**——仅支持单个机器上的单个 GPU。单个机器上的多 GPU 也可以工作（通过 `accelerate launch`），但未正式支持。
-- **在 CUDA 环境下进行 macOS 训练**——Apple Silicon 没有 CUDA，因此 CUDA 路径必须在配备 NVIDIA GPU 的 Linux 或 Windows 机器上运行。您仍然可以通过 Ollama 在 Mac 上运行训练好的模型。**v1.5 版本的新功能：**一个实验性的 MLX 路径（`--backend mlx`）可在 Apple Silicon 上本地训练 LoRA 适配器——请参阅 [Apple Silicon (MLX)](#apple-silicon-mlx--experimental-v15)。它仅支持 LoRA-SFT，并且已经在实际的硬件上构建和验证（但尚未完全测试），因此对于 LoRA SFT 之外的任何内容（ORPO、全参数微调、FP8、多轮运行），您仍然需要使用 CUDA 路径。
-- **超出测试模型范围的任何内容**——Qwen 2.5 / 3.5（7B / 4B）、Phi-4-mini-3.8B、SmolLM3-3B、Llama 3.2（3B / 1B）、Mistral 7B。其他模型通常可以工作，但未在 CI 中进行固定。
+- **macOS 上基于 CUDA 的训练**——Apple Silicon 没有 CUDA，因此 CUDA 路径在配备 NVIDIA GPU 的 Linux 或 Windows 系统上运行。您仍然可以通过 Ollama 在 Mac 上运行经过训练的模型。一个**实验性的、未经验证的预览版** MLX 框架（`--backend mlx`）可以在 Apple Silicon 上本地训练 LoRA 适配器——参见[Apple Silicon (MLX)](#apple-silicon-mlx--unverified-preview)。它仅支持 LoRA-SFT，并且**尚未在实际硬件上进行测试**（没有支持），因此对于任何超出 LoRA SFT（ORPO、完整微调、FP8、多轮运行）的任务，您应该使用 CUDA 框架。
+- **除经过测试的模型系列之外的任何模型**——Qwen 2.5 / 3.5 (7B / 4B)、Phi-4-mini-3.8B、SmolLM3-3B、Llama 3.2 (3B / 1B)、Mistral 7B。其他模型通常也可以工作，但未在 CI 中进行固定测试。
 
 如果您需要上述任何功能，请使用上面列出的库之一。它们在这方面表现更好。
 
@@ -145,7 +150,7 @@ trainer.export('gguf', quantization='q4_k_m')
 
 Alpaca（`instruction` / `output`）、OpenAI 聊天（`messages`）和原始文本格式也可以工作——Backpropagate 会自动检测格式。
 
-### 偏好调整（ORPO）
+### 偏好调整（ORPO、SimPO、KTO）
 
 v1.5 版本的新功能：使用偏好而不是纯演示进行训练。ORPO 是无参考且单阶段的——它将偏好信号折叠到 SFT 步骤中，因此没有单独的奖励或参考模型，并且 3 行的结构保持不变。通过 `--method orpo`（CLI）或 `method="orpo"`（Python）传递，并提供一个包含 `{prompt, chosen, rejected}`（或仅 `{chosen, rejected}`）行的数据集：
 
@@ -166,13 +171,17 @@ trainer.export("gguf", quantization="q4_k_m")
 backprop train --data preferences.jsonl --method orpo --steps 100
 ```
 
-默认的学习率会自动降低到 `8e-6`，用于 ORPO（损失函数比普通的 SFT 更陡峭）；调整 `--orpo-beta`（默认值为 `0.1`）以调整优势比惩罚的权重。在 v1.5 中，ORPO 仅为 `mode="lora"`。SimPO 和 KTO 计划作为后续功能推出；对于在线 RL（PPO/GRPO），请参阅 [反向传播并非](#what-backpropagate-is-not-for)。
+默认学习率会自动降低到 `8e-6` 用于 ORPO（损失比普通的 SFT 更陡峭）；调整 `--orpo-beta`（默认为 `0.1`），以调整优势比惩罚的权重。ORPO 仅为 `mode="lora"`。
+
+**v1.6 中的新功能——SimPO 和 KTO。** `--method simpo` ([Meng et al. 2024](https://arxiv.org/abs/2405.14734)) 是无参考的，具有长度归一化的奖励，并使用与 ORPO 相同的配对 `{prompt, chosen, rejected}` 数据（`--simpo-beta`、`--simpo-gamma`）。`--method kto` ([Ethayarajh et al. 2024](https://arxiv.org/abs/2402.01306)) 使用**未配对的** `{prompt, completion, label}` 数据——每个示例的“赞成”/“反对”，用于处理大量不是经过策划的 A/B 对比的数据；它会自动平衡来自标签计数的理想/非理想损失权重。两者都仅为 `mode="lora"`，并且停留在单个 GPU SFT 的范围内（没有单独的参考模型）。请参见[偏好调整手册](https://mcp-tool-shop-org.github.io/backpropagate/handbook/preference-tuning/) 以了解应该使用哪种方法。对于在线强化学习（PPO/GRPO），请参见[Backpropagate 不适用于哪些场景](#what-backpropagate-is-not-for)。
 
 ### 基于推理轨迹的 SFT（R1 蒸馏）
 
 v1.5 中的新功能：以简单的方式蒸馏一个推理模型。传递 `--reasoning-trace`（命令行界面）或 `Trainer(..., reasoning_trace=True)`（Python），并提供包含 `<think>...</think>` 链式思维的轨迹，这些轨迹位于助手回复中——这是 [DeepSeek-R1](https://arxiv.org/abs/2501.12948) 蒸馏的纯 SFT 部分，无需 RL。反向传播会在训练目标中保留 `<think>`，删除空/过长的轨迹（轨迹长度过滤），并将默认 `max_seq_length` 提高到 8192，以适应更长的 CoT。重要的是，`<think>` 保持为**纯文本**——没有特殊的令牌，没有嵌入调整——因此合并后的 GGUF 仍然可以导出到 Ollama，就像任何其他微调模型一样。仅 SFT。请参阅 [reasoning-trace 配方](https://mcp-tool-shop-org.github.io/backpropagate/handbook/recipes/#reasoning-trace-sft-r1-distillation)，了解数据集的形状和可调整的令牌范围。
 
-### Apple Silicon (MLX)——实验性，v1.5
+### Apple Silicon (MLX)——未经验证的预览版
+
+> ⚠️ **未经验证的预览版——不属于受支持的功能集。** MLX 框架已经构建并进行了单元测试，但尚未在实际 Apple Silicon 上进行测试（`mlx-lm` 仅适用于 Apple 设备，无法在 Backpropagate 开发所使用的 NVIDIA 系统上运行）。请将以下所有内容视为实验性的，自行承担风险，如果您在 M 系列 Mac 上运行它，请[报告异常](#reporting-bugs)。
 
 v1.5 中的新功能：**一个 API，两种框架。** CUDA 仍然是经过验证的、标准的后端；MLX 是第二个框架，它通过 Apple 的 [`mlx_lm.lora`](https://github.com/ml-explore/mlx-lm) 工具链在 M 系列 Mac 上进行训练（统一内存，无需 CUDA）。相同的 3 行代码可以根据硬件选择框架——`backend='auto'`（默认值）在 NVIDIA 上路由到 CUDA，在 Apple Silicon 上路由到 MLX，因此现有的 CUDA 设置在字节级别上是相同的：
 
@@ -190,7 +199,7 @@ backprop train --data my_data.jsonl --backend mlx --steps 100
 
 在 v1.5 中，MLX 框架**仅支持 LoRA SFT**——不支持 ORPO、不支持 FP8、不支持 `mode='full'`，目前也不支持在 MLX 上进行多轮训练（每轮都会出现 `CONFIG_INVALID_SETTING` 错误；如果需要这些功能，请在 NVIDIA 机器上使用 `backend='cuda'`/`'auto'`）。生成的适配器是纯 safetensors 格式，并通过与 CUDA 框架相同的路径导出到 Ollama。
 
-> ⚠️ **诚实的状态：** MLX 框架在 v1.5 中以**已构建 + 单元测试（模拟）**的形式提供，但**尚未在真实的 Apple Silicon 上进行实际验证**——`mlx-lm` 仅适用于 Apple，并且无法在此处编写代码的 NVIDIA 机器上运行。将其视为实验性功能（与 FP8 路径具有相同的框架），并且请在它在 M 系列 Mac 上运行时[报告异常](#reporting-bugs)。在非 Apple 机器上强制使用 `--backend mlx` 会出现 `CONFIG_INVALID_SETTING` 错误；如果在 Mac 上缺少 `mlx_lm` 工具链，则会显示 `DEP_MLX_UNAVAILABLE`。
+> 在非 Apple 主机上强制使用 `--backend mlx` 会出现 `CONFIG_INVALID_SETTING` 错误；Mac 上缺少 `mlx_lm` 工具链会引发 `DEP_MLX_UNAVAILABLE`。
 
 有关更多端到端的流程（微调并推送到 HF Hub、在 OOM 之后恢复、在长时间的训练过程中进行多轮 SLAO 等），请参阅 [手册配方页面](https://mcp-tool-shop-org.github.io/backpropagate/handbook/recipes/)。
 
@@ -303,7 +312,7 @@ UI 中的文件系统写入操作被限制在一个目录中：
 
 **要求：** Python 3.10+ · CUDA GPU（8GB+ VRAM）· PyTorch 2.0+
 
-Python 3.10 将于 2026 年 10 月达到其生命周期终点，并且计划在 v1.5 中停止支持。对于新安装，建议使用 Python 3.11 或 3.12——3.11 是经过最多测试的最低版本。
+Python 3.10 至少在 v1.6 中受支持；它将在 2026 年 10 月达到上游生命周期结束，并且计划在之后的第一个版本中删除。对于新安装，请首选 Python 3.11 或 3.12——3.11 是经过最多测试的最低版本。
 
 Backpropagate 处理不同平台上训练时出现的一些运行时问题，但它无法修复安装时出现的问题。最常见的问题有两个：
 
@@ -362,8 +371,12 @@ backprop export-runs --format jsonl    # bulk export run history
 | Llama 3.2 3B | ~8GB | Llama Community | 是 Qwen 3B 的一个不错的替代方案，但有一些宽松的限制。 |
 | Llama 3.2 1B | ~6GB | Llama Community | 用于在小型设备上进行快速实验。 |
 | Mistral 7B | ~12GB | Apache 2.0 | 与 Qwen 7B 相当，但使用了不同的聊天模板。 |
+| Llama-3.1-8B | ~7-8GB（QLoRA） | Llama-3.1-Community | 8B QLoRA，128K 本地上下文（>700M-MAU 条款需要单独的 Meta 许可证）。 |
+| **Qwen2.5-14B** | ~8.5GB（QLoRA） | Apache 2.0 | **32 GB 日常使用最佳配置**——rank/alpha 32，分页 8 位 AdamW，4096 ctx。 |
+| Mistral-Small-24B | ~18GB（QLoRA） | Apache 2.0 | 在 32 GB 显卡上使用 4096-ctx，可以进行 24B QLoRA 微调。 |
+| **Qwen2.5-32B** | ~26GB（QLoRA） | Apache 2.0 | **达到 32 GB 范围的上限**——仅在 `max_len 2048` + 分页 8 位 AdamW 时才能容纳。 |
 
-其他模型通常也可以工作，但只有这八个模型在 CI 中被固定。传递 `--lora-preset=quality`（默认值），以获得 Biderman 2024 + Thinking Machines 2025 中定义的 256 秩/所有线性目标，或者传递 `--lora-preset=fast`，以获得旧版 16 秩/q+v 目标（如果您需要 v1.2.x 的占用空间）。
+其他模型通常也可以工作；上述行是经过策划的预设——14B–32B 级别针对 32 GB 显卡进行了 QLoRA 调整（测量的范围）。传递 `--lora-preset=quality`（默认值），以使用 Biderman 2024 + Thinking Machines 2025 中定义的 rank-256 / 所有线性目标，或者如果需要 v1.2.x 的占用空间，则传递 `--lora-preset=fast` 以使用旧的 rank-16 / q+v 目标。
 
 ## 故障排除
 

package/package.json

@@ -1,6 +1,6 @@
 {
   "name": "@mcptoolshop/backpropagate",
-  "version": "1.5.0",
+  "version": "1.7.0",
   "description": "Deprecated npm distribution shim for backpropagate — prints install guidance for pipx/uv tool/pip. See https://github.com/mcp-tool-shop-org/backpropagate",
   "type": "commonjs",
   "license": "MIT",