@mcptoolshop/backpropagate 1.4.0 → 1.6.0
This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
- package/README.es.md +175 -122
- package/README.fr.md +178 -125
- package/README.hi.md +165 -112
- package/README.it.md +170 -117
- package/README.ja.md +169 -116
- package/README.md +67 -14
- package/README.pt-BR.md +170 -117
- package/README.zh.md +171 -118
- package/package.json +1 -1
package/README.pt-BR.md
CHANGED
|
@@ -15,9 +15,9 @@
|
|
|
15
15
|
<a href="https://mcp-tool-shop-org.github.io/backpropagate/"><img src="https://img.shields.io/badge/Landing_Page-live-blue" alt="Landing Page"></a>
|
|
16
16
|
</p>
|
|
17
17
|
|
|
18
|
-
# Treine um adaptador. Envie-o para o Ollama.
|
|
18
|
+
# Treine um adaptador. Envie-o para o Ollama. Siga em frente
|
|
19
19
|
|
|
20
|
-
Backpropagate é uma biblioteca Python para ajustar modelos de linguagem grandes em uma única GPU. Três linhas de código
|
|
20
|
+
Backpropagate é uma biblioteca Python para ajustar modelos de linguagem grandes em uma única GPU. Três linhas de código são suficientes para treinar um modelo de 7 bilhões de parâmetros em uma placa de 16 GB. Um comando adicional permite exportá-lo para o Ollama, para que possa usar o comando `ollama run` com o modelo ajustado. Funciona perfeitamente no Windows.
|
|
21
21
|
|
|
22
22
|
```python
|
|
23
23
|
from backpropagate import Trainer
|
|
@@ -32,9 +32,9 @@ backprop export ./output/lora --format gguf --quantization q4_k_m --ollama --oll
|
|
|
32
32
|
ollama run my-model
|
|
33
33
|
```
|
|
34
34
|
|
|
35
|
-
É isso. Não
|
|
35
|
+
É só isso. Não existe um ficheiro de configuração YAML. Não existe um procedimento específico para iniciar o processo com o comando `accelerate launch`. Não existe um tutorial separado para converter o ficheiro para o formato GGUF. Se tiver uma GPU CUDA e um ficheiro JSONL com os seus dados de treino, faltam apenas três linhas de código para obter um modelo ajustado e funcional.
|
|
36
36
|
|
|
37
|
-
##
|
|
37
|
+
## Instalar
|
|
38
38
|
|
|
39
39
|
```bash
|
|
40
40
|
# Recommended: isolated Python install (no conflicts with system Python or other projects)
|
|
@@ -47,81 +47,83 @@ uv tool install backpropagate
|
|
|
47
47
|
pip install backpropagate
|
|
48
48
|
```
|
|
49
49
|
|
|
50
|
-
Se
|
|
50
|
+
Se desejar as funcionalidades opcionais, substitua a instalação atual por uma destas:
|
|
51
51
|
|
|
52
52
|
```bash
|
|
53
53
|
pipx install "backpropagate[standard]" # adds Unsloth (2x faster training) + the web UI
|
|
54
54
|
pipx install "backpropagate[full]" # adds everything: unsloth, ui, monitoring, export, etc.
|
|
55
55
|
```
|
|
56
56
|
|
|
57
|
-
Prefere Docker? `docker pull ghcr.io/mcp-tool-shop-org/backpropagate:latest` também funciona. As imagens
|
|
57
|
+
Prefere o Docker? O comando `docker pull ghcr.io/mcp-tool-shop-org/backpropagate:latest` também funciona. As imagens são disponibilizadas para as arquiteturas `linux/amd64` e `linux/arm64`, o que significa que os utilizadores de dispositivos Apple Silicon e ARM Linux recebem uma imagem nativa. Um ficheiro `compose.yaml` padrão para a aplicação "Interface do utilizador num contentor" encontra-se na raiz do repositório; o comando `docker compose up` ativa a interface do utilizador na web em `http://localhost:7860`, com um volume persistente montado em `~/.backpropagate`.
|
|
58
58
|
|
|
59
|
-
##
|
|
59
|
+
## Qual é o lugar do algoritmo de retropropagação nesse contexto?
|
|
60
60
|
|
|
61
|
-
Existem várias bibliotecas
|
|
61
|
+
Existem várias bibliotecas úteis para otimizar modelos de linguagem grandes (LLMs). Cada uma delas se destaca em áreas diferentes:
|
|
62
62
|
|
|
63
|
-
- **[Axolotl](https://github.com/OpenAccess-AI-Collective/axolotl)** — se você
|
|
64
|
-
- **[LLaMA-Factory](https://github.com/hiyouga/LLaMA-Factory)** — se você
|
|
65
|
-
- **[Unsloth](https://github.com/unslothai/unsloth)** — se você precisa do treinamento mais rápido possível e
|
|
66
|
-
- **[torchtune](https://github.com/pytorch/torchtune)** — se você
|
|
63
|
+
- **[Axolotl](https://github.com/OpenAccess-AI-Collective/axolotl)** — se você prefere configurações em YAML e deseja ter acesso a uma comunidade com diversas receitas para usar como modelo.
|
|
64
|
+
- **[LLaMA-Factory](https://github.com/hiyouga/LLaMA-Factory)** — se você precisa de DPO/PPO/RLHF e de uma interface gráfica web.
|
|
65
|
+
- **[Unsloth](https://github.com/unslothai/unsloth)** — se você precisa do treinamento mais rápido possível e utiliza um dos modelos suportados.
|
|
66
|
+
- **[torchtune](https://github.com/pytorch/torchtune)** — se você deseja ter acesso às receitas nativas do PyTorch, criadas pela Meta, que podem ser editadas.
|
|
67
67
|
|
|
68
|
-
|
|
68
|
+
O «backpropagation» é a funcionalidade que faltava: uma API Python de 3 linhas para utilizadores individuais que usam uma única GPU e que pretendem treinar um adaptador e disponibilizá-lo. Sem YAML, sem interface gráfica, sem RL online (PPO/GRPO), sem configuração multi-nó. Apenas o ciclo de que todos realmente precisam e o passo de exportação que causa problemas.
|
|
69
69
|
|
|
70
|
-
Se você
|
|
70
|
+
Se você experimentou uma das bibliotecas mencionadas acima e teve dificuldades com a configuração, ou encontrou uma lacuna na compatibilidade com determinados modelos, ou preferia configurações padrão otimizadas para o Windows, então o Backpropagate é a solução ideal para você.
|
|
71
71
|
|
|
72
|
-
##
|
|
72
|
+
## Quais os aspetos que pode ajustar numa GPU de 16 GB para uso doméstico?
|
|
73
73
|
|
|
74
|
-
Aqui
|
|
74
|
+
Aqui estão os valores práticos de desempenho que se podem esperar numa placa de 16 GB (RTX 4080 / 5080 / 4070 Ti Super):
|
|
75
75
|
|
|
76
|
-
| Modelo | Método |
|
|
76
|
+
| Modelo | Método | Estado/Situação |
|
|
77
77
|
|---|---|---|
|
|
78
|
-
| Qwen-3.5-4B / Phi-4-mini-3.8B / SmolLM3-3B | LoRA / QLoRA / DoRA | Confortável. Comprimento total da sequência,
|
|
79
|
-
|
|
|
80
|
-
| Qwen-2.5-7B / Llama-3.1-8B / Mistral-7B | QLoRA | Padrão.
|
|
81
|
-
| Llama-3 13B | QLoRA +
|
|
82
|
-
| Mixtral 8x7B (47
|
|
78
|
+
| Qwen-3.5-4B / Phi-4-mini-3.8B / SmolLM3-3B | LoRA / QLoRA / DoRA | Confortável. Comprimento total da sequência adequado, com margem de sobra. |
|
|
79
|
+
| SmolLM3-3B / Qwen2.5-3B / Llama-3.2-3B / Llama-3.2-1B | `mode="full"` (ajuste fino completo) | v1.4 — utilize a opção `--mode=full` em `backprop train` ou `Trainer(..., mode="full")`. Carrega os pesos em precisão total (bf16) — sem pesos de 4 bits, sem adaptadores; o uso de «gradient checkpointing» e do otimizador Adam de 8 bits com paginação mantém o consumo de memória abaixo de 16 GB. |
|
|
80
|
+
| Qwen-2.5-7B / Llama-3.1-8B / Mistral-7B | QLoRA | Padrão. Aproximadamente 7-8 GB. Configurações predefinidas padrão do Backpropagate. |
|
|
81
|
+
| Llama-3 13B | QLoRA + compactação de amostras | Ajustado, mas funciona. Use sequências mais curtas. |
|
|
82
|
+
| Mixtral 8x7B (47 mil milhões de parâmetros no total) | — | Fora do âmbito de aplicação — a versão de 2 bits (AQLM/QuIP#) quebra o contrato de compatibilidade entre o adaptador e a exportação para o formato GGUF, pelo que foi descontinuada no [resumo da trajetória da versão 1.5](docs/V1_5_BRIEF.md). Em uma placa de 16 GB, use uma base de ≤ 8 GB. |
|
|
83
83
|
|
|
84
|
-
|
|
84
|
+
`mode="full"` permite modelos com até **4 bilhões de parâmetros**. Os quatro modelos pré-definidos na linha «full-FT» acima são modelos genuínos de aproximadamente 3 bilhões de parâmetros (contagem real de parâmetros de 3,08 a 3,24 bilhões) e cabem em uma placa de 16 GB. A classe de 3,8 a 4 bilhões de parâmetros (Phi-4-mini-3.8B, Qwen-3.5-4B) também é aceita, mas requer uma placa de **24 GB ou mais** para o ajuste fino completo — apenas os pesos e gradientes ocupam cerca de 16 GB antes do otimizador e das ativações —, portanto, em uma placa de 16 GB, use `mode="lora"` para esses modelos (eles estão na linha LoRA). Modelos com mais de 4 bilhões de parâmetros são rejeitados com a mensagem `RUNTIME_FULL_FT_MODEL_TOO_LARGE`.
|
|
85
85
|
|
|
86
|
-
|
|
86
|
+
A quantização de 2 bits (AQLM / QuIP#) está **fora do escopo**. Foi considerada para a versão 1.4, mas foi removida no [resumo da trajetória da versão 1.5](docs/V1_5_BRIEF.md): uma base de 2 bits não pode ser facilmente reintegrada em pesos de precisão total, o que prejudica o contrato de exportação do Backpropagate (adaptador que pode ser combinado → GGUF → Ollama), que é o objetivo principal do processo. Em vez disso, o Backpropagate oferece as seguintes opções: o caminho de computação **FP8 da versão 1.5** (`--fp8`, Blackwell/Hopper) e `mode="full"` para modelos de até 4 bilhões de parâmetros — ambos permanecem combináveis e exportáveis.
|
|
87
87
|
|
|
88
|
-
|
|
88
|
+
Para os modelos 3B e inferiores, é possível realizar um ajuste fino completo (e não apenas LoRA) com 16 GB de memória, e esta funcionalidade já está disponível na versão 1.4, com o parâmetro `mode="full"`. Para ativá-la, utilize `Trainer(..., mode="full")` ou `backprop train --mode=full --model phi-4-mini-3.8b`. Um mecanismo de segurança impede o uso desta funcionalidade para modelos com mais de 4B, exibindo a mensagem `RUNTIME_FULL_FT_MODEL_TOO_LARGE`, e sugere o uso de LoRA juntamente com as configurações para modelos inferiores a 4B como alternativas. Consulte a [página completa do manual de ajuste fino](https://mcp-tool-shop-org.github.io/backpropagate/handbook/full-fine-tuning/) para obter informações detalhadas sobre a configuração e uma comparação da qualidade, baseada nos estudos de Biderman (2024) e Thinking Machines (2025). Para modelos com 7B ou mais, o ajuste fino completo requer uma GPU com 24 GB ou mais de memória — considere alugar uma GPU A100 na nuvem ou utilize LoRA, já que pesquisas recentes mostram que esta técnica oferece resultados semelhantes ao ajuste fino completo na maioria das tarefas de pós-treinamento (consulte a [seção "O que o Backpropagate não é para"](#what-backpropagate-is-not-for) para obter referências).
|
|
89
89
|
|
|
90
|
-
|
|
90
|
+
## Para que NÃO serve o algoritmo de retropropagação
|
|
91
91
|
|
|
92
|
-
|
|
93
|
-
- **DPO / PPO / GRPO / ajuste de preferências** — Backpropagate realiza apenas o ajuste fino supervisionado em uma única etapa. Para o aprendizado por preferências, utilize diretamente o TRL ou o LLaMA-Factory.
|
|
94
|
-
- **Treinamento em vários nós** — apenas uma GPU em uma única máquina. O uso de várias GPUs em uma única máquina funciona (via `accelerate launch`), mas não é oficialmente suportado.
|
|
95
|
-
- **Treinamento no macOS** — o Apple Silicon não possui CUDA, portanto, o treinamento deve ser executado em uma máquina Linux ou Windows com uma GPU NVIDIA. Você ainda pode executar o modelo treinado em um Mac via Ollama.
|
|
96
|
-
- **Qualquer modelo fora das famílias de modelos testados** — Qwen 2.5 / 3.5 (7B / 4B), Phi-4-mini-3.8B, SmolLM3-3B, Llama 3.2 (3B / 1B), Mistral 7B. Outros modelos podem funcionar, mas não são testados nos testes automatizados.
|
|
92
|
+
Se o seu caso de uso for um dos seguintes, será mais vantajoso utilizar uma biblioteca diferente — a Backpropagate não é a escolha certa e tentar fazê-la funcionar custará mais do que simplesmente optar pela ferramenta adequada. Ler esta secção antes de começar evita o ciclo de instalação e tentativa frustrante:
|
|
97
93
|
|
|
98
|
-
|
|
94
|
+
- **Ajuste fino de parâmetros completos de modelos 7B+** — Backpropagate usa LoRA/QLoRA, que treina um pequeno adaptador em vez de atualizar todos os pesos. Para modelos de 7B e superiores, o ajuste fino completo requer 24 GB ou mais de memória da GPU e não cabe em uma placa de consumidor de 16 GB. Para modelos de 3B e inferiores, o ajuste fino completo é viável em 16 GB e está disponível na v1.4 como `mode="full"` (passe `Trainer(..., mode="full")` ou `--mode=full` na CLI; um filtro rígido aciona `RUNTIME_FULL_FT_MODEL_TOO_LARGE` para modelos > 4B e nomeia LoRA + os predefinidos de sub-4B como alternativas). Em resumo: pesquisas recentes ([Biderman 2024](https://arxiv.org/abs/2405.09673), [Thinking Machines 2025](https://thinkingmachines.ai/blog/lora/)) mostram que o LoRA, com a configuração correta, corresponde à qualidade do ajuste fino completo na maioria das tarefas de pós-treinamento (seguimento de instruções, adaptação de domínio, persona/estilo) em 67% do poder computacional — portanto, para o trabalho que a maioria dos operadores realmente deseja, você não perde nada ao optar por LoRA. `mode="full"` existe para os casos em que você mediu uma diferença de qualidade e decidiu gastar o poder computacional extra. Se você realmente precisar de um ajuste fino completo de um modelo de 7B+, use HuggingFace `transformers.Trainer` diretamente em uma placa de 24 GB ou mais.
|
|
95
|
+
- **RL online — PPO / GRPO / RLVR** — Backpropagate faz um ajuste fino SFT de estágio único mais ajuste de preferência sem referência (ORPO está disponível na v1.5; SimPO/KTO estão planejados). O que ele *não* faz é aprendizado por reforço online — PPO, GRPO ou RLVR —, que requer um modelo de recompensa ou um loop de geração e pontuação no topo da etapa de treinamento. Para esses, use TRL diretamente ou LLaMA-Factory. (O ajuste de preferência sem referência se encaixa no envelope de estágio único porque não há um modelo de referência separado para manter na memória; veja a nota sobre ORPO em [Início Rápido](#início-rápido).)
|
|
96
|
+
- **Treinamento multi-nó** — GPU única em uma máquina. Multi-GPU em uma máquina funciona (via `accelerate launch`), mas não é oficialmente suportado.
|
|
97
|
+
- **Treinamento macOS no ambiente CUDA** — Apple Silicon não tem CUDA, então o caminho CUDA tem que ser executado em uma máquina Linux ou Windows com uma GPU NVIDIA. Você ainda pode executar o modelo treinado em um Mac via Ollama. **Novo na v1.5:** um ambiente MLX experimental (`--backend mlx`) treina um adaptador LoRA nativamente no Apple Silicon — veja [Apple Silicon (MLX)](#apple-silicon-mlx--experimental-v15). É apenas LoRA-SFT e foi construído, mas ainda não foi totalmente testado em silício real, então, para qualquer coisa além de um LoRA SFT (ORPO, ajuste fino completo, FP8, execução múltipla), você ainda deseja o ambiente CUDA.
|
|
98
|
+
- **Qualquer coisa fora das famílias de modelos testadas** — Qwen 2.5 / 3.5 (7B / 4B), Phi-4-mini-3.8B, SmolLM3-3B, Llama 3.2 (3B / 1B), Mistral 7B. Outros modelos geralmente funcionam, mas não estão fixados no CI.
|
|
99
99
|
|
|
100
|
-
|
|
100
|
+
Se você precisar de alguma dessas coisas, use uma das bibliotecas listadas acima. Elas são melhores para isso.
|
|
101
|
+
|
|
102
|
+
## O que Backpropagate oferece
|
|
101
103
|
|
|
102
104
|
Quatro coisas, em uma única instalação:
|
|
103
105
|
|
|
104
|
-
**1. Uma API
|
|
105
|
-
O
|
|
106
|
+
**1. Uma API real de 3 linhas que é executada sem um arquivo de configuração.**
|
|
107
|
+
O snippet no topo deste README é executado de ponta a ponta. Sem `accelerate config`, sem YAML, sem substituições Hydra. Apenas `Trainer(model).train(data)` e você tem um ajuste fino.
|
|
106
108
|
|
|
107
|
-
**2.
|
|
108
|
-
A maioria das bibliotecas de aprendizado de máquina trata o Windows como uma
|
|
109
|
+
**2. Windows que realmente funciona.**
|
|
110
|
+
A maioria das bibliotecas de aprendizado de máquina trata o Windows como uma reflexão tardia. Backpropagate é testado em primeira classe no Windows + RTX 5080. A biblioteca lida com as peculiaridades de tempo de execução para você — ela sabe como pré-tokenizar seus dados para que o processamento paralelo do Windows não falhe, desativa automaticamente o xformers em placas RTX 40/50 onde isso causaria problemas e escolhe configurações de carregador de dados que não causam erros. Você não precisa saber nada disso. Ele simplesmente funciona.
|
|
109
111
|
|
|
110
112
|
**3. Projetado para execuções não supervisionadas.**
|
|
111
|
-
O treinamento leva horas. Você não quer ficar
|
|
113
|
+
O treinamento leva horas. Você não quer ficar de olho nele. Backpropagate é projetado para ser deixado em execução:
|
|
112
114
|
|
|
113
|
-
- Se você ficar sem memória da GPU, ele automaticamente
|
|
114
|
-
- Se
|
|
115
|
-
- Cada
|
|
116
|
-
- Cada execução de treinamento recebe um ID exclusivo que é
|
|
117
|
-
- Os erros vêm com códigos estáveis (`RUNTIME_GPU_OOM`, `DEP_OLLAMA_REGISTRATION_FAILED`, etc.)
|
|
115
|
+
- Se você ficar sem memória da GPU, ele reduz automaticamente pela metade o tamanho do lote e tenta novamente — até três vezes. Sem ajuste manual.
|
|
116
|
+
- Se sua GPU ficar muito quente, ela pausa até que as coisas esfriem e, em seguida, continua.
|
|
117
|
+
- Cada ponto de verificação é gravado atomicamente — se o seu laptop travar durante a gravação, o ponto de verificação anterior e bom ainda estará intacto.
|
|
118
|
+
- Cada execução de treinamento recebe um ID exclusivo que é carimbado em cada linha de log, cada ponto de verificação e cada entrada do Weights & Biases. Se algo der errado, um ID permite que um mantenedor correlacione tudo.
|
|
119
|
+
- Os erros vêm com códigos estáveis (`RUNTIME_GPU_OOM`, `DEP_OLLAMA_REGISTRATION_FAILED`, etc.) para que você possa pesquisar em seus logs e no [guia de solução de problemas](https://mcp-tool-shop-org.github.io/backpropagate/handbook/troubleshooting/) para encontrar a solução. As falhas específicas do CUDA têm uma [página de solução de problemas do CUDA](https://mcp-tool-shop-org.github.io/backpropagate/handbook/troubleshooting-cuda/) dedicada.
|
|
118
120
|
|
|
119
|
-
**4. Um
|
|
120
|
-
Muitas bibliotecas treinam um modelo. Poucas delas
|
|
121
|
+
**4. Um comando do adaptador treinado ao `ollama run`.**
|
|
122
|
+
Muitas bibliotecas treinam um modelo. Poucas delas saem do seu caminho quando você deseja realmente usá-lo. Backpropagate exporta para GGUF (o formato que o Ollama usa) e registra um modelo Ollama em um único comando. Você passa de "treinamento concluído" para "posso conversar com meu ajuste fino" em cerca de 30 segundos.
|
|
121
123
|
|
|
122
124
|
## Início Rápido
|
|
123
125
|
|
|
124
|
-
O repositório inclui um pequeno conjunto de dados de exemplo para que o
|
|
126
|
+
O repositório inclui um pequeno conjunto de dados de exemplo para que o snippet do topo deste README seja executado em uma instalação limpa:
|
|
125
127
|
|
|
126
128
|
```bash
|
|
127
129
|
pipx install "backpropagate[standard]"
|
|
@@ -134,31 +136,80 @@ trainer.export('gguf', quantization='q4_k_m')
|
|
|
134
136
|
"
|
|
135
137
|
```
|
|
136
138
|
|
|
137
|
-
Isso treina um adaptador Qwen 2.5 7B
|
|
139
|
+
Isso treina um adaptador Qwen 2.5 7B em 5 conversas curtas no formato ShareGPT e, em seguida, exporta o resultado para GGUF. Para seus próprios dados, formate seu JSONL com um exemplo por linha:
|
|
138
140
|
|
|
139
141
|
```jsonl
|
|
140
142
|
{"conversations": [{"from": "human", "value": "What is Python?"}, {"from": "gpt", "value": "A programming language."}]}
|
|
141
143
|
{"conversations": [{"from": "human", "value": "Explain recursion."}, {"from": "gpt", "value": "A function that calls itself."}]}
|
|
142
144
|
```
|
|
143
145
|
|
|
144
|
-
|
|
146
|
+
Os formatos Alpaca (`instruction` / `output`), OpenAI chat (`messages`) e texto bruto também funcionam — Backpropagate detecta automaticamente o formato.
|
|
147
|
+
|
|
148
|
+
### Ajuste de preferências (ORPO, SimPO, KTO)
|
|
149
|
+
|
|
150
|
+
Novo na v1.5: treine com base em preferências em vez de demonstrações simples. ORPO não requer referência e é de estágio único — ele incorpora o sinal de preferência na etapa de ajuste fino SFT, portanto, não há um modelo de recompensa ou referência separado e a forma de 3 linhas permanece inalterada. Passe `--method orpo` (CLI) ou `method="orpo"` (Python) e forneça um conjunto de dados de linhas `{prompt, chosen, rejected}` (ou apenas `{chosen, rejected}`):
|
|
151
|
+
|
|
152
|
+
```jsonl
|
|
153
|
+
{"prompt": "What is Python?", "chosen": "A high-level programming language known for readability.", "rejected": "idk look it up"}
|
|
154
|
+
{"prompt": "Explain recursion.", "chosen": "A function that calls itself with a smaller input until a base case.", "rejected": "when something repeats"}
|
|
155
|
+
```
|
|
156
|
+
|
|
157
|
+
```python
|
|
158
|
+
from backpropagate import Trainer
|
|
159
|
+
|
|
160
|
+
trainer = Trainer("Qwen/Qwen2.5-7B-Instruct", method="orpo")
|
|
161
|
+
trainer.train("preferences.jsonl", steps=100)
|
|
162
|
+
trainer.export("gguf", quantization="q4_k_m")
|
|
163
|
+
```
|
|
164
|
+
|
|
165
|
+
```bash
|
|
166
|
+
backprop train --data preferences.jsonl --method orpo --steps 100
|
|
167
|
+
```
|
|
168
|
+
|
|
169
|
+
A taxa de aprendizado padrão é automaticamente reduzida para `8e-6` para ORPO (a perda é mais acentuada do que no SFT simples); ajuste `--orpo-beta` (padrão `0.1`) para ponderar a penalidade da razão de chances. ORPO é apenas em `mode="lora"`.
|
|
145
170
|
|
|
146
|
-
|
|
171
|
+
**Novo na v1.6 — SimPO e KTO.** `--method simpo` ([Meng et al. 2024](https://arxiv.org/abs/2405.14734)) não requer referência, utiliza uma recompensa normalizada pelo comprimento e usa os mesmos dados pareados `{prompt, chosen, rejected}` que o ORPO (`--simpo-beta`, `--simpo-gamma`). `--method kto` ([Ethayarajh et al. 2024](https://arxiv.org/abs/2402.01306)) usa dados **não pareados** `{prompt, completion, label}` — avaliações individuais de "gostei/não gostei" — para a grande classe de feedback que não é um conjunto curado de pares A/B; ele equilibra automaticamente os pesos desejáveis/indesejáveis da perda com base nas contagens dos seus rótulos. Ambos são apenas em `mode="lora"` e permanecem no ambiente SFT de GPU única (sem modelo de referência separado). Consulte o [manual de ajuste de preferências](https://mcp-tool-shop-org.github.io/backpropagate/handbook/preference-tuning/) para saber qual usar. Para RL online (PPO/GRPO), consulte [O que o Backpropagate NÃO é](#what-backpropagate-is-not-for).
|
|
147
172
|
|
|
148
|
-
###
|
|
173
|
+
### Rastreamento de raciocínio SFT (destilação R1)
|
|
149
174
|
|
|
150
|
-
|
|
175
|
+
Novo na v1.5: destile um modelo de raciocínio de forma fácil. Passe `--reasoning-trace` (CLI) ou `Trainer(..., reasoning_trace=True)` (Python) e forneça rastreamentos que mantenham uma cadeia de pensamento `<think>...</think>` dentro da interação do assistente — a metade pura de SFT de [DeepSeek-R1](https://arxiv.org/abs/2501.12948), sem necessidade de RL. Backpropagate mantém `<think>` no alvo de treinamento, remove rastreamentos vazios/muito longos (filtragem do comprimento do rastreamento) e aumenta o `max_seq_length` padrão para 8192 para o CoT mais longo. Fundamentalmente, `<think>` permanece como **texto simples** — sem tokens especiais, sem redimensionamento de incorporação — para que o GGUF mesclado ainda seja exportado para o Ollama como qualquer outro ajuste fino. Apenas SFT. Consulte a [receita de rastreamento de raciocínio](https://mcp-tool-shop-org.github.io/backpropagate/handbook/recipes/#reasoning-trace-sft-r1-distillation) para o formato do conjunto de dados e o intervalo de tokens ajustável.
|
|
176
|
+
|
|
177
|
+
### Apple Silicon (MLX) — experimental, v1.5
|
|
178
|
+
|
|
179
|
+
Novo na v1.5: **uma API, dois caminhos.** CUDA permanece como o backend canônico e verificado; MLX é um segundo caminho que treina em um Mac da série M por meio do conjunto de ferramentas [`mlx_lm.lora`](https://github.com/ml-explore/mlx-lm) da Apple (memória unificada, sem CUDA). O mesmo formato de 3 linhas seleciona o caminho por hardware — `backend='auto'` (o padrão) direciona para CUDA em NVIDIA e para MLX em Apple Silicon, para que as configurações CUDA existentes sejam idênticas em termos de bytes:
|
|
180
|
+
|
|
181
|
+
```python
|
|
182
|
+
from backpropagate import Trainer
|
|
183
|
+
|
|
184
|
+
# On an M-series Mac with `pip install 'backpropagate[mlx]'`:
|
|
185
|
+
trainer = Trainer("mlx-community/Qwen2.5-0.5B-Instruct-4bit", backend="mlx")
|
|
186
|
+
trainer.train("examples/quickstart.jsonl", steps=100)
|
|
187
|
+
```
|
|
188
|
+
|
|
189
|
+
```bash
|
|
190
|
+
backprop train --data my_data.jsonl --backend mlx --steps 100
|
|
191
|
+
```
|
|
192
|
+
|
|
193
|
+
Na v1.5, o caminho MLX é **apenas LoRA SFT** — sem ORPO, sem FP8, sem `mode='full'`, sem execução múltipla em MLX ainda (cada um é rejeitado com `CONFIG_INVALID_SETTING`; use `backend='cuda'`/`'auto'` em uma máquina NVIDIA para esses). O adaptador resultante é apenas safetensors e é exportado para o Ollama pelo mesmo caminho do caminho CUDA.
|
|
194
|
+
|
|
195
|
+
> ⚠️ **Situação atual:** a versão MLX incluída na v1.5 foi **construída + testada em unidade (simulada)**, mas **ainda não foi verificada em testes reais com Apple Silicon** — `mlx-lm` é exclusivo para Apple e não pôde ser executado no sistema NVIDIA onde este código foi desenvolvido. Considere como experimental — a mesma abordagem que o caminho FP8 teve na v1.5 (FP8 passou para testes reais em Blackwell na v1.6; MLX ainda precisa passar por esse teste em silício real) — e, por favor, [relate anomalias](#reporting-bugs) assim que for executado em um Mac da série M. Forçar `--backend mlx` em um host não Apple gera o erro `CONFIG_INVALID_SETTING`; a ausência de uma ferramenta `mlx_lm` em um Mac gera `DEP_MLX_UNAVAILABLE`.
|
|
196
|
+
|
|
197
|
+
Para fluxos de trabalho de ponta a ponta mais abrangentes (ajuste fino e envio para o HF-Hub, retomada após estouro de memória, SLAO de execução múltipla em uma campanha longa, etc.), consulte a [página de receitas do manual](https://mcp-tool-shop-org.github.io/backpropagate/handbook/recipes/).
|
|
198
|
+
|
|
199
|
+
### Interface de usuário da web (opcional)
|
|
200
|
+
|
|
201
|
+
Se você preferir clicar em vez de digitar Python, instale o extra da interface do usuário e inicie:
|
|
151
202
|
|
|
152
203
|
```bash
|
|
153
204
|
pipx install "backpropagate[ui]"
|
|
154
205
|
backprop ui --port 7862
|
|
155
206
|
```
|
|
156
207
|
|
|
157
|
-
Uma interface web local é aberta em `http://localhost:7862
|
|
208
|
+
Uma interface da web local é aberta em `http://localhost:7862` para navegar pelos conjuntos de dados, validar formatos e montar uma configuração de treinamento visualmente. O treinamento em si é executado por meio de `backprop train` (o treinamento orientado pela interface do usuário está no roteiro — o botão Iniciar exibe atualmente essa observação). A interface do usuário é apenas local por padrão. Para expô-la a outros dispositivos, consulte [Interface do usuário da web](#web-ui) abaixo para o contrato de segurança `--share` + `--auth`.
|
|
158
209
|
|
|
159
|
-
## Treinamento
|
|
210
|
+
## Treinamento de execução múltipla
|
|
160
211
|
|
|
161
|
-
Se você deseja
|
|
212
|
+
Se você deseja ajustar os parâmetros de forma incremental em vários conjuntos de dados — digamos que você obtenha novos dados de treinamento a cada semana e queira adicioná-los sem esquecer o que aprendeu antes — o modo `multi_run` do Backpropagate é para você:
|
|
162
213
|
|
|
163
214
|
```python
|
|
164
215
|
from backpropagate import Trainer
|
|
@@ -173,17 +224,17 @@ result = trainer.multi_run(
|
|
|
173
224
|
)
|
|
174
225
|
```
|
|
175
226
|
|
|
176
|
-
Isso executa cinco
|
|
227
|
+
Isso executa cinco passagens de treinamento, mesclando o adaptador entre as execuções de uma forma que preserva o conhecimento anterior, incorporando novos exemplos. A técnica é baseada em pesquisas recentes sobre aprendizado contínuo — consulte [Referências](#references) na parte inferior deste README.
|
|
177
228
|
|
|
178
|
-
A versão da
|
|
229
|
+
A versão da CLI:
|
|
179
230
|
|
|
180
231
|
```bash
|
|
181
232
|
backprop multi-run --data my_data.jsonl --runs 5 --steps 100 --samples 1000
|
|
182
233
|
```
|
|
183
234
|
|
|
184
|
-
## Retomar de um ponto de verificação
|
|
235
|
+
## Retomar a partir de um ponto de verificação
|
|
185
236
|
|
|
186
|
-
|
|
237
|
+
Um treinamento de 5 execuções que falha na execução 4 pode ser recuperado. Cada sessão de execução múltipla grava seu ID de execução no histórico e no manifesto de pontos de verificação no disco, para que retomar de onde você parou seja um único comando:
|
|
187
238
|
|
|
188
239
|
```bash
|
|
189
240
|
backprop resume <run-id>
|
|
@@ -191,7 +242,7 @@ backprop multi-run --data ... --resume <run-id>
|
|
|
191
242
|
backprop train --data ... --resume <run-id> # single-run resume
|
|
192
243
|
```
|
|
193
244
|
|
|
194
|
-
O comportamento padrão
|
|
245
|
+
O comportamento padrão de `backprop multi-run` (sem `--resume`) detecta automaticamente uma entrada em andamento no mesmo diretório de saída e a continua. Para forçar um novo início, aponte para um novo diretório de saída.
|
|
195
246
|
|
|
196
247
|
## Histórico de treinamento
|
|
197
248
|
|
|
@@ -206,7 +257,7 @@ backprop show-run abcd1234 # detail view (partial ID is fine)
|
|
|
206
257
|
|
|
207
258
|
## Rastreamento de experimentos
|
|
208
259
|
|
|
209
|
-
|
|
260
|
+
Backpropagate detecta automaticamente os rastreadores de experimentos instalados (Weights & Biases, TensorBoard, MLflow) e os conecta. Se `wandb` estiver instalado e você estiver conectado, cada execução registrará automaticamente no W&B com um nome de execução que corresponda ao ID de execução no disco — para que você possa pesquisar no W&B, em seus logs e em `run_history.json` usando um único identificador.
|
|
210
261
|
|
|
211
262
|
```bash
|
|
212
263
|
pip install backpropagate[monitoring] # installs wandb + psutil
|
|
@@ -214,23 +265,25 @@ wandb login # one-time setup
|
|
|
214
265
|
backprop train --data my_data.jsonl
|
|
215
266
|
```
|
|
216
267
|
|
|
217
|
-
|
|
268
|
+
Substitua com `Trainer(report_to=["wandb"])`, `Trainer(report_to=["tensorboard"])` ou `Trainer(report_to="none")` para optar por não participar.
|
|
218
269
|
|
|
219
|
-
## Interface
|
|
270
|
+
## Interface do usuário da web
|
|
220
271
|
|
|
221
|
-
A interface web Reflex é opcional — instale com `pipx install "backpropagate[ui]"` e
|
|
272
|
+
A interface da web Reflex é opcional — instale com `pipx install "backpropagate[ui]"` e inicie:
|
|
222
273
|
|
|
223
274
|
```bash
|
|
224
275
|
backprop ui --port 7862
|
|
225
276
|
```
|
|
226
277
|
|
|
227
|
-
A interface
|
|
278
|
+
A interface do usuário é executada localmente em `http://localhost:7862`. Atualmente, ela cobre a metade **navegar / validar / configurar** do fluxo de trabalho — aponte-a para um conjunto de dados, verifique o formato e as estatísticas detectados automaticamente, escolha um modelo e monte uma configuração de execução. **O lançamento da execução é feito pela CLI** (`backprop train` / `backprop multi-run`); o botão Iniciar na interface do usuário exibe uma observação apontando para lá. O treinamento orientado pela interface do usuário é um acompanhamento planejado — até então, a interface do usuário é o ponto de entrada e a CLI é o gatilho.
|
|
279
|
+
|
|
280
|
+
Para expor o modelo a outros dispositivos (outras pessoas na sua rede, um URL público, etc.), você deve combinar `--share` (ou `--host`) com `--auth`:
|
|
228
281
|
|
|
229
282
|
```bash
|
|
230
283
|
backprop ui --share --auth alice:hunter2
|
|
231
284
|
```
|
|
232
285
|
|
|
233
|
-
`backprop ui --share` sem `--auth`
|
|
286
|
+
`backprop ui --share` sem `--auth` resulta em um erro. O motivo: `--share` publica um URL que qualquer pessoa na internet pode acessar e, sem autenticação, isso significa que qualquer pessoa pode executar o seu pipeline de treinamento e ler o seu token HuggingFace. Não há opção para desativar isso — se você não quiser definir credenciais, use o redirecionamento de porta SSH:
|
|
234
287
|
|
|
235
288
|
```bash
|
|
236
289
|
# On the client:
|
|
@@ -240,32 +293,32 @@ backprop ui # no --share
|
|
|
240
293
|
# Then open http://localhost:7860 in your local browser
|
|
241
294
|
```
|
|
242
295
|
|
|
243
|
-
Consulte [handbook/security.md](https://mcp-tool-shop-org.github.io/backpropagate/handbook/security/) para obter o modelo de ameaças
|
|
296
|
+
Consulte [handbook/security.md](https://mcp-tool-shop-org.github.io/backpropagate/handbook/security/) para obter o modelo completo de ameaças.
|
|
244
297
|
|
|
245
|
-
As operações de escrita no sistema de arquivos a partir da interface são restritas a um único diretório:
|
|
298
|
+
As operações de escrita no sistema de arquivos a partir da interface do usuário são restritas a um único diretório:
|
|
246
299
|
|
|
247
300
|
- Padrão: `~/.backpropagate/ui-outputs`
|
|
248
|
-
-
|
|
301
|
+
- Substituição: defina `BACKPROPAGATE_UI__OUTPUT_DIR=/caminho/que/você/deseja`
|
|
249
302
|
- A substituição é validada por uma lista de permissões — caminhos do sistema ou de credenciais (`/etc`, `~/.ssh`, `~/.aws`, `C:\Windows\System32`, etc.) são rejeitados.
|
|
250
303
|
|
|
251
|
-
##
|
|
304
|
+
## Notas da plataforma
|
|
252
305
|
|
|
253
|
-
**Requisitos:** Python 3.10+ · GPU CUDA (
|
|
306
|
+
**Requisitos:** Python 3.10+ · GPU CUDA (8 GB+ de VRAM) · PyTorch 2.0+
|
|
254
307
|
|
|
255
|
-
O Python 3.10
|
|
308
|
+
O Python 3.10 é suportado até, pelo menos, a v1.6; seu suporte oficial termina em outubro de 2026 e está programado para ser removido na primeira versão após essa data. Para novas instalações, prefira o Python 3.11 ou 3.12 — o 3.11 é a versão mais testada.
|
|
256
309
|
|
|
257
|
-
O Backpropagate lida com as peculiaridades de tempo de execução do treinamento em diferentes plataformas, mas não pode corrigir problemas de instalação. Os dois
|
|
310
|
+
O Backpropagate lida com as peculiaridades de tempo de execução do treinamento em diferentes plataformas, mas não pode corrigir problemas de tempo de instalação. Os dois mais comuns são:
|
|
258
311
|
|
|
259
|
-
- **Pacote CUDA incorreto.** O PyTorch é publicado com um
|
|
260
|
-
- **Windows + exportação GGUF.**
|
|
312
|
+
- **Pacote CUDA incorreto.** O PyTorch é publicado com um binário por versão do CUDA. Se você escolher o pacote errado, obterá silenciosamente o PyTorch apenas para CPU e o treinamento será impossivelmente lento. Use o seletor de pacotes em <https://pytorch.org/get-started/locally/> para o seu driver. Execute `nvidia-smi` para ver a versão do seu driver/CUDA.
|
|
313
|
+
- **Windows + exportação GGUF.** O extra `[export]` cria o `llama-cpp-python` a partir do código-fonte, o que requer o Visual Studio Build Tools (componente C++) e o CMake.
|
|
261
314
|
|
|
262
|
-
**macOS:**
|
|
315
|
+
**macOS:** o suporte para CUDA não é fornecido (sem CUDA) — um `trainer.train()` com CUDA gera `DEP_GPU_NOT_AVAILABLE` e você pode executar o adaptador treinado em um Mac via Ollama. **Novo na v1.5:** um trilho experimental MLX (`--backend mlx`, `pip install 'backpropagate[mlx]'`) treina um adaptador LoRA nativamente no Apple Silicon via `mlx_lm.lora` — apenas LoRA SFT e construído + testado, mas ainda não verificado em silício real (veja [Apple Silicon (MLX)](#apple-silicon-mlx--experimental-v15)). Para o caminho CUDA ou para ORPO / ajuste fino completo / FP8 / execução múltipla, use uma máquina Linux ou Windows com CUDA.
|
|
263
316
|
|
|
264
|
-
Consulte a [página do
|
|
317
|
+
Consulte a [página do guia de solução de problemas](https://mcp-tool-shop-org.github.io/backpropagate/handbook/troubleshooting/) para obter o guia completo de correção de instalação e a [página dedicada de solução de problemas do CUDA](https://mcp-tool-shop-org.github.io/backpropagate/handbook/troubleshooting-cuda/) para problemas de driver / VRAM / xformers / bf16 vs. fp16.
|
|
265
318
|
|
|
266
319
|
## CLI
|
|
267
320
|
|
|
268
|
-
Cada API
|
|
321
|
+
Cada API Python tem um espelho CLI:
|
|
269
322
|
|
|
270
323
|
```bash
|
|
271
324
|
backprop train --data my_data.jsonl --model Qwen/Qwen2.5-7B-Instruct --steps 100
|
|
@@ -282,80 +335,80 @@ backprop replay <run-id> # re-run with same config / dataset
|
|
|
282
335
|
backprop export-runs --format jsonl # bulk export run history
|
|
283
336
|
```
|
|
284
337
|
|
|
285
|
-
|
|
338
|
+
Referência completa em [na página do guia CLI](https://mcp-tool-shop-org.github.io/backpropagate/handbook/cli-reference/), ou `backprop <subcomando> --help`.
|
|
286
339
|
|
|
287
340
|
## Configuração
|
|
288
341
|
|
|
289
|
-
Cada configuração pode ser substituída
|
|
342
|
+
Cada configuração pode ser substituída com uma variável de ambiente usando o prefixo `BACKPROPAGATE_`:
|
|
290
343
|
|
|
291
|
-
| Variável | Padrão |
|
|
344
|
+
| Variável | Padrão | Notas |
|
|
292
345
|
|---|---|---|
|
|
293
346
|
| `BACKPROPAGATE_LOG_LEVEL` | `INFO` | `DEBUG` / `INFO` / `WARNING` / `ERROR` |
|
|
294
347
|
| `BACKPROPAGATE_LOG_JSON` | auto | Forçar logs JSON ou de console |
|
|
295
348
|
| `BACKPROPAGATE_MODEL__NAME` | `Qwen/Qwen2.5-7B-Instruct` | Modelo padrão |
|
|
296
349
|
| `BACKPROPAGATE_TRAINING__LEARNING_RATE` | `2e-4` | Taxa de aprendizado |
|
|
297
|
-
| `BACKPROPAGATE_LORA__R` | `256` | Rank
|
|
298
|
-
| `BACKPROPAGATE_UI__OUTPUT_DIR` | `~/.backpropagate/ui-outputs` |
|
|
350
|
+
| `BACKPROPAGATE_LORA__R` | `256` | Rank LoRA (padrão da v1.3; use `--lora-preset=fast` para o padrão da v1.2.x de 16) |
|
|
351
|
+
| `BACKPROPAGATE_UI__OUTPUT_DIR` | `~/.backpropagate/ui-outputs` | Sandbox do sistema de arquivos da interface do usuário |
|
|
299
352
|
|
|
300
|
-
Chaves aninhadas usam
|
|
353
|
+
Chaves aninhadas usam sublinhado duplo (`MODEL__NAME`, não `MODEL_NAME`). A referência completa está em [na página do guia de variáveis de ambiente](https://mcp-tool-shop-org.github.io/backpropagate/handbook/env-vars/).
|
|
301
354
|
|
|
302
|
-
##
|
|
355
|
+
## Predefinições de modelo
|
|
303
356
|
|
|
304
|
-
|
|
|
357
|
+
| Predefinição | VRAM | Licença | Notas |
|
|
305
358
|
|---|---|---|---|
|
|
306
|
-
| Qwen-3.5-4B | ~8GB | Apache 2.0 | Padrão recomendado para modelos
|
|
307
|
-
| Phi-4-mini-3.8B | ~8GB | MIT |
|
|
359
|
+
| Qwen-3.5-4B | ~8GB | Apache 2.0 | Padrão recomendado para modelos menores que 5B. Melhor qualidade neste tamanho. |
|
|
360
|
+
| Phi-4-mini-3.8B | ~8GB | MIT | Forte em raciocínio / matemática / código. Licença estritamente limpa. |
|
|
308
361
|
| SmolLM3-3B | ~6GB | Apache 2.0 | Receita totalmente aberta. Contexto nativo de 64K. |
|
|
309
|
-
| Qwen 2.5 7B | ~12GB | Apache 2.0 | Padrão existente. Melhor qualidade
|
|
310
|
-
| Qwen 2.5 3B | ~8GB | Qwen-Research | ⚠ licença de pesquisa —
|
|
311
|
-
| Llama 3.2 3B | ~8GB | Llama Community | Alternativa sólida ao Qwen 3B
|
|
312
|
-
| Llama 3.2 1B | ~6GB | Llama Community |
|
|
313
|
-
| Mistral 7B | ~12GB | Apache 2.0 | Comparável ao Qwen 7B,
|
|
362
|
+
| Qwen 2.5 7B | ~12GB | Apache 2.0 | Padrão existente. Melhor qualidade das predefinições 7B legadas. |
|
|
363
|
+
| Qwen 2.5 3B | ~8GB | Qwen-Research | ⚠ licença de pesquisa — consulte os termos de licença do Qwen antes do uso comercial. |
|
|
364
|
+
| Llama 3.2 3B | ~8GB | Llama Community | Alternativa sólida ao Qwen 3B com ressalvas permissivas. |
|
|
365
|
+
| Llama 3.2 1B | ~6GB | Llama Community | Para experimentos rápidos em placas pequenas. |
|
|
366
|
+
| Mistral 7B | ~12GB | Apache 2.0 | Comparável ao Qwen 7B, modelo de chat diferente. |
|
|
314
367
|
|
|
315
|
-
Outros modelos
|
|
368
|
+
Outros modelos geralmente funcionam, mas apenas esses oito são fixados no CI. Use `--lora-preset=quality` (padrão) para alvos de rank-256 / totalmente lineares, conforme Biderman 2024 + Thinking Machines 2025, ou `--lora-preset=fast` para o alvo legado de rank-16 / q+v, se você precisar do footprint da v1.2.x.
|
|
316
369
|
|
|
317
370
|
## Solução de problemas
|
|
318
371
|
|
|
319
|
-
Um índice
|
|
372
|
+
Um breve índice das falhas mais comuns na primeira execução. O índice reverso completo está em [na página do guia de solução de problemas](https://mcp-tool-shop-org.github.io/backpropagate/handbook/troubleshooting/). Para uma análise aprofundada de driver / VRAM / precisão mista, consulte a [página de solução de problemas do CUDA](https://mcp-tool-shop-org.github.io/backpropagate/handbook/troubleshooting-cuda/).
|
|
320
373
|
|
|
321
|
-
| Sintoma | Código de erro |
|
|
374
|
+
| Sintoma | Código de erro | Correção |
|
|
322
375
|
|---|---|---|
|
|
323
|
-
| A GPU fica sem memória durante o treinamento. | `RUNTIME_GPU_OOM` |
|
|
324
|
-
| HuggingFace retorna 401 / "modelo não encontrado" | `DEP_MODEL_LOAD_FAILED` |
|
|
325
|
-
|
|
|
326
|
-
| Disco cheio durante
|
|
327
|
-
|
|
|
328
|
-
| `backprop ui --share`
|
|
329
|
-
| A exportação
|
|
376
|
+
| A GPU fica sem memória durante o treinamento. | `RUNTIME_GPU_OOM` | Automático — O retropropagação reduz pela metade o tamanho do lote e tenta novamente até 3 vezes. Para desativar: `Trainer(oom_recovery=False)`. Para forçar um tamanho menor: `--batch-size 1`. |
|
|
377
|
+
| O HuggingFace retorna 401 / "modelo não encontrado". | `DEP_MODEL_LOAD_FAILED` | `huggingface-cli login` e tente novamente. Para erros de digitação, copie o ID exato de <https://huggingface.co/models>. |
|
|
378
|
+
| `register_with_ollama` conexão recusada. | `DEP_OLLAMA_REGISTRATION_FAILED` | Inicie o daemon: `ollama serve`. Instale a partir de <https://ollama.com>. Pode ser repetido. |
|
|
379
|
+
| Disco cheio durante a salvaguarda do ponto de verificação. | `STATE_CHECKPOINT_INVALID` | As gravações atômicas deixam um diretório `.partial` em caso de falha — seguro para excluir. O ponto de verificação anterior válido permanece intacto. |
|
|
380
|
+
| O treinamento foi pausado devido ao superaquecimento da GPU. | `RUNTIME_GPU_TEMPERATURE_CRITICAL` | Automático — O retropropagação pausa no limite de temperatura e retoma quando a GPU esfria. Melhore o fluxo de ar se isso continuar acontecendo. |
|
|
381
|
+
| `backprop ui --share` rejeitado. | `RUNTIME_UI_AUTH_NOT_ENFORCED` | Passe `--auth user:password` ou use o encaminhamento de porta SSH (veja [Interface do Usuário da Web](#interface-do-usuario-da-web)). |
|
|
382
|
+
| A exportação GGUF falhou na primeira tentativa. | `RUNTIME_GGUF_EXPORT_FAILED` | `pip install backpropagate[export]`; no Windows, você também precisa das Ferramentas de Compilação C++ e do CMake. |
|
|
330
383
|
|
|
331
384
|
## Relatando bugs
|
|
332
385
|
|
|
333
|
-
Quando algo falha, o Backpropagate imprime uma linha no início, como `run_started run_id=<uuid>`, e associa
|
|
386
|
+
Quando algo falha, o Backpropagate imprime uma linha no início, como `run_started run_id=<uuid>`, e associa o mesmo ID a cada linha de log, a cada ponto de verificação e a cada entrada de Weights & Biases. **Inclua o `run_id` em qualquer relatório de bug** — isso permite que um mantenedor correlacione tudo para essa execução específica.
|
|
334
387
|
|
|
335
388
|
Um bom relatório de bug inclui:
|
|
336
389
|
|
|
337
|
-
1. **O `run_id`** — o UUID
|
|
338
|
-
2. **O código de erro** — a linha `[
|
|
339
|
-
3. **O rastreamento
|
|
340
|
-
4. **A saída de `backprop info`.** Um
|
|
390
|
+
1. **O `run_id`** — o UUID impresso no início. Um UUID permite que um mantenedor correlacione cada linha de log, cada ponto de verificação e cada entrada de Weights & Biases para essa execução específica.
|
|
391
|
+
2. **O código de erro** — a linha `[CODE_NAME]: message` em stderr. Consulte [códigos de erro](https://mcp-tool-shop-org.github.io/backpropagate/handbook/error-codes/) para o catálogo de códigos estáveis.
|
|
392
|
+
3. **O rastreamento editado.** O stderr é automaticamente editado no modo não detalhado (tokens Bearer, `sk-*`, `hf_*`, chaves AWS, pares `password=` / `token=` / `api_key=` são removidos) — seguro para colar. Para o rastreamento completo e não editado, execute novamente com `BACKPROPAGATE_DEBUG=1` (ou `--verbose`); revise antes de postar.
|
|
393
|
+
4. **A saída de `backprop info`.** Um comando imprime Python / PyTorch / CUDA / modelo de GPU / VRAM / SO / extras instalados — tudo o que o mantenedor precisa para identificar uma regressão específica da plataforma.
|
|
341
394
|
|
|
342
|
-
O [modelo de relatório de
|
|
395
|
+
O [modelo de relatório de bug](https://github.com/mcp-tool-shop-org/backpropagate/issues/new?template=bug_report.yml) solicita explicitamente cada um desses itens para que a triagem avance rapidamente. Perguntas, ideias ou tópicos do tipo "isso é esperado?" devem ser postados em [Discussões do GitHub](https://github.com/mcp-tool-shop-org/backpropagate/discussions). Problemas de segurança devem ser relatados em particular por meio do formulário [Aviso de Segurança do GitHub](https://github.com/mcp-tool-shop-org/backpropagate/security/advisories/new) — consulte [SECURITY.md](SECURITY.md) para obter a política e os prazos de resposta.
|
|
343
396
|
|
|
344
397
|
## Privacidade
|
|
345
398
|
|
|
346
|
-
Todo o treinamento ocorre localmente
|
|
399
|
+
Todo o treinamento ocorre localmente em sua GPU. O Backpropagate não faz solicitações de rede, exceto para baixar modelos do HuggingFace (o que você inicia). Sem telemetria, sem dependência da nuvem.
|
|
347
400
|
|
|
348
401
|
## Referências
|
|
349
402
|
|
|
350
|
-
Os padrões
|
|
403
|
+
Os padrões e o modo de treinamento de várias execuções do Backpropagate são baseados em pesquisas recentes. Se você estiver interessado nas técnicas subjacentes:
|
|
351
404
|
|
|
352
|
-
- **Hu et al. 2021.** *LoRA:
|
|
353
|
-
- **Biderman et al. 2024.** *LoRA
|
|
354
|
-
- **Thinking Machines 2025.** *LoRA
|
|
355
|
-
- **Kirkpatrick et al. 2017.** *
|
|
356
|
-
- **Wang et al. 2023.** *
|
|
357
|
-
- **Yadav et al. 2023.** *TIES-Merging:
|
|
358
|
-
- **Qiao & Mahdavi 2025.** *
|
|
405
|
+
- **Hu et al. 2021.** *LoRA: Low-Rank Adaptation of Large Language Models.* [arXiv:2106.09685](https://arxiv.org/abs/2106.09685) — o artigo fundamental que introduz o LoRA, que é como o Backpropagate treina adaptadores de forma eficiente.
|
|
406
|
+
- **Biderman et al. 2024.** *LoRA Learns Less and Forgets Less.* [arXiv:2405.09673](https://arxiv.org/abs/2405.09673) — evidências empíricas de que o LoRA com classificação 256 e todos os alvos lineares correspondem à qualidade do ajuste fino completo na maioria das tarefas de pós-treinamento em 67% do poder computacional. Impulsiona a configuração padrão do LoRA v1.3 do Backpropagate.
|
|
407
|
+
- **Thinking Machines 2025.** *LoRA Without Regret.* [thinkingmachines.ai/blog/lora](https://thinkingmachines.ai/blog/lora/) — o acompanhamento prático que identifica a correção de 10× na taxa de aprendizado em relação ao ajuste fino completo necessária em alta classificação LoRA.
|
|
408
|
+
- **Kirkpatrick et al. 2017.** *Overcoming catastrophic forgetting in neural networks.* [arXiv:1612.00796](https://arxiv.org/abs/1612.00796) — a caracterização original de por que as redes neurais "esquecem" o treinamento anterior quando você ajusta em novos dados (EWC — Consolidação de Peso Elástico).
|
|
409
|
+
- **Wang et al. 2023.** *Orthogonal Subspace Learning for Language Model Continual Learning.* [arXiv:2310.14152](https://arxiv.org/abs/2310.14152) — O-LoRA, uma abordagem anterior para usar o LoRA para aprendizado contínuo, restringindo os novos adaptadores a subespaços ortogonais.
|
|
410
|
+
- **Yadav et al. 2023.** *TIES-Merging: Resolving Interference When Merging Models.* [arXiv:2306.01708](https://arxiv.org/abs/2306.01708) — uma técnica fundamental para mesclar vários modelos ajustados sem interferência.
|
|
411
|
+
- **Qiao & Mahdavi 2025.** *Merge before Forget: A Single LoRA Continual Learning via Continual Merging.* [arXiv:2512.23017](https://arxiv.org/abs/2512.23017) — o algoritmo específico que o mesclador de várias execuções do Backpropagate implementa. Um preprint de dezembro de 2025; o Backpropagate é o primeiro adotante conhecido do artigo.
|
|
359
412
|
|
|
360
413
|
## Licença
|
|
361
414
|
|