@danhachuel/leadmaster 0.1.9 → 0.1.11

This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
Files changed (25) hide show
  1. package/CHANGELOG.md +61 -0
  2. package/README.md +1 -1
  3. package/backend/__pycache__/main.cpython-311.pyc +0 -0
  4. package/backend/main.py +46 -14
  5. package/backend/services/__pycache__/__init__.cpython-311.pyc +0 -0
  6. package/backend/services/__pycache__/agents.cpython-311.pyc +0 -0
  7. package/backend/services/__pycache__/crm_agent.cpython-311.pyc +0 -0
  8. package/backend/services/__pycache__/extractors.cpython-311.pyc +0 -0
  9. package/backend/services/__pycache__/flags.cpython-311.pyc +0 -0
  10. package/backend/services/__pycache__/llm.cpython-311.pyc +0 -0
  11. package/backend/services/__pycache__/storage.cpython-311.pyc +0 -0
  12. package/backend/services/extractors.py +47 -0
  13. package/backend/services/storage.py +5 -2
  14. package/backend/tests/__pycache__/conftest.cpython-311-pytest-8.4.2.pyc +0 -0
  15. package/backend/tests/__pycache__/test_crm_routes.cpython-311-pytest-8.4.2.pyc +0 -0
  16. package/backend/tests/__pycache__/test_launcher_protections.cpython-311-pytest-8.4.2.pyc +0 -0
  17. package/backend/tests/__pycache__/test_maps_extractor.cpython-311-pytest-8.4.2.pyc +0 -0
  18. package/backend/tests/__pycache__/test_process_flags.cpython-311-pytest-8.4.2.pyc +0 -0
  19. package/backend/tests/test_launcher_protections.py +41 -3
  20. package/backend/tests/test_maps_extractor.py +45 -0
  21. package/frontend/dist/assets/{index-DVFFIa5O.css → index-D53_Dmef.css} +1 -1
  22. package/frontend/dist/assets/{index-ZsRPRMCF.js → index-lA_S1NDH.js} +18 -18
  23. package/frontend/dist/index.html +2 -2
  24. package/package.json +1 -1
  25. package/scripts/cli.mjs +47 -2
package/CHANGELOG.md CHANGED
@@ -6,6 +6,67 @@ O formato é baseado no [Keep a Changelog](https://keepachangelog.com/pt-BR/1.1.
6
6
  A etiqueta visual de versão usa patch de dois dígitos (ex.: `0.1.00`); o registry NPM
7
7
  normaliza para a forma canônica (ex.: `0.1.0`).
8
8
 
9
+ ## [0.1.11] — 2026-11-08
10
+
11
+ ### Corrigido
12
+
13
+ - **Launcher ainda devolvia o prompt no MobaXterm — a 0.1.9 não resolveu** — o
14
+ processo Node encerrava seu event loop logo após imprimir "LeadMaster no ar...",
15
+ mesmo com o keep-alive `setInterval`. Sem o Node vivo, o MobaXterm fecha a
16
+ pseudo-console (PTY) e o uvicorn perde o terminal, encerrando junto. Correções
17
+ definitivas no `scripts/cli.mjs`:
18
+ - **Terminal preso:** `process.stdin.resume();` inserido **logo antes das
19
+ mensagens finais de sucesso** — o Node fica indefinidamente vivo ouvindo a
20
+ entrada padrão, sem depender de timers nem do wrapper do `npx`. O keep-alive
21
+ `setInterval` permanece como segunda camada de proteção.
22
+ - **Ciclo de vida vinculado nos dois sentidos:** `child.on('close')` encerra o
23
+ launcher quando o servidor Python cai (mensagem "Servidor encerrado"), e
24
+ `process.on('exit')` mata o filho quando o launcher morre — nenhum processo
25
+ fica órfão. O worker Python continua **sem `.unref()`** (o pai não pode
26
+ morrer sozinho).
27
+ - **Erros globais (debug):** handlers `unhandledRejection` e `uncaughtException`
28
+ logam o erro em vez de derrubar o launcher silenciosamente.
29
+ - **Sem `process.exit(0)` após o sucesso:** a saída do fluxo principal agora é
30
+ natural (via listeners do filho); chamadas de `process.exit` permanecem apenas
31
+ em caminhos de erro acionável, na parada legítima (`SIGTERM`/`SIGBREAK`) e no
32
+ aviso informativo "já está rodando".
33
+ - **AGENTS.md:** regra inviolável do launcher passa de quatro para **cinco
34
+ proteções** (nova: *Terminal preso*, incluindo a proibição de `process.exit(0)`
35
+ após o sucesso e a vedação do `.unref()`).
36
+ - **Gate de regressão reforçado:** `backend/tests/test_launcher_protections.py`
37
+ falha se `process.stdin.resume();` desaparecer, se `.unref()` aparecer, se o
38
+ ciclo de vida vinculado for removido ou se os handlers globais sumirem.
39
+
40
+ ## [0.1.10] — 2026-11-08
41
+
42
+ ### Adicionado
43
+
44
+ - **Extrator de Leads (Google Maps)** — primeira página dedicada de extração:
45
+ - Rota `POST /api/extractors/maps` (`keyword`, `location`, `limit`): sem scraper
46
+ configurado gera **mock de 5–10 leads** (segurança anti-bloqueio de IP);
47
+ com `gosom/google-maps-scraper` configurado em Ferramentas, executa o CLI
48
+ real com as flags de isolamento (`creationflags` da 0.1.5). Os leads são
49
+ salvos em `leads.json` na coluna **"Novos Leads"** e retornados na resposta.
50
+ - Página `frontend/src/pages/ExtratorMaps.tsx` (rota `/extrator-maps`, link no
51
+ menu lateral): formulário limpo (palavra-chave, localização, slider de
52
+ quantidade), **modal/accordion** com opções avançadas escondidas (Lei de
53
+ Hick), botão **"Iniciar Extração"** em gradiente (von Restorff/Fitts),
54
+ **barra de progresso animada** durante a extração (Zeigarnik), tabela de
55
+ resultados (Nome, Telefone, Localização, Avaliação) e botão **"Ir para o
56
+ CRM"**. A aba Maps duplicada dentro de Extratores foi removida (substituída
57
+ por um atalho para a página dedicada).
58
+
59
+ ### Corrigido
60
+
61
+ - **Bug latente em `storage.import_leads`** (NameError na deduplicação) —
62
+ exposto pelos novos testes e corrigido; importação em massa agora funciona.
63
+
64
+ ### Testes
65
+
66
+ - 3 novos testes pytest da rota (`backend/tests/test_maps_extractor.py`):
67
+ mock/persistência, limite respeitado e payload inválido (422).
68
+ Suíte completa: **21 passed**.
69
+
9
70
  ## [0.1.09] — 2026-11-08
10
71
 
11
72
  ### Corrigido
package/README.md CHANGED
@@ -55,7 +55,7 @@ para `http://127.0.0.1:8010` (backend de desenvolvimento).
55
55
  | **Painel** | Status da conexão, taxa de entrega, taxa de erro, total de leads; gráfico de barras (leads por etapa do CRM) e doughnut (campanhas: enviadas × erros). |
56
56
  | **Leads** | CRUD completo, importação em massa a partir dos extratores, barra de progresso de preenchimento, enriquecimento por IA. |
57
57
  | **CRM Kanban** | Drag-and-drop (@dnd-kit) nas colunas *Leads → Em contato → Proposta → Fechado*; o agente de IA sugere movimentações e enriquece os cards. |
58
- | **Extratores** | **Google Maps** (palavra-chave + localização, via `gosom/google-maps-scraper`), **Instagram** (URL do perfil, via `lucasoal/igmapper`) e **CNPJ** (BrasilAPI + busca por CNAE/UF + `D4Vinci/Scrapling`). Toda extração gera pré-visualização antes de importar. |
58
+ | **Extratores** | **Google Maps** (página dedicada `ExtratorMaps`: palavra-chave + localização + quantidade, com mock de 5–10 leads para teste seguro ou scraper real `gosom/google-maps-scraper` quando configurado — leads entram direto na coluna "Novos Leads" do CRM), **Instagram** (URL do perfil, via `lucasoal/igmapper`) e **CNPJ** (BrasilAPI + busca por CNAE/UF + `D4Vinci/Scrapling`). Toda extração gera pré-visualização antes de importar. |
59
59
  | **Disparos** | Campanhas de disparo (texto/áudio) com templates configuráveis e execução via `eracle/OpenOutreach`. |
60
60
  | **Agentes** | Agente de disparo (prompts/templates) e agente de atendimento (texto via LLM ou voz via `pipecat-ai/pipecat`). |
61
61
  | **Ferramentas** | Chaves de API, URLs das integrações locais, testes de conexão — tudo salvo em `config.json` local. |
package/backend/main.py CHANGED
@@ -107,16 +107,16 @@ class CampaignIn(BaseModel):
107
107
  lead_ids: list[str] = []
108
108
 
109
109
 
110
- class GoogleMapsIn(BaseModel):
111
- palavra_chave: str = Field(min_length=2)
112
- localizacao: str = Field(min_length=2)
113
- max_resultados: int = 100
114
-
115
-
116
110
  class InstagramIn(BaseModel):
117
111
  profile_url: str = Field(min_length=6)
118
112
 
119
113
 
114
+ class MapsExtractIn(BaseModel):
115
+ keyword: str = Field(min_length=2)
116
+ location: str = Field(min_length=2)
117
+ limit: int = 10
118
+
119
+
120
120
  class CnpjIn(BaseModel):
121
121
  cnpj: str = Field(min_length=8)
122
122
 
@@ -378,14 +378,46 @@ def remover_campanha(campaign_id: str):
378
378
  # Extratores
379
379
  # ---------------------------------------------------------------------------
380
380
 
381
- @app.post("/api/extract/google-maps")
382
- def extrair_google_maps(dados: GoogleMapsIn):
383
- try:
384
- return extractors.extrair_google_maps(dados.palavra_chave, dados.localizacao, dados.max_resultados)
385
- except extractors.ExtratorNaoConfigurado as e:
386
- raise HTTPException(400, str(e))
387
- except extractors.ExtratorErro as e:
388
- raise HTTPException(502, str(e))
381
+ @app.post("/api/extractors/maps", status_code=201)
382
+ def extrair_maps(dados: MapsExtractIn):
383
+ """Extrator de leads do Google Maps.
384
+
385
+ Se o scraper real (gosom/google-maps-scraper) estiver configurado em
386
+ Ferramentas, usa o CLI com as flags de isolamento de processos; caso
387
+ contrário, gera dados mockados (5 a 10 leads) para teste inicial, sem
388
+ risco de bloqueio de IP. Os leads são salvos em leads.json na coluna
389
+ "Novos Leads" (etapa inicial do Kanban).
390
+ """
391
+ conf = storage.get_config()["extratores"]
392
+ cli = conf.get("google_maps_cli", "")
393
+ max_resultados = max(1, min(dados.limit, 500))
394
+
395
+ origem = "mock"
396
+ aviso = ""
397
+ leads: list = []
398
+
399
+ if cli and Path(cli).exists():
400
+ try:
401
+ resultado = extractors.extrair_google_maps(dados.keyword, dados.location, max_resultados)
402
+ leads = resultado.get("leads", [])
403
+ if leads:
404
+ origem = "cli"
405
+ else:
406
+ aviso = "O scraper rodou mas não retornou leads — usando dados mockados."
407
+ except (extractors.ExtratorNaoConfigurado, extractors.ExtratorErro) as e:
408
+ aviso = f"Scraper indisponível ({e}); usando dados mockados."
409
+
410
+ if not leads:
411
+ leads = extractors.gerar_mock_maps(dados.keyword, dados.location, dados.limit)
412
+
413
+ importados = storage.import_leads(leads)
414
+ return {
415
+ "origem": origem,
416
+ "aviso": aviso,
417
+ "extraidos": leads,
418
+ "importados": importados["importados"],
419
+ "duplicados": len(importados["duplicados"]),
420
+ }
389
421
 
390
422
 
391
423
  @app.post("/api/extract/instagram")
@@ -230,6 +230,53 @@ def enriquecer_com_site(website: str) -> dict:
230
230
  return {"saidas": resultado.stdout[-2000:]}
231
231
 
232
232
 
233
+ # ---------------------------------------------------------------------------
234
+ # Google Maps — mock para teste inicial (anti-bloqueio de IP)
235
+ # ---------------------------------------------------------------------------
236
+
237
+ _NOMES_MOCK = [
238
+ "Bella Massa", "Sabor & Cia", "Cantinho da Esquina", "Estrela do Bairro",
239
+ "Ponto Certo", "Casa Nova", "Primeira Opção", "Rei do Sabor", "Vila Feliz",
240
+ "Coracao Paulista",
241
+ ]
242
+
243
+ _PREFIXOS_MOCK = ["Pizzaria", "Restaurante", "Lanches", "Comida", "Marmitaria"]
244
+
245
+
246
+ def gerar_mock_maps(keyword: str, location: str, limit: int = 10) -> list:
247
+ """Gera 5 a 10 leads fictícios do Google Maps para teste inicial.
248
+
249
+ Usado quando o scraper real (gosom/google-maps-scraper) não está configurado
250
+ — evita bloqueios de IP nos primeiros testes. Quando o CLI está configurado,
251
+ `extrair_google_maps` (com flags de isolamento) é usada no lugar.
252
+ """
253
+ quantidade = max(5, min(int(limit or 10), 10))
254
+ leads = []
255
+ for i in range(quantidade):
256
+ primeiro = _NOMES_MOCK[i % len(_NOMES_MOCK)]
257
+ prefixo = _PREFIXOS_MOCK[i % len(_PREFIXOS_MOCK)]
258
+ nome = f"{prefixo} {primeiro}"
259
+ ddd = 11 + (i * 3) % 88
260
+ telefone = f"({ddd}) 9{1000 + i:04d}-{4000 + i:04d}"
261
+ slug = primeiro.lower().replace(" ", "").replace("&", "e")
262
+ leads.append(
263
+ {
264
+ "nome": nome,
265
+ "telefone": telefone,
266
+ "email": f"contato@{slug}.com.br",
267
+ "fonte": "Google Maps",
268
+ "etapa": "leads",
269
+ "empresa": nome,
270
+ "endereco": f"Rua das Palmeiras, {100 + i * 7} - Centro",
271
+ "cidade": location,
272
+ "score": 45 + (i * 5) % 40,
273
+ "tags": ["google-maps"],
274
+ "extras": {"avaliacao": round(4.2 + (i % 8) * 0.1, 1), "qtd_avaliacoes": 30 + i * 9},
275
+ }
276
+ )
277
+ return leads
278
+
279
+
233
280
  # ---------------------------------------------------------------------------
234
281
  # Utilitários de parsing tolerante
235
282
  # ---------------------------------------------------------------------------
@@ -280,8 +280,11 @@ def import_leads(novos: list, dedup: bool = True) -> dict:
280
280
  with LOCK:
281
281
  leads = list_leads()
282
282
  existentes = {
283
- (l.get("telefone") or "").strip(),
284
- (l.get("email") or "").strip().lower(),
283
+ (lead.get("telefone") or "").strip()
284
+ for lead in leads
285
+ } | {
286
+ (lead.get("email") or "").strip().lower()
287
+ for lead in leads
285
288
  }
286
289
  importados, duplicados = [], []
287
290
  for novo in novos:
@@ -4,12 +4,16 @@ Lê o launcher e falha se qualquer proteção contra encerramento silencioso no
4
4
  Windows (MobaXterm) for removida:
5
5
 
6
6
  1. Keep-alive com setInterval (event loop ativo sem I/O de console);
7
- 2. Absorção de SIGINT/SIGHUP no Windows (apenas log, sem encerrar);
8
- 3. Função guardConsoleStream (anti-EPIPE com espelho em arquivo de log);
9
- 4. Isolamento do worker Python (detached: true / CREATE_NEW_PROCESS_GROUP).
7
+ 2. Terminal preso com `process.stdin.resume();` (solução definitiva contra a
8
+ devolução do prompt — o Node fica vivo ouvindo a entrada padrão);
9
+ 3. Ausência de `.unref()` no worker Python (o pai não pode morrer sozinho);
10
+ 4. Absorção de SIGINT/SIGHUP no Windows (apenas log, sem encerrar);
11
+ 5. Função guardConsoleStream (anti-EPIPE com espelho em arquivo de log);
12
+ 6. Isolamento do worker Python (detached: true / CREATE_NEW_PROCESS_GROUP).
10
13
  """
11
14
 
12
15
  from pathlib import Path
16
+ import re
13
17
 
14
18
  CAMINHO = Path(__file__).resolve().parents[2] / "scripts" / "cli.mjs"
15
19
 
@@ -19,10 +23,38 @@ def _conteudo() -> str:
19
23
  return CAMINHO.read_text(encoding="utf-8")
20
24
 
21
25
 
26
+ def _codigo_sem_comentarios() -> str:
27
+ """Código efetivo do launcher (comentários removidos).
28
+
29
+ Regras de arquitetura valem para o CÓDIGO: menções em comentários
30
+ (explicações, nomes de funções proibidas) não contam.
31
+ """
32
+ sem_bloco = re.sub(r"/\*.*?\*/", "", _conteudo(), flags=re.DOTALL)
33
+ sem_linha = re.sub(r"//[^\n]*", "", sem_bloco)
34
+ return sem_linha
35
+
36
+
22
37
  class TestLauncherProtections:
23
38
  def test_keepalivo(self):
24
39
  assert "setInterval(() => {}, 1000)" in _conteudo()
25
40
 
41
+ def test_stdin_resume_prende_terminal(self):
42
+ # Solução definitiva: sem esta linha o MobaXterm devolve o prompt
43
+ # logo após "LeadMaster no ar..." e fecha a PTY (e o uvicorn junto).
44
+ assert "process.stdin.resume();" in _conteudo()
45
+
46
+ def test_worker_nunca_unref(self):
47
+ # O filho Python referenciado mantém o pai vivo; .unref() permitiria
48
+ # a morte prematura do launcher. Comentários podem mencionar a regra.
49
+ assert ".unref()" not in _codigo_sem_comentarios()
50
+
51
+ def test_ciclo_de_vida_vinculado(self):
52
+ # Python cai → launcher cai (child 'close'); launcher morre → filho morre.
53
+ c = _conteudo()
54
+ assert "child.on('close'" in c
55
+ assert "process.on('exit'" in c
56
+ assert "Servidor encerrado" in c
57
+
26
58
  def test_absorcao_de_sinais_no_windows(self):
27
59
  c = _conteudo()
28
60
  assert "SIGINT" in c and "SIGTERM" in c and "SIGHUP" in c
@@ -44,3 +76,9 @@ class TestLauncherProtections:
44
76
  c = _conteudo()
45
77
  assert "SIGTERM" in c and "SIGBREAK" in c
46
78
  assert "naoAbsorver" in c
79
+
80
+ def test_erros_globais_logados(self):
81
+ # Erros silenciosos (rejeições/exceções) são logados, não matam o launcher.
82
+ c = _conteudo()
83
+ assert "unhandledRejection" in c
84
+ assert "uncaughtException" in c
@@ -0,0 +1,45 @@
1
+ """Testes do Extrator de Leads (Google Maps) — POST /api/extractors/maps.
2
+
3
+ Sem scraper configurado, a rota gera mock (5–10 leads) e persiste em
4
+ leads.json na coluna "Novos Leads". LEADMASTER_HOME em diretório temporário.
5
+ """
6
+
7
+ import pytest
8
+ from fastapi.testclient import TestClient
9
+
10
+ import main
11
+
12
+
13
+ @pytest.fixture()
14
+ def client(tmp_path, monkeypatch):
15
+ monkeypatch.setenv("LEADMASTER_HOME", str(tmp_path))
16
+ with TestClient(main.app) as c:
17
+ yield c
18
+
19
+
20
+ def test_mock_gera_e_persiste(client):
21
+ antes = len(client.get("/api/crm/leads").json())
22
+ r = client.post("/api/extractors/maps", json={"keyword": "pizzaria", "location": "São Paulo, SP", "limit": 10})
23
+ assert r.status_code == 201
24
+ corpo = r.json()
25
+ assert corpo["origem"] == "mock"
26
+ assert 5 <= len(corpo["importados"]) <= 10
27
+
28
+ for lead in corpo["importados"]:
29
+ assert lead["fonte"] == "Google Maps"
30
+ assert lead["etapa"] == "leads" # coluna "Novos Leads"
31
+ assert lead["nome"] and lead["telefone"]
32
+
33
+ depois = client.get("/api/crm/leads").json()
34
+ assert len(depois) == antes + len(corpo["importados"])
35
+
36
+
37
+ def test_limit_respeitado(client):
38
+ r = client.post("/api/extractors/maps", json={"keyword": "dentista", "location": "Rio de Janeiro, RJ", "limit": 7})
39
+ assert r.status_code == 201
40
+ assert len(r.json()["importados"]) == 7
41
+
42
+
43
+ def test_payload_invalido(client):
44
+ r = client.post("/api/extractors/maps", json={"keyword": "x"})
45
+ assert r.status_code == 422