@noeva/etl-core 1.0.0-next.4 → 1.0.0
This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
- package/CHANGELOG.md +183 -0
- package/LICENSE +19 -0
- package/README.md +3 -2
- package/deploy/Dockerfile +1 -1
- package/dist/chunk-BVUOUBLW.js +1 -0
- package/dist/chunk-CRR3Q2C7.js +2 -0
- package/dist/chunk-J3PBMWSP.js +2 -0
- package/dist/{chunk-KMUNED7K.js → chunk-LJ7DVP5F.js} +1 -1
- package/dist/{chunk-ZBKP2UOF.js → chunk-P6B2KLNJ.js} +2 -2
- package/dist/chunk-PKBSETMV.js +2 -0
- package/dist/chunk-QPJC4GWR.js +1 -0
- package/dist/chunk-RCRMQPFH.js +5 -0
- package/dist/chunk-RS5SGDUU.js +1 -0
- package/dist/chunk-RWPHH4E2.js +1 -0
- package/dist/chunk-SRFFKE5W.js +6 -0
- package/dist/chunk-WVODQB6Z.js +1 -0
- package/dist/chunk-XZMCC6VQ.js +1 -0
- package/dist/chunk-ZCYGHS7P.js +2 -0
- package/dist/cli.js +2 -2
- package/dist/connector-kit.d.ts +4 -2
- package/dist/connector-kit.js +1 -1
- package/dist/connectors/file.js +1 -1
- package/dist/connectors/http.js +1 -1
- package/dist/connectors/imap.js +1 -1
- package/dist/connectors/jira.js +2 -2
- package/dist/connectors/mail.js +1 -1
- package/dist/connectors/noeva.js +1 -1
- package/dist/connectors/oauth.js +1 -1
- package/dist/connectors/postgres.js +1 -1
- package/dist/connectors/sendgrid.js +1 -1
- package/dist/connectors/smtp.js +1 -1
- package/dist/connectors/sqlserver.js +1 -1
- package/dist/connectors/zoho.d.ts +304 -0
- package/dist/connectors/zoho.js +2 -0
- package/dist/etl.config.js +2 -2
- package/dist/guida/404.html +3 -3
- package/dist/guida/GUIDA_SVILUPPO.html +8 -8
- package/dist/guida/TECHNICAL_OVERVIEW.html +8 -8
- package/dist/guida/assets/{GUIDA_SVILUPPO.md.D13C7Zwu.js → GUIDA_SVILUPPO.md.CrN52ZDN.js} +1 -1
- package/dist/guida/assets/{TECHNICAL_OVERVIEW.md.DQP0pWc8.js → TECHNICAL_OVERVIEW.md.DTIhkkg9.js} +1 -1
- package/dist/guida/assets/{app.CzIZwOrR.js → app.DlsuGVZn.js} +1 -1
- package/dist/guida/assets/chunks/@localSearchIndexroot.LnC621Vy.js +1 -0
- package/dist/guida/assets/chunks/{VPLocalSearchBox.Cv9o56BQ.js → VPLocalSearchBox.v4vBLemj.js} +2 -2
- package/dist/guida/assets/chunks/{theme.CsUxYN72.js → theme.D9XEK7o0.js} +2 -2
- package/dist/guida/assets/connectors_README.md.BqI2RLCu.js +1 -0
- package/dist/guida/assets/connectors_README.md.BqI2RLCu.lean.js +1 -0
- package/dist/guida/assets/connectors_oauth.md.BeotXAWb.js +7 -0
- package/dist/guida/assets/connectors_oauth.md.BeotXAWb.lean.js +1 -0
- package/dist/guida/assets/connectors_zoho.md.BfEzRNZk.js +17 -0
- package/dist/guida/assets/connectors_zoho.md.BfEzRNZk.lean.js +1 -0
- package/dist/guida/assets/{conventions_node-descriptor.md.D8Si7E2S.js → conventions_node-descriptor.md.MQaGlm8a.js} +1 -1
- package/dist/guida/assets/{guide_claude-code_index.md.CxVSru8e.js → guide_claude-code_index.md.DEnzf9b_.js} +1 -1
- package/dist/guida/assets/{nodes_source.md.V_vlNfOz.js → nodes_source.md.DP2i3GFv.js} +3 -3
- package/dist/guida/assets/{nodes_source.md.V_vlNfOz.lean.js → nodes_source.md.DP2i3GFv.lean.js} +1 -1
- package/dist/guida/assets/{runbooks_aggiornamento-pm2.md.f3LAxif4.js → runbooks_aggiornamento-pm2.md.DrFr4blI.js} +1 -1
- package/dist/guida/assets/{runbooks_deployment.md.CsIYRa_5.js → runbooks_deployment.md.CwG77qGO.js} +1 -1
- package/dist/guida/assets/{style.BNn_AkzN.css → style.DFlUbYCk.css} +1 -1
- package/dist/guida/connectors/README.html +6 -6
- package/dist/guida/connectors/file.html +6 -6
- package/dist/guida/connectors/http.html +6 -6
- package/dist/guida/connectors/imap.html +6 -6
- package/dist/guida/connectors/jira.html +6 -6
- package/dist/guida/connectors/noeva.html +6 -6
- package/dist/guida/connectors/oauth.html +8 -8
- package/dist/guida/connectors/postgres.html +6 -6
- package/dist/guida/connectors/process.html +6 -6
- package/dist/guida/connectors/sendgrid.html +6 -6
- package/dist/guida/connectors/smtp.html +6 -6
- package/dist/guida/connectors/sqlserver.html +6 -6
- package/dist/guida/connectors/zoho.html +43 -0
- package/dist/guida/conventions/node-columns.html +6 -6
- package/dist/guida/conventions/node-descriptor.html +8 -8
- package/dist/guida/conventions/run-report.html +6 -6
- package/dist/guida/conventions/run-trace.html +6 -6
- package/dist/guida/conventions/variabili-del-core.html +5 -5
- package/dist/guida/conventions/versioni-di-pipeline.html +6 -6
- package/dist/guida/guide/claude-code/index.html +7 -7
- package/dist/guida/guide/claude-code/prompt.html +7 -7
- package/dist/guida/guide/claude-code/strumenti.html +5 -5
- package/dist/guida/guide/grafo.html +6 -6
- package/dist/guida/guide/usare/app-desktop.html +5 -5
- package/dist/guida/guide/usare/esito-di-una-run.html +6 -6
- package/dist/guida/guide/usare/index.html +5 -5
- package/dist/guida/hashmap.json +1 -1
- package/dist/guida/index.html +6 -6
- package/dist/guida/nodes/README.html +6 -6
- package/dist/guida/nodes/action.html +6 -6
- package/dist/guida/nodes/ai.html +6 -6
- package/dist/guida/nodes/join.html +6 -6
- package/dist/guida/nodes/lookup.html +6 -6
- package/dist/guida/nodes/pipeline.html +6 -6
- package/dist/guida/nodes/route.html +6 -6
- package/dist/guida/nodes/sink.html +6 -6
- package/dist/guida/nodes/source.html +8 -8
- package/dist/guida/nodes/task.html +6 -6
- package/dist/guida/nodes/transform.html +6 -6
- package/dist/guida/nodes/try-catch.html +6 -6
- package/dist/guida/nodes/union.html +6 -6
- package/dist/guida/pagine.json +1 -0
- package/dist/guida/pipelines/README.html +6 -6
- package/dist/guida/pipelines/crm-leads-sync.html +6 -6
- package/dist/guida/pipelines/cross-workspace-csv-merge.html +6 -6
- package/dist/guida/pipelines/movimenti-per-conto.html +6 -6
- package/dist/guida/pipelines/orders-enriched-daily.html +6 -6
- package/dist/guida/pipelines/test-posta.html +6 -6
- package/dist/guida/runbooks/aggiornamento-pm2.html +7 -7
- package/dist/guida/runbooks/deploy-ecr.html +6 -6
- package/dist/guida/runbooks/deployment.html +8 -8
- package/dist/guida/runbooks/etl-worker.html +6 -6
- package/dist/guida/runbooks/graph-server.html +6 -6
- package/dist/guida/runbooks/mask-key.html +6 -6
- package/dist/guida/runbooks/oauth-google-posta.html +6 -6
- package/dist/guida/runbooks/rollback-di-pipeline.html +6 -6
- package/dist/guida/runbooks/scd2-rehash.html +6 -6
- package/dist/guida/runbooks/sql-task-truncate-swap.html +6 -6
- package/dist/guida/runbooks/stato-incrementale.html +6 -6
- package/dist/guida/sub-pipelines/README.html +6 -6
- package/dist/guida/sub-pipelines/riepilogo-ordini.html +6 -6
- package/dist/index.js +1 -1
- package/dist/pipelines.js +1 -1
- package/dist/testing.js +1 -1
- package/kit/boilerplate/.github/workflows/ci.yml +1 -1
- package/kit/boilerplate/.github/workflows/image.yml +1 -1
- package/kit/boilerplate/package.json +1 -1
- package/kit/skills/etl-graph/references/wiring.md +4 -3
- package/kit/skills/new-connector/SKILL.md +1 -1
- package/package.json +12 -6
- package/dist/chunk-BFW7HTF6.js +0 -2
- package/dist/chunk-BPRH262Y.js +0 -2
- package/dist/chunk-DPWGI266.js +0 -1
- package/dist/chunk-H75NY6Z4.js +0 -1
- package/dist/chunk-HMED2UDJ.js +0 -2
- package/dist/chunk-MOHJWOCB.js +0 -1
- package/dist/chunk-MXSKD3Z4.js +0 -2
- package/dist/chunk-PGJWGJEB.js +0 -5
- package/dist/chunk-R53642SH.js +0 -1
- package/dist/chunk-RU6CZIDB.js +0 -1
- package/dist/chunk-UN3BPCPA.js +0 -1
- package/dist/chunk-XFHTODDW.js +0 -6
- package/dist/guida/assets/chunks/@localSearchIndexroot.08YFQ5n8.js +0 -1
- package/dist/guida/assets/connectors_README.md.ChyXSf73.js +0 -1
- package/dist/guida/assets/connectors_README.md.ChyXSf73.lean.js +0 -1
- package/dist/guida/assets/connectors_oauth.md.DUHajB0u.js +0 -7
- package/dist/guida/assets/connectors_oauth.md.DUHajB0u.lean.js +0 -1
- /package/dist/guida/assets/{GUIDA_SVILUPPO.md.D13C7Zwu.lean.js → GUIDA_SVILUPPO.md.CrN52ZDN.lean.js} +0 -0
- /package/dist/guida/assets/{TECHNICAL_OVERVIEW.md.DQP0pWc8.lean.js → TECHNICAL_OVERVIEW.md.DTIhkkg9.lean.js} +0 -0
- /package/dist/guida/assets/{conventions_node-descriptor.md.D8Si7E2S.lean.js → conventions_node-descriptor.md.MQaGlm8a.lean.js} +0 -0
- /package/dist/guida/assets/{guide_claude-code_index.md.CxVSru8e.lean.js → guide_claude-code_index.md.DEnzf9b_.lean.js} +0 -0
- /package/dist/guida/assets/{runbooks_aggiornamento-pm2.md.f3LAxif4.lean.js → runbooks_aggiornamento-pm2.md.DrFr4blI.lean.js} +0 -0
- /package/dist/guida/assets/{runbooks_deployment.md.CsIYRa_5.lean.js → runbooks_deployment.md.CwG77qGO.lean.js} +0 -0
|
@@ -32,7 +32,7 @@ import{_ as o,o as i,c as a,a5 as s}from"./chunks/framework.qdetmeNX.js";const g
|
|
|
32
32
|
<span class="line"><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;"> .</span><span style="--shiki-light:#6F42C1;--shiki-dark:#B392F0;">transform</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">(</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;">"raw-contract"</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">, </span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;">"to-fact"</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">, </span><span style="--shiki-light:#6F42C1;--shiki-dark:#B392F0;">mapTransform</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">(</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;">"to-fact"</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">, toFact))</span></span>
|
|
33
33
|
<span class="line"><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;"> .</span><span style="--shiki-light:#6F42C1;--shiki-dark:#B392F0;">transform</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">(</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;">"to-fact"</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">, </span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;">"fact-contract"</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">, </span><span style="--shiki-light:#6F42C1;--shiki-dark:#B392F0;">validate</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">(</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;">"fact-contract"</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">, factSchema))</span></span>
|
|
34
34
|
<span class="line"><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;"> .</span><span style="--shiki-light:#6F42C1;--shiki-dark:#B392F0;">sink</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">(</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;">"fact-contract"</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">, sink)</span></span>
|
|
35
|
-
<span class="line"><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;"> .</span><span style="--shiki-light:#6F42C1;--shiki-dark:#B392F0;">build</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">();</span></span></code></pre></div><p>Gli undici tipi di nodo. A questi si aggiunge il nodo <a href="./nodes/pipeline"><code>pipeline</code></a>, <code>.pipeline(from, id, sub, { params?, deps?, fromPort?, deadLetter?, purpose? })</code>, che istanzia una sub-pipeline e alla costruzione diventa i suoi nodi:</p><table tabindex="0"><thead><tr><th>Nodo</th><th>Metodo</th><th>Cosa fa</th></tr></thead><tbody><tr><td><code>source</code></td><td><code>.source(id, source)</code></td><td>punto d'ingresso di uno stream</td></tr><tr><td><code>transform</code></td><td><code>.transform(from, id, t, opts)</code></td><td>trasformazione pura; accetta <code>deadLetter</code></td></tr><tr><td><code>lookup</code></td><td><code>.lookup(from, id, config, opts)</code></td><td>lettura <strong>in sola lettura</strong> in mezzo al grafo, a batch, da un DB o un'API REST; accetta <code>deadLetter</code> e <code>recordReport</code></td></tr><tr><td><code>ai</code></td><td><code>.ai(from, id, config, opts)</code></td><td>domanda a un <strong>modello</strong> per ogni record, con la risposta che arricchisce il record (es. <code>noevaAiExtract</code>); si esegue come un <code>lookup</code>; accetta <code>deadLetter</code> e <code>recordReport</code></td></tr><tr><td><code>action</code></td><td><code>.action(from, id, action, opts)</code></td><td><strong>scrittura per record</strong> in mezzo al grafo, con un record in uscita su cui il grafo prosegue; accetta <code>deadLetter</code> e <code>recordReport</code></td></tr><tr><td><code>route</code></td><td><code>.route(from, id, { routes }, opts)</code></td><td><strong>smistamento esclusivo</strong>: ogni record esce sulla porta della prima condizione vera, o su <code>default</code>; ogni porta va collegata; accetta <code>deadLetter</code></td></tr><tr><td><code>join</code></td><td><code>.join(id, { build, probe, … })</code></td><td>fan-in <strong>a chiave</strong>: join inner/left, lato <code>build</code> in memoria e <code>probe</code> in streaming; accetta <code>deadLetter</code></td></tr><tr><td><code>union</code></td><td><code>.union(id, { from, order })</code></td><td>fan-in di N flussi con la stessa forma, record invariati: <code>interleave</code> (default) nell'ordine di arrivo, <code>concat</code> nell'ordine di <code>from</code></td></tr><tr><td><code>try-catch</code></td><td><code>.tryCatch(from, id, opts)</code></td><td>apre uno scope di gestione errori sui nodi a valle, con una porta <code>catch</code></td></tr><tr><td><code>sink</code></td><td><code>.sink(from, sink)</code></td><td>scrittura verso l'esterno; l'id del nodo è <code>sink.name</code></td></tr><tr><td><code>task</code></td><td><code>.task(id, task, opts)</code></td><td>operazione <strong>senza record</strong> (truncate, scambio di tabelle), avviata dagli edge di controllo <code>after</code></td></tr></tbody></table><p>Il cheatsheet dei nodi, con una scheda di dettaglio per ciascuno (opzioni, errori, esempi), è in <a href="./nodes/README">Tipi di nodo</a>.</p><p>Il <strong>fan-out</strong> invece è libero: basta agganciare più nodi allo stesso <code>from</code>, e il runner duplica lo stream. La forma del grafo è validata <strong>a runtime</strong> su <code>.build()</code>: cicli, id sconosciuti o più di un ingresso su un nodo diverso da <code>join</code> e <code>union</code> esplodono come <code>GraphValidationError</code> alla costruzione. Esempio di riferimento completo: <a href="./pipelines/orders-enriched-daily"><code>orders-enriched-daily</code></a>.</p><p>Oltre agli edge di dati ci sono gli <strong>edge di controllo</strong>: l'opzione <code>after</code> di <code>.task()</code> e <code>.source()</code> dice «parti solo dopo che questi nodi sono riusciti». Partono da un <code>task</code> o da un <code>sink</code> e arrivano a un <code>task</code> o a una <code>source</code>. Dettagli nella scheda <a href="./nodes/task"><code>task</code></a>.</p><p>Ogni nodo ha uno <strong>scopo</strong>, <code>purpose</code>, scritto per chi legge il grafo nell'app: che cosa fa il nodo e perché serve, in una-tre frasi di business. Lo verificano <code>etl catalog check</code> ed <code>etl docs build</code>.</p><p>Il <code>RunContext</code> che ogni nodo riceve porta env, parametri di lancio (<code>ctx.params</code>), logger, metriche, il segnale d'arresto e lo store dello stato di pipeline. Gli errori di dominio sono <code>EtlError</code> (<code>ValidationError</code>, <code>ExtractError</code>, <code>LoadError</code>, <code>ConfigError</code>, <code>GraphValidationError</code>, <code>JoinError</code>, <code>LookupError</code>, <code>ActionError</code>, <code>TaskError</code>, <code>AssertionError</code>, <code>GraphRunFailure</code>): un errore che non lo è conta come bug.</p><h2 id="_5-come-gira-una-pipeline" tabindex="-1">5. Come gira una pipeline <a class="header-anchor" href="#_5-come-gira-una-pipeline" aria-label="Permalink to "5. Come gira una pipeline""></a></h2><p>Il grafo è <strong>pull-based</strong>: la domanda parte dai sink e risale verso le source, quindi è il ritmo di scrittura a regolare quello di lettura (backpressure gratis). I record scorrono in streaming, mai tutti in memoria — tranne il lato <code>build</code> di un <code>join</code> e le transform che trattengono lo stream, come <code>sort</code>, che hanno un tetto obbligatorio.</p><p>Quando un record fallisce ci sono tre percorsi, dal più locale al più drastico:</p><ul><li><strong>Dead-letter per nodo</strong> — <code>{ deadLetter: sink }</code> su un <code>transform</code>, <code>lookup</code>, <code>ai</code>, <code>action</code>, <code>route</code> o <code>join</code>. Il record che solleva <code>EtlError</code> esce come envelope <code>DeadLetter</code> su quel sink e <strong>lo stream continua</strong>. Adatto alle trasformazioni <strong>stateless</strong> (map/mapColumns/flatMap/explode/unpivot/filter/validate, <code>parse</code>, <code>hashRow</code>, <code>surrogateKey</code>, <code>mask</code>). Sul <code>.pipeline()</code> della root la <code>deadLetter</code> si distribuisce a ogni nodo isolabile dell'istanza, istanze annidate comprese (<a href="./nodes/pipeline#deadletter-sull-istanza"><code>deadLetter</code> sull'istanza</a>).</li><li><strong>Nodo <code>try-catch</code></strong> — protegge tutti i nodi raggiungibili dalla sua porta <code>out</code>, sink compresi. Di default è <code>per-record</code>: ogni record che fallisce va sul ramo <code>catch</code>, che è fatto di nodi veri e può loggare, rimappare o instradare altrove. In <code>circuit-breaker</code> al primo errore la sub-stream si ferma.</li><li><strong>Fail-fast</strong> — il default, senza dead-letter né guard: l'errore aborta la run. È l'unica scelta sensata per le trasformazioni <strong>stateful</strong> (es. <code>groupBy</code>, <code>sort</code>, <code>serialize</code>): un'aggregazione spezzata per record darebbe un risultato falso. Vale per tutto il grafo: al primo errore fatale il runner annulla anche i rami indipendenti e aspetta che ogni sink e ogni task chiuda prima di riportare la run fallita. Un <code>task</code> che fallisce è sempre fatale.</li></ul><p>Un errore che <strong>non</strong> è un <code>EtlError</code> (un <code>TypeError</code>, un bug) aborta sempre la run, anche dentro un guard: un bug non va scaricato in un sink di scarto, va visto. Qualunque sia la scelta, nessun record sparisce in silenzio: ogni scarto è contato nel report.</p><p>Ogni <code>run()</code> produce un <code>GraphRunReport</code>:</p><ul><li><strong>stato</strong> — <code>success</code>, <code>partial</code> (arrivata in fondo con scarti o errori catturati) o <code>failed</code>;</li><li><strong>totali</strong> — <code>extracted</code> (somma delle source), <code>written</code> (somma dei sink: su un fan-out lo stesso record scritto due volte conta due), <code>rejected</code>, <code>rejectedReasons</code>;</li><li><strong>per nodo</strong> — <code>nodes[]</code> ed <code>edges[]</code> con la topologia reale e i contatori di ogni nodo, <code>caught</code> sui guard, tempi di attraversamento;</li><li><strong>stato di pipeline</strong> — <code>state</code>, una voce per source incrementale: da dove ha letto, cosa propone, se il watermark è stato committato;</li><li>metriche ed errore — <strong>mai segreti o payload</strong>.</li></ul><p>È il "prodotto" del servizio: chi invoca la pipeline decide se archiviarlo, alertare, ecc. Schema completo in <a href="./conventions/run-report">Il report di run</a>.</p><h2 id="_6-cosa-c-e-gia-pronto" tabindex="-1">6. Cosa c'è già pronto <a class="header-anchor" href="#_6-cosa-c-e-gia-pronto" aria-label="Permalink to "6. Cosa c'è già pronto""></a></h2><p><strong>Connettori</strong>, uno per subpath di <code>@noeva/etl-core/connectors/</code>:</p><ul><li><strong>PostgreSQL</strong> (<code>postgres</code>) — source con cursor streaming, sink con upsert <code>ON CONFLICT</code> o in modalità SCD2 (dimensioni storicizzate), task SQL <code>postgresSqlTask</code> (statement in una transazione, per il nodo <code>task</code>).</li><li><strong>SQL Server</strong> (<code>sqlserver</code>) — source streaming, sink con <code>MERGE</code> o in modalità SCD2, task SQL <code>mssqlSqlTask</code>.</li><li><strong>File</strong> (<code>file</code>) — architettura a due assi componibili: <ul><li><em>storage</em>: dove vivono i file (locale, <strong>S3</strong>, <strong>SFTP</strong>, <strong>FTP/FTPS</strong>);</li><li><em>codec</em>: come si (de)serializzano — <strong>CSV</strong> (anche grezzo, <code>csvRawCodec</code>), <strong>JSON/NDJSON</strong>, <strong>XML</strong>, <strong>XLSX</strong>, <strong>Parquet</strong>. Storage e codec si combinano liberamente (es. CSV su S3, Parquet su SFTP).</li></ul></li><li><strong>Noeva</strong> (<code>noeva</code>) — file dei workspace Noeva via noeva-server-api: lettura di un file o di una cartella intera, scrittura di uno o più file in <code>overwrite</code> o <code>new-version</code>, upload con elaborazione AI (<code>noevaUploadAction</code>), lookup su stato e testo estratto ed estrazione AI di campi strutturati (<code>noevaAiExtract</code>, nodo <code>ai</code>).</li><li><strong>IMAP</strong> (<code>imap</code>) — caselle di posta: <code>imapSource</code> legge i messaggi di una cartella (allegati ed EML grezzo), le action <code>imapFlagAction</code> e <code>imapSpostaAction</code> marcano e spostano, con la cartella come coda.</li><li><strong>SMTP</strong> (<code>smtp</code>) — notifiche email: <code>smtpAction</code> e <code>smtpSink</code> inviano una mail costruita da una funzione del record, con Message-ID deterministico contro i doppioni.</li><li><strong>SendGrid</strong> (<code>sendgrid</code>) — mail via API REST v3: <code>sendgridAction</code> e <code>sendgridSink</code>, con la stessa mail di SMTP (<code>MailInUscita</code>), sandbox per le prove, retry di <code>429</code> e <code>5xx</code>; <code>mailAction</code> e <code>mailSink</code> (<code>mail</code>) scelgono fra SMTP e SendGrid da configurazione.</li><li><strong>HTTP</strong> (<code>http</code>) — API REST per i nodi <code>lookup</code> e <code>action</code>: <code>httpLookup</code> legge in sola lettura, una richiesta per batch o una <code>GET</code> per chiave, <code>httpAction</code> scrive e prosegue con l'esito; la risposta è validata da uno schema Zod e le credenziali vengono dal registry <code>HTTP_INSTANCES</code>. Il loro trasporto, <code>richiestaHttp</code>, è condiviso con i connettori REST di dominio, come Jira.</li><li><strong>Jira Cloud</strong> (<code>jira</code>) — <code>jiraIssues</code> legge le issue di una JQL, pagina dopo pagina, con i siti nel registry <code>JIRA_INSTANCES</code>; i campi si dichiarano per id o per nome e diventano colonne normalizzate, con gli ADF convertiti in testo. <code>jiraIssueLookup</code> legge le stesse issue per chiave, e <code>jiraChangelogLookup</code>, <code>jiraCommentsLookup</code> e <code>jiraWorklogsLookup</code> danno a ogni issue la sua lista completa. <code>jiraCreateIssue</code>, <code>jiraUpdateIssue</code>, <code>jiraTransition</code>, <code>jiraUpsertIssue</code> (per ID esterno), <code>jiraAddComment</code> e <code>jiraAddWorklog</code> (con una chiave di deduplica obbligatoria) e <code>jiraLinkIssues</code> scrivono come nodi <code>action</code>, con l'esito come dato.</li><li><strong>Processo esterno</strong> (<code>process</code>) — <code>processoEsternoAction</code> lancia un programma per record, senza shell, in una cartella temporanea sempre cancellata: i file del record entrano, i file di <code>uscita/</code> e un riepilogo JSON validato con Zod escono. Ambiente da allowlist e timeout obbligatorio.</li><li><strong>OAuth2</strong> (<code>oauth</code>) — non un connettore ma l'<strong>identità</strong> che IMAP e SMTP usano dove la password non basta più (Gmail, Workspace, Microsoft 365): tiene il refresh token e ne scambia uno nuovo quando l'access token scade, con un registry proprio <code>OAUTH_INSTANCES</code>.</li></ul><p>Le schede, con configurazione e variabili d'ambiente di ognuno, sono in <a href="./connectors/README">Connettori</a>.</p><p><strong>Trasformazioni riusabili</strong>, dalla radice del pacchetto: <code>groupBy</code> (aggregazione stateful generica init/reduce/finalize), <code>dedup</code> (duplicati per chiave), <code>mapColumns</code> (select, rename, cast e colonne calcolate, con lineage di colonna) e <code>castValue</code> (i suoi cast stretti, usabili da soli), <code>explode</code> (un campo array → un record per elemento), <code>unpivot</code> e <code>pivot</code> (dal formato largo al lungo e ritorno, con colonne dichiarate), <code>sort</code> (ordinamento stabile su più chiavi), <code>chunk</code> (record in lotti di N per un sink o un'API con limite di payload), <code>parse</code> (byte di un file → righe, con un <code>FileCodec</code>) e <code>serialize</code> (record → un file per gruppo, stateful), <code>hashRow</code> e <code>surrogateKey</code> (hash di riga e chiave surrogata deterministici), <code>mask</code> (mascheramento e pseudonimizzazione delle colonne con dati personali), <code>profile</code> (profilo delle colonne nel report del nodo, a memoria costante), <code>assert</code> (controlli sul dataset a fine stream). Il catalogo completo è in <a href="./nodes/transform#transform-pronte">transform</a>.</p><p><strong>Pipeline d'esempio</strong>, con la loro scheda nella sezione «Esempi» di questa guida:</p><ul><li><a href="./pipelines/orders-enriched-daily"><code>orders-enriched-daily</code></a> — dataset demo in memoria, esempio di riferimento per una pipeline <strong>a grafo</strong>: due sorgenti, join a chiave, fan-out su due sink, dead-letter isolato su due nodi indipendenti, try/catch e un'istanza della sub-pipeline <a href="./sub-pipelines/riepilogo-ordini"><code>riepilogo-ordini</code></a>.</li><li><a href="./pipelines/movimenti-per-conto"><code>movimenti-per-conto</code></a> — dataset demo in memoria, esempio di riferimento per le transform di file e di ordinamento in mezzo al grafo: <code>parse</code>, <code>sort</code> e <code>serialize</code>, da estratti conto CSV a un CSV per conto.</li><li><a href="./pipelines/crm-leads-sync"><code>crm-leads-sync</code></a> — copia fra due istanze Postgres dello stesso registry, con un try/catch per record.</li><li><a href="./pipelines/cross-workspace-csv-merge"><code>cross-workspace-csv-merge</code></a> — merge di un CSV fra due workspace Noeva, con un <code>union</code> e la scrittura in <code>new-version</code> su entrambi.</li></ul><p><strong>Pipeline pronte</strong>, da dichiarare nel catalogo: <a href="./pipelines/test-posta"><code>test-posta</code></a>, la prova dei connettori IMAP e SMTP di un'installazione.</p><h2 id="_7-i-comandi" tabindex="-1">7. I comandi <a class="header-anchor" href="#_7-i-comandi" aria-label="Permalink to "7. I comandi""></a></h2><div class="language-bash vp-adaptive-theme"><button title="Copy Code" class="copy"></button><span class="lang">bash</span><pre class="shiki shiki-themes github-light github-dark vp-code" tabindex="0"><code><span class="line"><span style="--shiki-light:#6F42C1;--shiki-dark:#B392F0;">pnpm</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> exec</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> etl</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> init</span><span style="--shiki-light:#D73A49;--shiki-dark:#F97583;"> <</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;">slu</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">g</span><span style="--shiki-light:#D73A49;--shiki-dark:#F97583;">></span><span style="--shiki-light:#6A737D;--shiki-dark:#6A737D;"> # in una cartella vuota: il boilerplate di un repo cliente</span></span>
|
|
35
|
+
<span class="line"><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;"> .</span><span style="--shiki-light:#6F42C1;--shiki-dark:#B392F0;">build</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">();</span></span></code></pre></div><p>Gli undici tipi di nodo. A questi si aggiunge il nodo <a href="./nodes/pipeline"><code>pipeline</code></a>, <code>.pipeline(from, id, sub, { params?, deps?, fromPort?, deadLetter?, purpose? })</code>, che istanzia una sub-pipeline e alla costruzione diventa i suoi nodi:</p><table tabindex="0"><thead><tr><th>Nodo</th><th>Metodo</th><th>Cosa fa</th></tr></thead><tbody><tr><td><code>source</code></td><td><code>.source(id, source)</code></td><td>punto d'ingresso di uno stream</td></tr><tr><td><code>transform</code></td><td><code>.transform(from, id, t, opts)</code></td><td>trasformazione pura; accetta <code>deadLetter</code></td></tr><tr><td><code>lookup</code></td><td><code>.lookup(from, id, config, opts)</code></td><td>lettura <strong>in sola lettura</strong> in mezzo al grafo, a batch, da un DB o un'API REST; accetta <code>deadLetter</code> e <code>recordReport</code></td></tr><tr><td><code>ai</code></td><td><code>.ai(from, id, config, opts)</code></td><td>domanda a un <strong>modello</strong> per ogni record, con la risposta che arricchisce il record (es. <code>noevaAiExtract</code>); si esegue come un <code>lookup</code>; accetta <code>deadLetter</code> e <code>recordReport</code></td></tr><tr><td><code>action</code></td><td><code>.action(from, id, action, opts)</code></td><td><strong>scrittura per record</strong> in mezzo al grafo, con un record in uscita su cui il grafo prosegue; accetta <code>deadLetter</code> e <code>recordReport</code></td></tr><tr><td><code>route</code></td><td><code>.route(from, id, { routes }, opts)</code></td><td><strong>smistamento esclusivo</strong>: ogni record esce sulla porta della prima condizione vera, o su <code>default</code>; ogni porta va collegata; accetta <code>deadLetter</code></td></tr><tr><td><code>join</code></td><td><code>.join(id, { build, probe, … })</code></td><td>fan-in <strong>a chiave</strong>: join inner/left, lato <code>build</code> in memoria e <code>probe</code> in streaming; accetta <code>deadLetter</code></td></tr><tr><td><code>union</code></td><td><code>.union(id, { from, order })</code></td><td>fan-in di N flussi con la stessa forma, record invariati: <code>interleave</code> (default) nell'ordine di arrivo, <code>concat</code> nell'ordine di <code>from</code></td></tr><tr><td><code>try-catch</code></td><td><code>.tryCatch(from, id, opts)</code></td><td>apre uno scope di gestione errori sui nodi a valle, con una porta <code>catch</code></td></tr><tr><td><code>sink</code></td><td><code>.sink(from, sink)</code></td><td>scrittura verso l'esterno; l'id del nodo è <code>sink.name</code></td></tr><tr><td><code>task</code></td><td><code>.task(id, task, opts)</code></td><td>operazione <strong>senza record</strong> (truncate, scambio di tabelle), avviata dagli edge di controllo <code>after</code></td></tr></tbody></table><p>Il cheatsheet dei nodi, con una scheda di dettaglio per ciascuno (opzioni, errori, esempi), è in <a href="./nodes/README">Tipi di nodo</a>.</p><p>Il <strong>fan-out</strong> invece è libero: basta agganciare più nodi allo stesso <code>from</code>, e il runner duplica lo stream. La forma del grafo è validata <strong>a runtime</strong> su <code>.build()</code>: cicli, id sconosciuti o più di un ingresso su un nodo diverso da <code>join</code> e <code>union</code> esplodono come <code>GraphValidationError</code> alla costruzione. Esempio di riferimento completo: <a href="./pipelines/orders-enriched-daily"><code>orders-enriched-daily</code></a>.</p><p>Oltre agli edge di dati ci sono gli <strong>edge di controllo</strong>: l'opzione <code>after</code> di <code>.task()</code> e <code>.source()</code> dice «parti solo dopo che questi nodi sono riusciti». Partono da un <code>task</code> o da un <code>sink</code> e arrivano a un <code>task</code> o a una <code>source</code>. Dettagli nella scheda <a href="./nodes/task"><code>task</code></a>.</p><p>Ogni nodo ha uno <strong>scopo</strong>, <code>purpose</code>, scritto per chi legge il grafo nell'app: che cosa fa il nodo e perché serve, in una-tre frasi di business. Lo verificano <code>etl catalog check</code> ed <code>etl docs build</code>.</p><p>Il <code>RunContext</code> che ogni nodo riceve porta env, parametri di lancio (<code>ctx.params</code>), logger, metriche, il segnale d'arresto e lo store dello stato di pipeline. Gli errori di dominio sono <code>EtlError</code> (<code>ValidationError</code>, <code>ExtractError</code>, <code>LoadError</code>, <code>ConfigError</code>, <code>GraphValidationError</code>, <code>JoinError</code>, <code>LookupError</code>, <code>ActionError</code>, <code>TaskError</code>, <code>AssertionError</code>, <code>GraphRunFailure</code>): un errore che non lo è conta come bug.</p><h2 id="_5-come-gira-una-pipeline" tabindex="-1">5. Come gira una pipeline <a class="header-anchor" href="#_5-come-gira-una-pipeline" aria-label="Permalink to "5. Come gira una pipeline""></a></h2><p>Il grafo è <strong>pull-based</strong>: la domanda parte dai sink e risale verso le source, quindi è il ritmo di scrittura a regolare quello di lettura (backpressure gratis). I record scorrono in streaming, mai tutti in memoria — tranne il lato <code>build</code> di un <code>join</code> e le transform che trattengono lo stream, come <code>sort</code>, che hanno un tetto obbligatorio.</p><p>Quando un record fallisce ci sono tre percorsi, dal più locale al più drastico:</p><ul><li><strong>Dead-letter per nodo</strong> — <code>{ deadLetter: sink }</code> su un <code>transform</code>, <code>lookup</code>, <code>ai</code>, <code>action</code>, <code>route</code> o <code>join</code>. Il record che solleva <code>EtlError</code> esce come envelope <code>DeadLetter</code> su quel sink e <strong>lo stream continua</strong>. Adatto alle trasformazioni <strong>stateless</strong> (map/mapColumns/flatMap/explode/unpivot/filter/validate, <code>parse</code>, <code>hashRow</code>, <code>surrogateKey</code>, <code>mask</code>). Sul <code>.pipeline()</code> della root la <code>deadLetter</code> si distribuisce a ogni nodo isolabile dell'istanza, istanze annidate comprese (<a href="./nodes/pipeline#deadletter-sull-istanza"><code>deadLetter</code> sull'istanza</a>).</li><li><strong>Nodo <code>try-catch</code></strong> — protegge tutti i nodi raggiungibili dalla sua porta <code>out</code>, sink compresi. Di default è <code>per-record</code>: ogni record che fallisce va sul ramo <code>catch</code>, che è fatto di nodi veri e può loggare, rimappare o instradare altrove. In <code>circuit-breaker</code> al primo errore la sub-stream si ferma.</li><li><strong>Fail-fast</strong> — il default, senza dead-letter né guard: l'errore aborta la run. È l'unica scelta sensata per le trasformazioni <strong>stateful</strong> (es. <code>groupBy</code>, <code>sort</code>, <code>serialize</code>): un'aggregazione spezzata per record darebbe un risultato falso. Vale per tutto il grafo: al primo errore fatale il runner annulla anche i rami indipendenti e aspetta che ogni sink e ogni task chiuda prima di riportare la run fallita. Un <code>task</code> che fallisce è sempre fatale.</li></ul><p>Un errore che <strong>non</strong> è un <code>EtlError</code> (un <code>TypeError</code>, un bug) aborta sempre la run, anche dentro un guard: un bug non va scaricato in un sink di scarto, va visto. Qualunque sia la scelta, nessun record sparisce in silenzio: ogni scarto è contato nel report.</p><p>Ogni <code>run()</code> produce un <code>GraphRunReport</code>:</p><ul><li><strong>stato</strong> — <code>success</code>, <code>partial</code> (arrivata in fondo con scarti o errori catturati) o <code>failed</code>;</li><li><strong>totali</strong> — <code>extracted</code> (somma delle source), <code>written</code> (somma dei sink: su un fan-out lo stesso record scritto due volte conta due), <code>rejected</code>, <code>rejectedReasons</code>;</li><li><strong>per nodo</strong> — <code>nodes[]</code> ed <code>edges[]</code> con la topologia reale e i contatori di ogni nodo, <code>caught</code> sui guard, tempi di attraversamento;</li><li><strong>stato di pipeline</strong> — <code>state</code>, una voce per source incrementale: da dove ha letto, cosa propone, se il watermark è stato committato;</li><li>metriche ed errore — <strong>mai segreti o payload</strong>.</li></ul><p>È il "prodotto" del servizio: chi invoca la pipeline decide se archiviarlo, alertare, ecc. Schema completo in <a href="./conventions/run-report">Il report di run</a>.</p><h2 id="_6-cosa-c-e-gia-pronto" tabindex="-1">6. Cosa c'è già pronto <a class="header-anchor" href="#_6-cosa-c-e-gia-pronto" aria-label="Permalink to "6. Cosa c'è già pronto""></a></h2><p><strong>Connettori</strong>, uno per subpath di <code>@noeva/etl-core/connectors/</code>:</p><ul><li><strong>PostgreSQL</strong> (<code>postgres</code>) — source con cursor streaming, sink con upsert <code>ON CONFLICT</code> o in modalità SCD2 (dimensioni storicizzate), task SQL <code>postgresSqlTask</code> (statement in una transazione, per il nodo <code>task</code>).</li><li><strong>SQL Server</strong> (<code>sqlserver</code>) — source streaming, sink con <code>MERGE</code> o in modalità SCD2, task SQL <code>mssqlSqlTask</code>.</li><li><strong>File</strong> (<code>file</code>) — architettura a due assi componibili: <ul><li><em>storage</em>: dove vivono i file (locale, <strong>S3</strong>, <strong>SFTP</strong>, <strong>FTP/FTPS</strong>);</li><li><em>codec</em>: come si (de)serializzano — <strong>CSV</strong> (anche grezzo, <code>csvRawCodec</code>), <strong>JSON/NDJSON</strong>, <strong>XML</strong>, <strong>XLSX</strong>, <strong>Parquet</strong>. Storage e codec si combinano liberamente (es. CSV su S3, Parquet su SFTP).</li></ul></li><li><strong>Noeva</strong> (<code>noeva</code>) — file dei workspace Noeva via noeva-server-api: lettura di un file o di una cartella intera, scrittura di uno o più file in <code>overwrite</code> o <code>new-version</code>, upload con elaborazione AI (<code>noevaUploadAction</code>), lookup su stato e testo estratto ed estrazione AI di campi strutturati (<code>noevaAiExtract</code>, nodo <code>ai</code>).</li><li><strong>IMAP</strong> (<code>imap</code>) — caselle di posta: <code>imapSource</code> legge i messaggi di una cartella (allegati ed EML grezzo), le action <code>imapFlagAction</code> e <code>imapSpostaAction</code> marcano e spostano, con la cartella come coda.</li><li><strong>SMTP</strong> (<code>smtp</code>) — notifiche email: <code>smtpAction</code> e <code>smtpSink</code> inviano una mail costruita da una funzione del record, con Message-ID deterministico contro i doppioni.</li><li><strong>SendGrid</strong> (<code>sendgrid</code>) — mail via API REST v3: <code>sendgridAction</code> e <code>sendgridSink</code>, con la stessa mail di SMTP (<code>MailInUscita</code>), sandbox per le prove, retry di <code>429</code> e <code>5xx</code>; <code>mailAction</code> e <code>mailSink</code> (<code>mail</code>) scelgono fra SMTP e SendGrid da configurazione.</li><li><strong>HTTP</strong> (<code>http</code>) — API REST per i nodi <code>lookup</code> e <code>action</code>: <code>httpLookup</code> legge in sola lettura, una richiesta per batch o una <code>GET</code> per chiave, <code>httpAction</code> scrive e prosegue con l'esito; la risposta è validata da uno schema Zod e le credenziali vengono dal registry <code>HTTP_INSTANCES</code>. Il loro trasporto, <code>richiestaHttp</code>, è condiviso con i connettori REST di dominio, come Jira.</li><li><strong>Jira Cloud</strong> (<code>jira</code>) — <code>jiraIssues</code> legge le issue di una JQL, pagina dopo pagina, con i siti nel registry <code>JIRA_INSTANCES</code>; i campi si dichiarano per id o per nome e diventano colonne normalizzate, con gli ADF convertiti in testo. <code>jiraIssueLookup</code> legge le stesse issue per chiave, e <code>jiraChangelogLookup</code>, <code>jiraCommentsLookup</code> e <code>jiraWorklogsLookup</code> danno a ogni issue la sua lista completa. <code>jiraCreateIssue</code>, <code>jiraUpdateIssue</code>, <code>jiraTransition</code>, <code>jiraUpsertIssue</code> (per ID esterno), <code>jiraAddComment</code> e <code>jiraAddWorklog</code> (con una chiave di deduplica obbligatoria) e <code>jiraLinkIssues</code> scrivono come nodi <code>action</code>, con l'esito come dato.</li><li><strong>Zoho CRM</strong> (<code>zoho</code>) — <code>zohoCrmRecords</code> legge i record di un modulo con i soli campi dichiarati, che sono anche la regola di privacy, in ordine di <code>id</code>: con la Records API fino a 100.000 record, con la Query API (COQL) a chiavi crescenti di <code>id</code> oltre. Le organizzazioni stanno nel registry <code>ZOHO_INSTANCES</code>, il token lo rinnova un'identità OAuth2 e il trasporto è quello condiviso di <code>http</code>.</li><li><strong>Processo esterno</strong> (<code>process</code>) — <code>processoEsternoAction</code> lancia un programma per record, senza shell, in una cartella temporanea sempre cancellata: i file del record entrano, i file di <code>uscita/</code> e un riepilogo JSON validato con Zod escono. Ambiente da allowlist e timeout obbligatorio.</li><li><strong>OAuth2</strong> (<code>oauth</code>) — non un connettore ma l'<strong>identità</strong> che IMAP e SMTP usano dove la password non basta più (Gmail, Workspace, Microsoft 365), e con cui Zoho CRM autentica le sue richieste: tiene il refresh token e ne scambia uno nuovo quando l'access token scade, con un registry proprio <code>OAUTH_INSTANCES</code>.</li></ul><p>Le schede, con configurazione e variabili d'ambiente di ognuno, sono in <a href="./connectors/README">Connettori</a>.</p><p><strong>Trasformazioni riusabili</strong>, dalla radice del pacchetto: <code>groupBy</code> (aggregazione stateful generica init/reduce/finalize), <code>dedup</code> (duplicati per chiave), <code>mapColumns</code> (select, rename, cast e colonne calcolate, con lineage di colonna) e <code>castValue</code> (i suoi cast stretti, usabili da soli), <code>explode</code> (un campo array → un record per elemento), <code>unpivot</code> e <code>pivot</code> (dal formato largo al lungo e ritorno, con colonne dichiarate), <code>sort</code> (ordinamento stabile su più chiavi), <code>chunk</code> (record in lotti di N per un sink o un'API con limite di payload), <code>parse</code> (byte di un file → righe, con un <code>FileCodec</code>) e <code>serialize</code> (record → un file per gruppo, stateful), <code>hashRow</code> e <code>surrogateKey</code> (hash di riga e chiave surrogata deterministici), <code>mask</code> (mascheramento e pseudonimizzazione delle colonne con dati personali), <code>profile</code> (profilo delle colonne nel report del nodo, a memoria costante), <code>assert</code> (controlli sul dataset a fine stream). Il catalogo completo è in <a href="./nodes/transform#transform-pronte">transform</a>.</p><p><strong>Pipeline d'esempio</strong>, con la loro scheda nella sezione «Esempi» di questa guida:</p><ul><li><a href="./pipelines/orders-enriched-daily"><code>orders-enriched-daily</code></a> — dataset demo in memoria, esempio di riferimento per una pipeline <strong>a grafo</strong>: due sorgenti, join a chiave, fan-out su due sink, dead-letter isolato su due nodi indipendenti, try/catch e un'istanza della sub-pipeline <a href="./sub-pipelines/riepilogo-ordini"><code>riepilogo-ordini</code></a>.</li><li><a href="./pipelines/movimenti-per-conto"><code>movimenti-per-conto</code></a> — dataset demo in memoria, esempio di riferimento per le transform di file e di ordinamento in mezzo al grafo: <code>parse</code>, <code>sort</code> e <code>serialize</code>, da estratti conto CSV a un CSV per conto.</li><li><a href="./pipelines/crm-leads-sync"><code>crm-leads-sync</code></a> — copia fra due istanze Postgres dello stesso registry, con un try/catch per record.</li><li><a href="./pipelines/cross-workspace-csv-merge"><code>cross-workspace-csv-merge</code></a> — merge di un CSV fra due workspace Noeva, con un <code>union</code> e la scrittura in <code>new-version</code> su entrambi.</li></ul><p><strong>Pipeline pronte</strong>, da dichiarare nel catalogo: <a href="./pipelines/test-posta"><code>test-posta</code></a>, la prova dei connettori IMAP e SMTP di un'installazione.</p><h2 id="_7-i-comandi" tabindex="-1">7. I comandi <a class="header-anchor" href="#_7-i-comandi" aria-label="Permalink to "7. I comandi""></a></h2><div class="language-bash vp-adaptive-theme"><button title="Copy Code" class="copy"></button><span class="lang">bash</span><pre class="shiki shiki-themes github-light github-dark vp-code" tabindex="0"><code><span class="line"><span style="--shiki-light:#6F42C1;--shiki-dark:#B392F0;">pnpm</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> exec</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> etl</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> init</span><span style="--shiki-light:#D73A49;--shiki-dark:#F97583;"> <</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;">slu</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">g</span><span style="--shiki-light:#D73A49;--shiki-dark:#F97583;">></span><span style="--shiki-light:#6A737D;--shiki-dark:#6A737D;"> # in una cartella vuota: il boilerplate di un repo cliente</span></span>
|
|
36
36
|
<span class="line"><span style="--shiki-light:#6F42C1;--shiki-dark:#B392F0;">pnpm</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> exec</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> etl</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> ci</span><span style="--shiki-light:#6A737D;--shiki-dark:#6A737D;"> # il gate completo del repo, lo stesso della CI</span></span>
|
|
37
37
|
<span class="line"><span style="--shiki-light:#6F42C1;--shiki-dark:#B392F0;">pnpm</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> exec</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> etl</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> agent</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> sync</span><span style="--shiki-light:#6A737D;--shiki-dark:#6A737D;"> # riscrive il kit dell'agente dal core installato (§10)</span></span>
|
|
38
38
|
<span class="line"><span style="--shiki-light:#6F42C1;--shiki-dark:#B392F0;">pnpm</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> exec</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> etl</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> upgrade</span><span style="--shiki-light:#005CC5;--shiki-dark:#79B8FF;"> --check</span><span style="--shiki-light:#6A737D;--shiki-dark:#6A737D;"> # versione installata e ultima, changelog e deriva dei file gestiti</span></span>
|
package/dist/guida/assets/{TECHNICAL_OVERVIEW.md.DQP0pWc8.js → TECHNICAL_OVERVIEW.md.DTIhkkg9.js}
RENAMED
|
@@ -1,4 +1,4 @@
|
|
|
1
|
-
import{_ as t,C as r,o as n,c as a,a5 as o,E as s}from"./chunks/framework.qdetmeNX.js";const v=JSON.parse('{"title":"noeva-etl — Technical Overview","description":"","frontmatter":{},"headers":[],"relativePath":"TECHNICAL_OVERVIEW.md","filePath":"TECHNICAL_OVERVIEW.md"}'),c={name:"TECHNICAL_OVERVIEW.md"};function d(l,e,p,u,g,h){const i=r("MermaidDiagram");return n(),a("div",null,[e[0]||(e[0]=o('<h1 id="noeva-etl-—-technical-overview" tabindex="-1">noeva-etl — Technical Overview <a class="header-anchor" href="#noeva-etl-—-technical-overview" aria-label="Permalink to "noeva-etl — Technical Overview""></a></h1><blockquote><p>Documento condivisibile. Spiega <strong>cos'è</strong>, <strong>per cosa è pensato</strong>, <strong>cosa può fare</strong>, <strong>come si espande</strong> e <strong>qual è la direzione</strong> del prodotto.</p></blockquote><hr><h2 id="_1-in-una-frase" tabindex="-1">1. In una frase <a class="header-anchor" href="#_1-in-una-frase" aria-label="Permalink to "1. In una frase""></a></h2><p><strong>noeva-etl</strong> è una <strong>piattaforma BI/ETL code-first in TypeScript</strong>: si costruiscono pipeline di integrazione dati (estrazione → trasformazione → caricamento) come <strong>software versionato, testato e documentato</strong>, non come job grafici opachi. Il nucleo di esecuzione di ogni pipeline è <strong>semplice, stateless e portabile</strong>: esegue una pipeline e restituisce un risultato completo (report di run), senza possedere database né stato proprio.</p><p>Il servizio si invoca in tre modi (vedi §5): <strong>batch</strong> (<code>etl run</code>, un container = una esecuzione, esito su stdout), <strong>daemon</strong> (<code>etl worker</code>, poller sulla tabella <code>processes</code> di Noeva, per l'integrazione con l'orchestrazione job del prodotto) e <strong>server + daemon</strong> (<code>etl serve</code>, il default dell'immagine: espone i grafi e le run all'app desktop <code>noeva-etl-ui</code> e avvia i worker nello stesso processo).</p><h2 id="_2-per-cosa-e-stato-pensato" tabindex="-1">2. Per cosa è stato pensato <a class="header-anchor" href="#_2-per-cosa-e-stato-pensato" aria-label="Permalink to "2. Per cosa è stato pensato""></a></h2><p>Sostituire l'approccio "ETL a scatola nera" (es. Talend) con uno <strong>code-first</strong>:</p><ul><li><strong>Versionabile</strong> — ogni pipeline è codice in git, rivedibile in Pull Request.</li><li><strong>Testabile</strong> — connettori, trasformazioni e pipeline hanno test automatici (gate in CI).</li><li><strong>Documentato</strong> — ogni pipeline/decisione ha la sua scheda/ADR, aggiornati nello stesso commit.</li><li><strong>Portabile</strong> — un'unica immagine container gira sull'infra del cliente (Docker locale, ECS proprio o gestito da noi).</li><li><strong>Agnostico</strong> — nessun lock-in: sorgenti e destinazioni sono intercambiabili; il servizio non impone un DB o un cloud.</li></ul><p>Target d'uso: integrazioni dati ricorrenti e affidabili (sincronizzazioni, fatti per la BI, normalizzazioni cross-database) dove <strong>correttezza, ripetibilità e tracciabilità</strong> contano.</p><h2 id="_3-cosa-puo-fare-oggi" tabindex="-1">3. Cosa può fare oggi <a class="header-anchor" href="#_3-cosa-puo-fare-oggi" aria-label="Permalink to "3. Cosa può fare oggi""></a></h2><table tabindex="0"><thead><tr><th>Capacità</th><th>Dettaglio</th></tr></thead><tbody><tr><td><strong>Primitive componibili</strong></td><td><code>Source<T></code> (estrazione), <code>Transform<I,O></code> (trasformazione), <code>Sink<T></code> (caricamento), <code>GraphPipeline</code> (DSL a grafo <code>graph()...build()</code>)</td></tr><tr><td><strong>Nodi del grafo</strong></td><td><code>source</code>, <code>transform</code>, <strong><code>lookup</code></strong> (lettura a metà grafo da un DB o da un'API REST), <strong><code>ai</code></strong> (domanda a un modello per record), <strong><code>action</code></strong> (scrittura per record con un record in uscita), <strong><code>route</code></strong> (smistamento esclusivo su porte), <code>join</code> (fan-in a chiave), <strong><code>union</code></strong> (fan-in di flussi con la stessa forma), <code>try-catch</code> (ramo di gestione errori), <code>sink</code>, <strong><code>task</code></strong> (operazione senza record, prima o dopo il caricamento, ordinata dagli edge di controllo <code>after</code>)</td></tr><tr><td><strong>Streaming</strong></td><td>I connettori lavorano su <code>AsyncIterable</code>: dataset grandi senza caricarli in memoria</td></tr><tr><td><strong>Contratti dati (Zod)</strong></td><td>Validazione di schema su input e output di ogni pipeline (<code>validate</code>)</td></tr><tr><td><strong>Trasformazioni</strong></td><td><code>map</code>, <code>filter</code>, mappatura dichiarativa di colonne <code>mapColumns</code> (select, rename, cast, colonne calcolate, con lineage di colonna), espansione 1:N (<code>flatMapTransform</code>, <code>explode</code>), aggregazione stateful riusabile <code>groupBy</code> (init/reduce/finalize), deduplica <code>dedup</code>, passaggio fra formato largo e lungo <code>unpivot</code>/<code>pivot</code>, ordinamento stabile <code>sort</code>, lotti di dimensione fissa <code>chunk</code>, decodifica e codifica di file in mezzo al grafo <code>parse</code>/<code>serialize</code>, hash di riga <code>hashRow</code> e chiave surrogata <code>surrogateKey</code>, mascheramento e pseudonimizzazione dei dati personali <code>mask</code>, profilo delle colonne nel report del nodo <code>profile</code>, controlli sul dataset <code>assert</code></td></tr><tr><td><strong>Gestione errori</strong></td><td><strong>dead-letter</strong> per nodo (record invalidi instradati altrove, la run prosegue), ramo <strong>catch</strong> di un nodo <code>try-catch</code>, o <strong>fail-fast</strong> esplicito, che al primo errore fatale annulla anche i rami indipendenti — mai scarti silenziosi</td></tr><tr><td><strong>Idempotenza</strong></td><td>Sink con upsert/MERGE su chiave naturale: rieseguire non duplica</td></tr><tr><td><strong>Connettori reali</strong></td><td><strong>PostgreSQL</strong> (cursor streaming + upsert <code>ON CONFLICT</code> o SCD2 + lookup + task SQL), <strong>SQL Server</strong> (streaming + <code>MERGE</code> o SCD2 + lookup + task SQL), <strong>file</strong> (filesystem/S3/SFTP/FTP × CSV/JSON/XML/XLSX/Parquet), <strong>Noeva</strong> (file e cartelle dei workspace + upload con elaborazione AI come <code>action</code> + lookup su stato e testo estratto), <strong>HTTP</strong> (lookup e action su API REST, <code>httpLookup</code> e <code>httpAction</code>), <strong>Jira Cloud</strong> (<code>jiraIssues</code>: le issue di una JQL su API REST v3, in colonne normalizzate, e <code>jiraIssueLookup</code> per chiave; changelog, commenti e worklog completi come lista; <code>jiraCreateIssue</code>, <code>jiraUpdateIssue</code>, <code>jiraTransition</code>, <code>jiraUpsertIssue</code> per ID esterno, <code>jiraAddComment</code> e <code>jiraAddWorklog</code> con chiave di deduplica e <code>jiraLinkIssues</code> come <code>action</code>, testo in markdown), <strong>IMAP</strong>, <strong>SMTP</strong> e <strong>SendGrid</strong> (posta in lettura e invio, con OAuth2 dove la casella lo richiede), <strong>processo esterno</strong> (<code>processoEsternoAction</code>: un programma lanciato per record in un nodo <code>action</code>, senza shell)</td></tr><tr><td><strong>Cross-database</strong></td><td>Una pipeline può leggere da un DB e scrivere su un altro (es. PG → SQL Server)</td></tr><tr><td><strong>GraphRunReport</strong></td><td>Risultato auto-descrittivo di ogni run (vedi §6)</td></tr><tr><td><strong>CLI & container</strong></td><td><code>etl list</code> / <code>etl run <pipeline></code> / <code>etl serve</code> / <code>etl runs list</code> / <code>etl state show</code> / <code>etl versions snapshot</code> (anche <code>--realign</code>) / <code>etl versions check</code> / <code>etl versions rollback</code> / <code>etl env check</code> / <code>etl catalog check</code> / <code>etl docs build</code> / <code>etl ci</code> / <code>etl init</code> / <code>etl agent sync</code> / <code>etl upgrade</code>; immagine Docker</td></tr><tr><td><strong>App desktop</strong></td><td><code>noeva-etl-ui</code> (Tauri): DAG delle pipeline, avvio manuale, storico ed esito delle run, nodo per nodo — mostra, non costruisce</td></tr><tr><td><strong>Worker daemon</strong></td><td><code>etl worker</code> — poller su <code>processes</code> via <code>noeva-server-api</code> (claim/progress HTTP, mai Supabase diretto), dispatch verso il catalogo di <code>etl.config.ts</code>; una istanza serve N workspace</td></tr></tbody></table><p><strong>Esempi inclusi</strong>: le pipeline della sezione «Esempi» di questa guida, come <a href="./pipelines/orders-enriched-daily"><code>orders-enriched-daily</code></a> (join a chiave, fan-out, try/catch) e <a href="./pipelines/crm-leads-sync"><code>crm-leads-sync</code></a> (copia fra due istanze Postgres).</p><h2 id="_4-come-funziona-architettura" tabindex="-1">4. Come funziona (architettura) <a class="header-anchor" href="#_4-come-funziona-architettura" aria-label="Permalink to "4. Come funziona (architettura)""></a></h2><p>Ogni pipeline è un <strong>grafo</strong> di nodi (DAG), costruito in codice col DSL <code>graph()…build()</code>:</p>',15)),s(i,{code:"flowchart%20LR%0A%20%20ordini%5B%22source%3Cbr%2F%3Eordini%22%5D%20--%3E%20valida%5B%22transform%3Cbr%2F%3Evalidate%20(contratto)%22%5D%0A%20%20clienti%5B%22source%3Cbr%2F%3Eclienti%22%5D%20--%3E%20join%5B%22join%3Cbr%2F%3E(a%20chiave)%22%5D%0A%20%20valida%20-.record%20invalido.-%3E%20scarti%5B%22dead-letter%22%5D%0A%20%20valida%20--%3E%20join%0A%20%20join%20--%3E%20lookup%5B%22lookup%3Cbr%2F%3E(lettura%20DB%20o%20API)%22%5D%0A%20%20lookup%20--%3E%20guard%5B%22try-catch%22%5D%0A%20%20guard%20--%3E%20dwh%5B%22sink%3Cbr%2F%3EDWH%22%5D%0A%20%20guard%20--%3E%20file%5B%22sink%3Cbr%2F%3Efile%22%5D%0A%20%20guard%20-.catch.-%3E%20errori%5B%22ramo%20errori%22%5D%0A"}),e[1]||(e[1]=o(`<ul><li><strong>Core</strong> (<code>src/core</code>) — primitive + runner; <strong>non contiene logica di dominio</strong>.</li><li><strong>Dependency Injection</strong> — la <em>definizione</em> della pipeline è agnostica: sorgente e sink concreti si iniettano all'avvio. Per questo lo stesso codice gira su DB diversi e si testa con connettori in-memory.</li><li><strong>Streaming pull-based</strong> — i record scorrono dai source ai sink senza essere caricati tutti in memoria; è il ritmo di scrittura a regolare quello di lettura.</li><li><strong>Tre percorsi per un record che fallisce</strong>: <em>dead-letter</em> sul nodo (il record va altrove, la run prosegue), ramo <em>catch</em> di un nodo <code>try-catch</code> (gli errori di un intero tratto del grafo finiscono su nodi di gestione dedicati), <em>fail-fast</em> (la run si ferma — obbligatorio per le aggregazioni stateful).</li><li><strong>Osservabilità</strong> — logger JSON strutturato + metriche; ogni run produce un <code>GraphRunReport</code> con i conteggi di ogni nodo.</li></ul><p>Stack: TypeScript ESM strict, Node ≥ 20, <code>pnpm</code>, <code>tsup</code>, <code>vitest</code>, ESLint/Prettier, Zod. Dipendenze runtime: i driver dei database (<code>pg</code>, <code>mssql</code>), le librerie per storage e formati dei file (AWS SDK, SFTP, FTP, CSV, XLSX, XML, Parquet), <code>express</code> per il server locale di <code>etl serve</code>. Nessuna dipendenza Supabase: il claim/report sulla tabella <code>processes</code> passa da <code>noeva-server-api</code> via HTTP (<code>fetch</code> nativo).</p><h2 id="_5-come-si-usa-e-si-distribuisce" tabindex="-1">5. Come si usa e si distribuisce <a class="header-anchor" href="#_5-come-si-usa-e-si-distribuisce" aria-label="Permalink to "5. Come si usa e si distribuisce""></a></h2><div class="language-bash vp-adaptive-theme"><button title="Copy Code" class="copy"></button><span class="lang">bash</span><pre class="shiki shiki-themes github-light github-dark vp-code" tabindex="0"><code><span class="line"><span style="--shiki-light:#6A737D;--shiki-dark:#6A737D;"># in un repo cliente, in sviluppo</span></span>
|
|
1
|
+
import{_ as t,C as r,o as n,c as a,a5 as o,E as s}from"./chunks/framework.qdetmeNX.js";const v=JSON.parse('{"title":"noeva-etl — Technical Overview","description":"","frontmatter":{},"headers":[],"relativePath":"TECHNICAL_OVERVIEW.md","filePath":"TECHNICAL_OVERVIEW.md"}'),c={name:"TECHNICAL_OVERVIEW.md"};function d(l,e,p,u,g,h){const i=r("MermaidDiagram");return n(),a("div",null,[e[0]||(e[0]=o('<h1 id="noeva-etl-—-technical-overview" tabindex="-1">noeva-etl — Technical Overview <a class="header-anchor" href="#noeva-etl-—-technical-overview" aria-label="Permalink to "noeva-etl — Technical Overview""></a></h1><blockquote><p>Documento condivisibile. Spiega <strong>cos'è</strong>, <strong>per cosa è pensato</strong>, <strong>cosa può fare</strong>, <strong>come si espande</strong> e <strong>qual è la direzione</strong> del prodotto.</p></blockquote><hr><h2 id="_1-in-una-frase" tabindex="-1">1. In una frase <a class="header-anchor" href="#_1-in-una-frase" aria-label="Permalink to "1. In una frase""></a></h2><p><strong>noeva-etl</strong> è una <strong>piattaforma BI/ETL code-first in TypeScript</strong>: si costruiscono pipeline di integrazione dati (estrazione → trasformazione → caricamento) come <strong>software versionato, testato e documentato</strong>, non come job grafici opachi. Il nucleo di esecuzione di ogni pipeline è <strong>semplice, stateless e portabile</strong>: esegue una pipeline e restituisce un risultato completo (report di run), senza possedere database né stato proprio.</p><p>Il servizio si invoca in tre modi (vedi §5): <strong>batch</strong> (<code>etl run</code>, un container = una esecuzione, esito su stdout), <strong>daemon</strong> (<code>etl worker</code>, poller sulla tabella <code>processes</code> di Noeva, per l'integrazione con l'orchestrazione job del prodotto) e <strong>server + daemon</strong> (<code>etl serve</code>, il default dell'immagine: espone i grafi e le run all'app desktop <code>noeva-etl-ui</code> e avvia i worker nello stesso processo).</p><h2 id="_2-per-cosa-e-stato-pensato" tabindex="-1">2. Per cosa è stato pensato <a class="header-anchor" href="#_2-per-cosa-e-stato-pensato" aria-label="Permalink to "2. Per cosa è stato pensato""></a></h2><p>Sostituire l'approccio "ETL a scatola nera" (es. Talend) con uno <strong>code-first</strong>:</p><ul><li><strong>Versionabile</strong> — ogni pipeline è codice in git, rivedibile in Pull Request.</li><li><strong>Testabile</strong> — connettori, trasformazioni e pipeline hanno test automatici (gate in CI).</li><li><strong>Documentato</strong> — ogni pipeline/decisione ha la sua scheda/ADR, aggiornati nello stesso commit.</li><li><strong>Portabile</strong> — un'unica immagine container gira sull'infra del cliente (Docker locale, ECS proprio o gestito da noi).</li><li><strong>Agnostico</strong> — nessun lock-in: sorgenti e destinazioni sono intercambiabili; il servizio non impone un DB o un cloud.</li></ul><p>Target d'uso: integrazioni dati ricorrenti e affidabili (sincronizzazioni, fatti per la BI, normalizzazioni cross-database) dove <strong>correttezza, ripetibilità e tracciabilità</strong> contano.</p><h2 id="_3-cosa-puo-fare-oggi" tabindex="-1">3. Cosa può fare oggi <a class="header-anchor" href="#_3-cosa-puo-fare-oggi" aria-label="Permalink to "3. Cosa può fare oggi""></a></h2><table tabindex="0"><thead><tr><th>Capacità</th><th>Dettaglio</th></tr></thead><tbody><tr><td><strong>Primitive componibili</strong></td><td><code>Source<T></code> (estrazione), <code>Transform<I,O></code> (trasformazione), <code>Sink<T></code> (caricamento), <code>GraphPipeline</code> (DSL a grafo <code>graph()...build()</code>)</td></tr><tr><td><strong>Nodi del grafo</strong></td><td><code>source</code>, <code>transform</code>, <strong><code>lookup</code></strong> (lettura a metà grafo da un DB o da un'API REST), <strong><code>ai</code></strong> (domanda a un modello per record), <strong><code>action</code></strong> (scrittura per record con un record in uscita), <strong><code>route</code></strong> (smistamento esclusivo su porte), <code>join</code> (fan-in a chiave), <strong><code>union</code></strong> (fan-in di flussi con la stessa forma), <code>try-catch</code> (ramo di gestione errori), <code>sink</code>, <strong><code>task</code></strong> (operazione senza record, prima o dopo il caricamento, ordinata dagli edge di controllo <code>after</code>)</td></tr><tr><td><strong>Streaming</strong></td><td>I connettori lavorano su <code>AsyncIterable</code>: dataset grandi senza caricarli in memoria</td></tr><tr><td><strong>Contratti dati (Zod)</strong></td><td>Validazione di schema su input e output di ogni pipeline (<code>validate</code>)</td></tr><tr><td><strong>Trasformazioni</strong></td><td><code>map</code>, <code>filter</code>, mappatura dichiarativa di colonne <code>mapColumns</code> (select, rename, cast, colonne calcolate, con lineage di colonna), espansione 1:N (<code>flatMapTransform</code>, <code>explode</code>), aggregazione stateful riusabile <code>groupBy</code> (init/reduce/finalize), deduplica <code>dedup</code>, passaggio fra formato largo e lungo <code>unpivot</code>/<code>pivot</code>, ordinamento stabile <code>sort</code>, lotti di dimensione fissa <code>chunk</code>, decodifica e codifica di file in mezzo al grafo <code>parse</code>/<code>serialize</code>, hash di riga <code>hashRow</code> e chiave surrogata <code>surrogateKey</code>, mascheramento e pseudonimizzazione dei dati personali <code>mask</code>, profilo delle colonne nel report del nodo <code>profile</code>, controlli sul dataset <code>assert</code></td></tr><tr><td><strong>Gestione errori</strong></td><td><strong>dead-letter</strong> per nodo (record invalidi instradati altrove, la run prosegue), ramo <strong>catch</strong> di un nodo <code>try-catch</code>, o <strong>fail-fast</strong> esplicito, che al primo errore fatale annulla anche i rami indipendenti — mai scarti silenziosi</td></tr><tr><td><strong>Idempotenza</strong></td><td>Sink con upsert/MERGE su chiave naturale: rieseguire non duplica</td></tr><tr><td><strong>Connettori reali</strong></td><td><strong>PostgreSQL</strong> (cursor streaming + upsert <code>ON CONFLICT</code> o SCD2 + lookup + task SQL), <strong>SQL Server</strong> (streaming + <code>MERGE</code> o SCD2 + lookup + task SQL), <strong>file</strong> (filesystem/S3/SFTP/FTP × CSV/JSON/XML/XLSX/Parquet), <strong>Noeva</strong> (file e cartelle dei workspace + upload con elaborazione AI come <code>action</code> + lookup su stato e testo estratto), <strong>HTTP</strong> (lookup e action su API REST, <code>httpLookup</code> e <code>httpAction</code>), <strong>Jira Cloud</strong> (<code>jiraIssues</code>: le issue di una JQL su API REST v3, in colonne normalizzate, e <code>jiraIssueLookup</code> per chiave; changelog, commenti e worklog completi come lista; <code>jiraCreateIssue</code>, <code>jiraUpdateIssue</code>, <code>jiraTransition</code>, <code>jiraUpsertIssue</code> per ID esterno, <code>jiraAddComment</code> e <code>jiraAddWorklog</code> con chiave di deduplica e <code>jiraLinkIssues</code> come <code>action</code>, testo in markdown), <strong>Zoho CRM</strong> (<code>zohoCrmRecords</code>: i record di un modulo con i soli campi dichiarati, in ordine di <code>id</code>, con la Records API v8 o, oltre i 100.000 record, con COQL), <strong>IMAP</strong>, <strong>SMTP</strong> e <strong>SendGrid</strong> (posta in lettura e invio, con OAuth2 dove la casella lo richiede), <strong>processo esterno</strong> (<code>processoEsternoAction</code>: un programma lanciato per record in un nodo <code>action</code>, senza shell)</td></tr><tr><td><strong>Cross-database</strong></td><td>Una pipeline può leggere da un DB e scrivere su un altro (es. PG → SQL Server)</td></tr><tr><td><strong>GraphRunReport</strong></td><td>Risultato auto-descrittivo di ogni run (vedi §6)</td></tr><tr><td><strong>CLI & container</strong></td><td><code>etl list</code> / <code>etl run <pipeline></code> / <code>etl serve</code> / <code>etl runs list</code> / <code>etl state show</code> / <code>etl versions snapshot</code> (anche <code>--realign</code>) / <code>etl versions check</code> / <code>etl versions rollback</code> / <code>etl env check</code> / <code>etl catalog check</code> / <code>etl docs build</code> / <code>etl ci</code> / <code>etl init</code> / <code>etl agent sync</code> / <code>etl upgrade</code>; immagine Docker</td></tr><tr><td><strong>App desktop</strong></td><td><code>noeva-etl-ui</code> (Tauri): DAG delle pipeline, avvio manuale, storico ed esito delle run, nodo per nodo — mostra, non costruisce</td></tr><tr><td><strong>Worker daemon</strong></td><td><code>etl worker</code> — poller su <code>processes</code> via <code>noeva-server-api</code> (claim/progress HTTP, mai Supabase diretto), dispatch verso il catalogo di <code>etl.config.ts</code>; una istanza serve N workspace</td></tr></tbody></table><p><strong>Esempi inclusi</strong>: le pipeline della sezione «Esempi» di questa guida, come <a href="./pipelines/orders-enriched-daily"><code>orders-enriched-daily</code></a> (join a chiave, fan-out, try/catch) e <a href="./pipelines/crm-leads-sync"><code>crm-leads-sync</code></a> (copia fra due istanze Postgres).</p><h2 id="_4-come-funziona-architettura" tabindex="-1">4. Come funziona (architettura) <a class="header-anchor" href="#_4-come-funziona-architettura" aria-label="Permalink to "4. Come funziona (architettura)""></a></h2><p>Ogni pipeline è un <strong>grafo</strong> di nodi (DAG), costruito in codice col DSL <code>graph()…build()</code>:</p>',15)),s(i,{code:"flowchart%20LR%0A%20%20ordini%5B%22source%3Cbr%2F%3Eordini%22%5D%20--%3E%20valida%5B%22transform%3Cbr%2F%3Evalidate%20(contratto)%22%5D%0A%20%20clienti%5B%22source%3Cbr%2F%3Eclienti%22%5D%20--%3E%20join%5B%22join%3Cbr%2F%3E(a%20chiave)%22%5D%0A%20%20valida%20-.record%20invalido.-%3E%20scarti%5B%22dead-letter%22%5D%0A%20%20valida%20--%3E%20join%0A%20%20join%20--%3E%20lookup%5B%22lookup%3Cbr%2F%3E(lettura%20DB%20o%20API)%22%5D%0A%20%20lookup%20--%3E%20guard%5B%22try-catch%22%5D%0A%20%20guard%20--%3E%20dwh%5B%22sink%3Cbr%2F%3EDWH%22%5D%0A%20%20guard%20--%3E%20file%5B%22sink%3Cbr%2F%3Efile%22%5D%0A%20%20guard%20-.catch.-%3E%20errori%5B%22ramo%20errori%22%5D%0A"}),e[1]||(e[1]=o(`<ul><li><strong>Core</strong> (<code>src/core</code>) — primitive + runner; <strong>non contiene logica di dominio</strong>.</li><li><strong>Dependency Injection</strong> — la <em>definizione</em> della pipeline è agnostica: sorgente e sink concreti si iniettano all'avvio. Per questo lo stesso codice gira su DB diversi e si testa con connettori in-memory.</li><li><strong>Streaming pull-based</strong> — i record scorrono dai source ai sink senza essere caricati tutti in memoria; è il ritmo di scrittura a regolare quello di lettura.</li><li><strong>Tre percorsi per un record che fallisce</strong>: <em>dead-letter</em> sul nodo (il record va altrove, la run prosegue), ramo <em>catch</em> di un nodo <code>try-catch</code> (gli errori di un intero tratto del grafo finiscono su nodi di gestione dedicati), <em>fail-fast</em> (la run si ferma — obbligatorio per le aggregazioni stateful).</li><li><strong>Osservabilità</strong> — logger JSON strutturato + metriche; ogni run produce un <code>GraphRunReport</code> con i conteggi di ogni nodo.</li></ul><p>Stack: TypeScript ESM strict, Node ≥ 26, <code>pnpm</code>, <code>tsup</code>, <code>vitest</code>, ESLint/Prettier, Zod. Dipendenze runtime: i driver dei database (<code>pg</code>, <code>mssql</code>), le librerie per storage e formati dei file (AWS SDK, SFTP, FTP, CSV, XLSX, XML, Parquet), <code>express</code> per il server locale di <code>etl serve</code>. Nessuna dipendenza Supabase: il claim/report sulla tabella <code>processes</code> passa da <code>noeva-server-api</code> via HTTP (<code>fetch</code> nativo).</p><h2 id="_5-come-si-usa-e-si-distribuisce" tabindex="-1">5. Come si usa e si distribuisce <a class="header-anchor" href="#_5-come-si-usa-e-si-distribuisce" aria-label="Permalink to "5. Come si usa e si distribuisce""></a></h2><div class="language-bash vp-adaptive-theme"><button title="Copy Code" class="copy"></button><span class="lang">bash</span><pre class="shiki shiki-themes github-light github-dark vp-code" tabindex="0"><code><span class="line"><span style="--shiki-light:#6A737D;--shiki-dark:#6A737D;"># in un repo cliente, in sviluppo</span></span>
|
|
2
2
|
<span class="line"><span style="--shiki-light:#6F42C1;--shiki-dark:#B392F0;">pnpm</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> etl</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> list</span></span>
|
|
3
3
|
<span class="line"><span style="--shiki-light:#6F42C1;--shiki-dark:#B392F0;">pnpm</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> etl</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;"> run</span><span style="--shiki-light:#D73A49;--shiki-dark:#F97583;"> <</span><span style="--shiki-light:#032F62;--shiki-dark:#9ECBFF;">pipelin</span><span style="--shiki-light:#24292E;--shiki-dark:#E1E4E8;">e</span><span style="--shiki-light:#D73A49;--shiki-dark:#F97583;">></span></span>
|
|
4
4
|
<span class="line"></span>
|
|
@@ -1 +1 @@
|
|
|
1
|
-
import{t as p}from"./chunks/theme.
|
|
1
|
+
import{t as p}from"./chunks/theme.D9XEK7o0.js";import{R as s,a8 as i,a9 as u,aa as c,ab as l,ac as f,ad as d,ae as m,af as h,ag as g,ah as A,d as v,u as y,v as C,s as P,ai as b,aj as w,ak as R,a7 as E}from"./chunks/framework.qdetmeNX.js";function r(e){if(e.extends){const a=r(e.extends);return{...a,...e,async enhanceApp(t){a.enhanceApp&&await a.enhanceApp(t),e.enhanceApp&&await e.enhanceApp(t)}}}return e}const n=r(p),S=v({name:"VitePressApp",setup(){const{site:e,lang:a,dir:t}=y();return C(()=>{P(()=>{document.documentElement.lang=a.value,document.documentElement.dir=t.value})}),e.value.router.prefetchLinks&&b(),w(),R(),n.setup&&n.setup(),()=>E(n.Layout)}});async function T(){globalThis.__VITEPRESS__=!0;const e=D(),a=j();a.provide(u,e);const t=c(e.route);return a.provide(l,t),a.component("Content",f),a.component("ClientOnly",d),Object.defineProperties(a.config.globalProperties,{$frontmatter:{get(){return t.frontmatter.value}},$params:{get(){return t.page.value.params}}}),n.enhanceApp&&await n.enhanceApp({app:a,router:e,siteData:m}),{app:a,router:e,data:t}}function j(){return A(S)}function D(){let e=s;return h(a=>{let t=g(a),o=null;return t&&(e&&(t=t.replace(/\.js$/,".lean.js")),o=import(t)),s&&(e=!1),o},n.NotFound)}s&&T().then(({app:e,router:a,data:t})=>{a.go().then(()=>{i(a.route,t.site),e.mount("#app")})});export{T as createApp};
|