@runnerpro/backend 1.22.2 → 1.22.3

package/lib/cjs/prompt/llmCacheStore.js

@@ -73,13 +73,19 @@ function llmCacheKey(opts) {
     return (0, node_crypto_1.createHash)('sha256').update(payload).digest('hex');
 }
 exports.llmCacheKey = llmCacheKey;
-/** HIT: incrementa USE COUNT + LAST USED y devuelve OUTPUT (atómico). null en MISS o ante error. */
+/**
+ * HIT: incrementa USE COUNT + LAST USED y devuelve OUTPUT (atómico). null en MISS o ante error.
+ *
+ * El filtro `"OUTPUT" IS NOT NULL` excluye las filas podadas (la poda vacía los textos pero
+ * conserva la fila por su coste). Sin él, una fila podada contaría como uso e inflaría USE COUNT,
+ * blindándola contra futuras podas pese a no servir ya de caché.
+ */
 function lookup(key) {
     return __awaiter(this, void 0, void 0, function* () {
         if (!(yield ensureReady()))
             return null;
         try {
-            const rows = yield (0, db_1.query)('UPDATE "LLM CACHE" SET "USE COUNT" = "USE COUNT" + 1, "LAST USED AT" = now() WHERE "KEY" = ? RETURNING "OUTPUT"', [key]);
+            const rows = yield (0, db_1.query)('UPDATE "LLM CACHE" SET "USE COUNT" = "USE COUNT" + 1, "LAST USED AT" = now() WHERE "KEY" = ? AND "OUTPUT" IS NOT NULL RETURNING "OUTPUT"', [key]);
             return rows && rows[0] ? rows[0].output : null;
         }
         catch (_a) {
@@ -89,11 +95,13 @@ function lookup(key) {
 }
 exports.lookup = lookup;
 /**
- * MISS: inserta (ON CONFLICT cubre la carrera). Fire-and-forget, nunca lanza.
+ * MISS: inserta (ON CONFLICT cubre la carrera y la regeneración de una fila podada).
+ * Fire-and-forget, nunca lanza.
  *
- * Los tokens y el coste desglosado corresponden a la generación que creó la entrada; un HIT
- * posterior no cuesta nada, así que el ON CONFLICT solo toca USE COUNT/LAST USED y NUNCA
- * sobrescribe el coste original.
+ * Solo se llama tras una generación REAL (un HIT no cuesta nada y no pasa por aquí), así que el
+ * ON CONFLICT ACUMULA tokens y coste en vez de descartarlos: si el mismo prompt se regenera —por
+ * una carrera, o porque la poda vació sus textos— ese gasto es real y debe sumarse. Restaura
+ * además los textos, devolviendo a la fila podada su capacidad de servir como caché.
  */
 function store(key, data) {
     void ensureReady()
@@ -101,7 +109,19 @@ function store(key, data) {
         var _a, _b, _c, _d, _e, _f;
         if (!ok)
             return undefined;
-        return (0, db_1.query)('INSERT INTO "LLM CACHE" ("KEY","MODEL","SYSTEM PROMPT","INPUT PROMPT","SCHEMA SIG","TEMPERATURE","OUTPUT","INPUT TOKENS","OUTPUT TOKENS","INPUT COST","OUTPUT COST") VALUES (?,?,?,?,?,?,?::jsonb,?,?,?,?) ON CONFLICT ("KEY") DO UPDATE SET "USE COUNT" = "LLM CACHE"."USE COUNT" + 1, "LAST USED AT" = now()', [
+        return (0, db_1.query)(`INSERT INTO "LLM CACHE" ("KEY","MODEL","SYSTEM PROMPT","INPUT PROMPT","SCHEMA SIG","TEMPERATURE","OUTPUT","INPUT TOKENS","OUTPUT TOKENS","INPUT COST","OUTPUT COST")
+         VALUES (?,?,?,?,?,?,?::jsonb,?,?,?,?)
+         ON CONFLICT ("KEY") DO UPDATE SET
+           "USE COUNT" = "LLM CACHE"."USE COUNT" + 1,
+           "LAST USED AT" = now(),
+           "MODEL" = EXCLUDED."MODEL",
+           "SYSTEM PROMPT" = EXCLUDED."SYSTEM PROMPT",
+           "INPUT PROMPT" = EXCLUDED."INPUT PROMPT",
+           "OUTPUT" = EXCLUDED."OUTPUT",
+           "INPUT TOKENS" = "LLM CACHE"."INPUT TOKENS" + EXCLUDED."INPUT TOKENS",
+           "OUTPUT TOKENS" = "LLM CACHE"."OUTPUT TOKENS" + EXCLUDED."OUTPUT TOKENS",
+           "INPUT COST" = "LLM CACHE"."INPUT COST" + EXCLUDED."INPUT COST",
+           "OUTPUT COST" = "LLM CACHE"."OUTPUT COST" + EXCLUDED."OUTPUT COST"`, [
             key,
             data.modelName || null,
             data.system || null,

package/lib/cjs/types/prompt/llmCacheStore.d.ts

@@ -12,14 +12,22 @@ declare function llmCacheKey(opts: {
     schemaSig?: string | null;
     temperature?: number | null;
 }): string;
-/** HIT: incrementa USE COUNT + LAST USED y devuelve OUTPUT (atómico). null en MISS o ante error. */
+/**
+ * HIT: incrementa USE COUNT + LAST USED y devuelve OUTPUT (atómico). null en MISS o ante error.
+ *
+ * El filtro `"OUTPUT" IS NOT NULL` excluye las filas podadas (la poda vacía los textos pero
+ * conserva la fila por su coste). Sin él, una fila podada contaría como uso e inflaría USE COUNT,
+ * blindándola contra futuras podas pese a no servir ya de caché.
+ */
 declare function lookup(key: string): Promise<any | null>;
 /**
- * MISS: inserta (ON CONFLICT cubre la carrera). Fire-and-forget, nunca lanza.
+ * MISS: inserta (ON CONFLICT cubre la carrera y la regeneración de una fila podada).
+ * Fire-and-forget, nunca lanza.
  *
- * Los tokens y el coste desglosado corresponden a la generación que creó la entrada; un HIT
- * posterior no cuesta nada, así que el ON CONFLICT solo toca USE COUNT/LAST USED y NUNCA
- * sobrescribe el coste original.
+ * Solo se llama tras una generación REAL (un HIT no cuesta nada y no pasa por aquí), así que el
+ * ON CONFLICT ACUMULA tokens y coste en vez de descartarlos: si el mismo prompt se regenera —por
+ * una carrera, o porque la poda vació sus textos— ese gasto es real y debe sumarse. Restaura
+ * además los textos, devolviendo a la fila podada su capacidad de servir como caché.
  */
 declare function store(key: string, data: {
     modelName?: string;

package/lib/cjs/types/prompt/llmCacheStore.d.ts.map

@@ -1 +1 @@
-{"version":3,"file":"llmCacheStore.d.ts","sourceRoot":"","sources":["../../../../src/prompt/llmCacheStore.ts"],"names":[],"mappings":"AAcA,OAAO,KAAK,EAAE,UAAU,EAAE,MAAM,gBAAgB,CAAC;AAejD,sGAAsG;AACtG,iBAAS,eAAe,CAAC,MAAM,EAAE,GAAG,GAAG,MAAM,CAW5C;AAED;;;;GAIG;AACH,iBAAS,WAAW,CAAC,IAAI,EAAE;IAAE,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,SAAS,CAAC,EAAE,MAAM,GAAG,IAAI,CAAC;IAAC,WAAW,CAAC,EAAE,MAAM,GAAG,IAAI,CAAA;CAAE,GAAG,MAAM,CAQ/H;AAED,oGAAoG;AACpG,iBAAe,MAAM,CAAC,GAAG,EAAE,MAAM,GAAG,OAAO,CAAC,GAAG,GAAG,IAAI,CAAC,CAQtD;AAED;;;;;;GAMG;AACH,iBAAS,KAAK,CAAC,GAAG,EAAE,MAAM,EAAE,IAAI,EAAE;IAAE,SAAS,CAAC,EAAE,MAAM,CAAC;IAAC,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,SAAS,CAAC,EAAE,MAAM,GAAG,IAAI,CAAC;IAAC,WAAW,CAAC,EAAE,MAAM,GAAG,IAAI,CAAC;IAAC,MAAM,EAAE,GAAG,CAAC;IAAC,IAAI,CAAC,EAAE,UAAU,CAAA;CAAE,GAAG,IAAI,CAsBxL;AAED,OAAO,EAAE,eAAe,EAAE,WAAW,EAAE,MAAM,EAAE,KAAK,EAAE,CAAC"}
+{"version":3,"file":"llmCacheStore.d.ts","sourceRoot":"","sources":["../../../../src/prompt/llmCacheStore.ts"],"names":[],"mappings":"AAcA,OAAO,KAAK,EAAE,UAAU,EAAE,MAAM,gBAAgB,CAAC;AAejD,sGAAsG;AACtG,iBAAS,eAAe,CAAC,MAAM,EAAE,GAAG,GAAG,MAAM,CAW5C;AAED;;;;GAIG;AACH,iBAAS,WAAW,CAAC,IAAI,EAAE;IAAE,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,SAAS,CAAC,EAAE,MAAM,GAAG,IAAI,CAAC;IAAC,WAAW,CAAC,EAAE,MAAM,GAAG,IAAI,CAAA;CAAE,GAAG,MAAM,CAQ/H;AAED;;;;;;GAMG;AACH,iBAAe,MAAM,CAAC,GAAG,EAAE,MAAM,GAAG,OAAO,CAAC,GAAG,GAAG,IAAI,CAAC,CAWtD;AAED;;;;;;;;GAQG;AACH,iBAAS,KAAK,CAAC,GAAG,EAAE,MAAM,EAAE,IAAI,EAAE;IAAE,SAAS,CAAC,EAAE,MAAM,CAAC;IAAC,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,SAAS,CAAC,EAAE,MAAM,GAAG,IAAI,CAAC;IAAC,WAAW,CAAC,EAAE,MAAM,GAAG,IAAI,CAAC;IAAC,MAAM,EAAE,GAAG,CAAC;IAAC,IAAI,CAAC,EAAE,UAAU,CAAA;CAAE,GAAG,IAAI,CAkCxL;AAED,OAAO,EAAE,eAAe,EAAE,WAAW,EAAE,MAAM,EAAE,KAAK,EAAE,CAAC"}

package/package.json

@@ -1,6 +1,6 @@
 {
   "name": "@runnerpro/backend",
-  "version": "1.22.2",
+  "version": "1.22.3",
   "description": "A collection of common backend functions",
   "exports": {
     ".": "./lib/cjs/index.js"