@runnerpro/backend 1.22.2 → 1.22.4

package/lib/cjs/prompt/ai.js

@@ -260,6 +260,64 @@ function generateObject(options) {
     });
 }
 exports.generateObject = generateObject;
+// Tope por cadena al derivar la firma de unos `messages`. Existe por las llamadas multimodales
+// (analizar-foto manda una imagen en base64 de hasta 10 MB): sin él, cada foto metería megas en la
+// clave y en la columna INPUT PROMPT. Dos payloads enormes que compartan los primeros 4000
+// caracteres caerían en la misma fila, pero el ON CONFLICT acumula, así que el coste total sigue
+// siendo correcto: solo se pierde granularidad.
+const TEXT_SIG_MAX_CHARS = 4000;
+/**
+ * Deriva el texto que identifica una llamada de `generateText`.
+ *
+ * El SDK admite `prompt` (string) o `messages` (array). Sin cubrir el segundo caso, todas las
+ * llamadas con `messages` compartirían system+prompt indefinidos y colapsarían en UNA sola fila.
+ */
+function textPromptSignature(options) {
+    if (typeof (options === null || options === void 0 ? void 0 : options.prompt) === 'string')
+        return options.prompt;
+    if (!Array.isArray(options === null || options === void 0 ? void 0 : options.messages))
+        return undefined;
+    try {
+        return JSON.stringify(options.messages, (_k, v) => typeof v === 'string' && v.length > TEXT_SIG_MAX_CHARS ? `${v.slice(0, TEXT_SIG_MAX_CHARS)}…(${v.length})` : v);
+    }
+    catch (_a) {
+        return undefined;
+    }
+}
+/**
+ * Registra en "LLM CACHE" el coste de una llamada de `generateText`.
+ *
+ * REGISTRO, NO CACHÉ: no hay `lookup` previo y nunca se reutiliza el texto guardado. Cachear
+ * `generateText` daría a dos clientes con el mismo contexto la misma respuesta literal, que en el
+ * chat del entrenador es inaceptable. La fila existe solo para saber qué modelo respondió y cuánto
+ * costó; usa TEXT_CALL_SIG para no compartir espacio de claves con `generateObject`.
+ *
+ * Se anota el coste YA saneado, que incluye el retry anti-CoT y el sanitizer LITE si llegaron a
+ * correr. Ojo con la atribución: el gasto es el total real de la llamada lógica, pero la columna
+ * MODEL guarda el modelo principal, así que si intervino el sanitizer parte de ese coste es de LITE.
+ *
+ * Opt-out con `options.log === false`. Fire-and-forget: nunca bloquea ni rompe la llamada.
+ */
+function logTextCost(options, modelName, result) {
+    if ((options === null || options === void 0 ? void 0 : options.log) === false)
+        return;
+    try {
+        const prompt = textPromptSignature(options);
+        const key = (0, llmCacheStore_1.llmCacheKey)({ system: options === null || options === void 0 ? void 0 : options.system, prompt, schemaSig: llmCacheStore_1.TEXT_CALL_SIG, temperature: options === null || options === void 0 ? void 0 : options.temperature });
+        (0, llmCacheStore_1.store)(key, {
+            modelName,
+            system: options === null || options === void 0 ? void 0 : options.system,
+            prompt,
+            schemaSig: llmCacheStore_1.TEXT_CALL_SIG,
+            temperature: options === null || options === void 0 ? void 0 : options.temperature,
+            output: result.text,
+            cost: result.cost,
+        });
+    }
+    catch (_a) {
+        // best-effort: registrar el coste jamás debe tumbar una generación válida
+    }
+}
 /**
  * Wrapper de generateText con retry automático, cadena de fallbacks y saneamiento
  * de chain-of-thought.
@@ -304,6 +362,7 @@ function generateText(options) {
                 const tracker = costTrackingStorage.getStore();
                 if (tracker)
                     tracker.push(cleanResult.cost);
+                logTextCost(currentOptions, modelName, cleanResult);
                 return cleanResult;
             }
             catch (error) {

package/lib/cjs/prompt/llmCacheStore.js

@@ -9,7 +9,7 @@ var __awaiter = (this && this.__awaiter) || function (thisArg, _arguments, P, ge
     });
 };
 Object.defineProperty(exports, "__esModule", { value: true });
-exports.store = exports.lookup = exports.llmCacheKey = exports.schemaSignature = void 0;
+exports.TEXT_CALL_SIG = exports.store = exports.lookup = exports.llmCacheKey = exports.schemaSignature = void 0;
 /**
  * Caché LLM (cache-aside) para `generateObject`.
  *
@@ -39,6 +39,13 @@ function ensureReady() {
         return _ready;
     });
 }
+/**
+ * Firma reservada para las llamadas de `generateText`, que se registran por su coste pero NUNCA
+ * se cachean. Al ocupar su propio espacio de claves, una fila de texto no puede ser devuelta por
+ * el `lookup` de `generateObject` aunque coincidan system, prompt y temperatura.
+ */
+const TEXT_CALL_SIG = '__text__';
+exports.TEXT_CALL_SIG = TEXT_CALL_SIG;
 /** Firma ligera del schema (zod) para distinguir llamadas con el mismo prompt pero distinta forma. */
 function schemaSignature(schema) {
     var _a, _b;
@@ -73,13 +80,19 @@ function llmCacheKey(opts) {
     return (0, node_crypto_1.createHash)('sha256').update(payload).digest('hex');
 }
 exports.llmCacheKey = llmCacheKey;
-/** HIT: incrementa USE COUNT + LAST USED y devuelve OUTPUT (atómico). null en MISS o ante error. */
+/**
+ * HIT: incrementa USE COUNT + LAST USED y devuelve OUTPUT (atómico). null en MISS o ante error.
+ *
+ * El filtro `"OUTPUT" IS NOT NULL` excluye las filas podadas (la poda vacía los textos pero
+ * conserva la fila por su coste). Sin él, una fila podada contaría como uso e inflaría USE COUNT,
+ * blindándola contra futuras podas pese a no servir ya de caché.
+ */
 function lookup(key) {
     return __awaiter(this, void 0, void 0, function* () {
         if (!(yield ensureReady()))
             return null;
         try {
-            const rows = yield (0, db_1.query)('UPDATE "LLM CACHE" SET "USE COUNT" = "USE COUNT" + 1, "LAST USED AT" = now() WHERE "KEY" = ? RETURNING "OUTPUT"', [key]);
+            const rows = yield (0, db_1.query)('UPDATE "LLM CACHE" SET "USE COUNT" = "USE COUNT" + 1, "LAST USED AT" = now() WHERE "KEY" = ? AND "OUTPUT" IS NOT NULL RETURNING "OUTPUT"', [key]);
             return rows && rows[0] ? rows[0].output : null;
         }
         catch (_a) {
@@ -89,11 +102,13 @@ function lookup(key) {
 }
 exports.lookup = lookup;
 /**
- * MISS: inserta (ON CONFLICT cubre la carrera). Fire-and-forget, nunca lanza.
+ * MISS: inserta (ON CONFLICT cubre la carrera y la regeneración de una fila podada).
+ * Fire-and-forget, nunca lanza.
  *
- * Los tokens y el coste desglosado corresponden a la generación que creó la entrada; un HIT
- * posterior no cuesta nada, así que el ON CONFLICT solo toca USE COUNT/LAST USED y NUNCA
- * sobrescribe el coste original.
+ * Solo se llama tras una generación REAL (un HIT no cuesta nada y no pasa por aquí), así que el
+ * ON CONFLICT ACUMULA tokens y coste en vez de descartarlos: si el mismo prompt se regenera —por
+ * una carrera, o porque la poda vació sus textos— ese gasto es real y debe sumarse. Restaura
+ * además los textos, devolviendo a la fila podada su capacidad de servir como caché.
  */
 function store(key, data) {
     void ensureReady()
@@ -101,7 +116,19 @@ function store(key, data) {
         var _a, _b, _c, _d, _e, _f;
         if (!ok)
             return undefined;
-        return (0, db_1.query)('INSERT INTO "LLM CACHE" ("KEY","MODEL","SYSTEM PROMPT","INPUT PROMPT","SCHEMA SIG","TEMPERATURE","OUTPUT","INPUT TOKENS","OUTPUT TOKENS","INPUT COST","OUTPUT COST") VALUES (?,?,?,?,?,?,?::jsonb,?,?,?,?) ON CONFLICT ("KEY") DO UPDATE SET "USE COUNT" = "LLM CACHE"."USE COUNT" + 1, "LAST USED AT" = now()', [
+        return (0, db_1.query)(`INSERT INTO "LLM CACHE" ("KEY","MODEL","SYSTEM PROMPT","INPUT PROMPT","SCHEMA SIG","TEMPERATURE","OUTPUT","INPUT TOKENS","OUTPUT TOKENS","INPUT COST","OUTPUT COST")
+         VALUES (?,?,?,?,?,?,?::jsonb,?,?,?,?)
+         ON CONFLICT ("KEY") DO UPDATE SET
+           "USE COUNT" = "LLM CACHE"."USE COUNT" + 1,
+           "LAST USED AT" = now(),
+           "MODEL" = EXCLUDED."MODEL",
+           "SYSTEM PROMPT" = EXCLUDED."SYSTEM PROMPT",
+           "INPUT PROMPT" = EXCLUDED."INPUT PROMPT",
+           "OUTPUT" = EXCLUDED."OUTPUT",
+           "INPUT TOKENS" = "LLM CACHE"."INPUT TOKENS" + EXCLUDED."INPUT TOKENS",
+           "OUTPUT TOKENS" = "LLM CACHE"."OUTPUT TOKENS" + EXCLUDED."OUTPUT TOKENS",
+           "INPUT COST" = "LLM CACHE"."INPUT COST" + EXCLUDED."INPUT COST",
+           "OUTPUT COST" = "LLM CACHE"."OUTPUT COST" + EXCLUDED."OUTPUT COST"`, [
             key,
             data.modelName || null,
             data.system || null,

package/lib/cjs/types/prompt/ai.d.ts.map

@@ -1 +1 @@
-{"version":3,"file":"ai.d.ts","sourceRoot":"","sources":["../../../../src/prompt/ai.ts"],"names":[],"mappings":"AAAA,OAAO,EAAE,cAAc,IAAI,sBAAsB,EAAE,YAAY,IAAI,oBAAoB,EAAE,MAAM,IAAI,CAAC;AAEpG,OAAO,EAAiB,KAAK,UAAU,EAAE,MAAM,gBAAgB,CAAC;AAwKhE;;;;;;;;;;;;;;;;;;;;;GAqBG;AACH,iBAAe,cAAc,CAAC,OAAO,EAAE,UAAU,CAAC,OAAO,sBAAsB,CAAC,CAAC,CAAC,CAAC,GAAG,OAAO,CAAC;IAAE,MAAM,EAAE,GAAG,CAAC;IAAC,IAAI,EAAE,UAAU,CAAA;CAAE,CAAC,CAoD/H;AAED;;;;;;;;;;;;;;;;;;;;;;;;;GAyBG;AACH,iBAAe,YAAY,CAAC,OAAO,EAAE,UAAU,CAAC,OAAO,oBAAoB,CAAC,CAAC,CAAC,CAAC,GAAG,OAAO,CAAC;IAAE,IAAI,EAAE,MAAM,CAAC;IAAC,IAAI,EAAE,UAAU,CAAA;CAAE,CAAC,CA0C5H;AA+ED;;;;;;;;;;;;;;;;;GAiBG;AACH,iBAAe,mBAAmB,CAAC,CAAC,EAAE,EAAE,EAAE,MAAM,OAAO,CAAC,CAAC,CAAC,GAAG,OAAO,CAAC;IAAE,MAAM,EAAE,CAAC,CAAC;IAAC,SAAS,EAAE,UAAU,CAAC;IAAC,SAAS,EAAE,MAAM,CAAA;CAAE,CAAC,CAgB5H;AAED,OAAO,EAAE,cAAc,EAAE,YAAY,EAAE,mBAAmB,EAAE,CAAC"}
+{"version":3,"file":"ai.d.ts","sourceRoot":"","sources":["../../../../src/prompt/ai.ts"],"names":[],"mappings":"AAAA,OAAO,EAAE,cAAc,IAAI,sBAAsB,EAAE,YAAY,IAAI,oBAAoB,EAAE,MAAM,IAAI,CAAC;AAEpG,OAAO,EAAiB,KAAK,UAAU,EAAE,MAAM,gBAAgB,CAAC;AAwKhE;;;;;;;;;;;;;;;;;;;;;GAqBG;AACH,iBAAe,cAAc,CAAC,OAAO,EAAE,UAAU,CAAC,OAAO,sBAAsB,CAAC,CAAC,CAAC,CAAC,GAAG,OAAO,CAAC;IAAE,MAAM,EAAE,GAAG,CAAC;IAAC,IAAI,EAAE,UAAU,CAAA;CAAE,CAAC,CAoD/H;AA4DD;;;;;;;;;;;;;;;;;;;;;;;;;GAyBG;AACH,iBAAe,YAAY,CAAC,OAAO,EAAE,UAAU,CAAC,OAAO,oBAAoB,CAAC,CAAC,CAAC,CAAC,GAAG,OAAO,CAAC;IAAE,IAAI,EAAE,MAAM,CAAC;IAAC,IAAI,EAAE,UAAU,CAAA;CAAE,CAAC,CA4C5H;AA+ED;;;;;;;;;;;;;;;;;GAiBG;AACH,iBAAe,mBAAmB,CAAC,CAAC,EAAE,EAAE,EAAE,MAAM,OAAO,CAAC,CAAC,CAAC,GAAG,OAAO,CAAC;IAAE,MAAM,EAAE,CAAC,CAAC;IAAC,SAAS,EAAE,UAAU,CAAC;IAAC,SAAS,EAAE,MAAM,CAAA;CAAE,CAAC,CAgB5H;AAED,OAAO,EAAE,cAAc,EAAE,YAAY,EAAE,mBAAmB,EAAE,CAAC"}

package/lib/cjs/types/prompt/llmCacheStore.d.ts

@@ -1,4 +1,10 @@
 import type { CostResult } from './modelPricing';
+/**
+ * Firma reservada para las llamadas de `generateText`, que se registran por su coste pero NUNCA
+ * se cachean. Al ocupar su propio espacio de claves, una fila de texto no puede ser devuelta por
+ * el `lookup` de `generateObject` aunque coincidan system, prompt y temperatura.
+ */
+declare const TEXT_CALL_SIG = "__text__";
 /** Firma ligera del schema (zod) para distinguir llamadas con el mismo prompt pero distinta forma. */
 declare function schemaSignature(schema: any): string;
 /**
@@ -12,14 +18,22 @@ declare function llmCacheKey(opts: {
     schemaSig?: string | null;
     temperature?: number | null;
 }): string;
-/** HIT: incrementa USE COUNT + LAST USED y devuelve OUTPUT (atómico). null en MISS o ante error. */
+/**
+ * HIT: incrementa USE COUNT + LAST USED y devuelve OUTPUT (atómico). null en MISS o ante error.
+ *
+ * El filtro `"OUTPUT" IS NOT NULL` excluye las filas podadas (la poda vacía los textos pero
+ * conserva la fila por su coste). Sin él, una fila podada contaría como uso e inflaría USE COUNT,
+ * blindándola contra futuras podas pese a no servir ya de caché.
+ */
 declare function lookup(key: string): Promise<any | null>;
 /**
- * MISS: inserta (ON CONFLICT cubre la carrera). Fire-and-forget, nunca lanza.
+ * MISS: inserta (ON CONFLICT cubre la carrera y la regeneración de una fila podada).
+ * Fire-and-forget, nunca lanza.
  *
- * Los tokens y el coste desglosado corresponden a la generación que creó la entrada; un HIT
- * posterior no cuesta nada, así que el ON CONFLICT solo toca USE COUNT/LAST USED y NUNCA
- * sobrescribe el coste original.
+ * Solo se llama tras una generación REAL (un HIT no cuesta nada y no pasa por aquí), así que el
+ * ON CONFLICT ACUMULA tokens y coste en vez de descartarlos: si el mismo prompt se regenera —por
+ * una carrera, o porque la poda vació sus textos— ese gasto es real y debe sumarse. Restaura
+ * además los textos, devolviendo a la fila podada su capacidad de servir como caché.
  */
 declare function store(key: string, data: {
     modelName?: string;
@@ -30,5 +44,5 @@ declare function store(key: string, data: {
     output: any;
     cost?: CostResult;
 }): void;
-export { schemaSignature, llmCacheKey, lookup, store };
+export { schemaSignature, llmCacheKey, lookup, store, TEXT_CALL_SIG };
 //# sourceMappingURL=llmCacheStore.d.ts.map

package/lib/cjs/types/prompt/llmCacheStore.d.ts.map

@@ -1 +1 @@
-{"version":3,"file":"llmCacheStore.d.ts","sourceRoot":"","sources":["../../../../src/prompt/llmCacheStore.ts"],"names":[],"mappings":"AAcA,OAAO,KAAK,EAAE,UAAU,EAAE,MAAM,gBAAgB,CAAC;AAejD,sGAAsG;AACtG,iBAAS,eAAe,CAAC,MAAM,EAAE,GAAG,GAAG,MAAM,CAW5C;AAED;;;;GAIG;AACH,iBAAS,WAAW,CAAC,IAAI,EAAE;IAAE,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,SAAS,CAAC,EAAE,MAAM,GAAG,IAAI,CAAC;IAAC,WAAW,CAAC,EAAE,MAAM,GAAG,IAAI,CAAA;CAAE,GAAG,MAAM,CAQ/H;AAED,oGAAoG;AACpG,iBAAe,MAAM,CAAC,GAAG,EAAE,MAAM,GAAG,OAAO,CAAC,GAAG,GAAG,IAAI,CAAC,CAQtD;AAED;;;;;;GAMG;AACH,iBAAS,KAAK,CAAC,GAAG,EAAE,MAAM,EAAE,IAAI,EAAE;IAAE,SAAS,CAAC,EAAE,MAAM,CAAC;IAAC,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,SAAS,CAAC,EAAE,MAAM,GAAG,IAAI,CAAC;IAAC,WAAW,CAAC,EAAE,MAAM,GAAG,IAAI,CAAC;IAAC,MAAM,EAAE,GAAG,CAAC;IAAC,IAAI,CAAC,EAAE,UAAU,CAAA;CAAE,GAAG,IAAI,CAsBxL;AAED,OAAO,EAAE,eAAe,EAAE,WAAW,EAAE,MAAM,EAAE,KAAK,EAAE,CAAC"}
+{"version":3,"file":"llmCacheStore.d.ts","sourceRoot":"","sources":["../../../../src/prompt/llmCacheStore.ts"],"names":[],"mappings":"AAcA,OAAO,KAAK,EAAE,UAAU,EAAE,MAAM,gBAAgB,CAAC;AAejD;;;;GAIG;AACH,QAAA,MAAM,aAAa,aAAa,CAAC;AAEjC,sGAAsG;AACtG,iBAAS,eAAe,CAAC,MAAM,EAAE,GAAG,GAAG,MAAM,CAW5C;AAED;;;;GAIG;AACH,iBAAS,WAAW,CAAC,IAAI,EAAE;IAAE,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,SAAS,CAAC,EAAE,MAAM,GAAG,IAAI,CAAC;IAAC,WAAW,CAAC,EAAE,MAAM,GAAG,IAAI,CAAA;CAAE,GAAG,MAAM,CAQ/H;AAED;;;;;;GAMG;AACH,iBAAe,MAAM,CAAC,GAAG,EAAE,MAAM,GAAG,OAAO,CAAC,GAAG,GAAG,IAAI,CAAC,CAWtD;AAED;;;;;;;;GAQG;AACH,iBAAS,KAAK,CAAC,GAAG,EAAE,MAAM,EAAE,IAAI,EAAE;IAAE,SAAS,CAAC,EAAE,MAAM,CAAC;IAAC,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,MAAM,CAAC,EAAE,MAAM,CAAC;IAAC,SAAS,CAAC,EAAE,MAAM,GAAG,IAAI,CAAC;IAAC,WAAW,CAAC,EAAE,MAAM,GAAG,IAAI,CAAC;IAAC,MAAM,EAAE,GAAG,CAAC;IAAC,IAAI,CAAC,EAAE,UAAU,CAAA;CAAE,GAAG,IAAI,CAkCxL;AAED,OAAO,EAAE,eAAe,EAAE,WAAW,EAAE,MAAM,EAAE,KAAK,EAAE,aAAa,EAAE,CAAC"}

package/package.json

@@ -1,6 +1,6 @@
 {
   "name": "@runnerpro/backend",
-  "version": "1.22.2",
+  "version": "1.22.4",
   "description": "A collection of common backend functions",
   "exports": {
     ".": "./lib/cjs/index.js"