@goodandready/dsh-image-gen 0.10.16 → 0.10.18

package/README.md

@@ -31,6 +31,21 @@
 
 ---
 
+## 🚀 Updates v0.10.18: Speed Acceleration & Quality Hardening (#222)
+* **Parallel Batch & Pack Generation**: Multi-variation requests (`count > 1`, `prompts` array) and `generate_image_pack` multi-ratio workflows now execute concurrently with a concurrency limit (`concurrency: 3`) via `asyncPool`, reducing generation wait times by up to **3x**.
+* **Zero-Delay Initial Polling**: Eliminated artificial initial delay in `pollStatus` and queue runners (Fal.ai, ComfyUI), inspecting generation status immediately on first attempt and shaving 1–1.5s off fast generative workflows.
+* **Sub-Millisecond L1 In-Memory Cache**: Built-in 32-entry in-memory LRU cache atop disk cache L2 provides instantaneous (< 0.1 ms) cache hits without synchronous disk I/O.
+* **Fast-Fail Quota Detection**: Added classification for HTTP 402 (Payment Required) and exhausted account quota/credits in `isFatalClientError`, enabling immediate, clean fallback transitions without fruitless retry loops.
+* **Expanded Test Suite**: Added `test/batch5-speed-quality.test.mjs`, bringing total test coverage to **136 automated unit tests (100% pass)**.
+
+## 🚀 Updates v0.10.17: Modular Tool Lifecycle (#216, #217)
+* **Tool modules extracted from `apply()`**: host lifecycle in `lib/index.js` is now a thin cordis entry (~650 lines). Tool definitions live in `lib/tools/{generation,processing,editing,inspect,frontend}.js` behind `lib/register-tools.js`.
+* **Per-tool labeled `ctx.effect`**: each of the 15 tools registers in its own effect (`dsh-image-gen: tool <name>`) for clean unload/reload disposal.
+* **Project meta**: `AGENTS.md` and `index.md` document architecture, constraints, and the test matrix (internal workflow files — not shipped in the npm package).
+* **Design contract**: `docs/design/DESIGN.md` no longer advertises the removed HistoryGallery UI (#203).
+* **Regression lock**: `test/lifecycle-structure.test.mjs` asserts modular layout, labeled effects, and meta files. Suite: **132 unit tests**.
+
+
 ## ⚡ Overview
 
 **`@goodandready/dsh-image-gen`** is a premier graphic generation and visual processing suite for DeepSeek Harness. It equips autonomous agents with an extensible set of tools for image generation, transformation, background removal, upscaling, vectorization, multi-reference blending, and quality inspection across 8 generative backends.

package/README.ru.md

@@ -24,6 +24,21 @@
 </div>
 
 ---
+## 🚀 Обновления v0.10.18: Ускорение генерации и отказоустойчивость (#222)
+* **Параллельная генерация вариаций и паков**: Запросы с `count > 1`, пакетные промпты `prompts` и инструмент `generate_image_pack` теперь выполняются параллельно с пулом задач (`concurrency: 3`), сокращая время ожидания пользователя до **3 раз**.
+* **Мгновенный первый опрос очереди (Zero-Delay Initial Poll)**: Устранена искусственная задержка перед первым запросом статуса в `pollStatus` (Fal.ai, ComfyUI), экономя 1–1.5 с на быстрых генерациях.
+* **Субмиллисекундный L1-кэш в памяти**: 32-позиционный оперативный LRU-кэш поверх дискового L2 обеспечивает мгновенную отдачу кэшированных генераций (< 0.1 мс) без синхронного чтения с диска.
+* **Fast-Fail при исчерпании квоты**: Добавлено распознавание HTTP 402 (Payment Required) и ошибок баланса/кредитов в `isFatalClientError` для чистого и мгновенного переключения на запасного провайдера.
+* **Расширение тестов**: Добавлен набор `test/batch5-speed-quality.test.mjs`, общее покрытие выросло до **136 юнит-тестов (100% pass)**.
+
+## 🚀 Обновления v0.10.17: модульный жизненный цикл тулов (#216, #217)
+* **Тулы вынесены из `apply()`**: host `lib/index.js` — тонкая cordis-точка входа. Определения тулов — в `lib/tools/*` через `lib/register-tools.js`.
+* **Свой labeled `ctx.effect` на каждый tool** (`dsh-image-gen: tool <name>`) для корректной выгрузки.
+* **Meta-файлы проекта**: `AGENTS.md` и `index.md` (не попадают в npm-пакет).
+* **DESIGN.md** больше не упоминает удалённую HistoryGallery (#203).
+* **Тесты**: `lifecycle-structure` + полный suite — **132 unit tests**.
+
+
 
 ## ⚡ Обзор возможностей
 

package/lib/generation-cache.js

@@ -7,6 +7,27 @@ import { existsSync, mkdirSync, readFileSync, writeFileSync, statSync, unlinkSyn
 
 const DEFAULT_CACHE_MAX_BYTES = 500 * 1024 * 1024 // 500 MB
 
+// In-Memory L1 LRU cache (up to 32 entries) for sub-millisecond retrieval
+const L1_CACHE = new Map()
+const L1_MAX_ENTRIES = 32
+
+function getFromL1(hash) {
+  if (!L1_CACHE.has(hash)) return null
+  const entry = L1_CACHE.get(hash)
+  L1_CACHE.delete(hash)
+  L1_CACHE.set(hash, entry) // refresh LRU order
+  return entry
+}
+
+function setToL1(hash, entry) {
+  if (L1_CACHE.has(hash)) L1_CACHE.delete(hash)
+  else if (L1_CACHE.size >= L1_MAX_ENTRIES) {
+    const oldestKey = L1_CACHE.keys().next().value
+    if (oldestKey) L1_CACHE.delete(oldestKey)
+  }
+  L1_CACHE.set(hash, entry)
+}
+
 function getCacheDir() {
   const base = process.env.DSH_HOME || join(homedir(), '.dsh')
   return join(base, 'cache', 'image-gen')
@@ -23,6 +44,9 @@ function getCacheDir() {
 export function getCachedGeneration(hash, { force = false } = {}) {
   if (force || !hash) return null
 
+  const l1Hit = getFromL1(hash)
+  if (l1Hit) return l1Hit
+
   const dir = getCacheDir()
   const metaPath = join(dir, `${hash}.json`)
   const dataPath = join(dir, `${hash}.bin`)
@@ -41,7 +65,7 @@ export function getCachedGeneration(hash, { force = false } = {}) {
       // Non-fatal touch failure: still return valid cache entry
     }
 
-    return {
+    const cachedEntry = {
       bytes,
       mediaType: meta.mediaType || 'image/png',
       width: meta.width,
@@ -49,6 +73,8 @@ export function getCachedGeneration(hash, { force = false } = {}) {
       seed: meta.seed,
       meta,
     }
+    setToL1(hash, cachedEntry)
+    return cachedEntry
   } catch {
     return null
   }
@@ -79,7 +105,17 @@ export function setCachedGeneration(hash, { bytes, mediaType = 'image/png', widt
     }
 
     writeFileSync(metaPath, JSON.stringify(cacheMeta, null, 2), 'utf8')
-    writeFileSync(dataPath, Buffer.isBuffer(bytes) ? bytes : Buffer.from(bytes))
+    const binBuf = Buffer.isBuffer(bytes) ? bytes : Buffer.from(bytes)
+    writeFileSync(dataPath, binBuf)
+
+    setToL1(hash, {
+      bytes: binBuf,
+      mediaType,
+      width,
+      height,
+      seed,
+      meta: cacheMeta,
+    })
 
     pruneCacheToLimit(maxBytes)
   } catch {