@goodandready/dsh-tts 0.3.6 → 0.3.7

package/lib/cache.js

@@ -0,0 +1,83 @@
+// Кэш синтеза на диске: ключ — хеш (текст, провайдер, модель, голос),
+// значение — ответ провайдера как есть (байты + MIME). Вытеснение самых
+// давних по времени последнего обращения; ограничение задаётся настройкой
+// cacheMaxMb и может меняться на живую, поэтому приходит функцией.
+import { createHash } from 'node:crypto'
+import fs from 'node:fs'
+import path from 'node:path'
+
+export function cacheKey(parts) {
+  return createHash('sha1').update(JSON.stringify(parts)).digest('hex')
+}
+
+const AUDIO_EXT = '.audio'
+
+export function createSpeechCache({ root, maxBytes }) {
+  const dir = path.join(String(root), 'data', 'dsh-tts', 'cache')
+  let ready = null
+  const ensure = () => {
+    if (!ready) ready = fs.promises.mkdir(dir, { recursive: true })
+    return ready
+  }
+
+  async function listEntries() {
+    await ensure()
+    const out = []
+    for (const name of await fs.promises.readdir(dir)) {
+      if (!name.endsWith(AUDIO_EXT)) continue
+      const full = path.join(dir, name)
+      const st = await fs.promises.stat(full)
+      let at = st.mtimeMs
+      try {
+        const meta = JSON.parse(await fs.promises.readFile(path.join(dir, name.slice(0, -AUDIO_EXT.length) + '.json'), 'utf8'))
+        if (meta && typeof meta.at === 'number') at = meta.at
+      } catch (noMeta) { /* старьё без меты — вытесним первым */ }
+      out.push({ full, meta: name.slice(0, -AUDIO_EXT.length) + '.json', size: st.size, at })
+    }
+    return out
+  }
+
+  async function evict() {
+    const limit = typeof maxBytes === 'function' ? maxBytes() : Number(maxBytes)
+    if (!(limit > 0)) return
+    const entries = (await listEntries()).sort((a, b) => a.at - b.at)
+    let total = entries.reduce((acc, e) => acc + e.size, 0)
+    for (const e of entries) {
+      if (total <= limit) break
+      await fs.promises.rm(e.full, { force: true })
+      await fs.promises.rm(path.join(dir, e.meta), { force: true }).catch(() => {})
+      total -= e.size
+    }
+  }
+
+  return {
+    async put(key, mime, audio) {
+      await ensure()
+      const buf = Buffer.isBuffer(audio) ? audio : Buffer.from(audio)
+      await fs.promises.writeFile(path.join(dir, key + AUDIO_EXT), buf)
+      await fs.promises.writeFile(path.join(dir, key + '.json'), JSON.stringify({ mime, at: Date.now() }))
+      await evict()
+    },
+
+    async get(key) {
+      try {
+        const meta = JSON.parse(await fs.promises.readFile(path.join(dir, key + '.json'), 'utf8'))
+        const audio = await fs.promises.readFile(path.join(dir, key + AUDIO_EXT))
+        // Последнее обращение двигаем асинхронно: чтение тормозить нельзя.
+        fs.promises.writeFile(path.join(dir, key + '.json'), JSON.stringify({ mime: meta.mime, at: Date.now() })).catch(() => {})
+        return { mime: meta.mime || 'audio/mpeg', audio }
+      } catch (miss) {
+        return null
+      }
+    },
+
+    async clear() {
+      const entries = await listEntries()
+      for (const e of entries) {
+        await fs.promises.rm(e.full, { force: true })
+        await fs.promises.rm(path.join(dir, e.meta), { force: true }).catch(() => {})
+      }
+      return entries.length
+    },
+  }
+}

package/lib/client.js

@@ -368,6 +368,11 @@ window.__ModuleLoader__.load({
       'cardHint': 'Provider chain, voices and playback options.',
       'skipCode': 'Skip code blocks',
       'skipCodeHint': 'Say a short notice instead of reading code aloud.',
+      'cache': 'Synthesis cache',
+      'cacheHint': 'Reuse synthesized audio for repeated phrases.',
+      'cacheMaxMb': 'Cache size limit, MB',
+      'cacheMaxMbHint': 'Least recently used items are evicted first.',
+      'clearCache': 'Clear cache',
     }
     const ru = {
       'general': 'Общее',
@@ -418,6 +423,11 @@ window.__ModuleLoader__.load({
       'cardHint': 'Цепочка провайдеров, голоса и параметры чтения.',
       'skipCode': 'Пропускать код',
       'skipCodeHint': 'Вместо чтения кода вслух — короткая пометка.',
+      'cache': 'Кэш синтеза',
+      'cacheHint': 'Повторяющиеся фразы не синтезируются заново.',
+      'cacheMaxMb': 'Лимит кэша, МБ',
+      'cacheMaxMbHint': 'Сначала вытесняется самое давнее по использованию.',
+      'clearCache': 'Очистить кэш',
     }
 
     function TtsSection(props) {
@@ -507,6 +517,16 @@ window.__ModuleLoader__.load({
         commitKey(provider, raw).catch((e) => setErr(String(e && e.message ? e.message : e)))
       }
 
+      const clearCacheNow = async () => {
+        setErr('')
+        const res = await fetch('/dsh-tts/cache', { method: 'DELETE' })
+        if (!res.ok) throw new Error('HTTP ' + res.status)
+        setSaved(true); setTimeout(() => setSaved(false), 2000)
+      }
+      const onClearCache = () => {
+        clearCacheNow().catch((e) => setErr(String(e && e.message ? e.message : e)))
+      }
+
       const boolField = (key, label, hint) => React.createElement('label', { className: 'dts-field' }, label,
         React.createElement('input', {
           type: 'checkbox', checked: !!(draft && draft[key]), disabled: !writable,
@@ -571,6 +591,9 @@ window.__ModuleLoader__.load({
             t('announceHint')),
           boolField('skipCode', t('skipCode'),
             t('skipCodeHint')),
+          boolField('cache', t('cache'),
+            t('cacheHint')),
+          numberField('cacheMaxMb', t('cacheMaxMb'), t('cacheMaxMbHint'), 10),
           textField('approvalText', t('approvalText'), t('approvalHint')),
           textField('questionText', t('questionText'), t('questionHint')),
           textField('chime', t('chime'), t('chimeHint')),
@@ -582,6 +605,7 @@ window.__ModuleLoader__.load({
           textField('azureRegion', t('azureRegion'), t('azureHint')),
         ),
         React.createElement('div', { className: 'dts-foot' },
+          React.createElement('button', { type: 'button', className: 'dts-link', disabled: !writable, onClick: onClearCache }, t('clearCache')),
           React.createElement('button', { type: 'button', className: 'dts-save', disabled: !writable, onClick: save }, t('save')),
           saved ? React.createElement('span', { className: 'dts-ok' }, t('saved')) : null,
           err ? React.createElement('span', { className: 'dts-bad' }, err) : null,

package/lib/index.js

@@ -4,6 +4,10 @@ import { credentialRef } from '@deepseek-ai/dsh-credentials'
 import { runChain } from './chain.js'
 import { makeProviders, PROVIDER_KEYS, DEFAULT_MODELS, DEFAULT_VOICES } from './providers.js'
 import { assistantText, speechPhrases, splitSentences, stripForSpeech } from './text.js'
+import { cacheKey, createSpeechCache } from './cache.js'
+import fs from 'node:fs'
+import os from 'node:os'
+import path from 'node:path'
 import {
   CLOUD_PROVIDERS,
   assertCredentialRef,
@@ -33,6 +37,10 @@ export const Config = z.object({
     .description('When on, speak each finished agent reply in the Web UI.'),
   skipCode: z.boolean().default(true)
     .description('Replace fenced code blocks with a short spoken notice instead of reading them aloud.'),
+  cache: z.boolean().default(true)
+    .description('Reuse synthesized audio for repeated phrases instead of paying and waiting again.'),
+  cacheMaxMb: z.number().default(100)
+    .description('Disk limit for the synthesis cache; least recently used items are evicted first.'),
   language: z.string().default('ru'),
   speakAsItGoes: z
     .boolean()
@@ -227,6 +235,18 @@ export function apply(ctx, config) {
     }
   }
 
+  // Кэш синтеза живёт рядом с прочими данными харнесса.
+  const speechCache = createSpeechCache({
+    root: process.env.DSH_HOME || path.join(os.homedir(), '.dsh'),
+    maxBytes: () => {
+      const mb = Number(live().cacheMaxMb)
+      return mb > 0 ? mb * 1024 * 1024 : 100 * 1024 * 1024
+    },
+  })
+  // Порог осмысленности: уникальные длинные куски (чтение по ходу) в кэш
+  // не кладём — иначе он забьётся мусором, который никогда не повторится.
+  const CACHE_MAX_TEXT = 200
+
   // Настройки чистки текста считаем на каждый вызов: конфиг живой.
   function cleanOpts(cfg) {
     return { skipCode: cfg.skipCode !== false, phrases: speechPhrases(cfg.language) }
@@ -244,11 +264,25 @@ export function apply(ctx, config) {
       models[entry.provider] = entry.model || DEFAULT_MODELS[entry.provider]
       voices[entry.provider] = entry.voice || DEFAULT_VOICES[entry.provider]
     }
+    // Скорость воспроизведения в ключ не входит: ею управляет браузер,
+    // на синтез она не влияет.
+    const cacheAllowed = cfg.cache !== false && text.length <= CACHE_MAX_TEXT
+    if (cacheAllowed) {
+      for (const provider of order) {
+        const hit = await speechCache.get(cacheKey([text, provider, models[provider], voices[provider]]))
+        if (hit) return { provider, mime: hit.mime, audio: hit.audio, tookMs: 0, cached: true }
+      }
+    }
     const providers = makeProviders(
       { resolveKey, fetchImpl: fetch, cfg },
       { text, lang: cfg.language, signal, models, voices },
     )
-    return runChain(order, providers)
+    const out = await runChain(order, providers)
+    if (cacheAllowed) {
+      const p = out.provider
+      speechCache.put(cacheKey([text, p, models[p], voices[p]]), out.mime, out.audio).catch(() => {})
+    }
+    return out
   }
 
   // Синтез одной фразы с постановкой в очередь. Порядок сохраняется: номер
@@ -387,6 +421,23 @@ export function apply(ctx, config) {
     },
   }), 'dsh-tts: /status route')
 
+  ctx.effect(() => ctx.webServer.register({
+    kind: 'exact',
+    path: '/dsh-tts/cache',
+    handler: async (req, res) => {
+      if (req.method !== 'DELETE') {
+        writeJson(res, 405, { ok: false, error: { code: 'method', message: 'DELETE only' } })
+        return
+      }
+      if (!isTrustedSettingsRequest(req)) {
+        writeJson(res, 403, { ok: false, error: { code: 'forbidden', message: 'same-origin only' } })
+        return
+      }
+      const removed = await speechCache.clear()
+      writeJson(res, 200, { ok: true, removed })
+    },
+  }), 'dsh-tts: /cache route')
+
   ctx.effect(() => ctx.webServer.register({
     kind: 'exact',
     path: '/dsh-tts/config',

package/package.json

@@ -1,6 +1,6 @@
 {
   "name": "@goodandready/dsh-tts",
-  "version": "0.3.6",
+  "version": "0.3.7",
   "description": "Text-to-speech for DeepSeek Harness: speak agent replies in the Web UI with a provider fallback chain (OpenAI, ElevenLabs, Google, Azure, Groq, Deepgram, OpenRouter, Edge, Piper, eSpeak).",
   "license": "MIT",
   "type": "module",