@7n/llm-lib 2.14.17 → 3.0.1

package/CHANGELOG.md

@@ -1,5 +1,22 @@
 # Changelog
 
+## [3.0.1] - 2026-08-05
+
+### Changed
+
+- chore(release): синк пінів платформних napi-пакетів @7n/llm-lib; release: @7n/llm-lib@3.0.0, @7n/rules@1.87.0; fix(llm-lib): onProgress-контракт submitBatch + вилучення емуляції batch (#402)
+
+## [3.0.0] - 2026-08-05
+
+### Fixed
+
+- onProgress-колбек submitBatch тепер отримує (completed, total) як два числа, не (null, [completed, total]) — napi ThreadsafeFunction конвертувала tuple у JS-масив замість розгортання в окремі аргументи
+- README/tiers.rs: застарілий дефолт N_LLM_LOCAL_PROVIDERS (omlx) виправлено на актуальний local-openai; README тепер документує generic-слот local-openai (N_LOCAL_OPENAI_BASE_URL/API_KEY)
+
+### Removed
+
+- submitBatch: вилучено клієнтську емуляцію batch (chunkSize/concurrency/backend-опції). Batch завжди йде через реальний /v1/batches резолвленого провайдера; провайдер без зареєстрованого base_url/api_key тепер повертає явну помилку замість тихого фолбеку на емуляцію
+
 ## [2.14.17] - 2026-08-04
 
 ### Changed

package/README.md

@@ -112,14 +112,16 @@ Runtime-knobs (нове імʼя має пріоритет; legacy-alias пра
 | `N_LLM_FIX_TURN_CEILING` | `N_CURSOR_FIX_TURN_CEILING` | 50 |
 | `N_LLM_SKILL_TURN_CEILING` | `N_CURSOR_SKILL_TURN_CEILING` | 80 |
 | `N_LLM_SKILL_TIMEOUT_MS` | `N_CURSOR_SKILL_TIMEOUT_MS` | 600000 |
-| `N_LLM_LOCAL_PROVIDERS` | — | `omlx` (кома-список провайдерів, що вважаються локальними) |
+| `N_LLM_LOCAL_PROVIDERS` | — | `local-openai` (кома-список провайдерів, що вважаються локальними) |
 | `N_LLM_COMPRESS` | — | увімкнено (`0` — вимикає клієнтську компресію контексту, лише для дебагу) |
 | `N_LLM_TRACE_BODIES` | — | увімкнено (`0` — вимкнути body-capture повних тіл, важкі дані) |
 | `N_LLM_BODIES_DIR` | — | `~/.n-cursor/llm-bodies` |
 | `N_LLM_BODIES_MAX_MB` | — | `500` (ретеншн: авто-очистка найстаріших файлів понад ліміт) |
 
-Моделі/ключі провайдерів конфігуруються у pi: `~/.pi/agent/models.json` + `auth.json`
-(omlx — як custom OpenAI-compatible provider).
+Моделі/ключі провайдерів конфігуруються у pi: `~/.pi/agent/models.json` + `auth.json`.
+Для локального OpenAI-сумісного сервера (omlx, litellm-проксі, TurboFieldfare тощо) —
+generic-слот `local-openai`: `N_LOCAL_OPENAI_BASE_URL` (дефолт `http://127.0.0.1:8000/v1/`)
+та `N_LOCAL_OPENAI_API_KEY`. Активний лише один local-openai сервер за раз.
 
 ## Приклад
 

package/lib/batch.mjs

@@ -1,18 +1,15 @@
 /**
- * Тип 2b (OpenAI-сумісний API, batch) — `submitBatch` обирає між клієнтською
- * емуляцією (v1, чанкований конкурентний прогін через Тип 2a
- * `llm_lib::local_cloud`) і справжнім `/v1/batches` litellm batch-adapter-а
- * (спека `docs/specs/2026-07-27-batch-local-avg-real-batches.md`), під тим
- * самим інтерфейсом `submit → progress → results` для обох. Вибір —
- * `backend` (дефолт `'auto'`: реальний Batch API лише коли резолвлений
- * провайдер `litellm` і кешована мережева проба адаптера пройшла; локальний
- * omlx завжди йде емуляцією).
+ * Тип 2b (OpenAI-сумісний API, batch) — `submitBatch` завжди йде через
+ * справжній `/v1/batches` OpenAI-сумісний batch-adapter резолвленого
+ * провайдера (спека `docs/specs/2026-07-27-batch-local-avg-real-batches.md`).
+ * Клієнтську емуляцію (v1, чанкований прогін через Тип 2a) вилучено —
+ * провайдер без зареєстрованого `base_url`/`api_key` у `localProviders`
+ * повертає явну помилку, без тихого фолбеку.
  *
  * Тонкий JS-клієнт до Rust-крейта `llm_lib::batch`/`llm_lib::remote_batch`
  * через napi FFI in-process (`llm-lib/crates/llm-lib-napi`) — жодного
- * власного чанкінгу чи HTTP тут (анти-приклад, якого це узагальнює:
- * `mlmail/use-summary.js` чанкує переклади проти omlx вручну, з
- * вистражданими лімітами).
+ * власного HTTP тут (анти-приклад, якого це узагальнює: `mlmail/use-summary.js`
+ * чанкує переклади проти omlx вручну, з вистражданими лімітами).
  */
 import { loadNative } from './internal/native.mjs'
 
@@ -35,9 +32,6 @@ import { loadNative } from './internal/native.mjs'
  * @param {{
  *   localProviders?: Record<string, { baseUrl: string, apiKey?: string | null }>,
  *   system?: string,
- *   chunkSize?: number,
- *   concurrency?: number,
- *   backend?: 'emulated' | 'openai-batches' | 'auto',
  *   pollIntervalMs?: number,
  *   pollTimeoutMs?: number,
  *   onProgress?: (completed: number, total: number) => void,
@@ -50,13 +44,13 @@ import { loadNative } from './internal/native.mjs'
  *       onProgress?: (completed: number, total: number) => void
  *     ) => Promise<BatchResult[]>
  *   }
- * }} [options] конфіг локальних провайдерів, ліміти чанка/конкурентності/бекенда/опитування, progress-колбек, інжект `native` для тестів
+ * }} [options] конфіг локальних провайдерів, ліміти опитування, progress-колбек, інжект `native` для тестів
  * @returns {Promise<BatchResult[]>} результати в тому самому порядку, що й вхідні `items`
  */
 export function submitBatch(
   modelSpecOrTier,
   items,
-  { localProviders, system, chunkSize, concurrency, backend, pollIntervalMs, pollTimeoutMs, onProgress, native } = {}
+  { localProviders, system, pollIntervalMs, pollTimeoutMs, onProgress, native } = {}
 ) {
   const nativeImpl = native ?? loadNative()
   return nativeImpl.submitBatch(
@@ -71,9 +65,6 @@ export function submitBatch(
       system: system ?? undefined
     },
     {
-      chunkSize: chunkSize ?? undefined,
-      concurrency: concurrency ?? undefined,
-      backend: backend ?? undefined,
       pollIntervalMs: pollIntervalMs ?? undefined,
       pollTimeoutMs: pollTimeoutMs ?? undefined
     },

package/package.json

@@ -1,6 +1,6 @@
 {
   "name": "@7n/llm-lib",
-  "version": "2.14.17",
+  "version": "3.0.1",
   "description": "Тонкий шар роботи з LLM (локальні omlx + хмарні провайдери) поверх pi: model tiers, one-shot, agentic-раннери, write-guard, trace, telemetry, prompt-budget",
   "keywords": [
     "nitra",
@@ -56,8 +56,8 @@
     "access": "public"
   },
   "optionalDependencies": {
-    "@7n/llm-lib-darwin-arm64": "2.14.15",
-    "@7n/llm-lib-linux-x64": "2.14.15"
+    "@7n/llm-lib-darwin-arm64": "3.0.0",
+    "@7n/llm-lib-linux-x64": "3.0.0"
   },
   "peerDependencies": {
     "@earendil-works/pi-ai": "~0.80.10",