micro-models-agent 2.16.1 → 2.17.2

package/dist/llm/model-loader.js

@@ -1,86 +0,0 @@
-// Хелперы живой context-probe — в ./provider-context.ts и ./models-dev.ts;
-// реэкспорт отсюда, чтобы существующие импорты не ломать.
-export { probeModel, getLoadedContextLength, probeProviderContext, } from "./provider-context";
-/** Загрузчик модели LM Studio: ensure + load через native API. */
-export class ModelLoader {
-    baseUrl;
-    logger;
-    constructor(baseUrl, logger) {
-        const url = baseUrl.replace(/\/$/, "");
-        this.baseUrl = url.replace(/\/v1\/?$/, "");
-        this.logger = logger;
-    }
-    /**
-     * Гарантирует загруженную модель с нужным контекстом (иначе грузит).
-     * @param config конфиг загрузки; @returns итог (уже была/загружена/ошибка).
-     */
-    async ensureModelLoaded(config) {
-        if (config.autoLoad === false) {
-            return { success: true, alreadyLoaded: true };
-        }
-        try {
-            const isLoaded = await this.isModelLoaded(config.model, config.contextLength);
-            if (isLoaded) {
-                this.logger.debug(`Model ${config.model} already loaded with correct context`);
-                return { success: true, alreadyLoaded: true };
-            }
-            return await this.loadModel(config);
-        }
-        catch (err) {
-            this.logger.error(`Model loader failed: ${err.message}`);
-            return { success: false, error: err.message };
-        }
-    }
-    async isModelLoaded(model, contextLength) {
-        try {
-            const response = await fetch(`${this.baseUrl}/api/v1/models`, {
-                signal: AbortSignal.timeout(3000),
-            });
-            if (!response.ok)
-                return false;
-            const data = (await response.json());
-            const models = data.models ?? [];
-            const found = models.find((m) => m.key === model || m.name === model);
-            if (!found)
-                return false;
-            const loadedInstances = found.loaded_instances ?? [];
-            return loadedInstances.some((inst) => inst.config?.context_length === contextLength);
-        }
-        catch {
-            return false;
-        }
-    }
-    async loadModel(config) {
-        const body = {
-            model: config.model,
-            context_length: config.contextLength,
-        };
-        if (config.flashAttention !== undefined)
-            body.flash_attention = config.flashAttention;
-        if (config.evalBatchSize !== undefined)
-            body.eval_batch_size = config.evalBatchSize;
-        if (config.offloadKvCacheToGpu !== undefined)
-            body.offload_kv_cache_to_gpu = config.offloadKvCacheToGpu;
-        this.logger.info(`Loading model ${config.model} with context_length=${config.contextLength}`);
-        this.logger.debug(`POST ${this.baseUrl}/api/v1/models/load`);
-        const response = await fetch(`${this.baseUrl}/api/v1/models/load`, {
-            method: "POST",
-            headers: { "Content-Type": "application/json" },
-            body: JSON.stringify(body),
-            signal: AbortSignal.timeout(120000),
-        });
-        if (!response.ok) {
-            const error = await response.text();
-            this.logger.error(`Model load failed: HTTP ${response.status}: ${error}`);
-            return { success: false, error: `HTTP ${response.status}: ${error}` };
-        }
-        const result = (await response.json());
-        this.logger.debug(`Model load response: ${JSON.stringify(result)}`);
-        const loadTime = result.load_time_seconds ?? result.loadTime;
-        return {
-            success: true,
-            alreadyLoaded: false,
-            loadTime,
-        };
-    }
-}

package/dist/llm/models-dev.js

@@ -1,121 +0,0 @@
-/**
- * models.dev-фолбэк для хостед-шлюзов (OpenCode Zen/Go), чей собственный
- * `/models` отдаёт голые id без метаданных контекста (проверено вживую:
- * только `{id, object, created, owned_by}`).
- *
- * models.dev — открытая база моделей (MIT, sst/models.dev), её же использует
- * сам opencode. Каталог `api.json`: `Record<providerId, { models:
- * Record<modelId, { limit: { context } }> }>`, провайдер `opencode` держит
- * модели под теми же bare id, что отдаёт Zen (`deepseek-v4.1-flash` →
- * `limit.context`).
- *
- * На диске только slim-проекция (`opencode` → id → контекст):
- * `~/.mma/models-dev-cache.json` (override `MMA_MODELS_DEV_CACHE`), TTL 24h
- * как у reasoning-пробника. Любой сбой — null, вызывающий хранит настроенный
- * `contextWindow` (fail-open).
- */
-import { existsSync, readFileSync, writeFileSync, mkdirSync } from "fs";
-import { join, dirname } from "path";
-import { globalMmaDir } from "../config/paths";
-import { readEnv } from "../config/env";
-import { MODELS_DEV_CATALOG_TTL_MS, MODELS_DEV_FETCH_TIMEOUT_MS, } from "../config/timeouts";
-const MODELS_DEV_URL = "https://models.dev/api.json";
-function cachePath() {
-    return readEnv("MODELS_DEV_CACHE") ?? join(globalMmaDir(), "models-dev-cache.json");
-}
-/** In-memory L1: свежая проекция на время жизни процесса. */
-let memCache = null;
-function readDiskCache() {
-    try {
-        const path = cachePath();
-        if (!existsSync(path))
-            return null;
-        const parsed = JSON.parse(readFileSync(path, "utf-8"));
-        if (typeof parsed.ts !== "string" || !parsed.models || typeof parsed.models !== "object") {
-            return null;
-        }
-        return { ts: parsed.ts, models: parsed.models };
-    }
-    catch {
-        // Битый кэш — перечитываем ниже.
-        return null;
-    }
-}
-function writeDiskCache(models) {
-    try {
-        const path = cachePath();
-        mkdirSync(dirname(path), { recursive: true });
-        const entry = { ts: new Date().toISOString(), models };
-        writeFileSync(path, JSON.stringify(entry), "utf-8");
-    }
-    catch {
-        // Best-effort — падение записи не должно ронять агента.
-    }
-}
-/** `limit.context` одной записи модели, если это годное число. */
-function modelContextOf(meta) {
-    const context = meta?.limit?.context;
-    if (typeof context !== "number" || !Number.isFinite(context) || context <= 0)
-        return null;
-    return Math.floor(context);
-}
-function extractOpencodeModels(catalog) {
-    if (!catalog || typeof catalog !== "object")
-        return null;
-    const provider = catalog.opencode;
-    if (!provider || typeof provider !== "object")
-        return null;
-    const models = provider.models;
-    if (!models || typeof models !== "object")
-        return null;
-    const out = {};
-    for (const [id, meta] of Object.entries(models)) {
-        const context = modelContextOf(meta);
-        if (context !== null)
-            out[id] = context;
-    }
-    return out;
-}
-async function fetchCatalog(timeoutMs) {
-    try {
-        const response = await fetch(MODELS_DEV_URL, { signal: AbortSignal.timeout(timeoutMs) });
-        if (!response.ok)
-            return null;
-        return extractOpencodeModels((await response.json()));
-    }
-    catch {
-        return null;
-    }
-}
-/**
- * Ищет `model` в секции провайдера `opencode` каталога models.dev.
- * Только точное совпадение id (Zen отдаёт bare id, каталог ключует так же).
- * Возвращает каталожный `limit.context`, на любом промахе — null.
- */
-export async function lookupModelsDevContext(model, opts = {}) {
-    const timeoutMs = opts.timeoutMs ?? MODELS_DEV_FETCH_TIMEOUT_MS;
-    if (memCache && Date.now() - memCache.ts < MODELS_DEV_CATALOG_TTL_MS) {
-        return memCache.models[model] ?? null;
-    }
-    const disk = readDiskCache();
-    if (disk && Date.now() - new Date(disk.ts).getTime() < MODELS_DEV_CATALOG_TTL_MS) {
-        memCache = { models: disk.models, ts: Date.now() };
-        return disk.models[model] ?? null;
-    }
-    const fresh = await fetchCatalog(timeoutMs);
-    if (!fresh) {
-        // Офлайн с протухшим кэшем: протухшее окно лучше никакого.
-        if (disk) {
-            memCache = { models: disk.models, ts: Date.now() };
-            return disk.models[model] ?? null;
-        }
-        return null;
-    }
-    memCache = { models: fresh, ts: Date.now() };
-    writeDiskCache(fresh);
-    return fresh[model] ?? null;
-}
-/** Тестовый шов: сбросить in-memory проекцию (диск изолирован через env). */
-export function resetModelsDevCache() {
-    memCache = null;
-}