@reftrixmcp/mcp-server 0.1.7

package/dist/services/gpu-resource-manager.d.ts

@@ -0,0 +1,180 @@
+/** GPU リソースの現在のオーナー */
+export type GpuOwner = "vision" | "embedding" | "dinov2" | "none";
+/** acquireForVision() の戻り値 */
+export interface VisionAcquireResult {
+    acquired: boolean;
+    previousOwner: "embedding" | "dinov2" | "none";
+}
+/** acquireForEmbedding() の戻り値 */
+export interface EmbeddingAcquireResult {
+    acquired: boolean;
+    previousOwner: "vision" | "dinov2" | "none";
+    fallbackToCpu: boolean;
+}
+/** acquireForDINOv2() の戻り値 */
+export interface DINOv2AcquireResult {
+    success: boolean;
+    mode: "cuda" | "cpu";
+    message: string;
+    previousOwner: GpuOwner;
+}
+/**
+ * ONNX GPU モードシグナル
+ *
+ * EmbeddingService がインポートして参照する共有シグナルオブジェクト。
+ * GpuResourceManager が requestedProvider を変更し、
+ * EmbeddingService が次回パイプライン初期化時にこの値を使用する。
+ */
+export interface GpuModeSignal {
+    /** 要求された実行プロバイダ */
+    requestedProvider: "cpu" | "cuda";
+    /**
+     * プロバイダ切り替え時のコールバック。
+     * EmbeddingService が設定し、GpuResourceManager が呼び出す。
+     * パイプラインの dispose + 再初期化をトリガーする。
+     */
+    onProviderSwitch?: ((provider: "cpu" | "cuda") => Promise<void>) | undefined;
+}
+/** GpuResourceManager 設定 */
+export interface GpuResourceManagerConfig {
+    /** Ollama API URL */
+    ollamaUrl?: string | undefined;
+    /** Vision に必要な最小 VRAM (MB) */
+    visionMinVramMb?: number | undefined;
+    /** Embedding CUDA に必要な最小 VRAM (MB) */
+    embeddingMinVramMb?: number | undefined;
+    /** DINOv2 推論に必要な最小 VRAM (MB) */
+    dinov2MinVramMb?: number | undefined;
+    /** VRAM ポーリングタイムアウト (ms) */
+    vramPollTimeoutMs?: number | undefined;
+}
+/**
+ * EmbeddingService が参照する GPU モードシグナル。
+ *
+ * @example
+ * ```typescript
+ * import { gpuModeSignal } from '../services/gpu-resource-manager.js';
+ *
+ * // EmbeddingService 側
+ * gpuModeSignal.onProviderSwitch = async (provider) => {
+ *   await embeddingService.dispose();
+ *   // 次回 init で provider を使用
+ * };
+ * ```
+ */
+export declare const gpuModeSignal: GpuModeSignal;
+/**
+ * GPU リソース割り当てマネージャ
+ *
+ * シングルトンパターンで運用。ワーカープロセス内で1インスタンスのみ生成し、
+ * Vision フェーズと Embedding フェーズ間の GPU 切り替えを協調制御する。
+ */
+export declare class GpuResourceManager {
+    private readonly ollamaUrl;
+    private readonly visionMinVramMb;
+    private readonly embeddingMinVramMb;
+    private readonly dinov2MinVramMb;
+    private readonly vramPollTimeoutMs;
+    private readonly signal;
+    private currentOwner;
+    private gpuAvailable;
+    constructor(config?: GpuResourceManagerConfig, signal?: GpuModeSignal);
+    /**
+     * Ollama URL を検証（SSRF 防止）
+     *
+     * SEC: Ollama は常にローカルホストで実行される前提。
+     * 外部 URL への接続を防止し、SSRF 攻撃を阻止する。
+     */
+    private static validateOllamaUrl;
+    /**
+     * シングルトンインスタンスを取得
+     */
+    static getInstance(config?: GpuResourceManagerConfig, signal?: GpuModeSignal): GpuResourceManager;
+    /**
+     * シングルトンインスタンスをリセット（テスト用）
+     */
+    static resetInstance(): void;
+    /**
+     * Vision フェーズ用に GPU を確保
+     *
+     * ONNX が GPU を使用中の場合、パイプラインを dispose して GPU を解放する。
+     * VRAM に十分な空きができるまでポーリングで待機する。
+     *
+     * @returns 確保結果
+     */
+    acquireForVision(): Promise<VisionAcquireResult>;
+    /**
+     * Embedding フェーズ用に GPU を確保
+     *
+     * Ollama モデルを VRAM からアンロードし、ONNX CUDA に十分な VRAM を確保する。
+     * VRAM 確保に失敗した場合は CPU フォールバックを指示する。
+     *
+     * @returns 確保結果
+     */
+    acquireForEmbedding(): Promise<EmbeddingAcquireResult>;
+    /**
+     * DINOv2 推論用に GPU を確保
+     *
+     * DINOv2 は ~1-2GB VRAM を使用する軽量 ONNX モデル。
+     *
+     * ロジック:
+     * 1. current owner が 'dinov2' → 既に確保済み、成功を返す
+     * 2. current owner が 'embedding' → ONNX e5-base を dispose して解放
+     * 3. current owner が 'vision' → Vision は ~9.3GB 使用、共存不可。CPU フォールバック
+     * 4. current owner が 'none' → 直接確保
+     *
+     * CPU-only 環境では常に CPU モードを返す（GPU 競合なし）。
+     *
+     * @returns DINOv2 確保結果
+     */
+    acquireForDINOv2(): Promise<DINOv2AcquireResult>;
+    /**
+     * DINOv2 から GPU を解放
+     *
+     * DINOv2 が現在のオーナーの場合のみオーナーを 'none' にリセットする。
+     * DINOv2 以外がオーナーの場合は no-op。
+     */
+    releaseFromDINOv2(): Promise<void>;
+    /**
+     * GPU リソースを解放
+     *
+     * ONNX パイプラインを dispose して GPU を解放する。
+     * Ollama は自身のライフサイクルで管理するためアンロードしない。
+     */
+    release(): Promise<void>;
+    /**
+     * 現在の GPU オーナーを取得
+     */
+    getCurrentOwner(): GpuOwner;
+    /**
+     * GPU が利用可能かチェック
+     *
+     * nvidia-smi が実行可能であれば GPU ありと判定。
+     * 結果はキャッシュされる（プロセスライフタイム中は不変）。
+     */
+    isGpuAvailable(): Promise<boolean>;
+    /**
+     * VRAM 空き容量が閾値を満たすまでポーリング待機
+     *
+     * 指数バックオフ: 2s → 4s → 8s → 16s
+     * タイムアウト: 30 秒
+     *
+     * @param requiredFreeMb - 必要な空き VRAM (MB)
+     * @returns 閾値を満たした場合 true
+     */
+    private waitForVram;
+    /**
+     * Ollama Vision モデルを VRAM からアンロード
+     *
+     * `keep_alive: '0'` を指定することで、Ollama にモデルを即座に
+     * VRAM からアンロードするよう指示する。
+     *
+     * @returns アンロード成功時 true
+     */
+    private unloadOllamaModel;
+    /**
+     * 指定ミリ秒だけスリープ
+     */
+    private sleep;
+}
+//# sourceMappingURL=gpu-resource-manager.d.ts.map

package/dist/services/gpu-resource-manager.d.ts.map

@@ -0,0 +1 @@
+{"version":3,"file":"gpu-resource-manager.d.ts","sourceRoot":"","sources":["../../src/services/gpu-resource-manager.ts"],"names":[],"mappings":"AAyDA,uBAAuB;AACvB,MAAM,MAAM,QAAQ,GAAG,QAAQ,GAAG,WAAW,GAAG,QAAQ,GAAG,MAAM,CAAC;AAElE,8BAA8B;AAC9B,MAAM,WAAW,mBAAmB;IAClC,QAAQ,EAAE,OAAO,CAAC;IAClB,aAAa,EAAE,WAAW,GAAG,QAAQ,GAAG,MAAM,CAAC;CAChD;AAED,iCAAiC;AACjC,MAAM,WAAW,sBAAsB;IACrC,QAAQ,EAAE,OAAO,CAAC;IAClB,aAAa,EAAE,QAAQ,GAAG,QAAQ,GAAG,MAAM,CAAC;IAC5C,aAAa,EAAE,OAAO,CAAC;CACxB;AAED,8BAA8B;AAC9B,MAAM,WAAW,mBAAmB;IAClC,OAAO,EAAE,OAAO,CAAC;IACjB,IAAI,EAAE,MAAM,GAAG,KAAK,CAAC;IACrB,OAAO,EAAE,MAAM,CAAC;IAChB,aAAa,EAAE,QAAQ,CAAC;CACzB;AAED;;;;;;GAMG;AACH,MAAM,WAAW,aAAa;IAC5B,mBAAmB;IACnB,iBAAiB,EAAE,KAAK,GAAG,MAAM,CAAC;IAClC;;;;OAIG;IACH,gBAAgB,CAAC,EAAE,CAAC,CAAC,QAAQ,EAAE,KAAK,GAAG,MAAM,KAAK,OAAO,CAAC,IAAI,CAAC,CAAC,GAAG,SAAS,CAAC;CAC9E;AAED,4BAA4B;AAC5B,MAAM,WAAW,wBAAwB;IACvC,qBAAqB;IACrB,SAAS,CAAC,EAAE,MAAM,GAAG,SAAS,CAAC;IAC/B,8BAA8B;IAC9B,eAAe,CAAC,EAAE,MAAM,GAAG,SAAS,CAAC;IACrC,sCAAsC;IACtC,kBAAkB,CAAC,EAAE,MAAM,GAAG,SAAS,CAAC;IACxC,gCAAgC;IAChC,eAAe,CAAC,EAAE,MAAM,GAAG,SAAS,CAAC;IACrC,4BAA4B;IAC5B,iBAAiB,CAAC,EAAE,MAAM,GAAG,SAAS,CAAC;CACxC;AAMD;;;;;;;;;;;;;GAaG;AACH,eAAO,MAAM,aAAa,EAAE,aAE3B,CAAC;AASF;;;;;GAKG;AACH,qBAAa,kBAAkB;IAC7B,OAAO,CAAC,QAAQ,CAAC,SAAS,CAAS;IACnC,OAAO,CAAC,QAAQ,CAAC,eAAe,CAAS;IACzC,OAAO,CAAC,QAAQ,CAAC,kBAAkB,CAAS;IAC5C,OAAO,CAAC,QAAQ,CAAC,eAAe,CAAS;IACzC,OAAO,CAAC,QAAQ,CAAC,iBAAiB,CAAS;IAC3C,OAAO,CAAC,QAAQ,CAAC,MAAM,CAAgB;IAEvC,OAAO,CAAC,YAAY,CAAoB;IACxC,OAAO,CAAC,YAAY,CAAwB;gBAEhC,MAAM,CAAC,EAAE,wBAAwB,EAAE,MAAM,CAAC,EAAE,aAAa;IASrE;;;;;OAKG;IACH,OAAO,CAAC,MAAM,CAAC,iBAAiB;IAmBhC;;OAEG;IACH,MAAM,CAAC,WAAW,CAChB,MAAM,CAAC,EAAE,wBAAwB,EACjC,MAAM,CAAC,EAAE,aAAa,GACrB,kBAAkB;IAOrB;;OAEG;IACH,MAAM,CAAC,aAAa,IAAI,IAAI;IAQ5B;;;;;;;OAOG;IACG,gBAAgB,IAAI,OAAO,CAAC,mBAAmB,CAAC;IA6CtD;;;;;;;OAOG;IACG,mBAAmB,IAAI,OAAO,CAAC,sBAAsB,CAAC;IA0D5D;;;;;;;;;;;;;;OAcG;IACG,gBAAgB,IAAI,OAAO,CAAC,mBAAmB,CAAC;IA4EtD;;;;;OAKG;IACG,iBAAiB,IAAI,OAAO,CAAC,IAAI,CAAC;IAOxC;;;;;OAKG;IACG,OAAO,IAAI,OAAO,CAAC,IAAI,CAAC;IA0B9B;;OAEG;IACH,eAAe,IAAI,QAAQ;IAI3B;;;;;OAKG;IACG,cAAc,IAAI,OAAO,CAAC,OAAO,CAAC;IAwBxC;;;;;;;;OAQG;YACW,WAAW;IAgDzB;;;;;;;OAOG;YACW,iBAAiB;IAkC/B;;OAEG;IACH,OAAO,CAAC,KAAK;CAGd"}

package/dist/services/gpu-resource-manager.js

@@ -0,0 +1,485 @@
+"use strict";
+// SPDX-FileCopyrightText: 2026 TKMD and Reftrix Contributors
+// SPDX-License-Identifier: AGPL-3.0-only
+Object.defineProperty(exports, "__esModule", { value: true });
+exports.GpuResourceManager = exports.gpuModeSignal = void 0;
+/**
+ * GpuResourceManager - GPU リソース割り当て管理サービス
+ *
+ * Ollama Vision (llama3.2-vision: ~9.3GB VRAM) と ONNX Embedding
+ * (multilingual-e5-base CUDA: ~2GB VRAM) 間の GPU リソースを動的に切り替える。
+ *
+ * page.analyze ワーカーパイプラインでは1サイト処理中に以下の切り替えが発生する:
+ * - Vision フェーズ (Phase 1.5/2.5): Ollama が GPU を使用
+ * - Embedding フェーズ (Phase 5): ONNX CUDA が GPU を使用
+ *
+ * 従来は Ollama がジョブ全体で GPU を保持し、ONNX は CPU で実行していた
+ * (大規模サイトで 8 分以上)。本サービスにより GPU を動的にスイッチし、
+ * Embedding フェーズも CUDA で高速化する。
+ *
+ * @module services/gpu-resource-manager
+ */
+const logger_js_1 = require("../utils/logger.js");
+const vram_utils_js_1 = require("./vision/vram-utils.js");
+const logger = (0, logger_js_1.createLogger)("GpuResourceManager");
+// =============================================================================
+// 定数
+// =============================================================================
+/** Ollama Vision (llama3.2-vision) に必要な最小 VRAM (MB) */
+const VISION_MIN_VRAM_MB = 8192;
+/** ONNX Embedding CUDA に必要な最小 VRAM (MB) */
+const EMBEDDING_MIN_VRAM_MB = 2048;
+/** DINOv2 推論に必要な最小 VRAM (MB) — ~1-2GB */
+const DINOV2_MIN_VRAM_MB = 1536;
+/** VRAM ポーリング間隔 (ms) — 指数バックオフの初期値 */
+const VRAM_POLL_INITIAL_MS = 2000;
+/** VRAM ポーリングの最大待機時間 (ms) */
+const VRAM_POLL_TIMEOUT_MS = 30_000;
+/** Ollama API タイムアウト (ms) */
+const OLLAMA_API_TIMEOUT_MS = 10_000;
+/** Ollama のデフォルト URL */
+const DEFAULT_OLLAMA_URL = "http://localhost:11434";
+/** Ollama Vision モデル名 */
+const OLLAMA_VISION_MODEL = process.env.OLLAMA_VISION_MODEL ?? "llama3.2-vision";
+// =============================================================================
+// 共有シグナルオブジェクト (モジュールスコープ singleton)
+// =============================================================================
+/**
+ * EmbeddingService が参照する GPU モードシグナル。
+ *
+ * @example
+ * ```typescript
+ * import { gpuModeSignal } from '../services/gpu-resource-manager.js';
+ *
+ * // EmbeddingService 側
+ * gpuModeSignal.onProviderSwitch = async (provider) => {
+ *   await embeddingService.dispose();
+ *   // 次回 init で provider を使用
+ * };
+ * ```
+ */
+exports.gpuModeSignal = {
+    requestedProvider: "cpu",
+};
+// =============================================================================
+// GpuResourceManager クラス
+// =============================================================================
+/** シングルトンインスタンス */
+let singletonInstance = null;
+/**
+ * GPU リソース割り当てマネージャ
+ *
+ * シングルトンパターンで運用。ワーカープロセス内で1インスタンスのみ生成し、
+ * Vision フェーズと Embedding フェーズ間の GPU 切り替えを協調制御する。
+ */
+class GpuResourceManager {
+    ollamaUrl;
+    visionMinVramMb;
+    embeddingMinVramMb;
+    dinov2MinVramMb;
+    vramPollTimeoutMs;
+    signal;
+    currentOwner = "none";
+    gpuAvailable = null;
+    constructor(config, signal) {
+        this.ollamaUrl = GpuResourceManager.validateOllamaUrl(config?.ollamaUrl ?? DEFAULT_OLLAMA_URL);
+        this.visionMinVramMb = config?.visionMinVramMb ?? VISION_MIN_VRAM_MB;
+        this.embeddingMinVramMb = config?.embeddingMinVramMb ?? EMBEDDING_MIN_VRAM_MB;
+        this.dinov2MinVramMb = config?.dinov2MinVramMb ?? DINOV2_MIN_VRAM_MB;
+        this.vramPollTimeoutMs = config?.vramPollTimeoutMs ?? VRAM_POLL_TIMEOUT_MS;
+        this.signal = signal ?? exports.gpuModeSignal;
+    }
+    /**
+     * Ollama URL を検証（SSRF 防止）
+     *
+     * SEC: Ollama は常にローカルホストで実行される前提。
+     * 外部 URL への接続を防止し、SSRF 攻撃を阻止する。
+     */
+    static validateOllamaUrl(url) {
+        try {
+            const parsed = new URL(url);
+            const allowedHosts = ["localhost", "127.0.0.1", "::1"];
+            if (!allowedHosts.includes(parsed.hostname)) {
+                logger.warn("Ollama URL rejected: must point to localhost", { url: parsed.hostname });
+                return DEFAULT_OLLAMA_URL;
+            }
+            return url;
+        }
+        catch {
+            logger.warn("Invalid Ollama URL, falling back to default", { url });
+            return DEFAULT_OLLAMA_URL;
+        }
+    }
+    // ===========================================================================
+    // シングルトン管理
+    // ===========================================================================
+    /**
+     * シングルトンインスタンスを取得
+     */
+    static getInstance(config, signal) {
+        if (!singletonInstance) {
+            singletonInstance = new GpuResourceManager(config, signal);
+        }
+        return singletonInstance;
+    }
+    /**
+     * シングルトンインスタンスをリセット（テスト用）
+     */
+    static resetInstance() {
+        singletonInstance = null;
+    }
+    // ===========================================================================
+    // パブリック API
+    // ===========================================================================
+    /**
+     * Vision フェーズ用に GPU を確保
+     *
+     * ONNX が GPU を使用中の場合、パイプラインを dispose して GPU を解放する。
+     * VRAM に十分な空きができるまでポーリングで待機する。
+     *
+     * @returns 確保結果
+     */
+    async acquireForVision() {
+        const hasGpu = await this.isGpuAvailable();
+        if (!hasGpu) {
+            logger.info("No GPU available, Vision will use CPU-based Ollama");
+            return { acquired: false, previousOwner: "none" };
+        }
+        const previousOwner = this.currentOwner === "embedding"
+            ? "embedding"
+            : this.currentOwner === "dinov2"
+                ? "dinov2"
+                : "none";
+        // ONNX (Embedding / DINOv2) が GPU を使用中の場合: dispose して GPU を解放
+        if (this.currentOwner === "embedding" || this.currentOwner === "dinov2") {
+            logger.info(`Switching GPU: ${this.currentOwner} → vision`);
+            // EmbeddingService にパイプライン dispose を要求
+            if (this.currentOwner === "embedding" && this.signal.onProviderSwitch) {
+                try {
+                    await this.signal.onProviderSwitch("cpu");
+                }
+                catch (error) {
+                    logger.warn("Failed to signal ONNX provider switch to CPU", error);
+                }
+            }
+            this.signal.requestedProvider = "cpu";
+        }
+        // VRAM 空き容量を待機
+        const vramReady = await this.waitForVram(this.visionMinVramMb);
+        if (!vramReady) {
+            logger.warn("Failed to acquire sufficient VRAM for Vision", {
+                requiredMb: this.visionMinVramMb,
+            });
+            return { acquired: false, previousOwner };
+        }
+        this.currentOwner = "vision";
+        logger.info("GPU acquired for Vision", { previousOwner });
+        return { acquired: true, previousOwner };
+    }
+    /**
+     * Embedding フェーズ用に GPU を確保
+     *
+     * Ollama モデルを VRAM からアンロードし、ONNX CUDA に十分な VRAM を確保する。
+     * VRAM 確保に失敗した場合は CPU フォールバックを指示する。
+     *
+     * @returns 確保結果
+     */
+    async acquireForEmbedding() {
+        const hasGpu = await this.isGpuAvailable();
+        if (!hasGpu) {
+            logger.info("No GPU available, Embedding will use CPU");
+            return { acquired: false, previousOwner: "none", fallbackToCpu: true };
+        }
+        const previousOwner = this.currentOwner === "vision"
+            ? "vision"
+            : this.currentOwner === "dinov2"
+                ? "dinov2"
+                : "none";
+        // DINOv2 が所有中の場合: DINOv2 は軽量 ONNX モデルなので直接解放
+        if (this.currentOwner === "dinov2") {
+            logger.info("Switching GPU: dinov2 → embedding");
+            this.currentOwner = "none";
+        }
+        // Ollama Vision モデルを VRAM からアンロード
+        if (this.currentOwner === "vision" || this.currentOwner === "none") {
+            logger.info("Switching GPU: vision → embedding (unloading Ollama model)");
+            const unloaded = await this.unloadOllamaModel();
+            if (!unloaded) {
+                logger.warn("Failed to unload Ollama model, falling back to CPU for Embedding");
+                return { acquired: false, previousOwner, fallbackToCpu: true };
+            }
+        }
+        // VRAM 空き容量を待機
+        const vramReady = await this.waitForVram(this.embeddingMinVramMb);
+        if (!vramReady) {
+            logger.warn("Insufficient VRAM for ONNX CUDA after Ollama unload, falling back to CPU");
+            this.signal.requestedProvider = "cpu";
+            return { acquired: false, previousOwner, fallbackToCpu: true };
+        }
+        // ONNX を CUDA モードに切り替え
+        this.signal.requestedProvider = "cuda";
+        if (this.signal.onProviderSwitch) {
+            try {
+                await this.signal.onProviderSwitch("cuda");
+            }
+            catch (error) {
+                logger.warn("Failed to signal ONNX provider switch to CUDA, falling back to CPU", error);
+                this.signal.requestedProvider = "cpu";
+                return { acquired: false, previousOwner, fallbackToCpu: true };
+            }
+        }
+        this.currentOwner = "embedding";
+        logger.info("GPU acquired for Embedding (CUDA)", { previousOwner });
+        return { acquired: true, previousOwner, fallbackToCpu: false };
+    }
+    /**
+     * DINOv2 推論用に GPU を確保
+     *
+     * DINOv2 は ~1-2GB VRAM を使用する軽量 ONNX モデル。
+     *
+     * ロジック:
+     * 1. current owner が 'dinov2' → 既に確保済み、成功を返す
+     * 2. current owner が 'embedding' → ONNX e5-base を dispose して解放
+     * 3. current owner が 'vision' → Vision は ~9.3GB 使用、共存不可。CPU フォールバック
+     * 4. current owner が 'none' → 直接確保
+     *
+     * CPU-only 環境では常に CPU モードを返す（GPU 競合なし）。
+     *
+     * @returns DINOv2 確保結果
+     */
+    async acquireForDINOv2() {
+        const previousOwner = this.currentOwner;
+        // GPU 非搭載環境: CPU モードで実行
+        const hasGpu = await this.isGpuAvailable();
+        if (!hasGpu) {
+            logger.info("No GPU available, DINOv2 will use CPU mode");
+            return {
+                success: true,
+                mode: "cpu",
+                message: "CPU-only environment: DINOv2 running on CPU",
+                previousOwner,
+            };
+        }
+        // 既に DINOv2 が所有中: no-op
+        if (this.currentOwner === "dinov2") {
+            logger.info("DINOv2 already owns GPU, no action needed");
+            return {
+                success: true,
+                mode: "cuda",
+                message: "DINOv2 already acquired",
+                previousOwner,
+            };
+        }
+        // Vision が所有中: ~9.3GB 使用中のため共存不可 → CPU フォールバック
+        if (this.currentOwner === "vision") {
+            logger.info("Vision owns GPU (~9.3GB), DINOv2 falling back to CPU");
+            return {
+                success: true,
+                mode: "cpu",
+                message: "Vision occupies GPU, DINOv2 falling back to CPU",
+                previousOwner,
+            };
+        }
+        // Embedding が所有中: dispose して GPU を解放
+        if (this.currentOwner === "embedding") {
+            logger.info("Switching GPU: embedding → dinov2");
+            if (this.signal.onProviderSwitch) {
+                try {
+                    await this.signal.onProviderSwitch("cpu");
+                }
+                catch (error) {
+                    logger.warn("Failed to signal ONNX provider switch to CPU for DINOv2", error);
+                }
+            }
+            this.signal.requestedProvider = "cpu";
+        }
+        // VRAM 空き容量を待機
+        const vramReady = await this.waitForVram(this.dinov2MinVramMb);
+        if (!vramReady) {
+            logger.warn("Failed to acquire sufficient VRAM for DINOv2, falling back to CPU", {
+                requiredMb: this.dinov2MinVramMb,
+            });
+            return {
+                success: true,
+                mode: "cpu",
+                message: "Insufficient VRAM for DINOv2, falling back to CPU",
+                previousOwner,
+            };
+        }
+        this.currentOwner = "dinov2";
+        logger.info("GPU acquired for DINOv2", { previousOwner });
+        return {
+            success: true,
+            mode: "cuda",
+            message: "GPU acquired for DINOv2",
+            previousOwner,
+        };
+    }
+    /**
+     * DINOv2 から GPU を解放
+     *
+     * DINOv2 が現在のオーナーの場合のみオーナーを 'none' にリセットする。
+     * DINOv2 以外がオーナーの場合は no-op。
+     */
+    async releaseFromDINOv2() {
+        if (this.currentOwner === "dinov2") {
+            this.currentOwner = "none";
+            logger.info("[GpuResourceManager] Released GPU from DINOv2");
+        }
+    }
+    /**
+     * GPU リソースを解放
+     *
+     * ONNX パイプラインを dispose して GPU を解放する。
+     * Ollama は自身のライフサイクルで管理するためアンロードしない。
+     */
+    async release() {
+        if (this.currentOwner === "none") {
+            return;
+        }
+        logger.info("Releasing GPU resources", { currentOwner: this.currentOwner });
+        if (this.currentOwner === "embedding") {
+            // ONNX パイプラインを dispose
+            if (this.signal.onProviderSwitch) {
+                try {
+                    await this.signal.onProviderSwitch("cpu");
+                }
+                catch (error) {
+                    logger.warn("Failed to signal ONNX provider switch during release", error);
+                }
+            }
+            this.signal.requestedProvider = "cpu";
+        }
+        // DINOv2 は独立したモデル管理のため signal 操作不要
+        // Vision は Ollama 自身のライフサイクルで管理するためアンロードしない
+        this.currentOwner = "none";
+        logger.info("GPU resources released");
+    }
+    /**
+     * 現在の GPU オーナーを取得
+     */
+    getCurrentOwner() {
+        return this.currentOwner;
+    }
+    /**
+     * GPU が利用可能かチェック
+     *
+     * nvidia-smi が実行可能であれば GPU ありと判定。
+     * 結果はキャッシュされる（プロセスライフタイム中は不変）。
+     */
+    async isGpuAvailable() {
+        if (this.gpuAvailable !== null) {
+            return this.gpuAvailable;
+        }
+        const vram = await (0, vram_utils_js_1.queryVram)();
+        this.gpuAvailable = vram !== null;
+        if (this.gpuAvailable) {
+            logger.info("GPU detected", {
+                totalMb: vram.totalMb,
+                freeMb: vram.freeMb,
+            });
+        }
+        else {
+            logger.info("No GPU detected (nvidia-smi not available)");
+        }
+        return this.gpuAvailable;
+    }
+    // ===========================================================================
+    // VRAM 監視
+    // ===========================================================================
+    /**
+     * VRAM 空き容量が閾値を満たすまでポーリング待機
+     *
+     * 指数バックオフ: 2s → 4s → 8s → 16s
+     * タイムアウト: 30 秒
+     *
+     * @param requiredFreeMb - 必要な空き VRAM (MB)
+     * @returns 閾値を満たした場合 true
+     */
+    async waitForVram(requiredFreeMb) {
+        const startTime = Date.now();
+        let delay = VRAM_POLL_INITIAL_MS;
+        while (Date.now() - startTime < this.vramPollTimeoutMs) {
+            const vram = await (0, vram_utils_js_1.queryVram)();
+            // nvidia-smi 利用不可: VRAM チェック不能、best-effort で続行
+            if (vram === null) {
+                logger.info("nvidia-smi unavailable during VRAM wait, proceeding with best-effort");
+                return true;
+            }
+            if (vram.freeMb >= requiredFreeMb) {
+                logger.info("VRAM requirement met", {
+                    freeMb: vram.freeMb,
+                    requiredFreeMb,
+                    waitedMs: Date.now() - startTime,
+                });
+                return true;
+            }
+            logger.info("Waiting for VRAM", {
+                freeMb: vram.freeMb,
+                requiredFreeMb,
+                nextPollMs: delay,
+            });
+            await this.sleep(delay);
+            // 指数バックオフ（上限 16s）
+            delay = Math.min(delay * 2, 16_000);
+        }
+        // タイムアウト
+        const finalVram = await (0, vram_utils_js_1.queryVram)();
+        logger.warn("VRAM wait timeout", {
+            freeMb: finalVram?.freeMb ?? "unknown",
+            requiredFreeMb,
+            timeoutMs: this.vramPollTimeoutMs,
+        });
+        return false;
+    }
+    // ===========================================================================
+    // Ollama モデル管理
+    // ===========================================================================
+    /**
+     * Ollama Vision モデルを VRAM からアンロード
+     *
+     * `keep_alive: '0'` を指定することで、Ollama にモデルを即座に
+     * VRAM からアンロードするよう指示する。
+     *
+     * @returns アンロード成功時 true
+     */
+    async unloadOllamaModel() {
+        try {
+            const response = await fetch(`${this.ollamaUrl}/api/generate`, {
+                method: "POST",
+                headers: { "Content-Type": "application/json" },
+                body: JSON.stringify({
+                    model: OLLAMA_VISION_MODEL,
+                    keep_alive: "0",
+                    prompt: "",
+                }),
+                signal: AbortSignal.timeout(OLLAMA_API_TIMEOUT_MS),
+            });
+            if (!response.ok) {
+                logger.warn("Ollama model unload request failed", {
+                    status: response.status,
+                    statusText: response.statusText,
+                });
+                return false;
+            }
+            logger.info("Ollama model unloaded from VRAM", { model: OLLAMA_VISION_MODEL });
+            return true;
+        }
+        catch (error) {
+            // Ollama 未起動やネットワークエラー: 警告のみ
+            logger.warn("Failed to unload Ollama model (service may be unavailable)", error);
+            return false;
+        }
+    }
+    // ===========================================================================
+    // ユーティリティ
+    // ===========================================================================
+    /**
+     * 指定ミリ秒だけスリープ
+     */
+    sleep(ms) {
+        return new Promise((resolve) => setTimeout(resolve, ms));
+    }
+}
+exports.GpuResourceManager = GpuResourceManager;
+//# sourceMappingURL=gpu-resource-manager.js.map