deel-local-cli 1.5.8 → 1.6.1

package/src/backend/azure.js

@@ -0,0 +1,151 @@
+// Azure OpenAI — 주소 모양이 다르다.
+//
+// ── 왜 따로 다루나 ─────────────────────────────────────────────────────
+//
+// 사내에서 OpenAI 를 쓰는 한국 회사는 대개 Azure 를 거친다. 그런데 Azure 는
+// OpenAI 호환이라면서 **주소 모양만 다르다.**
+//
+//   보통      https://gw.example.com/v1/chat/completions
+//   Azure     https://<이름>.openai.azure.com/openai/deployments/<배포>/chat/completions?api-version=2024-10-21
+//
+// 다른 점이 네 군데다.
+//
+//   1) 모델 이름이 주소 안에 있다 — 몸통의 `model` 이 아니라 **배포 이름**이다.
+//   2) `?api-version=` 이 없으면 400 이다. 이건 옵션이 아니라 필수다.
+//   3) 모델 목록이 `/models` 가 아니라 `/openai/deployments` 에 있다.
+//   4) 열쇠는 `Authorization: Bearer` 가 아니라 `api-key` 헤더다.
+//
+// 그래서 사람이 포털에서 복사한 주소를 그대로 넣으면 지금까지는
+// `.../openai/deployments/gpt-4o/v1/models` 를 두드리다 "연결 실패" 로 끝났다.
+// 주소는 맞는데 우리가 모양을 몰랐던 것이라, 사람이 고칠 방법도 없었다.
+//
+// ── 판 번호를 왜 우리가 정하나 ─────────────────────────────────────────
+//
+// `api-version` 은 Azure 가 정하는 날짜다. 우리가 아무 값이나 쓰면 안 되고,
+// 사람이 모르면 넣을 수도 없다. 그래서 GA 판 하나를 기본으로 두고, 주소에
+// 이미 적혀 있으면 **그쪽을 따른다** — 사내 정책으로 판을 고정해 둔 곳이 있다.
+// 설정(`apiVersion`)과 환경변수로도 바꾼다.
+const 기본판 = '2024-10-21';
+
+let 정한판 = 기본판;
+
+/** 설정·환경변수에서 판 번호를 정한다. config.load() 가 부른다. */
+export function 애저정하기({ env = process.env, config = null } = {}) {
+  const 값 = String(env.DEEL_AZURE_API_VERSION ?? config?.apiVersion ?? '').trim();
+  정한판 = 값 || 기본판;
+  return 정한판;
+}
+
+/** 지금 쓰는 판 번호. */
+export function 지금판() { return 정한판; }
+
+/** 검사가 원래대로 돌려놓을 때. */
+export function 판되돌리기() { 정한판 = 기본판; return 정한판; }
+
+// Azure 가 쓰는 호스트들. 포털이 주는 이름이 서비스마다 다르다.
+const 애저호스트 = /\.(openai\.azure\.com|cognitiveservices\.azure\.com|services\.ai\.azure\.com)$/i;
+
+/*
+ * 이 주소가 Azure 인가. 호스트로 보고, 아니면 경로 모양으로 본다.
+ *
+ * 단, 주소가 이미 `/v1` 로 끝나면 **Azure 로 다루지 않는다.**
+ * Azure 자원에도 OpenAI 규격 그대로인 `/openai/v1` 창구가 있고, 그 주소를
+ * 넣는 사람이 있다. 그것까지 배포 주소로 바꾸려 들면 되던 것이 안 된다 —
+ * 사람은 어제까지 되던 주소가 왜 갑자기 안 되는지 알 길이 없다.
+ */
+export function 애저인가(input) {
+  const s = String(input ?? '').trim();
+  if (!s) return false;
+  const u = 뜯기(s);
+  if (!u) return /\/openai\/deployments(\/|\?|$)/i.test(s);
+  if (/\/v\d+\/?$/.test(u.pathname)) return false;
+  return 애저호스트.test(u.hostname) || /\/openai\/deployments(\/|$)/i.test(u.pathname);
+}
+
+function 뜯기(s) {
+  try { return new URL(/^https?:\/\//i.test(s) ? s : `https://${s}`); }
+  catch { return null; }
+}
+
+/**
+ * 사람이 복사해 온 주소를 우리가 쓸 모양으로 푼다.
+ *
+ * 포털·문서·curl 예시가 저마다 다른 자리까지 준다. 다 받는다.
+ *
+ *   https://<이름>.openai.azure.com
+ *   https://<이름>.openai.azure.com/
+ *   https://<이름>.openai.azure.com/openai/deployments/gpt-4o
+ *   https://<이름>.openai.azure.com/openai/deployments/gpt-4o/chat/completions?api-version=2024-06-01
+ *
+ * @returns {{origin:string, 배포:string|null, 판:string, base:string|null, 목록주소:string}|null}
+ */
+export function 애저풀기(input) {
+  const u = 뜯기(String(input ?? '').trim());
+  if (!u) return null;
+
+  // 주소에 판이 적혀 있으면 그 말을 따른다 — 사내에서 판을 고정해 둔 곳이 있다.
+  const 판 = (u.searchParams.get('api-version') || '').trim() || 정한판;
+
+  const 조각 = u.pathname.split('/').filter(Boolean);
+  const i = 조각.findIndex((x) => x.toLowerCase() === 'deployments');
+  // `/openai/deployments/<배포>` 뒤에 붙은 `chat/completions` 같은 것은 버린다 —
+  // 우리가 다시 붙일 것이라, 두 번 붙으면 404 가 된다.
+  const 배포 = i >= 0 && 조각[i + 1] ? 풀어보기(조각[i + 1]) : null;
+
+  /*
+   * `openai/deployments` **앞에 붙은 길은 지킨다.**
+   *
+   * 사내에서 Azure 를 그대로 열어 주는 곳은 드물다. APIM 같은 앞단을 하나 두고
+   * `https://apim.사내/azure-openai/openai/deployments/...` 처럼 한 겹 아래에
+   * 매단다. 그 앞머리를 버리고 호스트 바로 밑에 다시 붙이면, 사람이 정확히
+   * 옮겨 적은 주소가 우리 손에서 틀린 주소가 된다. 그러고는 404 만 돌아온다.
+   */
+  const 앞머리 = i >= 1 && 조각[i - 1].toLowerCase() === 'openai' ? 조각.slice(0, i - 1) : [];
+  const 앞길 = 앞머리.length ? `/${앞머리.join('/')}` : '';
+
+  const origin = `${u.protocol}//${u.host}`;
+  return {
+    origin,
+    앞길,
+    배포,
+    판,
+    base: 배포 ? 애저base(origin, 배포, 판, 앞길) : null,
+    목록주소: `${origin}${앞길}/openai/deployments?api-version=${encodeURIComponent(판)}`,
+  };
+}
+
+/*
+ * 퍼센트 인코딩이 망가진 조각을 만나도 안 죽는다.
+ *
+ * `decodeURIComponent('100%')` 는 URIError 를 던진다. 그 자리가 프로그램의
+ * 제일 바깥이라, 사람은 `오류 URI malformed` 한 줄만 보고 무엇을 잘못
+ * 넣었는지 알 수 없다. 못 풀면 적힌 그대로 쓴다.
+ */
+function 풀어보기(s) {
+  try { return decodeURIComponent(s); }
+  catch { return s; }
+}
+
+/** 배포 이름 하나로 쓸 주소를 만든다. 앞단에 매달려 있으면 그 앞길도 지킨다. */
+export function 애저base(origin, 배포, 판 = 정한판, 앞길 = '') {
+  return `${String(origin).replace(/\/+$/, '')}${앞길}/openai/deployments/${encodeURIComponent(배포)}`
+    + `?api-version=${encodeURIComponent(판)}`;
+}
+
+/**
+ * 배포 목록 응답을 모델 목록으로.
+ *
+ * Azure 는 `{data:[{id, model, status}]}` 로 준다. 사람에게 보여 줄 이름은
+ * **배포 이름**(id)이다 — 주소에 들어가는 것이 그것이고, 밑에 깔린 모델
+ * 이름(gpt-4o)은 같은 것이 여러 배포에 붙을 수 있어 고를 때 도움이 안 된다.
+ */
+export function 배포목록(json) {
+  const 것들 = json?.data ?? json?.value ?? [];
+  if (!Array.isArray(것들)) return [];
+  return 것들
+    .map((d) => ({
+      id: d.id ?? d.name ?? d.deploymentId ?? null,
+      note: [d.model, d.status && d.status !== 'succeeded' ? d.status : null].filter(Boolean).join(' · '),
+    }))
+    .filter((m) => m.id);
+}

package/src/backend/ctxsize.js

@@ -27,6 +27,7 @@
 // 서버가 거절한다. 그래서 실제로 쓸 값은 '올린 길이' 로 잡고, '모델 최대' 는
 // 따로 알려 준다 — 사용자가 서버에서 더 올린 다음 /ctx 로 맞출 수 있게.
 import { req, headersFor } from './http.js';
+import { 애저인가 } from './azure.js';
 
 // 이 이름들 중 하나면 '모델이 낼 수 있는 최대 컨텍스트' 다. 순서가 곧 우선순위다.
 const 최대이름 = [
@@ -161,6 +162,24 @@ export async function probeCtx(conn, { timeout = 6000 } = {}) {
   const model = conn.model;
   const tried = [];
 
+  /*
+   * Azure 는 컨텍스트 길이를 API 로 안 알려 준다.
+   *
+   * 그런데 여기서 두드리는 여섯 자리(`/models`, `/props`, `/info` …)는 Azure
+   * 배포 주소 밑에 아예 없다. 그대로 두면 켤 때마다 여섯 번 404 를 받으며
+   * 기다리고, 진단 화면에는 "아무 응답도 못 받았습니다" 가 뜬다 — 서버가
+   * 멀쩡한데 우리가 없는 문을 두드린 것뿐이다.
+   */
+  // 'Azure 인가' 를 여기서 따로 정하지 않는다. 글자 조각으로 보면 detect 와
+  // 답이 갈리고, 갈리는 순간 한쪽만 맞는 자리가 생긴다 (backend/azure.js).
+  if (애저인가(conn.base)) {
+    return {
+      value: null, max: null, loaded: null, out: null, source: null, outSource: null,
+      maxKey: null, loadedKey: null, tried: [],
+      why: 'Azure 는 컨텍스트 길이를 알려주지 않습니다 — 배포한 모델에 맞게 설정에서 직접 넣으세요',
+    };
+  }
+
   const 본다 = async (label, url, opts = {}) => {
     try {
       const r = await req(url, { headers: H(), timeout, ...opts });

package/src/backend/detect.js

@@ -1,5 +1,6 @@
 // 주소만 받아서 "이 서버가 무슨 규격이고 인증을 어떻게 받는지" 알아낸다.
 import { req, headersFor, AUTH_STYLES, serverMessage } from './http.js';
+import { 애저인가, 애저풀기, 애저base, 배포목록 } from './azure.js';
 
 // 사람이 대충 적은 주소를 시도해볼 후보들로 넓힌다.
 export function candidates(input) {
@@ -14,6 +15,96 @@ export function candidates(input) {
   return out;
 }
 
+/*
+ * Azure 확인.
+ *
+ * 배포 목록(`/openai/deployments?api-version=`)을 먼저 묻는다. 여기서 오는
+ * 이름이 곧 주소에 들어갈 이름이라, 목록을 받으면 사람은 고르기만 하면 된다.
+ *
+ * 목록을 막아 둔 테넌트가 많다(권한이 따로다). 그때도 **연결 실패로 치지
+ * 않는다** — 주소에 배포 이름이 이미 있으면 그것으로 그냥 간다. 목록을 못 본
+ * 것과 못 쓰는 것은 다르고, 여기서 실패로 처리하면 정작 잘 되는 설정이
+ * 설치 화면을 못 넘어간다.
+ *
+ * ── 다만 두 가지는 성공이 아니다 ──────────────────────────────────────
+ *
+ *   1) **아무 바이트도 안 왔을 때.** 포트가 닫혀 있거나, VPN 이 안 올라왔거나,
+ *      자원 이름을 잘못 적었을 때가 그렇다. 이걸 "목록만 못 봤다" 로 넘기면
+ *      설치 화면이 초록색 `연결됨` 을 띄우고, 사람은 권한 문제인 줄 알고
+ *      엉뚱한 데를 뒤진다. 서버에 닿지도 못했으면 닿지 못했다고 해야 한다.
+ *
+ *   2) **첫 번째 401 로 인증 방식을 정해 버리는 것.** Azure 앞단을 Entra ID 로
+ *      감싼 곳은 `api-key` 에 401 을 주고 `Bearer` 를 받는다. 첫 401 에서
+ *      멈추면 그 곳은 영영 못 붙는다 — 화면은 초록색인데 첫 한마디가 401 이다.
+ *      그래서 방식은 **다 해 보고** 고른다.
+ */
+async function tryAzure(input, key) {
+  const 푼것 = 애저풀기(input);
+  if (!푼것) return null;
+  // Azure 는 api-key 헤더가 제 방식이다. 그것부터 본다.
+  const 차례 = ['api-key', 'bearer', 'none'].map((id) => AUTH_STYLES.find((s) => s.id === id));
+
+  let 닿음 = false;              // 서버가 HTTP 로 대답을 하기는 했나
+  const 막힌것 = [];             // 거절당한 방식들 — 다 해 보고 고른다
+  let 마지막오류 = null;
+
+  for (const style of 차례) {
+    if (style.id !== 'none' && !key) continue;
+    const r = await req(푼것.목록주소, { headers: headersFor(style.id, key), timeout: 12000 });
+    if (r.status) 닿음 = true;
+    else 마지막오류 = r.error ?? 마지막오류;
+
+    if (r.ok && r.json) {
+      const models = 배포목록(r.json);
+      const base = 푼것.base ?? (models[0] ? 애저base(푼것.origin, models[0].id, 푼것.판, 푼것.앞길) : null);
+      if (base) return { kind: 'openai', base, auth: style.id, models, ms: r.ms, azure: true };
+      // 200 인데 배포가 하나도 없다. 인증은 통했으니 더 두드려 봐야 같은 답이다.
+      return {
+        kind: null,
+        ms: r.ms,
+        why: '배포 목록은 받았는데 비어 있습니다 — 이 자원에 배포된 모델이 없습니다.'
+          + ' Azure 포털에서 모델을 배포한 뒤 다시 해 보세요.',
+      };
+    }
+    if ([401, 403, 404].includes(r.status)) 막힌것.push({ auth: style.id, status: r.status, ms: r.ms });
+  }
+
+  // 아무도 못 닿았다. 이건 목록 권한 문제가 아니라 연결 문제다.
+  if (!닿음) return { kind: null, why: 마지막오류 ?? '주소에 닿지 못했습니다' };
+
+  if (푼것.base && 막힌것.length) {
+    /*
+     * 어느 방식으로 적어 둘까.
+     *
+     * 401·403 은 "인증이 틀렸다" 는 말이고, 404 는 "인증은 됐는데 그 자리가
+     * 없다"에 가깝다. 그러니 404 를 받은 방식이 있으면 그쪽이 맞을 확률이
+     * 높다. 아무것도 안 통했으면 Azure 의 제 방식(api-key)으로 적어 두되,
+     * **열쇠를 줬는데 '인증 없음' 으로 적지는 않는다** — 그렇게 적으면 그
+     * 뒤의 모든 요청이 열쇠 없이 나간다.
+     */
+    // 열쇠를 줬으면 '인증 없음' 은 아예 후보에서 뺀다. 그것으로 적어 두면
+    // 그 뒤의 모든 요청이 맨몸으로 나간다 — 붙은 것처럼 보이는데 다 401 이다.
+    const 볼것 = key ? 막힌것.filter((x) => x.auth !== 'none') : 막힌것;
+    const 쓸것 = 볼것.length ? 볼것 : [{ auth: key ? 'api-key' : 'none', status: 막힌것[0].status, ms: 막힌것[0].ms }];
+    const 나은것 = 쓸것.find((x) => x.status === 404) ?? null;
+    const 고른것 = 나은것 ?? 쓸것[0];
+    const 다막힘 = !나은것;
+    return {
+      kind: 'openai',
+      base: 푼것.base,
+      auth: 고른것.auth,
+      models: [],
+      ms: 고른것.ms,
+      azure: true,
+      warn: 다막힘 && key
+        ? `배포 목록도 인증도 확인 못 했습니다 (해 본 방식마다 HTTP ${막힌것.map((x) => x.status).join('·')})`
+          + ' — 주소에 적힌 배포로 그냥 씁니다. 첫 한마디에서 걸리면 /model 로 인증 방식을 바꾸세요.'
+        : `배포 목록을 못 봤습니다 (HTTP ${고른것.status}) — 주소에 적힌 배포로 그냥 씁니다.`,
+    };
+  }
+  return null;
+}
+
 // OpenAI 호환인지 확인 (GET {base}/models)
 async function tryOpenAI(base, key) {
   for (const style of AUTH_STYLES) {
@@ -71,6 +162,21 @@ export async function detect(input, key) {
   const tried = [];
   const origin = String(input).trim().replace(/\/+$/, '').replace(/\/v\d+$/, '');
 
+  // Azure 는 모양이 아예 다르다. 여기서 갈라 놓지 않으면 아래 후보들이
+  // 엉뚱한 자리를 두드리다 끝난다.
+  if (애저인가(input)) {
+    const 푼것 = 애저풀기(input);
+    tried.push(푼것?.목록주소 ?? String(input));
+    const hit = await tryAzure(input, key);
+    if (hit?.kind) return { ...hit, tried };
+    // 못 붙은 이유를 tryAzure 가 알고 있으면 그 말을 쓴다. 우리가 아는 것보다 정확하다.
+    return {
+      kind: null,
+      tried,
+      why: hit?.why ?? 'Azure 주소로 보이는데 배포를 못 찾았습니다 — 주소에 /openai/deployments/<배포이름> 까지 넣어 보세요.',
+    };
+  }
+
   // Ollama 를 먼저 본다 — 로컬이면 대개 이쪽이고 확인이 빠르다.
   const oll = await tryOllama(/^https?:\/\//i.test(origin) ? origin : 'http://' + origin);
   if (oll) return { ...oll, tried };