@open-mercato/ai-assistant 0.6.7 → 0.6.8-develop.6874.1.982d6097d8

package/dist/modules/ai_assistant/i18n/pl.json

@@ -36,21 +36,44 @@
   "ai_assistant.agents.meta.readOnlyYes": "Tak",
   "ai_assistant.agents.meta.unlimited": "Bez limitu",
   "ai_assistant.agents.model_override.allowlistCustom": "niestandardowe",
+  "ai_assistant.agents.model_override.allowlistEmpty": "Brak skonfigurowanych dostawców dostępnych do nadpisań w czacie.",
+  "ai_assistant.agents.model_override.allowlistHelp": "Ogranicz, które nadpisania dostawcy i modelu użytkownicy mogą wybrać w stopce czatu dla tego agenta.",
   "ai_assistant.agents.model_override.allowlistInherited": "dziedziczone",
   "ai_assistant.agents.model_override.allowlistReset": "Dziedzicz",
   "ai_assistant.agents.model_override.allowlistSave": "Zapisz wybór",
+  "ai_assistant.agents.model_override.allowlistSaved": "Zapisano dozwolone opcje nadpisań w czacie.",
+  "ai_assistant.agents.model_override.allowlistTitle": "Dozwolone opcje nadpisań w czacie",
   "ai_assistant.agents.model_override.anyProvider": "pierwszy skonfigurowany",
   "ai_assistant.agents.model_override.clear": "Wyczyść nadpisanie",
+  "ai_assistant.agents.model_override.cleared": "Nadpisanie modelu zostało wyczyszczone; agent korzysta ze standardowego łańcucha rozwiązywania.",
   "ai_assistant.agents.model_override.codeDefault": "Domyślne z kodu",
   "ai_assistant.agents.model_override.defaultBadge": "domyślne",
+  "ai_assistant.agents.model_override.envAlsoNarrows": "dodatkowo zawęża tę listę na podstawie zmiennych środowiskowych.",
+  "ai_assistant.agents.model_override.loadErrorTitle": "Nie udało się wczytać katalogu dostawców",
+  "ai_assistant.agents.model_override.loading": "Wczytywanie katalogu dostawców…",
   "ai_assistant.agents.model_override.model": "Model",
   "ai_assistant.agents.model_override.noOverride": "Brak nadpisania dla agenta",
   "ai_assistant.agents.model_override.provider": "Dostawca",
   "ai_assistant.agents.model_override.providerDefault": "domyślne dostawcy",
   "ai_assistant.agents.model_override.save": "Zapisz nadpisanie",
   "ai_assistant.agents.model_override.saved": "Nadpisanie modelu zapisane.",
+  "ai_assistant.agents.model_override.selectModel": "Wybierz model",
+  "ai_assistant.agents.model_override.selectProvider": "Wybierz dostawcę",
+  "ai_assistant.agents.model_override.subtitle": "Nadpisz domyślnego dostawcę i model dla tego najemcy i agenta.",
   "ai_assistant.agents.model_override.tenantOverride": "Nadpisanie tenant",
   "ai_assistant.agents.model_override.title": "Dostawca i model",
+  "ai_assistant.agents.moderation.controlLabel": "Moderacja",
+  "ai_assistant.agents.moderation.effectiveEnforced": "Wymuszona",
+  "ai_assistant.agents.moderation.effectiveOff": "Wyłączona",
+  "ai_assistant.agents.moderation.effectiveOn": "Włączona",
+  "ai_assistant.agents.moderation.enforcedBadge": "Wymuszona",
+  "ai_assistant.agents.moderation.enforcedHint": "Ten agent przyjmuje niezaufane dane wejściowe, więc moderacja jest zawsze włączona i nie można jej tutaj wyłączyć.",
+  "ai_assistant.agents.moderation.inheritLabel": "Dziedzicz",
+  "ai_assistant.agents.moderation.offLabel": "Wyłączona",
+  "ai_assistant.agents.moderation.onLabel": "Włączona",
+  "ai_assistant.agents.moderation.saved": "Zapisano ustawienie moderacji danych wejściowych.",
+  "ai_assistant.agents.moderation.subtitle": "Filtruj dane wejściowe użytkownika pod kątem niebezpiecznych treści przed uruchomieniem modelu. Działa tylko, gdy wybrany dostawca obsługuje moderację.",
+  "ai_assistant.agents.moderation.title": "Moderacja danych wejściowych",
   "ai_assistant.agents.mutation_policy.clear": "Wyczyść nadpisanie",
   "ai_assistant.agents.mutation_policy.clearedMessage": "Nadpisanie polityki mutacji usunięte; agent korzysta z polityki zadeklarowanej w kodzie.",
   "ai_assistant.agents.mutation_policy.codeDeclared": "Zadeklarowane w kodzie",
@@ -275,7 +298,9 @@
   "ai_assistant.chat.toolRunning": "w toku…",
   "ai_assistant.chat.transcriptLabel": "Transkrypcja czatu",
   "ai_assistant.chat.uiPartPending": "Oczekująca część UI:",
+  "ai_assistant.chat.uploadingHint": "Trwa przesyłanie załączników… Wysyłanie jest zablokowane do zakończenia.",
   "ai_assistant.chat.userRoleLabel": "Ty",
+  "ai_assistant.chat.welcomeDescription": "Zapytaj mnie o cokolwiek z Twoich danych. Oto kilka rzeczy, które potrafię:",
   "ai_assistant.chat.welcomeTitle": "W czym mogę pomóc?",
   "ai_assistant.chat.zoomImage": "Otwórz podgląd {name}",
   "ai_assistant.dock.bottom": "Dokuj na dole",
@@ -284,13 +309,17 @@
   "ai_assistant.dock.left": "Dokuj po lewej",
   "ai_assistant.dock.minimize": "Minimalizuj",
   "ai_assistant.dock.right": "Dokuj po prawej",
+  "ai_assistant.errors.moderationBlocked": "Twoja wiadomość została zablokowana przez filtr bezpieczeństwa treści. Przeformułuj ją i spróbuj ponownie.",
+  "ai_assistant.errors.moderationUnavailable": "Sprawdzanie bezpieczeństwa treści jest chwilowo niedostępne. Spróbuj ponownie za chwilę.",
   "ai_assistant.launcher.composerPlaceholder": "Zapytaj o cokolwiek…",
+  "ai_assistant.launcher.dialogDescription": "Wybierz asystenta. Nawiguj klawiszami ↑/↓, Enter uruchamia, Esc zamyka.",
   "ai_assistant.launcher.dialogTitle": "Asystenci AI",
   "ai_assistant.launcher.dock.subtitle": "Asystent AI",
   "ai_assistant.launcher.empty": "Żaden asystent nie pasuje do wyszukiwania.",
   "ai_assistant.launcher.hint.close": "Zamknij",
   "ai_assistant.launcher.hint.launch": "Uruchom",
   "ai_assistant.launcher.hint.navigate": "Nawigacja",
+  "ai_assistant.launcher.none": "Dla Twojego konta nie są dostępni żadni asystenci.",
   "ai_assistant.launcher.searchPlaceholder": "Szukaj asystentów...",
   "ai_assistant.launcher.setup.body": "Asystenci AI są zainstalowani, ale nie skonfigurowano klucza dostawcy. Ustaw OM_AI_PROVIDER oraz pasujący klucz API w pliku .env, a następnie uruchom aplikację ponownie.",
   "ai_assistant.launcher.setup.docs": "Dokumentacja asystenta AI",
@@ -299,6 +328,7 @@
   "ai_assistant.launcher.sheet.dock": "Przypnij z boku",
   "ai_assistant.launcher.triggerAriaLabel": "Otwórz asystenta AI",
   "ai_assistant.launcher.triggerLabel": "AI",
+  "ai_assistant.launcher.welcome.fallback": "W czym mogę pomóc?",
   "ai_assistant.launcher.welcome.suggestion1": "W czym możesz mi pomóc?",
   "ai_assistant.launcher.welcome.suggestion2": "Pokaż, do jakich danych masz dostęp",
   "ai_assistant.launcher.welcome.suggestion3": "Zaproponuj, co mogę wypróbować",
@@ -326,6 +356,18 @@
   "ai_assistant.modelPicker.triggerAriaLabel": "Wybierz model AI",
   "ai_assistant.modelPicker.useDefault": "Użyj domyślnego agenta",
   "ai_assistant.modelPicker.useDefaultWithModel": "Użyj domyślnego agenta: {{model}}",
+  "ai_assistant.moderationFlags.columns.agent": "Agent",
+  "ai_assistant.moderationFlags.columns.categories": "Kategorie",
+  "ai_assistant.moderationFlags.columns.createdAt": "Oznaczono",
+  "ai_assistant.moderationFlags.columns.user": "Użytkownik",
+  "ai_assistant.moderationFlags.empty": "Brak oznaczonych wiadomości.",
+  "ai_assistant.moderationFlags.filters.agentPlaceholder": "moduł.agent",
+  "ai_assistant.moderationFlags.filters.apply": "Zastosuj",
+  "ai_assistant.moderationFlags.filters.from": "Od",
+  "ai_assistant.moderationFlags.filters.to": "Do",
+  "ai_assistant.moderationFlags.navTitle": "Flagi moderacji",
+  "ai_assistant.moderationFlags.subtitle": "Dane wejściowe zablokowane przez filtr bezpieczeństwa treści. Tylko flagi kategorii i wyniki — treść promptu nie jest przechowywana.",
+  "ai_assistant.moderationFlags.title": "Flagi moderacji",
   "ai_assistant.notifications.conversation_shared.body": "Udostępniono Ci konwersację z asystentem AI.",
   "ai_assistant.notifications.conversation_shared.title": "Udostępniono Ci konwersację",
   "ai_assistant.notifications.conversation_shared.view_button": "Otwórz konwersację",

package/dist/modules/ai_assistant/lib/agent-runtime.js

@@ -11,6 +11,18 @@ import {
   Experimental_Agent as ToolLoopAgent
 } from "ai";
 import { createModelFactory, resolveAllowRuntimeOverride } from "./model-factory.js";
+import { computeEndUserIdentifier } from "@open-mercato/shared/lib/ai/safety-identifier";
+import { llmProviderRegistry } from "@open-mercato/shared/lib/ai/llm-provider-registry";
+import {
+  AiModerationBlockedError,
+  AiModerationUnavailableError
+} from "./moderation.js";
+import {
+  isModerationActive,
+  resolveModerationPolicy,
+  shouldFailClosed
+} from "./moderation-policy.js";
+import { recordModerationFlag } from "./moderation-flag-recorder.js";
 import {
   resolveAiAgentTools,
   AgentPolicyError,
@@ -397,7 +409,7 @@ function assertLoopObjectModeCompatible(loopConfig) {
     );
   }
 }
-function resolveAgentModel(agent, modelOverride, providerOverride, container, baseUrlOverride, tenantOverride, requestOverride, tenantAllowlist) {
+function resolveAgentModel(agent, modelOverride, providerOverride, container, baseUrlOverride, tenantOverride, requestOverride, tenantAllowlist, endUserIdentifier) {
   const effectiveContainer = container ?? createContainer();
   const resolution = createModelFactory(effectiveContainer).resolveModel({
     moduleId: agent.moduleId,
@@ -410,14 +422,88 @@ function resolveAgentModel(agent, modelOverride, providerOverride, container, ba
     allowRuntimeOverride: resolveAllowRuntimeOverride(agent),
     tenantOverride: tenantOverride ?? void 0,
     requestOverride: requestOverride ?? void 0,
-    tenantAllowlist: tenantAllowlist ?? null
+    tenantAllowlist: tenantAllowlist ?? null,
+    endUserIdentifier
   });
   return {
     model: resolution.model,
     modelId: resolution.modelId,
-    providerId: resolution.providerId
+    providerId: resolution.providerId,
+    providerOptions: resolution.providerOptions,
+    supportsInputModeration: resolution.supportsInputModeration === true,
+    baseURL: resolution.baseURL
   };
 }
+function extractLatestUserText(messages) {
+  for (let index = messages.length - 1; index >= 0; index -= 1) {
+    const raw = messages[index];
+    if (raw.role !== "user") continue;
+    if (Array.isArray(raw.parts)) {
+      return raw.parts.filter((part) => part?.type === "text" && typeof part.text === "string").map((part) => part.text).join("\n");
+    }
+    return typeof raw.content === "string" ? raw.content : "";
+  }
+  return "";
+}
+async function runInputModerationGate(params) {
+  const policy = resolveModerationPolicy({
+    untrustedInput: params.untrustedInput,
+    perAgentOverride: params.perAgentOverride,
+    tenantWideOverride: params.tenantWideOverride,
+    env: params.env
+  });
+  if (!isModerationActive(policy)) return;
+  if (!params.supportsInputModeration) return;
+  const text = params.userText.trim();
+  if (!text) return;
+  const failClosed = shouldFailClosed(policy);
+  const failOpenOrThrow = (reason, error) => {
+    if (failClosed) {
+      if (error instanceof AiModerationUnavailableError) throw error;
+      throw new AiModerationUnavailableError(reason, error);
+    }
+    logger.warn("Input moderation unavailable; failing open for opt-in surface", { reason });
+  };
+  if (!params.service) {
+    return failOpenOrThrow("moderation service is not available in the container");
+  }
+  const apiKey = params.resolveApiKey();
+  if (!apiKey) {
+    return failOpenOrThrow("no API key available for the moderation provider");
+  }
+  let result;
+  try {
+    result = await params.service.checkInput({
+      text,
+      apiKey,
+      baseURL: params.baseURL,
+      model: params.moderationModel
+    });
+  } catch (error) {
+    if (error instanceof AiModerationUnavailableError) {
+      return failOpenOrThrow(error.message, error);
+    }
+    throw error;
+  }
+  if (result.flagged) {
+    if (params.onFlagged) {
+      try {
+        await params.onFlagged(result.categories);
+      } catch (error) {
+        logger.error("Moderation flag side effect failed (rejection still applies)", { err: error });
+      }
+    }
+    throw new AiModerationBlockedError(result.categories);
+  }
+}
+function resolveEndUserIdentifier(authContext) {
+  try {
+    return computeEndUserIdentifier(authContext.tenantId, authContext.userId);
+  } catch (error) {
+    logger.warn("Failed to derive end-user safety identifier", { err: error });
+    return void 0;
+  }
+}
 async function resolveTenantAllowlistSnapshot(container, tenantId, organizationId) {
   if (!tenantId || !container) return null;
   let em = null;
@@ -550,6 +636,31 @@ async function resolveRuntimeModelOverride(agentId, container, tenantId, organiz
     return null;
   }
 }
+async function resolveModerationOverrideValues(container, tenantId, organizationId, agentId) {
+  const empty = { perAgentOverride: null, tenantWideOverride: null };
+  if (!tenantId || !container) return empty;
+  let em = null;
+  try {
+    em = container.resolve("em");
+  } catch {
+    em = null;
+  }
+  if (!em) return empty;
+  try {
+    const repo = new AiAgentRuntimeOverrideRepository(em);
+    const [agentRow, tenantRow] = await Promise.all([
+      repo.getExact({ tenantId, organizationId: organizationId ?? null, agentId }),
+      repo.getDefault({ tenantId, organizationId: organizationId ?? null, agentId: null })
+    ]);
+    return {
+      perAgentOverride: agentRow?.inputModeration ?? null,
+      tenantWideOverride: tenantRow?.inputModeration ?? null
+    };
+  } catch (error) {
+    logger.warn("Moderation override lookup failed; falling back to env default", { agentId, err: error });
+    return empty;
+  }
+}
 function ensureUiMessageShape(messages) {
   return messages.map((message, index) => {
     const raw = message;
@@ -750,10 +861,47 @@ async function runAiAgentText(input) {
     input.baseUrlOverride,
     tenantRuntimeOverride,
     input.requestOverride,
-    tenantAllowlistSnapshot
+    tenantAllowlistSnapshot,
+    resolveEndUserIdentifier(input.authContext)
   );
   const { model } = resolvedModel;
+  const modelProviderOptions = resolvedModel.providerOptions;
   const normalizedMessages = ensureUiMessageShape(input.messages);
+  let moderationService = null;
+  try {
+    moderationService = input.container?.resolve("moderationService") ?? null;
+  } catch {
+    moderationService = null;
+  }
+  const moderationOverrides = resolvedModel.supportsInputModeration && agent.untrustedInput !== true ? await resolveModerationOverrideValues(
+    input.container,
+    input.authContext.tenantId,
+    input.authContext.organizationId,
+    agent.id
+  ) : { perAgentOverride: null, tenantWideOverride: null };
+  await runInputModerationGate({
+    untrustedInput: agent.untrustedInput,
+    supportsInputModeration: resolvedModel.supportsInputModeration,
+    perAgentOverride: moderationOverrides.perAgentOverride,
+    tenantWideOverride: moderationOverrides.tenantWideOverride,
+    userText: extractLatestUserText(normalizedMessages),
+    service: moderationService,
+    resolveApiKey: () => llmProviderRegistry.get(resolvedModel.providerId)?.resolveApiKey() ?? null,
+    baseURL: resolvedModel.baseURL,
+    moderationModel: process.env.OM_AI_MODERATION_MODEL,
+    onFlagged: (categories) => recordModerationFlag(
+      {
+        tenantId: input.authContext.tenantId,
+        organizationId: input.authContext.organizationId,
+        agentId: agent.id,
+        userId: input.authContext.userId,
+        providerId: resolvedModel.providerId,
+        modelId: resolvedModel.modelId,
+        categories
+      },
+      input.container
+    )
+  });
   const hydratedMessages = attachAttachmentsToMessages(normalizedMessages, resolvedAttachments);
   const modelMessages = await convertToModelMessages(hydratedMessages);
   const effectiveLoop = resolveEffectiveLoopConfig(agent, input.loop, WRAPPER_DEFAULT_LOOP_CHAT);
@@ -814,7 +962,8 @@ async function runAiAgentText(input) {
       onStepFinish: wiredOnStepFinish,
       ...effectiveLoop.repairToolCall !== void 0 ? { experimental_repairToolCall: effectiveLoop.repairToolCall } : {},
       ...sdkActiveTools !== void 0 ? { activeTools: sdkActiveTools } : {},
-      ...sdkToolChoice !== void 0 ? { toolChoice: sdkToolChoice } : {}
+      ...sdkToolChoice !== void 0 ? { toolChoice: sdkToolChoice } : {},
+      ...modelProviderOptions !== void 0 ? { providerOptions: modelProviderOptions } : {}
     };
     builtToolLoopAgent = new ToolLoopAgent(agentSettings);
   }
@@ -835,6 +984,7 @@ async function runAiAgentText(input) {
     toolChoice: sdkToolChoice,
     abortSignal: abortController.signal,
     finalizeLoopTrace: () => loopTraceCollector.finalize(budgetEnforcer.abortReason),
+    ...modelProviderOptions !== void 0 ? { providerOptions: modelProviderOptions } : {},
     ...builtToolLoopAgent !== void 0 ? { toolLoopAgent: builtToolLoopAgent } : {}
   };
   const taskPlanId = `turn_${turnId}`;
@@ -894,6 +1044,7 @@ async function runAiAgentText(input) {
     experimental_repairToolCall: effectiveLoop.repairToolCall,
     ...sdkActiveTools !== void 0 ? { activeTools: sdkActiveTools } : {},
     ...sdkToolChoice !== void 0 ? { toolChoice: sdkToolChoice } : {},
+    ...modelProviderOptions !== void 0 ? { providerOptions: modelProviderOptions } : {},
     abortSignal: abortController.signal
   });
   if (wallClockTimer !== void 0) {
@@ -1101,11 +1252,13 @@ export {
   buildLoopTraceCollector,
   buildWrapperPrepareStep,
   composeSystemPrompt,
+  extractLatestUserText,
   mergeStepOverrides,
   resolveEffectiveLoopConfig,
   resolveLoopBudgetPreset,
   runAiAgentObject,
   runAiAgentText,
+  runInputModerationGate,
   translateStopConditions
 };
 //# sourceMappingURL=agent-runtime.js.map