@myassis/gateway 1.0.99 → 1.0.100

package/dist/config/index.js

@@ -118,7 +118,7 @@ exports.appConfig = {
      */
     /** 模型 maxTokens 缺失时的轮内压缩兜底阈值（字符） */
     turnCompactTriggerChars: parseInt(process.env.TURN_COMPACT_TRIGGER_CHARS || '1000000', 10),
-    /** 轮内压缩阈值占模型上下文窗口的百分比（对齐 Codex 的 90%） */
+    /** 模型上下文窗口的可用百分比（折算为字符预算，对齐 Codex 的 90%） */
     turnCompactTriggerPercent: parseInt(process.env.TURN_COMPACT_TRIGGER_PERCENT || '90', 10),
     /** 轮内压缩时保留原文的最近工具调用轮数 */
     turnCompactKeepPairs: parseInt(process.env.TURN_COMPACT_KEEP_PAIRS || '2', 10),

package/dist/services/session/Session.js

@@ -925,13 +925,16 @@ class Session {
         const models = this.useSystemMode
             ? (await dataService_js_1.modelsService.listSystem()).data.map(x => (0, models_js_1.toSystemModel)(x))
             : (await dataService_js_1.modelsService.list(token)).data.map(x => (0, models_js_1.toModel)(x));
-        // 轮内压缩阈值：优先按当前模型上下文窗口的百分比（对齐 Codex 的 90%），
+        // 计算当前模型上下文窗口对应的字符预算（对齐 Codex 的 90%），
         // 模型未声明 maxTokens 时回退到固定字符阈值。
         const activeModel = models.find(m => m.modelId === this.selectModelId || m.id === this.selectModelId) || models[0];
         const modelMaxTokens = activeModel?.maxTokens || 0;
-        const turnCompactTokenThreshold = modelMaxTokens > 0
-            ? Math.floor(modelMaxTokens * index_js_2.appConfig.turnCompactTriggerPercent / 100)
-            : Math.floor(index_js_2.appConfig.turnCompactTriggerChars / ContextBuilder_js_1.CHARS_PER_TOKEN);
+        // 发给模型的字符预算：取配置上限与模型窗口（按百分比折算）的较小值，
+        // 避免对小窗口模型发出超限请求；大窗口模型则沿用 contextMaxChars。
+        const modelWindowChars = modelMaxTokens > 0
+            ? Math.floor(modelMaxTokens * index_js_2.appConfig.turnCompactTriggerPercent / 100 * ContextBuilder_js_1.CHARS_PER_TOKEN)
+            : index_js_2.appConfig.turnCompactTriggerChars;
+        const effectiveContextMaxChars = Math.min(index_js_2.appConfig.contextMaxChars, modelWindowChars);
         // 工具调用轮次计数，防止无限循环
         let toolRound = 0;
         // 达到工具轮上限后置位：强制模型停止调用工具、直接产出最终回复
@@ -1015,15 +1018,17 @@ class Session {
         const callModel = async () => {
             let transientRetries = 0;
             while (true) {
-                // 预防式压缩：等到厂商报超限才处理已经太晚（那意味着一次废掉的请求，
-                // 且部分厂商在超限时返回的是难以识别的 400），这里提前把体积降下来。
-                if ((0, ContextBuilder_js_1.estimateTokens)(messages) > turnCompactTokenThreshold) {
-                    await compactInTurn();
-                }
-                const built = (0, ContextBuilder_js_1.buildContext)(messages, messagesLength, index_js_2.appConfig.contextMaxChars, trimLevel);
+                // 先做分级裁剪（只截断旧工具负载，保留最近 turnCompactKeepPairs 轮完整内容）。
+                // 只有裁剪到当前级别后仍超出预算时，才做轮内摘要压缩；平时靠截断即可，
+                // 避免工具调用一达到轮数就触发摘要。
+                const built = (0, ContextBuilder_js_1.buildContext)(messages, messagesLength, effectiveContextMaxChars, trimLevel);
                 if (built.trimmed) {
                     logger.debug(`上下文裁剪: level=${built.level} chars=${built.chars}`);
                 }
+                if (built.chars > effectiveContextMaxChars) {
+                    if (await compactInTurn())
+                        continue;
+                }
                 // 收尾阶段不再下发工具定义：只要工具还在，模型大概率继续调用而不收尾
                 const llmClient = new LLMClient_js_1.LLMClient(models, built.messages, this.abortController.signal, forceFinalize ? [] : tools);
                 llmClient.setPreferredModel(this.selectModelId);

package/package.json

@@ -1,6 +1,6 @@
 {
   "name": "@myassis/gateway",
-  "version": "1.0.99",
+  "version": "1.0.100",
   "description": "我的助手 Gateway Service - 本地 AI 网关服务，支持认证、WebSocket 实时通信和任务调度",
   "main": "dist/index.js",
   "bin": {