foliko 2.0.29 → 2.0.30

package/package.json

@@ -1,6 +1,6 @@
 {
   "name": "foliko",
-  "version": "2.0.29",
+  "version": "2.0.30",
   "description": "简约的插件化 Agent 框架",
   "main": "src/index.js",
   "type": "commonjs",

package/src/agent/chat.js

@@ -112,6 +112,9 @@ class AgentChatHandler extends EventEmitter {
     this._toolsTokensCacheVersion = 0;
     this._systemPromptTokensCache = null;
     this._systemPromptTokensCacheKey = null;
+    // 消息 token 缓存（避免重复计算同一条消息）
+    this._messageTokenCache = new Map();
+    this._messageTokenCacheMaxSize = 200;
 
     // ChatQueueManager: 队列管理
     this.queueManager = new ChatQueueManager({
@@ -1028,7 +1031,7 @@ class AgentChatHandler extends EventEmitter {
     const totalTokens = cachedMsgTokens + toolsTokens + systemPromptTokens;
     const limit = this._maxContextTokens * SIMPLE_COMPRESS_TOKEN_RATIO;
 
-    logger.info(`[_prepareSession] BEFORE: messages=${messages.length}, tokens=${totalTokens}/${limit}, threshold=${this._compressionMessageThreshold}`);
+    //gger.info(`[_prepareSession] BEFORE: messages=${messages.length}, tokens=${totalTokens}/${limit}, threshold=${this._compressionMessageThreshold}`);
 
     if (totalTokens > limit || messages.length > this._compressionMessageThreshold) {
       logger.info(
@@ -1117,8 +1120,6 @@ class AgentChatHandler extends EventEmitter {
 
     for (let msgIdx = 0; msgIdx < messages.length; msgIdx++) {
       const msg = messages[msgIdx];
-
-      // ★ assistant 消息：content 数组格式的 tool-call
       if (msg.role === 'assistant' && Array.isArray(msg.content)) {
         for (let itemIdx = 0; itemIdx < msg.content.length; itemIdx++) {
           const item = msg.content[itemIdx];
@@ -1126,58 +1127,31 @@ class AgentChatHandler extends EventEmitter {
           if ((item.type === 'tool-call' || item.type === 'tool-use') && item.toolCallId) {
             const id = item.toolCallId;
             if (firstSeen.has(id)) {
+              // 冲突：生成唯一新 ID（不依赖全局计数器，避免跨调用泄露）
               const newId = `${id}_dup${msgIdx}_${itemIdx}`;
               item.toolCallId = newId;
+              // 同步修改紧随其后的 tool-result
               const renamed = this._renameFollowingToolResult(messages, msgIdx, id, newId);
               fixedCount += 1 + (renamed ? 1 : 0);
+              // 不更新 firstSeen（原始 ID 已被第一次声明占用）
             } else {
               firstSeen.set(id, { msgIdx, itemIdx, kind: 'call' });
             }
           }
         }
-      }
-
-      // ★ assistant 消息：tool_calls 数组格式（OpenAI 格式）
-      if (msg.role === 'assistant' && Array.isArray(msg.tool_calls)) {
-        for (let itemIdx = 0; itemIdx < msg.tool_calls.length; itemIdx++) {
-          const tc = msg.tool_calls[itemIdx];
-          if (!tc || !tc.id) continue;
-          const id = tc.id;
-          if (firstSeen.has(id)) {
-            const newId = `${id}_dup${msgIdx}_${itemIdx}`;
-            tc.id = newId;
-            const renamed = this._renameFollowingToolResult(messages, msgIdx, id, newId);
-            fixedCount += 1 + (renamed ? 1 : 0);
-          } else {
-            firstSeen.set(id, { msgIdx, itemIdx, kind: 'call' });
-          }
-        }
-      }
-
-      // ★ tool 消息：content 数组格式（AI SDK 格式）
-      // 注意：tool-result 与 assistant tool-call 配对使用同一 ID 是正常的，
-      // 此处只记录第一次出现的 ID，不做重命名（重命名由 _renameFollowingToolResult 在上面的 assistant 分支处理）
-      if (msg.role === 'tool' && Array.isArray(msg.content)) {
+      } else if (msg.role === 'tool' && Array.isArray(msg.content)) {
         for (let itemIdx = 0; itemIdx < msg.content.length; itemIdx++) {
           const item = msg.content[itemIdx];
           if (!item) continue;
           if ((item.type === 'tool-result' || item.type === 'tool_result') && item.toolCallId) {
             const id = item.toolCallId;
+            // 记录 tool-result 第一次出现（不与 call 比较，因为可能已被上面的分支处理过）
             if (!firstSeen.has(id)) {
               firstSeen.set(id, { msgIdx, itemIdx, kind: 'result' });
             }
           }
         }
       }
-
-      // ★ tool 消息：tool_call_id 字符串格式（OpenAI 格式）
-      // 同样只记录第一次出现，不做重命名
-      if (msg.role === 'tool' && msg.tool_call_id && !Array.isArray(msg.content)) {
-        const id = msg.tool_call_id;
-        if (!firstSeen.has(id)) {
-          firstSeen.set(id, { msgIdx, itemIdx: -1, kind: 'result' });
-        }
-      }
     }
     return fixedCount;
   }
@@ -1191,22 +1165,14 @@ class AgentChatHandler extends EventEmitter {
     for (let i = afterMsgIdx + 1; i < messages.length; i++) {
       const m = messages[i];
       if (m.role === 'assistant') return false;
-      if (m.role === 'tool') {
-        // AI SDK 数组格式
-        if (Array.isArray(m.content)) {
-          for (const item of m.content) {
-            if (!item) continue;
-            if ((item.type === 'tool-result' || item.type === 'tool_result') && item.toolCallId === oldId) {
-              item.toolCallId = newId;
-              return true;
-            }
+      if (m.role === 'tool' && Array.isArray(m.content)) {
+        for (const item of m.content) {
+          if (!item) continue;
+          if ((item.type === 'tool-result' || item.type === 'tool_result') && item.toolCallId === oldId) {
+            item.toolCallId = newId;
+            return true;
           }
         }
-        // OpenAI 字符串格式
-        if (m.tool_call_id === oldId) {
-          m.tool_call_id = newId;
-          return true;
-        }
       }
     }
     return false;
@@ -1397,11 +1363,10 @@ class AgentChatHandler extends EventEmitter {
    * @private
    */
   _createPrepareStep() {
-    const self = this;
     return async ({ stepNumber, messages: inputMessages }) => {
       try {
-        const tokenCount = self._countMessagesTokens(inputMessages);
-        const tokenLimit = self._maxContextTokens * SMART_COMPRESS_TOKEN_RATIO;
+        const tokenCount = this._countMessagesTokens(inputMessages);
+        const tokenLimit = this._maxContextTokens * SMART_COMPRESS_TOKEN_RATIO;
 
         // 超过限制时，保留三分之一的消息
         if (tokenCount > tokenLimit) {
@@ -1419,8 +1384,8 @@ class AgentChatHandler extends EventEmitter {
         //   所以不再需要 _stripStaleToolCalls 提前清理
 
         // 单次遍历完成：修复 invalid tool-call + 修复错误 text + 重映射历史 ID
-        const repairedCount = self._repairInvalidToolCallsInMessages(inputMessages);
-        self._repairAndPrefixHistoricalIds(inputMessages);
+        const repairedCount = this._repairInvalidToolCallsInMessages(inputMessages);
+        this._repairAndPrefixHistoricalIds(inputMessages);
 
         // ★ 防御性 sanitize：确保所有 message 符合 AI SDK ModelMessage[] schema
         // 每次 LLM step 前都跑一次（messages 数组里可能有 AI SDK 上一步加进来的）

package/src/agent/tool-loop.js

@@ -183,13 +183,6 @@ class ToolLoop extends EventEmitter {
     const api = [];
     if (systemPrompt) api.push({ role: 'system', content: systemPrompt });
 
-    // ★ 单遍扫描：跟踪"已遇到过的 assistant 中的 tool_call_id"，
-    //    tool-result 只能匹配其之前的 assistant，不能匹配其之后的。
-    //    防止历史会话中的 orphaned tool-result 被错误地保留。
-    const seenAssistantToolCallIds = new Set();
-    // ★ 追踪已输出的 tool_call_id，防止重复
-    const seenOutputToolCallIds = new Set();
-
     for (const msg of messages) {
       if (msg.role === 'system') {
         api.push({ role: 'system', content: typeof msg.content === 'string' ? msg.content : '' });
@@ -201,25 +194,6 @@ class ToolLoop extends EventEmitter {
           api.push({ role: 'user', content: text || '' });
         }
       } else if (msg.role === 'assistant') {
-        // ★ 先收集此 assistant 消息中的 tool_call_id（推入 api 前更新 seen 集合）
-        const currentToolCallIds = new Set();
-        if (msg.tool_calls && Array.isArray(msg.tool_calls)) {
-          for (const tc of msg.tool_calls) {
-            if (tc.id) currentToolCallIds.add(tc.id);
-          }
-        }
-        if (Array.isArray(msg.content)) {
-          for (const part of msg.content) {
-            if (part && (part.type === 'tool-call' || part.type === 'tool-use') && part.toolCallId) {
-              currentToolCallIds.add(part.toolCallId);
-            }
-          }
-        }
-        // ★ 将这些 ID 加入 seenAssistantToolCallIds，之后的 tool-result 才能匹配
-        for (const id of currentToolCallIds) {
-          seenAssistantToolCallIds.add(id);
-        }
-
         // ★ 检测是否有 reasoning 内容（thinking mode 必须携带）
         const hasReasoningInContent = Array.isArray(msg.content) && msg.content.some(p => p && p.type === 'reasoning');
         const hasReasoningTopLevel = msg.reasoning_content || msg.reasoning;
@@ -263,36 +237,16 @@ class ToolLoop extends EventEmitter {
         if (Array.isArray(msg.content)) {
           for (const part of msg.content) {
             if (!part || (part.type !== 'tool-result' && part.type !== 'tool_result')) continue;
-            const id = part.toolCallId;
-            // ★ 过滤：tool-result 必须匹配已出现过的 assistant 中的 tool_call_id
-            if (!seenAssistantToolCallIds.has(id)) {
-              log.warn(`[ToolLoop] 过滤无效 tool-result(顺序/无匹配): toolCallId=${id}`);
-              continue;
-            }
-            // ★ 过滤重复的 tool_call_id（同一 ID 多次出现）
-            if (seenOutputToolCallIds.has(id)) {
-              log.warn(`[ToolLoop] 跳过重复 tool-result: toolCallId=${id}`);
-              continue;
-            }
-            seenOutputToolCallIds.add(id);
             const output = part.output;
             let content;
             if (output?.type === 'text') content = output.value;
             else if (output?.type === 'json') content = JSON.stringify(output.value);
             else content = typeof output === 'string' ? output : JSON.stringify(output);
-            api.push({ role: 'tool', tool_call_id: id, content });
+            api.push({ role: 'tool', tool_call_id: part.toolCallId, content });
           }
         } else if (msg.tool_call_id && typeof msg.content === 'string') {
-          const id = msg.tool_call_id;
-          // ★ 过滤：tool-result 必须匹配已出现过的 assistant 中的 tool_call_id
-          if (!seenAssistantToolCallIds.has(id)) {
-            log.warn(`[ToolLoop] 过滤无效 tool-result(顺序/无匹配): tool_call_id=${id}`);
-          } else if (seenOutputToolCallIds.has(id)) {
-            log.warn(`[ToolLoop] 跳过重复 tool-result: tool_call_id=${id}`);
-          } else {
-            seenOutputToolCallIds.add(id);
-            api.push(msg);
-          }
+          // 已经是 OpenAI 格式（streaming 完成后的消息）
+          api.push(msg);
         }
       }
     }
@@ -494,12 +448,6 @@ class ToolLoop extends EventEmitter {
 
       let response;
       try {
-        // ★ DEBUG: 记录所有 tool 消息的 ID
-        for (const m of apiMessages) {
-          if (m.role === 'tool') {
-            log.warn(`[ToolLoop] [DEBUG] 发送 tool-result: tool_call_id=${m.tool_call_id}, content_len=${(m.content||'').length}`);
-          }
-        }
         response = await client.chat.completions.create({
           model,
           messages: apiMessages,
@@ -597,13 +545,6 @@ class ToolLoop extends EventEmitter {
 
       let stream;
       try {
-        // ★ DEBUG: 记录所有 tool 消息的 ID
-        for (const m of apiMessages) {
-          if (m.role === 'tool') {
-            log.warn(`[ToolLoop] [DEBUG] 发送 tool-result: tool_call_id=${m.tool_call_id}, content_len=${(m.content||'').length}`);
-          }
-        }
-
         stream = await client.chat.completions.create({
           model,
           messages: apiMessages,

package/src/common/constants.js

@@ -24,7 +24,7 @@ const DEFAULT_MAX_OUTPUT_TOKENS = 8192;
 const DEFAULT_TEMPERATURE = 0.3;
 
 /** 默认 Max Steps（工具调用最大轮数） */
-const DEFAULT_MAX_STEPS = 1000;
+const DEFAULT_MAX_STEPS = 20;
 
 /** 需要禁用 temperature 的 thinking mode 模型列表 */
 const THINKING_MODELS = [
@@ -54,7 +54,7 @@ const DEFAULT_MAX_MESSAGES_PER_SESSION = 1000;
 const KEEP_RECENT_MESSAGES = 20;
 
 /** 压缩消息数量阈值 */
-const COMPRESSION_MESSAGE_THRESHOLD = 120;
+const COMPRESSION_MESSAGE_THRESHOLD = 150;
 
 /** 智能压缩启用 */
 const ENABLE_SMART_COMPRESS = true;

package/src/llm/tokens.js

@@ -5,6 +5,16 @@
  * Ported from pi's compaction/compaction.ts with enhancements
  */
 
+// 全局 token 缓存（避免重复计算相同内容）
+const _tokenCache = new Map();
+const _TOKEN_CACHE_MAX_SIZE = 500;
+
+function _getCacheKey(message) {
+  if (message.id) return message.id;
+  if (message.role === 'tool') return `tool:${message.tool_call_id || message.toolName}`;
+  return `${message.role}:${JSON.stringify(message.content || '').slice(0, 100)}`;
+}
+
 function encode(text, bytesPerToken = 4) {
   if (!text) return 0;
   const bytes = Buffer.byteLength(String(text), 'utf8');
@@ -26,6 +36,12 @@ function safeJsonStringify(value) {
 }
 
 function estimateTokens(message) {
+  // 性能优化：使用缓存避免重复计算
+  const cacheKey = _getCacheKey(message);
+  if (_tokenCache.has(cacheKey)) {
+    return _tokenCache.get(cacheKey);
+  }
+
   let chars = 0;
 
   switch (message.role) {
@@ -40,7 +56,9 @@ function estimateTokens(message) {
           }
         }
       }
-      return Math.ceil(chars / 4);
+      const result = Math.ceil(chars / 4);
+      _updateCache(cacheKey, result);
+      return result;
     }
     case 'assistant': {
       const assistant = message;
@@ -53,7 +71,9 @@ function estimateTokens(message) {
           chars += block.name.length + safeJsonStringify(block.arguments).length;
         }
       }
-      return Math.ceil(chars / 4);
+      const result = Math.ceil(chars / 4);
+      _updateCache(cacheKey, result);
+      return result;
     }
     case 'custom':
     case 'toolResult': {
@@ -69,22 +89,40 @@ function estimateTokens(message) {
           }
         }
       }
-      return Math.ceil(chars / 4);
+      const result = Math.ceil(chars / 4);
+      _updateCache(cacheKey, result);
+      return result;
     }
     case 'bashExecution': {
       chars = message.command.length + (message.output?.length || 0);
-      return Math.ceil(chars / 4);
+      const result = Math.ceil(chars / 4);
+      _updateCache(cacheKey, result);
+      return result;
     }
     case 'branchSummary':
     case 'compactionSummary': {
       chars = message.summary.length;
-      return Math.ceil(chars / 4);
+      const result = Math.ceil(chars / 4);
+      _updateCache(cacheKey, result);
+      return result;
     }
   }
 
   return 0;
 }
 
+function _updateCache(key, value) {
+  if (_tokenCache.size >= _TOKEN_CACHE_MAX_SIZE) {
+    // 删除最旧的 20%
+    const keysToDelete = Math.floor(_TOKEN_CACHE_MAX_SIZE * 0.2);
+    const iterator = _tokenCache.keys();
+    for (let i = 0; i < keysToDelete; i++) {
+      _tokenCache.delete(iterator.next().value);
+    }
+  }
+  _tokenCache.set(key, value);
+}
+
 function calculateContextTokens(usage) {
   return usage.totalTokens || (usage.input || 0) + (usage.output || 0) + (usage.cacheRead || 0) + (usage.cacheWrite || 0);
 }

package/src/session/session.js

@@ -123,6 +123,11 @@ class SessionManager {
   _loadEntriesFromFile(filePath) {
     if (!fs.existsSync(filePath)) return [];
 
+    // 性能优化：使用流式读取大文件，减少内存占用
+    const stats = fs.statSync(filePath);
+    if (stats.size > 5 * 1024 * 1024) { // > 5MB 使用流
+      return this._loadEntriesFromFileStream(filePath);
+    }
     const content = fs.readFileSync(filePath, 'utf8');
     const entries = [];
     const lines = content.trim().split('\n');
@@ -152,6 +157,28 @@ class SessionManager {
     return entries;
   }
 
+  async _loadEntriesFromFileStream(filePath) {
+    // 性能优化：流式读取大文件
+    const entries = [];
+    const seenIds = new Set();
+    const readline = require('readline');
+    const rl = readline.createInterface({
+      input: fs.createReadStream(filePath),
+      crlfDelay: Infinity
+    });
+    for await (const line of rl) {
+      if (!line.trim()) continue;
+      try {
+        const entry = JSON.parse(line);
+        if (!entry || typeof entry !== 'object') continue;
+        if (entry.id && seenIds.has(entry.id)) continue;
+        if (entry.id) seenIds.add(entry.id);
+        entries.push(entry);
+      } catch { /* skip */ }
+    }
+    return entries;
+  }
+
   _buildIndex() {
     this.byId.clear();
     this.labelsById.clear();
@@ -175,7 +202,8 @@ class SessionManager {
 
   _rewriteFile() {
     if (!this.persist || !this.sessionFile) return;
-    const content = `${this.fileEntries.map(e => JSON.stringify(e)).join('\n')}\n`;
+    // 性能优化：单次写入代替多次追加
+    const content = this.fileEntries.map(e => JSON.stringify(e)).join('\n') + '\n';
     fs.writeFileSync(this.sessionFile, content);
   }
 
@@ -190,10 +218,10 @@ class SessionManager {
       return;
     }
 
+    // 性能优化：使用批量写入代替多次追加
     if (!this.flushed) {
-      for (const e of this.fileEntries) {
-        fs.appendFileSync(this.sessionFile, `${JSON.stringify(e)}\n`);
-      }
+      const batch = this.fileEntries.map(e => `${JSON.stringify(e)}\n`).join('');
+      fs.writeFileSync(this.sessionFile, batch);
       this.flushed = true;
     } else {
       fs.appendFileSync(this.sessionFile, `${JSON.stringify(entry)}\n`);

package/src/storage/jsonl.js

@@ -136,7 +136,8 @@ class JsonlSessionStorage {
   }
 
   static async _loadJsonlStorage(fsModule, filePath) {
-    const content = fsModule.readFileSync(filePath, 'utf-8');
+    // 性能优化：使用异步读取，避免阻塞事件循环
+    const content = await fsModule.promises.readFile(filePath, 'utf-8');
     const lines = content.split('\n').filter(line => line.trim());
     if (lines.length === 0) {
       throw invalidSession(filePath, 'missing session header');
@@ -195,7 +196,7 @@ class JsonlSessionStorage {
       timestamp: new Date().toISOString(),
       targetId: leafId
     };
-    fs.appendFileSync(this.filePath, JSON.stringify(entry) + '\n');
+    await this.fs.promises.appendFile(this.filePath, JSON.stringify(entry) + '\n');
     this.entries.push(entry);
     this.byId.set(entry.id, entry);
     this.currentLeafId = leafId;
@@ -206,7 +207,8 @@ class JsonlSessionStorage {
   }
 
   async appendEntry(entry) {
-    fs.appendFileSync(this.filePath, JSON.stringify(entry) + '\n');
+    // 性能优化：使用异步追加，减少阻塞时间
+    await this.fs.promises.appendFile(this.filePath, JSON.stringify(entry) + '\n');
     this.entries.push(entry);
     this.byId.set(entry.id, entry);
     updateLabelCache(this.labelsById, entry);

package/tests/core/tool-loop.test.js

@@ -59,13 +59,14 @@ describe('ToolLoop._buildApiMessages 格式转换', () => {
     expect(api[3].content).toBe('{"data":"ok"}');
   });
 
-  it('tool 消息无对应 assistant 时被过滤（防止 orphaned tool-result）', () => {
+  it('tool 消息已经用 OpenAI 格式时保持', () => {
     const api = loop._buildApiMessages([
       { role: 'tool', tool_call_id: 'c1', content: 'done' },
     ], 'system prompt');
-    // orphaned tool-result 被过滤，只有 system 消息
-    expect(api).toHaveLength(1);
+    // 已经符合 OpenAI 格式的直接保留
     expect(api[0].role).toBe('system');
+    expect(api[1].role).toBe('tool');
+    expect(api[1].tool_call_id).toBe('c1');
   });
 
   it('systemPrompt 为空时不加 system 消息', () => {