@noobdemon/noob-cli 1.9.7 → 1.9.9

package/package.json

@@ -1,6 +1,6 @@
 {
   "name": "@noobdemon/noob-cli",
-  "version": "1.9.7",
+  "version": "1.9.9",
   "publishConfig": {
     "access": "public"
   },

package/src/agent.js

@@ -513,6 +513,9 @@ export async function runAgent({ history, model, signal, onTool, onStatus, onDel
 
     const system = buildSystem(history, extraToolsDoc, goal, recentSessions);
     const message = buildUserMessage(history);
+    // Cập nhật context tokens realtime — đếm system + message sau khi build xong.
+    // Mỗi iteration (tool call, steer) history thay đổi → size thay đổi → cần update.
+    tokenMeter?.setContext(countTokens(system) + countTokens(message));
     tokenMeter?.addInput(countTokens(message));
     onStatus?.("thinking");
     onDelta?.({ type: "step-start" });

package/src/repl.js

@@ -5,7 +5,7 @@ import chalk from "chalk";
 import { createTui } from "./tui.js";
 import { runAgent, maybeSummarize } from "./agent.js";
 import { runSubAgent, spawnAgentToolsDoc, MAX_SUBAGENT_DEPTH } from "./subagent.js";
-import { TokenMeter } from "./tokens.js";
+import { TokenMeter, countMessages, CONTEXT_WINDOW } from "./tokens.js";
 import { stream, usage, ApiError, resetMemoryToken } from "./api.js";
 import { runTool, describe, DESTRUCTIVE, addRoot, removeRoot, listRoots, OutOfScopeError, nearestExistingDir } from "./tools.js";
 import { MODELS, PROVIDERS, findModel, providerColor, DEFAULT_MODEL } from "./models.js";
@@ -1186,7 +1186,7 @@ NGUYÊN TẮC:
     // Nhờ vậy người dùng LUÔN thấy đồng hồ + token đang chạy, kể cả khi treo chờ y/n.
     const tickMeta = () => {
       const elapsed = ((Date.now() - t0) / 1000).toFixed(0);
-      tui.setMeta(`${elapsed}s · ${tokenMeter.format()}`);
+      tui.setMeta(`${elapsed}s · ${tokenMeter.formatWithPct()}`);
     };
     const tick = (label) => {
       tui.status(c.dim(`${label}…`));
@@ -1237,6 +1237,8 @@ NGUYÊN TẮC:
         ? text + `\n\n[File người dùng nhắc tới bằng @: ${files.join(", ")} — đọc bằng read_file nếu cần.]`
         : text;
       state.history.push({ role: "user", content });
+      // Tính context tokens realtime — đếm system prompt + history trước khi gửi.
+      tokenMeter.setContext(countMessages(state.history));
       if (process.stdin.isTTY && !state.steerHintShown) {
         console.log(c.dim("  " + t.steerHint));
         state.steerHintShown = true;
@@ -1341,34 +1343,28 @@ NGUYÊN TẮC:
     } finally {
       abort = null;
       tui.setBusy(false);
-      // Cảnh báo phiên dài: in một lần khi tổng chars vượt ~2× ngưỡng summarize
-      // (60k trong agent.js). Tự maybeSummarize đã chạy bên trong, nhưng người
-      // dùng có thể muốn /clear chủ động cho gọn ngữ cảnh + tốc độ.
+      // Auto-compact dựa trên context tokens thay vì chars.
+      // 80% context window (160k tokens) → auto compact.
+      // 70% (140k tokens) → cảnh báo mạnh.
+      // 60% (120k tokens) → nhắc nhẹ.
       try {
-        const totalChars = state.history.reduce(
-          (a, m) => a + (typeof m.content === "string" ? m.content.length : JSON.stringify(m.content || "").length),
-          0,
-        );
-        const k = Math.round(totalChars / 1000);
-        // Mốc 3 (240k+): TỰ ĐỘNG compact — không hỏi, không chờ user. Mục tiêu là
-        // giữ model chạy mượt khi user mải làm việc, không để phiên phình mãi.
-        // Dùng cờ _autoCompacting chống re-entrant (nếu compact lâu, lượt sau
-        // tới trước khi xong thì bỏ qua).
-        if (totalChars > 240000 && !state._autoCompacting) {
+        const totalTokens = countMessages(state.history);
+        tokenMeter.setContext(totalTokens);
+        const k = Math.round(totalTokens / 1000);
+        const pct = Math.round((totalTokens / CONTEXT_WINDOW) * 100);
+        // Mốc 3 (≥80% — 160k tokens): TỰ ĐỘNG compact.
+        if (totalTokens >= CONTEXT_WINDOW * 0.8 && !state._autoCompacting) {
           state._autoCompacting = true;
-          console.log(c.accent("  ⚡ " + t.autoCompactTrigger(k)));
+          console.log(c.accent(`  ⚡ ${t.autoCompactTrigger(k)} (${pct}% context)`));
           tui.setBusy(true, t.compactRunning);
           try {
             const ok = await maybeSummarize(state.history, { model: state.model, force: true });
             tui.setBusy(false);
             if (ok) {
-              const afterChars = state.history.reduce(
-                (a, m) => a + (typeof m.content === "string" ? m.content.length : 0),
-                0,
-              );
-              const aK = Math.round(afterChars / 1000);
-              const pct = totalChars > 0 ? Math.round(((totalChars - afterChars) / totalChars) * 100) : 0;
-              console.log(c.ok("  " + t.autoCompactDone(k, aK, pct)));
+              const afterTokens = countMessages(state.history);
+              const aK = Math.round(afterTokens / 1000);
+              const saved = totalTokens > 0 ? Math.round(((totalTokens - afterTokens) / totalTokens) * 100) : 0;
+              console.log(c.ok(`  ${t.autoCompactDone(k, aK, saved)} (${Math.round((afterTokens / CONTEXT_WINDOW) * 100)}% context)`));
               state._longSessionWarned = false;
               persist();
             } else {
@@ -1380,13 +1376,13 @@ NGUYÊN TẮC:
           } finally {
             state._autoCompacting = false;
           }
-        } else if (totalChars > 200000) {
-          // Mốc 2 (200k–240k): cảnh báo mạnh, in lại mỗi lượt.
-          console.log(c.err("  " + t.veryLongSession(k)));
+        } else if (totalTokens >= CONTEXT_WINDOW * 0.7) {
+          // Mốc 2 (≥70% — 140k tokens): cảnh báo mạnh.
+          console.log(c.err(`  ⚠ ${t.veryLongSession(k)} (${pct}% context)`));
           state._longSessionWarned = true;
-        } else if (totalChars > 120000 && !state._longSessionWarned) {
-          // Mốc 1 (120k+): nhắc nhẹ một lần.
-          console.log(c.dim("  ⓘ " + t.longSession(k)));
+        } else if (totalTokens >= CONTEXT_WINDOW * 0.6 && !state._longSessionWarned) {
+          // Mốc 1 (≥60% — 120k tokens): nhắc nhẹ một lần.
+          console.log(c.dim(`  ⓘ ${t.longSession(k)} (${pct}% context)`));
           state._longSessionWarned = true;
         }
       } catch {}

package/src/tokens.js

@@ -32,11 +32,16 @@ export function countMessages(messages = []) {
 // window đủ rộng (256 chars) để qua mọi ranh giới token thực tế của cl100k_base
 // (token dài nhất ~ vài chục byte).
 const TAIL_WINDOW = 256;
+// Context window tối đa của model (200k tokens). Dùng để tính % usage realtime.
+export const CONTEXT_WINDOW = 200000;
 
 export class TokenMeter {
   constructor() {
     this.input = 0;
     this.output = 0;
+    // Context size (tokens) hiện tại của messages sắp gửi lên API.
+    // Được set từ repl.js trước mỗi lượt gọi, cập nhật realtime.
+    this.contextTokens = 0;
     // Phần đầu output đã "commit" — không đụng vào nữa.
     this._committedChars = 0; // số ký tự đã đẩy qua khỏi tail window
     this._committedTokens = 0; // tổng token tương ứng đã cộng vào this.output
@@ -92,9 +97,26 @@ export class TokenMeter {
     const fmt = (n) => (n >= 1000 ? (n / 1000).toFixed(1) + "k" : String(n));
     return `↑${fmt(this.input)} ↓${fmt(this.output)} (${fmt(this.total)})`;
   }
+  // Định dạng kèm context usage: "↑1.2k ↓340 (1.5k) · ctx 45%".
+  formatWithPct() {
+    const base = this.format();
+    const pct = this.contextPct();
+    if (pct === null) return base;
+    return `${base} · ctx ${pct}%`;
+  }
+  // Phần trăm context window đã dùng (0–100). Trả null nếu chưa có data.
+  contextPct() {
+    if (!this.contextTokens) return null;
+    return Math.min(100, Math.round((this.contextTokens / CONTEXT_WINDOW) * 100));
+  }
+  // Đặt context size (tokens) — gọi từ repl.js trước mỗi lượt API.
+  setContext(n) {
+    this.contextTokens = Math.max(0, n | 0);
+  }
   reset() {
     this.input = 0;
     this.output = 0;
+    this.contextTokens = 0;
     this._committedChars = 0;
     this._committedTokens = 0;
     this._tail = "";