mslxdff 0.1.203 → 0.1.207

package/src/cli/commands/stats.js

@@ -1,149 +1,158 @@
-// `-stats` 模型用量报表：每窗口每模型 token 消耗 + 首字/总耗时/速度。默认窗口 = 今日 0 点至现在，--hours N 切近 N 小时滚动。
-// 数据来自 src/usage/（逐请求 JSONL），不是 state.json 的终生 EMA —— 见 .scratch/stats-report/SPEC.md
-import { usageReport } from "../../usage/report.js";
-import { usageEnabled, usageKeepDays } from "../../usage/record.js";
-
-const FLAGS = ["-stats", "--stats"];
-
-export function isStatsFlag(args) {
-  return FLAGS.some((f) => args.includes(f));
-}
-
-// 默认窗口起点 = 本地当日 0 点（setHours 归零，随系统本地时区）。
-export function startOfTodayMs(now = Date.now()) {
-  const d = new Date(now);
-  d.setHours(0, 0, 0, 0);
-  return d.getTime();
-}
-
-export function parseStatsArgs(args) {
-  const hoursIdx = args.findIndex((a) => a === "--hours" || a === "-hours");
-  const rawHours = hoursIdx >= 0 ? Number(args[hoursIdx + 1]) : NaN;
-  // null = 默认「今日 00:00 至今」窗口；显式但非法（非数/≤0）的 --hours 同样视为 null，不再回退 24h
-  const hours = Number.isFinite(rawHours) && Math.floor(rawHours) >= 1 ? Math.min(168, Math.floor(rawHours)) : null; // 0<N<1 折成 0 会造成「近 0h 标签配 24h 数据」，与非法同路走当日窗口
-  const modelIdx = args.findIndex((a) => a === "--model" || a === "-model");
-  const rawModel = modelIdx >= 0 && args[modelIdx + 1] && !String(args[modelIdx + 1]).startsWith("-") ? args[modelIdx + 1] : null;
-  return { hours, model: rawModel, json: args.includes("--json") };
-}
-
-function fmtTok(n) {
-  // 先判未知：Number(null) || 0 会把「未知」静默渲染成 0，思考列的 — 就永远出不来
-  const v = Number(n);
-  if (n == null || !Number.isFinite(v)) return "—";
-  if (v < 1000) return String(v);
-  if (v < 1_000_000) return `${(v / 1000).toFixed(1)}k`;
-  return `${(v / 1_000_000).toFixed(2)}M`;
-}
-
-function fmtMs(v) {
-  if (v == null || !Number.isFinite(v)) return "—";
-  return v < 1000 ? `${v}ms` : `${(v / 1000).toFixed(1)}s`;
-}
-
-function fmtTps(v) {
-  return v == null || !Number.isFinite(v) ? "—" : `${v} tok/s`;
-}
-
-// 中文字符按 2 列宽算，否则表格错位。
-function width(value) {
-  let w = 0;
-  for (const ch of String(value ?? "")) w += /[\u1100-\u115F\u2E80-\uA4CF\uAC00-\uD7A3\uF900-\uFAFF\uFE30-\uFE4F\uFF00-\uFF60\uFFE0-\uFFE6]/.test(ch) ? 2 : 1;
-  return w;
-}
-
-function padCell(value, w, align = "left") {
-  const text = String(value ?? "");
-  const padding = " ".repeat(Math.max(0, w - width(text)));
-  return align === "right" ? padding + text : text + padding;
-}
-
-function renderTable(headers, rows, aligns = []) {
-  const matrix = [headers, ...rows];
-  const widths = headers.map((_, col) => Math.max(...matrix.map((row) => width(row[col]))));
-  const rule = (left, middle, right) => left + widths.map((w) => "─".repeat(w + 2)).join(middle) + right;
-  const line = (row) => `│${row.map((cell, col) => ` ${padCell(cell, widths[col], aligns[col])} `).join("│")}│`;
-  return [
-    rule("┌", "┬", "┐"),
-    line(headers),
-    rule("├", "┼", "┤"),
-    ...rows.map(line),
-    rule("└", "┴", "┘"),
-  ].join("\n");
-}
-
-function tokenRow(id, r) {
-  return [id, r.requests, fmtTok(r.promptTokens), fmtTok(r.completionTokens), reasoningCell(r), fmtTok(r.totalTokens)];
-}
-
-// 思考列的四态渲染：~ 只跟估算/混合来源；none（未知）显示 —，绝不显示成 0 冒充「不思考」
-function reasoningCell(r) {
-  if (r.reasoningSource === "none") return "—";
-  const text = fmtTok(r.reasoningTokens);
-  return r.reasoningSource === "estimated" || r.reasoningSource === "mixed" ? `${text}~` : text;
-}
-
-function performanceRow(id, r) {
-  const samples = Number(r.streamRequests) || 0;
-  const ttfb = samples > 0 ? fmtMs(r.avgTtfbMs) : "—"; // 无流式样本时不拿空样本算出的均值糊人
-  return [id, ttfb, fmtMs(r.avgTotalMs), fmtTps(r.avgTps), `${Number(r.ttfSamples) || 0}/${samples}`];
-}
-
-export function renderStats(report, { hours = null, model = null } = {}) {
-  const rangeLabel = hours == null ? "今日 00:00 至今" : `近 ${hours}h`;
-  const lines = [];
-  const { models, totals } = report;
-  if (!models.length) {
-    lines.push(`暂无用量记录（${rangeLabel}${model ? ` · 模型 ${model}` : ""}）— 经 8989 网关发一次请求后出现`);
-    lines.push("提示：mslxdff -status 看当前体检 · mslxdff -log 20 看最近事件");
-    lines.push("说明：-chat 直连 mimo/big-pickle 不经网关，不计入本表");
-    return lines.join("\n");
-  }
-
-  const right = "right";
-  const tokenRows = [...models.map((m) => tokenRow(m.id, m)), tokenRow("合计", totals)];
-  const performanceRows = [...models.map((m) => performanceRow(m.id, m)), performanceRow("合计", totals)];
-  lines.push(`模型用量报告（${rangeLabel}${model ? ` · 筛选 ${model}` : ""}）`);
-  lines.push(`成功请求：${totals.requests} 次 · 模型：${models.length} 个`);
-  lines.push("");
-  lines.push("Token 用量");
-  lines.push(renderTable(["模型", "请求", "输入", "输出", "思考", "合计"], tokenRows, ["left", right, right, right, right, right]));
-  lines.push("");
-  lines.push("响应性能");
-  lines.push(renderTable(["模型", "首字", "总耗时", "速度", "首字样本"], performanceRows, ["left", right, right, right, right]));
-  lines.push("");
-  lines.push("说明：首字 = 本次上游尝试 → 网关转发首个真实数据帧（含上游排队/建连/预读等待）；非流式请求不进首字。");
-  lines.push("思考：数值后带 ~ = 按思考字符÷4 估算（上游未上报）；— = 未上报且无可估内容；0 = 上游明确上报本轮无思考。");
-  lines.push("首字样本：n/N = 有首字样本数/流式请求数，N=0 时首字显示 —（样本太少的均值不可当全量真值）。");
-  lines.push("速度 = 输出 tokens ÷ 生成耗时（总耗时−首字），按窗口加权；只统计成功请求。");
-  lines.push("口径差异：-status / -model stats 的首字仍取自 state 的终生 EMA（按转发入口量），与本表**不同源**。");
-  lines.push("范围：只含经 8989 网关的成功请求；不含失败请求和 -chat 直连。");
-  const keepDays = usageKeepDays();
-  if (hours != null && hours > keepDays * 24) {
-    lines.push(`警告：查询窗口 ${hours}h 超过数据保留 ${keepDays} 天，历史可能不完整。`);
-  } else {
-    lines.push(`数据保留 ${keepDays} 天；更早的历史已删除。`);
-  }
-  lines.push("明细口径：本表按模型聚合，不展开 via、interrupted 和单次 tps。");
-  lines.push("数值使用 k/M 缩写；需要精确值或机器处理请加 --json。");
-  lines.push("可调：默认统计今日 0 点至现在 · mslxdff -stats --hours N（近 N 小时滚动，上限 168）| --model <id> | --json");
-  lines.push("时区：「今日 0 点」按系统本地时区计，与用量日文件的日切同源。");
-  return lines.join("\n");
-}
-
-export async function handleStats(args) {
-  if (!isStatsFlag(args)) return false;
-  const { hours, model, json } = parseStatsArgs(args);
-  if (!usageEnabled()) {
-    console.log("用量记录已关闭（MSLXDFF_USAGE_LOG=0）—— 去掉该 env 后重启 daemon 即可恢复采集。");
-    return true;
-  }
-  const now = Date.now();
-  const since = hours == null ? startOfTodayMs(now) : null; // 缺省/非法 --hours → 当日 0 点起，毫秒精确不漂移
-  const report = await usageReport({ hours, since, model, now });
-  if (json) {
-    console.log(JSON.stringify(report, null, 2));
-    return true;
-  }
-  console.log(renderStats(report, { hours, model }));
-  return true;
-}
+// `-stats` 模型用量报表：每窗口每模型 token 消耗 + 首字/总耗时/速度。默认窗口 = 今日 0 点至现在，--hours N 切近 N 小时滚动。
+// 数据来自 src/usage/（逐请求 JSONL），不是 state.json 的终生 EMA —— 见 .scratch/stats-report/SPEC.md
+import { usageReport } from "../../usage/report.js";
+import { usageEnabled, usageKeepDays } from "../../usage/record.js";
+
+const FLAGS = ["-stats", "--stats"];
+
+export function isStatsFlag(args) {
+  return FLAGS.some((f) => args.includes(f));
+}
+
+// 默认窗口起点 = 本地当日 0 点（setHours 归零，随系统本地时区）。
+export function startOfTodayMs(now = Date.now()) {
+  const d = new Date(now);
+  d.setHours(0, 0, 0, 0);
+  return d.getTime();
+}
+
+export function parseStatsArgs(args) {
+  const hoursIdx = args.findIndex((a) => a === "--hours" || a === "-hours");
+  const rawHours = hoursIdx >= 0 ? Number(args[hoursIdx + 1]) : NaN;
+  // null = 默认「今日 00:00 至今」窗口；显式但非法（非数/≤0）的 --hours 同样视为 null，不再回退 24h
+  const hours = Number.isFinite(rawHours) && Math.floor(rawHours) >= 1 ? Math.min(168, Math.floor(rawHours)) : null; // 0<N<1 折成 0 会造成「近 0h 标签配 24h 数据」，与非法同路走当日窗口
+  const modelIdx = args.findIndex((a) => a === "--model" || a === "-model");
+  const rawModel = modelIdx >= 0 && args[modelIdx + 1] && !String(args[modelIdx + 1]).startsWith("-") ? args[modelIdx + 1] : null;
+  return { hours, model: rawModel, json: args.includes("--json") };
+}
+
+function fmtTok(n) {
+  // 先判未知：Number(null) || 0 会把「未知」静默渲染成 0，思考列的 — 就永远出不来
+  const v = Number(n);
+  if (n == null || !Number.isFinite(v)) return "—";
+  if (v < 1000) return String(v);
+  if (v < 1_000_000) return `${(v / 1000).toFixed(1)}k`;
+  return `${(v / 1_000_000).toFixed(2)}M`;
+}
+
+function fmtMs(v) {
+  if (v == null || !Number.isFinite(v)) return "—";
+  return v < 1000 ? `${v}ms` : `${(v / 1000).toFixed(1)}s`;
+}
+
+function fmtTps(v) {
+  return v == null || !Number.isFinite(v) ? "—" : `${v} tok/s`;
+}
+
+// 中文字符按 2 列宽算，否则表格错位。
+function width(value) {
+  let w = 0;
+  for (const ch of String(value ?? "")) w += /[\u1100-\u115F\u2E80-\uA4CF\uAC00-\uD7A3\uF900-\uFAFF\uFE30-\uFE4F\uFF00-\uFF60\uFFE0-\uFFE6]/.test(ch) ? 2 : 1;
+  return w;
+}
+
+function padCell(value, w, align = "left") {
+  const text = String(value ?? "");
+  const padding = " ".repeat(Math.max(0, w - width(text)));
+  return align === "right" ? padding + text : text + padding;
+}
+
+function renderTable(headers, rows, aligns = []) {
+  const matrix = [headers, ...rows];
+  const widths = headers.map((_, col) => Math.max(...matrix.map((row) => width(row[col]))));
+  const rule = (left, middle, right) => left + widths.map((w) => "─".repeat(w + 2)).join(middle) + right;
+  const line = (row) => `│${row.map((cell, col) => ` ${padCell(cell, widths[col], aligns[col])} `).join("│")}│`;
+  return [
+    rule("┌", "┬", "┐"),
+    line(headers),
+    rule("├", "┼", "┤"),
+    ...rows.map(line),
+    rule("└", "┴", "┘"),
+  ].join("\n");
+}
+
+function tokenRow(id, r) {
+  return [id, r.requests, fmtTok(r.promptTokens), fmtTok(r.completionTokens), cacheCell(r), reasoningCell(r), fmtTok(r.totalTokens)];
+}
+
+// 思考列的四态渲染：~ 只跟估算/混合来源；none（未知）显示 —，绝不显示成 0 冒充「不思考」
+function reasoningCell(r) {
+  if (r.reasoningSource === "none") return "—";
+  const text = fmtTok(r.reasoningTokens);
+  return r.reasoningSource === "estimated" || r.reasoningSource === "mixed" ? `${text}~` : text;
+}
+
+// 缓存命中列：`N (p%)` = 上游上报的缓存读 token ÷ 窗口输入总数（上游 prompt_tokens 含命中）。
+// 窗口内没有任何命中读数（cacheRows=0）显示 —：不拿 0 冒充「这个模型没缓存」。
+function cacheCell(r) {
+  if (!r.cacheRows || !(r.cacheReadTokens > 0)) return "—";
+  const tokens = fmtTok(r.cacheReadTokens);
+  return r.cacheHitRate == null ? tokens : `${tokens} (${(r.cacheHitRate * 100).toFixed(1)}%)`;
+}
+
+function performanceRow(id, r) {
+  const samples = Number(r.streamRequests) || 0;
+  const ttfb = samples > 0 ? fmtMs(r.avgTtfbMs) : "—"; // 无流式样本时不拿空样本算出的均值糊人
+  return [id, ttfb, fmtMs(r.avgTotalMs), fmtTps(r.avgTps), `${Number(r.ttfSamples) || 0}/${samples}`];
+}
+
+export function renderStats(report, { hours = null, model = null } = {}) {
+  const rangeLabel = hours == null ? "今日 00:00 至今" : `近 ${hours}h`;
+  const lines = [];
+  const { models, totals } = report;
+  if (!models.length) {
+    lines.push(`暂无用量记录（${rangeLabel}${model ? ` · 模型 ${model}` : ""}）— 经 8989 网关发一次请求后出现`);
+    lines.push("提示：mslxdff -status 看当前体检 · mslxdff -log 20 看最近事件");
+    lines.push("说明：-chat 直连 mimo/big-pickle 不经网关，不计入本表");
+    return lines.join("\n");
+  }
+
+  const right = "right";
+  const tokenRows = [...models.map((m) => tokenRow(m.id, m)), tokenRow("合计", totals)];
+  const performanceRows = [...models.map((m) => performanceRow(m.id, m)), performanceRow("合计", totals)];
+  lines.push(`模型用量报告（${rangeLabel}${model ? ` · 筛选 ${model}` : ""}）`);
+  lines.push(`成功请求：${totals.requests} 次 · 模型：${models.length} 个`);
+  lines.push("");
+  lines.push("Token 用量");
+  lines.push(renderTable(["模型", "请求", "输入", "输出", "缓存命中", "思考", "合计"], tokenRows, ["left", right, right, right, right, right, right]));
+  lines.push("");
+  lines.push("响应性能");
+  lines.push(renderTable(["模型", "首字", "总耗时", "速度", "首字样本"], performanceRows, ["left", right, right, right, right]));
+  lines.push("");
+  lines.push("说明：首字 = 本次上游尝试 → 网关转发首个真实数据帧（含上游排队/建连/预读等待）；非流式请求不进首字。");
+  lines.push("思考：数值后带 ~ = 按思考字符÷4 估算（上游未上报）；— = 未上报且无可估内容；0 = 上游明确上报本轮无思考。");
+  lines.push("首字样本：n/N = 有首字样本数/流式请求数，N=0 时首字显示 —（样本太少的均值不可当全量真值）。");
+  lines.push("速度 = 输出 tokens ÷ 生成耗时（总耗时−首字），按窗口加权；只统计成功请求。");
+  lines.push("缓存命中：N (p%) = 上游上报的缓存读 token ÷ 窗口输入总数（上游输入总数含命中）；— = 窗口内没有命中读数（上游未报或确无命中）。");
+  lines.push("口径差异：-status / -model stats 的首字仍取自 state 的终生 EMA（按转发入口量），与本表**不同源**。");
+  lines.push("范围：只含经 8989 网关的成功请求；不含失败请求和 -chat 直连。");
+  const keepDays = usageKeepDays();
+  if (hours != null && hours > keepDays * 24) {
+    lines.push(`警告：查询窗口 ${hours}h 超过数据保留 ${keepDays} 天，历史可能不完整。`);
+  } else {
+    lines.push(`数据保留 ${keepDays} 天；更早的历史已删除。`);
+  }
+  lines.push("明细口径：本表按模型聚合，不展开 via、interrupted 和单次 tps。");
+  lines.push("数值使用 k/M 缩写；需要精确值或机器处理请加 --json。");
+  lines.push("可调：默认统计今日 0 点至现在 · mslxdff -stats --hours N（近 N 小时滚动，上限 168）| --model <id> | --json");
+  lines.push("时区：「今日 0 点」按系统本地时区计，与用量日文件的日切同源。");
+  return lines.join("\n");
+}
+
+export async function handleStats(args) {
+  if (!isStatsFlag(args)) return false;
+  const { hours, model, json } = parseStatsArgs(args);
+  if (!usageEnabled()) {
+    console.log("用量记录已关闭（MSLXDFF_USAGE_LOG=0）—— 去掉该 env 后重启 daemon 即可恢复采集。");
+    return true;
+  }
+  const now = Date.now();
+  const since = hours == null ? startOfTodayMs(now) : null; // 缺省/非法 --hours → 当日 0 点起，毫秒精确不漂移
+  const report = await usageReport({ hours, since, model, now });
+  if (json) {
+    console.log(JSON.stringify(report, null, 2));
+    return true;
+  }
+  console.log(renderStats(report, { hours, model }));
+  return true;
+}