dsh-router-core 0.3.12 → 0.3.14

package/src/llm/adapter.ts

@@ -4,7 +4,11 @@
  * 模型目录 = 组合（自动带出，不可改）。对话转发到本插件 /v1/chat/completions，
  * 由现有路由按组合策略命中供应商模型。
  *
- * 纯文本流：组合为文本模型，本 adapter 不处理图片附件。
+ * 图文流：adapter 声明图片 modal（`inputModalities` 含 `image`），把 user 消息里的
+ * `image` 块序列化成 OpenAI 标准的 `image_url` base64 part，经 /v1 原样透传给
+ * 命中的上游供应商。最终能否看图取决于**命中的那个上游模型**——组合里是异构
+ * 供应商，可能在网关端声明了图片能力、某条上游却只收文本（此时由上游自行拒收）。
+ * 图片字节从 `ctx.attachments` 读取（读不到的按稳定占位文本降级，绝不静默丢图）。
  */
 import {
   EMPTY_RESPONSE_CODE,
@@ -17,10 +21,34 @@ import {
   type LlmModelInfo,
   type LlmReasoningEffortInfo,
   type LlmResolvedModelInfo,
+  type ModelModality,
   type StreamChunk,
 } from '@deepseek-ai/dsh-llm'
 import { mergeUsage, normalizeUsage, toTokenUsage, type UsageTokens } from '../router/usage-tokens.ts'
 
+/**
+ * dsh-attachment 的最小本地切面：adapter 只依赖「读一张图片的请求版本」
+ * 这一行为，不引入对 dsh-attachment 包编译期/运行期的依赖（它是宿主注入的
+ * devDependency）。本地声明与原包 `AttachmentStore.readImageRequest` 形状一致，
+ * 宿主注入真实 store 时天然满足。
+ */
+export interface RouterAttachmentStore {
+  readImageRequest(
+    ref: { attachmentId: string; mediaType: string; bytes: number; width: number; height: number },
+    policy: { maxPixels: number; maxBytes: number },
+    signal?: AbortSignal,
+  ): Promise<{ mediaType: string; data: Uint8Array }>
+}
+
+/** 一张 image 块的 attachment ref 的最小形状（value 类型，够用即可）。 */
+interface RouterImgLike {
+  attachmentId: string
+  mediaType: string
+  bytes: number
+  width: number
+  height: number
+}
+
 /** 模型目录来源：组合。 */
 export interface RouterAdapterSource {
   /**
@@ -33,15 +61,24 @@ export interface RouterAdapterSource {
 }
 
 /**
- * 把 DSH 消息序列化成 openai 兼容 wire 消息（纯文本 + tool）。
+ * 把 DSH 消息序列化成 openai 兼容 wire 消息（文本 + 图片 + tool）。
+ *
+ * `system` 必须由调用方从 `options.system` 传进来：one-shot 调用方把系统提示词
+ * 放在 **options.system 这个独立槽位**，不放进 messages。不读这个槽位，
+ * one-shot 调用方（如 compaction / session-title）的模型每一轮都拿不到身份/
+ * 规则/工具用法约束，且**不会报错**，只是行为悄悄降级。
  *
- * `system` 必须由调用方从 `options.system` 传进来：agent-loop 把系统提示词
- * 放在 **options.system 这个独立槽位**，不放进 messages（见 dsh-llm
- * types.d.ts 的 `system?: string` —— 注释原话 "adapters map to the
- * provider's system slot"）。不读这个槽位，模型每一轮都拿不到身份/规则/
- * 工具用法约束，且**不会报错**，只是行为悄悄降级。
+ * 0.1.5 起 loop-built 请求反过来：`options.system` 为 undefined，系统提示词作为
+ * **messages 里的 system-role 消息**下发（dsh-agent-loop 的 SystemProjection，
+ * 可出现在任意位置以支持提示词热更新）。两条路径都必须支持 —— 与官方
+ * dsh-llm-deepseek 一致（serializeRequest 前置 options.system，再按位置序列化
+ * messages 里的 system 消息）。
+ *
+ * 图片：`image` 块被序列化成 OpenAI `content` 数组里的 `image_url` part（data URI
+ * base64）。图片字节经 `resolveAttachments` 读取；读不到时回退为稳定的占位文本，
+ * **绝不静默丢图**（丢图 = 模型看到一条没有图的消息却毫无提示）。
  */
-function wireMessages(options: GenerateOptions, system?: string): Array<Record<string, unknown>> {
+async function wireMessages(options: GenerateOptions, system: string | undefined, attachments: RouterAttachmentStore | undefined): Promise<Array<Record<string, unknown>>> {
   const out: Array<Record<string, unknown>> = []
   if (typeof system === 'string' && system !== '') {
     out.push({ role: 'system', content: system })
@@ -70,9 +107,16 @@ function wireMessages(options: GenerateOptions, system?: string): Array<Record<s
       continue
     }
     // user / tool-result
-    const text = flattenText(message.content)
     const toolResults = message.content.filter((b) => b.type === 'tool-result')
-    if (text.length > 0 || toolResults.length === 0) out.push({ role: 'user', content: text })
+    // 有图 → content 数组；纯文本 → 保持紧凑字符串 wire 形式不回归。
+    if (hasImageBlock(message.content)) {
+      const parts = await contentParts(message.content, attachments, options.signal)
+      if (parts.length > 0) out.push({ role: 'user', content: parts })
+      else if (toolResults.length === 0) out.push({ role: 'user', content: '' })
+    } else {
+      const text = flattenText(message.content)
+      if (text.length > 0 || toolResults.length === 0) out.push({ role: 'user', content: text })
+    }
     for (const result of toolResults) {
       // 空结果就发空串，不要替换成 '(no output)' 之类的字面量 —— 模型会
       // 以为工具真的打印了那句话（9router 也是补 content: ""）。
@@ -82,9 +126,73 @@ function wireMessages(options: GenerateOptions, system?: string): Array<Record<s
   return out
 }
 
-/** 组装 wire 请求体。 */
-function wireRequest(options: GenerateOptions): Record<string, unknown> {
-  const messages = wireMessages(options, options.system)
+/**
+ * 一块 DSH user/tool-result 内容序列化成 OpenAI content parts（text + image_url）。
+ * 纯文本时返回空数组（上层走紧凑字符串路径）。图片转 base64 data URI；
+ * attachments 缺失或读取失败时回退稳定占位文本（绝不静默丢图）。
+ */
+async function contentParts(
+  blocks: ReadonlyArray<{ type: string }>,
+  attachments: RouterAttachmentStore | undefined,
+  signal: AbortSignal | undefined,
+): Promise<Array<Record<string, unknown>>> {
+  const parts: Array<Record<string, unknown>> = []
+  for (const block of blocks) {
+    if (block.type === 'text') {
+      const text = (block as { text?: string }).text ?? ''
+      if (text.length > 0) parts.push({ type: 'text', text })
+      continue
+    }
+    if (block.type === 'image') {
+      const ref = (block as unknown as { attachment: RouterImgLike }).attachment
+      parts.push(...(await imageParts(ref, attachments, signal)))
+      continue
+    }
+    if (block.type === 'tool-result') {
+      parts.push(...(await contentParts((block as unknown as { content: ReadonlyArray<{ type: string }> }).content, attachments, signal)))
+    }
+    // 其它块（reasoning/tool-call）不属于 user content，忽略
+  }
+  return parts
+}
+
+/** 一张图片 → 一个 OpenAI image_url part（或读不到附件时的占位文本）。 */
+async function imageParts(
+  ref: { attachmentId: string; mediaType: string; bytes: number; width: number; height: number },
+  attachments: RouterAttachmentStore | undefined,
+  signal: AbortSignal | undefined,
+): Promise<Array<Record<string, unknown>>> {
+  if (attachments === undefined) return [{ type: 'text', text: imagePlaceholder(ref.attachmentId) }]
+  try {
+    const img = await attachments.readImageRequest(
+      { attachmentId: ref.attachmentId, mediaType: ref.mediaType, bytes: ref.bytes, width: ref.width, height: ref.height },
+      { maxPixels: 64e4, maxBytes: 1024 * 1024 },
+      signal,
+    )
+    return [{ type: 'image_url', image_url: { url: `data:${img.mediaType};base64,${bytesToBase64(img.data)}` } }]
+  } catch {
+    return [{ type: 'text', text: imagePlaceholder(ref.attachmentId) }]
+  }
+}
+
+/** Uint8Array → base64（browser + node 双环境安全，不依赖 Buffer 全局）。 */
+function bytesToBase64(bytes: Uint8Array): string {
+  let bin = ''
+  const chunk = 0x8000
+  for (let i = 0; i < bytes.length; i += chunk) {
+    bin += String.fromCharCode(...bytes.subarray(i, i + chunk))
+  }
+  return btoa(bin)
+}
+
+/** 读不到图片字节时的稳定占位文本。 */
+function imagePlaceholder(attachmentId: string): string {
+  return `[image omitted because the attached bytes could not be read; attachment ${attachmentId}]`
+}
+
+/** 组装 wire 请求体。图片序列化需要读 attachments，故为异步。 */
+async function wireRequest(options: GenerateOptions, attachments: RouterAttachmentStore | undefined): Promise<Record<string, unknown>> {
+  const messages = await wireMessages(options, options.system, attachments)
   const body: Record<string, unknown> = {
     model: options.model,
     messages,
@@ -130,6 +238,15 @@ function flattenText(blocks: readonly { type: string; text?: string }[]): string
   return blocks.filter((b) => b.type === 'text').map((b) => b.text ?? '').join('')
 }
 
+/** 内容块里（含递归进 tool-result）是否存在 image 块。决定走数组 content 还是字符串。 */
+function hasImageBlock(blocks: readonly { type: string }[]): boolean {
+  for (const b of blocks) {
+    if (b.type === 'image') return true
+    if (b.type === 'tool-result' && hasImageBlock((b as unknown as { content: ReadonlyArray<{ type: string }> }).content)) return true
+  }
+  return false
+}
+
 interface OpenBlock {
   index: number
   kind: 'text' | 'reasoning' | 'tool-call'
@@ -373,11 +490,13 @@ const ROUTER_REASONING_EFFORTS: readonly LlmReasoningEffortInfo[] = [
 export class RouterAdapter extends LlmAdapter {
   private readonly baseURL: string
   private readonly source: RouterAdapterSource
+  private readonly resolveAttachments: () => RouterAttachmentStore | undefined
 
-  constructor(baseURL: string, source: RouterAdapterSource) {
+  constructor(baseURL: string, source: RouterAdapterSource, resolveAttachments?: () => RouterAttachmentStore | undefined) {
     super()
     this.baseURL = baseURL
     this.source = source
+    this.resolveAttachments = resolveAttachments ?? (() => undefined)
   }
 
   providerInfo(provider: string): { id: string; name: string } {
@@ -396,6 +515,16 @@ export class RouterAdapter extends LlmAdapter {
     return out
   }
 
+  /**
+   * 声明图文：`inputModalities` 必须同时含 `text` 与 `image`。
+   * - 含 `image`：runtime/subagent 的模态门禁放行（不再抛
+   *   `MODEL_DOES_NOT_SUPPORT_IMAGES` = 界面「当前模型不支持图片」），
+   *   `projectImagesForTextModel` 也不会把图片块投影成占位文本。
+   * - 组合背后是异构供应商，**统一声明图片能力**；真正能否看图取决于命中
+   *   的某个上游模型（供应商各模型 capability 不同，网关端不能一刀切拦截）。
+   */
+  private static readonly INPUT_MODALITIES: readonly ModelModality[] = ['text', 'image']
+
   async resolveModel(_provider: string, model: string): Promise<LlmResolvedModelInfo> {
     const combos = await this.source.comboModels()
     const found = combos.find((m) => m.id === model || m.name === model)
@@ -407,13 +536,14 @@ export class RouterAdapter extends LlmAdapter {
       provider: 'router',
       id: model,
       name,
+      inputModalities: RouterAdapter.INPUT_MODALITIES,
       ...(found?.contextWindow !== undefined ? { context: { contextWindow: found.contextWindow } } : {}),
       reasoning: { efforts: ROUTER_REASONING_EFFORTS, defaultEffort: ReasoningEffortId('high') },
     }
   }
 
   async *stream(options: GenerateOptions): AsyncIterable<StreamChunk> {
-    const body = wireRequest(options)
+    const body = await wireRequest(options, this.resolveAttachments())
     const controller = new AbortController()
     const onAbort = (): void => controller.abort()
     options.signal?.addEventListener('abort', onAbort, { once: true })

package/src/router/account-pool.test.ts

@@ -161,6 +161,132 @@ test('【块】多号间长期均衡：块大小有界 → 请求数均分', ()
   assert.equal(count['c'], 4)
 })
 
+// ============ 前缀亲和（docs/pool-sticky-block.md §8 的根治） ============
+
+/** 构造一次请求的 messages（前缀 = system + 首条用户消息）。 */
+const msgs = (sessionSeed: string, turns = 1): unknown => [
+  { role: 'system', content: `shared agent prompt` },
+  { role: 'user', content: `${sessionSeed} ${'x'.repeat(40)}` },
+  ...Array.from({ length: turns - 1 }, () => ({ role: 'assistant', content: 'ok' })),
+]
+
+test('【亲和】同会话粘同一号：指纹相同 → 每次都返回同一个号', () => {
+  const p = pool()
+  const list = accs(['a', 'b', 'c'])
+  const m = msgs('session-1')
+  const first = p.pick(list, [], 'round-robin', 'm1', m)
+  // 连续多轮（会话增长，但前缀不变）→ 永远是第一个号
+  for (let i = 0; i < 10; i++) {
+    assert.equal(p.pick(list, [], 'round-robin', 'm1', msgs('session-1', i + 2)), first)
+  }
+})
+
+test('【亲和】不同会话散到不同号：新指纹按游标分发', () => {
+  const p = pool()
+  const list = accs(['a', 'b'])
+  const s1 = p.pick(list, [], 'round-robin', 'm1', msgs('s1'))
+  const s2 = p.pick(list, [], 'round-robin', 'm1', msgs('s2'))
+  assert.notEqual(s1, s2, '两个会话应落到不同的号（缓存空间隔离）')
+  // 各自回访仍粘各自的号
+  assert.equal(p.pick(list, [], 'round-robin', 'm1', msgs('s1', 5)), s1)
+  assert.equal(p.pick(list, [], 'round-robin', 'm1', msgs('s2', 5)), s2)
+})
+
+test('【亲和】会话增长指纹稳定：前缀相同、轮数不同 → 同一号', () => {
+  const p = pool()
+  const list = accs(['a', 'b'])
+  const s1 = p.pick(list, [], 'round-robin', 'm1', msgs('s1'))
+  // 真实会话每轮 messages 变长，但前 3 条不变 → 指纹不变
+  assert.equal(p.pick(list, [], 'round-robin', 'm1', msgs('s1', 30)), s1)
+})
+
+test('【亲和】绑定的号冷却 → 会话让位，换健康号', () => {
+  const p = pool()
+  const list = accs(['a', 'b'])
+  const m = msgs('s1')
+  const first = p.pick(list, [], 'round-robin', 'm1', m)!
+  p.noteFailure(first, 'm1', 'rate_limit', '429')
+  // 绑定的号不可用 → 不能返回它（挂了），应落到别的号
+  const second = p.pick(list, [], 'round-robin', 'm1', m)
+  assert.notEqual(second, first)
+  // 且之后粘在新号上（绑定已更新）
+  assert.equal(p.pick(list, [], 'round-robin', 'm1', msgs('s1', 9)), second)
+})
+
+test('【亲和】绑定的号降权（缓存无效）→ 跳过它', () => {
+  const p = pool()
+  const list = accs(['a', 'b'])
+  const m = msgs('s1')
+  const first = p.pick(list, [], 'round-robin', 'm1', m)!
+  // 该号累计 48 次全 miss → 判定缓存无效
+  serveMiss(p, first, 48)
+  const second = p.pick(list, [], 'round-robin', 'm1', m)
+  assert.notEqual(second, first, '降权中的号不应被亲和继续选中')
+})
+
+test('【亲和】messages 拿不到 → 回退块轮询（旧行为不破坏）', () => {
+  const p = pool()
+  const list = accs(['a', 'b'])
+  // 不传 messages → 走块驻留
+  assert.equal(p.pick(list, [], 'round-robin', 'm1'), 'a')
+  assert.equal(p.pick(list, [], 'round-robin', 'm1'), 'a')
+  serveHits(p, 'a', 16)
+  assert.equal(p.pick(list, [], 'round-robin', 'm1'), 'b')
+  // 传了但算不出指纹（空/坏结构）→ 同样回退
+  assert.equal(p.pick(list, [], 'round-robin', 'm2', []), 'a')
+  assert.equal(p.pick(list, [], 'round-robin', 'm2', [{ nope: 1 }]), 'a')
+})
+
+test('【亲和】绑定表按模型隔离：冷却是 (model, uid) 粒度，不串模型', () => {
+  const p = pool()
+  const list = accs(['a', 'b'])
+  const m = msgs('s1')
+  const m1 = p.pick(list, [], 'round-robin', 'm1', m)
+  // rrCursor 跨模型共享（与旧块轮询一致）：m1 的新会话消耗 a 后，m2 的新会话分到 b
+  const m2 = p.pick(list, [], 'round-robin', 'm2', m)
+  assert.equal(m1, 'a')
+  assert.equal(m2, 'b')
+  // 各自回访粘各自的号（绑定表按模型分开，m1 的 a 不会盖掉 m2 的 b）
+  assert.equal(p.pick(list, [], 'round-robin', 'm1', msgs('s1', 9)), 'a')
+  assert.equal(p.pick(list, [], 'round-robin', 'm2', msgs('s1', 9)), 'b')
+  p.noteFailure('a', 'm1', 'rate_limit', '429') // 只冷 (m1, a)
+  assert.equal(p.pick(list, [], 'round-robin', 'm1', m), 'b', 'm1 上让位')
+  assert.equal(p.pick(list, [], 'round-robin', 'm2', m), 'b', 'm2 不受影响，仍粘 b')
+})
+
+test('【亲和】绑定表 LRU 封顶：超上限不泄漏，旧指纹被挤掉', () => {
+  const p = pool()
+  const list = accs(['a', 'b', 'c'])
+  const first = p.pick(list, [], 'round-robin', 'm1', msgs('s0'))!
+  // 灌 600 个新会话（> AFFINITY_MAX=512）→ 最老的 s0 被挤出
+  for (let i = 0; i < 600; i++) p.pick(list, [], 'round-robin', 'm1', msgs(`flood-${i}`))
+  const again = p.pick(list, [], 'round-robin', 'm1', msgs('s0'))
+  // 被挤掉后重新分发——只要不是内存无限增长即可（uid 合法性由 pool 保证）
+  assert.equal(list.some((a) => a.uid === again), true)
+  // 活跃会话（每次都访问）不被挤掉
+  const hot = p.pick(list, [], 'round-robin', 'm1', msgs('hot'))!
+  for (let i = 0; i < 600; i++) {
+    p.pick(list, [], 'round-robin', 'm1', msgs(`flood2-${i}`))
+    assert.equal(p.pick(list, [], 'round-robin', 'm1', msgs('hot')), hot, '活跃会话的绑定应被 LRU 刷新保留')
+  }
+})
+
+test('【亲和】多模态分片 content 也能算指纹（文本片段参与，base64 不炸）', () => {
+  const p = pool()
+  const list = accs(['a', 'b'])
+  const multi = [
+    { role: 'user', content: [{ type: 'text', text: 'look at this' }, { type: 'image_url', image_url: 'data:image/png;base64,AAAA' }] },
+  ]
+  const first = p.pick(list, [], 'round-robin', 'm1', multi)
+  assert.equal(p.pick(list, [], 'round-robin', 'm1', multi), first)
+  // 文本不同的另一个会话 → 不同指纹
+  const other = [
+    { role: 'user', content: [{ type: 'text', text: 'different' }] },
+  ]
+  assert.notEqual(p.pick(list, [], 'round-robin', 'm1', other), first, '文本不同应散开')
+})
+
+
 // ============ 核心新语义：冷却按 (模型, 连接) 分号 ============
 
 test('【颗粒度】连接在模型 A 失败，只冷 (A, 该连接)，不影响它调模型 B', () => {

package/src/router/account-pool.ts

@@ -23,6 +23,7 @@
  * 得落盘，届时加 stateFile 即可，接口不用变。
  */
 import type { AccountState, SupplierAccountNow } from '../suppliers/contract.ts'
+import { prefixFingerprint } from './prefix-affinity.ts'
 
 /** 各 AccountState 的处置：冷却策略 / 是否禁用 / 是否计入连续错误。 */
 interface Rule {
@@ -95,6 +96,15 @@ const BLOCK_MAX = 48
 /** 块轮询：判定「缓存无效」后的跳过时长。 */
 const BLOCK_DEMOTE_MS = 10 * MINUTE
 
+/**
+ * 前缀亲和：指纹 → 号 的绑定记忆上限。
+ *
+ * 会话指纹是无限集合（每个新会话一个），不封顶就是内存泄漏。超过了就丢掉
+ * **最久没用**的那条：活跃会话的指纹每请求都在刷新，不会被误删。
+ * 单号池（<= 几十个会话）绰绰有余。
+ */
+const AFFINITY_MAX = 512
+
 /** 冷却记录（键 = (supplier, model, uid)）。 */
 interface CooldownEntry {
   until: number
@@ -124,6 +134,20 @@ interface BlockState {
   hits: number
 }
 
+/**
+ * 某号在某模型上的缓存质量样本（键 = (supplier, model, uid)）。
+ *
+ * 与「驻留」解耦：开启前缀亲和后多个会话各绑各的号交错服务，驻留概念只在
+ * 无亲和的回退路径上存在；而「这个号的缓存到底热不热」是**号本身的属性**，
+ * 必须跨驻留累计——否则每次换驻留就清零，永远攒不到 BLOCK_MAX 次判据。
+ */
+interface Sample {
+  /** 已服务的成功请求数。 */
+  served: number
+  /** 命中缓存（cachedTokens > 0）的请求数。 */
+  hits: number
+}
+
 /** 「缓存无效」降权记录（键 = (supplier, model, uid)）。 */
 interface DemoteEntry {
   until: number
@@ -145,10 +169,14 @@ export class AccountPool {
   /** uid → 连接级禁用 / 手动暂停。 */
   private byUid = new Map<string, UidEntry>()
   private rrCursor = 0
-  /** (supplier, model) → 块轮询驻留状态。 */
-  private blocks = new Map<string, BlockState>()
+  /** (supplier, model) → 当前驻留的号（只有**无亲和**的回退路径用它）。 */
+  private blocks = new Map<string, string>()
+  /** (supplier, model, uid) → 该号的缓存质量样本（降权判据，跨驻留累计）。 */
+  private samples = new Map<string, Sample>()
   /** (supplier, model, uid) → 缓存无效降权。 */
   private demoted = new Map<string, DemoteEntry>()
+  /** (supplier, model) → Map<前缀指纹, uid>：前缀亲和的选号记忆（LRU 封顶）。 */
+  private affinity = new Map<string, Map<string, string>>()
 
   constructor(supplierId = '') {
     this.supplierId = supplierId
@@ -203,22 +231,28 @@ export class AccountPool {
   /**
    * 按策略为「某个模型」选一个健康账号。
    *
-   * round-robin 走**块轮询**：一次轮转内连续服务若干请求，而不是每请求换号。
-   * 设计见 docs/pool-sticky-block.md。要点：
-   *  - 留守 = `计数 < N OR 命中率 < M`(OR,用户拍板):
-   *    命中率达标（缓存热了）→ 换号保均衡；计数到 N → 换号止损。
-   *    单号最多连续服务 N 次，不会因命中率低而死守到 N_max（打架场景关键）。
-   *  - 切号因子的思路：命中率是**留守**条件不是切号条件。反接会正反馈死锁
-   *    （切→cold miss→命中率 0%→触发切号→…），见文档 §3。
-   *  - `N_max` 绝对兜底：命中率永远不达标的号不能无限驻留（防死锁 + 防均衡归零）。
+   * round-robin = **前缀亲和定号 + 块统计只用来判定缓存无效**：
+   *
+   *  1. 算请求的前缀指纹（messages 前几条），查绑定表 → 命中且该号健康 → 用它。
+   *     这是第一优先：同一个会话的连续请求**永远落回同一个号**，前缀在该号的
+   *     缓存里只写一份。块轮询治不了跨会话驱逐（多会话大前缀在同一号互踩，
+   *     实测 3 会话 3.8% vs 单会话 82.5%），亲和才是根治。
+   *  2. 新指纹（或绑定的号不健康）→ 按游标挑一个号并**记下绑定**，之后就固定。
+   *     新会话用游标分发，所以不同会话天然散到不同号上（均衡）。
+   *  3. 块统计不再驱动轮转（亲和已经保证驻留，再轮转只会把会话踢出已热前缀），
+   *     只保留 `BLOCK_MAX` 次不达标 → 降权该号（缓存无效，可恢复）。
+   *
+   * 亲和失效（拿不到 messages / 指纹算不出）时**回退到块轮询**，行为与之前一致。
+   * 设计见 docs/pool-sticky-block.md §8。
    *
    * @param accounts 插件报告的「现在状态」（顺序即插件的自然顺序）
    * @param poolOrder 用户在面板拖出来的顺序（核心管）
-   * @param strategy fallback 取第一个健康 / round-robin 块轮转健康号
+   * @param strategy fallback 取第一个健康 / round-robin 前缀亲和
    * @param modelId 当前要路由的模型（决定查哪个 (model, uid) 冷却单元）
+   * @param messages 请求体的 messages（可选；给了才能算前缀指纹）
    * @returns 选中的 uid；无健康账号返回 undefined
    */
-  pick(accounts: SupplierAccountNow[], poolOrder: string[], strategy: string, modelId: string): string | undefined {
+  pick(accounts: SupplierAccountNow[], poolOrder: string[], strategy: string, modelId: string, messages?: unknown): string | undefined {
     const now = Date.now()
     const byUid = new Map(accounts.map((a) => [a.uid, a]))
     // 池顺序优先，未配置的按插件自然顺序追加
@@ -229,21 +263,50 @@ export class AccountPool {
     const healthy = ordered.filter((uid) => this.healthy(uid, modelId, now))
     if (healthy.length === 0) return undefined
     if (strategy !== 'round-robin') return healthy[0]
-    // 缓存无效降权：驻留满 N_max 命中率仍不达标的号，跳过它（可到期恢复）
+    // 缓存无效降权：该号缓存质量样本长期不达标 → 跳过它（可到期恢复）
     const usable = healthy.filter((uid) => !this.isDemoted(uid, modelId, now))
     const pool = usable.length > 0 ? usable : healthy
+    // 前缀亲和：指纹有绑定且该号仍可用 → 直接复用（不进驻留逻辑）
+    const fp = messages === undefined ? '' : prefixFingerprint(messages)
+    if (fp !== '' && pool.includes(this.affinity.get(this.blockKey(modelId))?.get(fp) ?? '')) {
+      return this.affinity.get(this.blockKey(modelId))!.get(fp)!
+    }
     const block = this.blocks.get(this.blockKey(modelId))
-    if (block !== undefined && pool.includes(block.uid) && this.blockKeeps(block)) {
-      return block.uid
+    if (fp === '' && block !== undefined && pool.includes(block) && this.blockKeeps(modelId, block)) {
+      return block
     }
-    // 块满/块达标/块不存在 → 前进游标。从当前号之后开始找，保证轮转顺序稳定。
-    const from = block === undefined ? this.rrCursor : Math.max(0, pool.indexOf(block.uid) + 1)
+    // 无亲和（或块满/块达标）→ 前进游标。从当前号之后开始找，保证轮转顺序稳定。
+    const from = block === undefined ? this.rrCursor : Math.max(0, pool.indexOf(block) + 1)
     const uid = pool[from % pool.length]!
     this.rrCursor = (pool.indexOf(uid) + 1) % pool.length
-    this.blocks.set(this.blockKey(modelId), { uid, served: 0, hits: 0 })
+    this.blocks.set(this.blockKey(modelId), uid)
+    if (fp !== '') {
+      this.bind(modelId, fp, uid)
+    } else {
+      // 新驻留 = 新观察窗口（旧行为：块计数从 0 开始）。样本是跨驻留累计的，
+      // 不清的话上一个大样本会立刻把新驻留判走。
+      this.samples.delete(this.key(modelId, uid))
+    }
     return uid
   }
 
+  /** 记下「前缀指纹 → 号」的绑定（LRU：超上限丢最久未用的）。 */
+  private bind(modelId: string, fp: string, uid: string): void {
+    const k = this.blockKey(modelId)
+    let m = this.affinity.get(k)
+    if (m === undefined) {
+      m = new Map()
+      this.affinity.set(k, m)
+    }
+    // 已存在则先删再 set：Map 的插入序即 LRU 序，重插等于刷新到最新
+    m.delete(fp)
+    m.set(fp, uid)
+    if (m.size > AFFINITY_MAX) {
+      const oldest = m.keys().next().value
+      if (oldest !== undefined) m.delete(oldest)
+    }
+  }
+
   /** 该号在本模型上是否被判定「缓存无效」（降权中）。 */
   private isDemoted(uid: string, modelId: string, now: number): boolean {
     const e = this.demoted.get(this.key(modelId, uid))
@@ -251,7 +314,7 @@ export class AccountPool {
   }
 
   /**
-   * 块是否还应驻留在当前号上。
+   * 驻留是否还应留在当前号上（**只用于无亲和的回退路径**）。
    *
    * OR 语义（用户拍板）：`留守 = 计数 < N OR 命中率 < M`。
    * 单一账号内部：一个号先被轮到（冷启动/热），然后
@@ -261,39 +324,40 @@ export class AccountPool {
    *
    * 关键：命中率是**留守**条件不是切号执行器（反接会正反馈死锁，
    * 见文档 §3）。换号由「命中达标 OR 份额用够」触发，都不是「命中率低」。
-   *
-   * 每个号各自守着「这个会话在自己账号上的那段前缀」，轮流热；
-   * 命中率 = 块的命中占比。单会话下每个号块都从冷到热各付一次,
-   * 收益来自块内连续驻留(缺了它就跟每请求轮询一样)。
    */
-  private blockKeeps(block: BlockState): boolean {
-    if (block.served >= BLOCK_MAX) return false // 轮次过多 → 让位（兜底）
-    const ratio = block.served === 0 ? 0 : block.hits / block.served
-    return block.served < BLOCK_MIN || ratio < BLOCK_HIT_RATIO // 计数<N OR 命中率<M
+  private blockKeeps(modelId: string, uid: string): boolean {
+    const s = this.samples.get(this.key(modelId, uid))
+    const served = s?.served ?? 0
+    if (served >= BLOCK_MAX) return false // 轮次过多 → 让位（兜底）
+    const ratio = served === 0 ? 0 : (s?.hits ?? 0) / served
+    return served < BLOCK_MIN || ratio < BLOCK_HIT_RATIO // 计数<N OR 命中率<M
   }
 
   /**
-   * 记录一次成功请求的缓存命中情况（块轮询的反馈信号）。
+   * 记录一次成功请求的缓存命中情况（降权判据的反馈信号）。
    *
-   * 只有**成功**请求才计入：失败没产生缓存，计入会污染命中率并导致错切。
+   * 只有**成功**请求才计入：失败没产生缓存，计入会污染命中率并导致错降权。
+   * 统计按 (model, uid) 记，**不管这个号是不是「当前驻留」**——亲和开启后
+   * 多个会话各绑各的号交错服务，按驻留记会漏掉大部分真实反馈。
    * @param uid 实际服务的号
    * @param modelId 模型（块粒度）
    * @param cachedTokens 上游报的命中 token 数；0 = 全量重算
    */
   noteCache(uid: string, modelId: string, cachedTokens: number): void {
-    const k = this.blockKey(modelId)
-    const block = this.blocks.get(k)
-    // 块已被别处重置/换号（如故障切走）→ 这次结果不属于当前块，忽略
-    if (block === undefined || block.uid !== uid) return
-    block.served += 1
-    if (cachedTokens > 0) block.hits += 1
-    // 驻留满 N_max 仍不达标 → 判定缓存无效，降权一段时间（可恢复）
-    if (block.served >= BLOCK_MAX && block.hits / block.served < BLOCK_HIT_RATIO) {
-      this.demoted.set(this.key(modelId, uid), { until: Date.now() + BLOCK_DEMOTE_MS })
+    const k = this.key(modelId, uid)
+    const s = this.samples.get(k) ?? { served: 0, hits: 0 }
+    s.served += 1
+    if (cachedTokens > 0) s.hits += 1
+    this.samples.set(k, s)
+    // 累计满 N_max 仍不达标 → 判定缓存无效，降权一段时间（可恢复）
+    if (s.served >= BLOCK_MAX && s.hits / s.served < BLOCK_HIT_RATIO) {
+      this.demoted.set(k, { until: Date.now() + BLOCK_DEMOTE_MS })
+      // 降权后样本重置：冷却结束重新观察，而不是带着旧判决立刻再降
+      this.samples.delete(k)
     }
   }
 
-  /** 故障切走时作废当前块：换号后前缀归属变了，块计数不能沿用。 */
+  /** 故障切走时作废当前驻留：换号后前缀归属变了，驻留计数不能沿用。 */
   dropBlock(modelId: string): void {
     this.blocks.delete(this.blockKey(modelId))
   }

package/src/router/index.ts

@@ -78,6 +78,18 @@ function isTransient(state: AccountState): boolean {
   return state === 'transport' || state === 'unavailable'
 }
 
+/**
+ * 从请求体里取 `messages`（前缀亲和的指纹输入）。解析失败/字段缺失返回
+ * undefined —— 亲和拿不到输入就自动回退到块轮询，不影响路由本身。
+ */
+function reqMessages(rawBody: string): unknown {
+  try {
+    return (JSON.parse(rawBody) as { messages?: unknown }).messages
+  } catch {
+    return undefined
+  }
+}
+
 /** 丢弃响应的假 ServerResponse（测试模型用：记录状态+内容，用于判定成败）。 */
 function sinkRes(): ServerResponse & { status(): number; body(): string } {
   let status = 200
@@ -1006,9 +1018,12 @@ export class Router {
     }
     // 试过的号不再选：某些失败状态既不冷却也不计数（如模型不属于本供应商），
     // 不排除试过的就会原地打转——死循环等于整个服务挂住。
+    // messages 只取一次：前缀亲和用它算指纹（重试换号时指纹必须一致，
+    // 否则同一会话的两次尝试会绑到不同的号上）。
+    const messages = reqMessages(req.rawBody)
     const tried = new Set<string>()
     for (;;) {
-      const uid = pool.pick(s.accounts().filter((a) => !tried.has(a.uid)), cfg.poolOrder, cfg.poolStrategy, req.model)
+      const uid = pool.pick(s.accounts().filter((a) => !tried.has(a.uid)), cfg.poolOrder, cfg.poolStrategy, req.model, messages)
       if (uid === undefined) return false
       tried.add(uid)
       const r = await s.chatOnce(uid, req.lv ?? 'auto', req)