llm-switcher 1.1.9 → 1.1.10
This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
- package/README.md +14 -1
- package/README.vi.md +14 -1
- package/package.json +1 -1
package/README.md
CHANGED
|
@@ -191,7 +191,11 @@ flowchart LR
|
|
|
191
191
|
|
|
192
192
|
---
|
|
193
193
|
|
|
194
|
-
## Changes in 1.1.
|
|
194
|
+
## Changes in 1.1.10
|
|
195
|
+
|
|
196
|
+
- **README.** A new section, "Self-improvement with intact", explains how this gateway and intact correct their own faults. intact is now public and on npm as `intact-proxy`.
|
|
197
|
+
|
|
198
|
+
### Changes in 1.1.9
|
|
195
199
|
|
|
196
200
|
- **Dashboard.** Open `http://127.0.0.1:3456/ui` directly. The page no longer needs the link from `switch ui`: the gateway puts the admin token in the page. Pages of other sites still cannot read it.
|
|
197
201
|
|
|
@@ -594,6 +598,15 @@ Before it sends a sample, the gateway masks every string value with `x` of the s
|
|
|
594
598
|
- `switch contract-probe [--model m]` sends six test requests per model and format through the gateway.
|
|
595
599
|
- `switch contract-check` gets the open findings from intact and writes one test file for each lost field.
|
|
596
600
|
|
|
601
|
+
### Self-improvement with intact
|
|
602
|
+
|
|
603
|
+
[intact](https://github.com/louisphamdev/intact) is the credential proxy that this gateway can use as its upstream. The two tools find and correct their own faults, in two loops.
|
|
604
|
+
|
|
605
|
+
- **intact corrects what providers refuse.** It records every provider error and groups the errors that recur. For a fake 429, intact replays the failing request and removes the system prompt text in halves. It keeps the smallest text that the provider refuses as a filter in its database. Every machine gets the fix at once, and this gateway needs no update. Two examples: Antigravity answered a fake 429 to "You are Codex, an agent based on GPT-5" and to "You are a Claude agent, built on Anthropic's Claude Agent SDK".
|
|
606
|
+
- **This gateway corrects what its converter loses.** With the contract lab on, the gateway sends masked samples to intact. intact compares each sample with the request that it received, and records each field that the conversion lost. `switch contract-check` writes one failing test for each finding, and the fix goes into the converter.
|
|
607
|
+
|
|
608
|
+
Because of this split, a provider fingerprint is never a rule in this gateway. It is a filter in intact, which intact finds and proves by replay.
|
|
609
|
+
|
|
597
610
|
---
|
|
598
611
|
|
|
599
612
|
## Advanced Options
|
package/README.vi.md
CHANGED
|
@@ -191,7 +191,11 @@ flowchart LR
|
|
|
191
191
|
|
|
192
192
|
---
|
|
193
193
|
|
|
194
|
-
## Thay đổi trong bản 1.1.
|
|
194
|
+
## Thay đổi trong bản 1.1.10
|
|
195
|
+
|
|
196
|
+
- **README.** Mục mới "Tự cải thiện cùng intact" giải thích cách gateway này và intact tự sửa lỗi của nhau. intact giờ đã public và có trên npm với tên `intact-proxy`.
|
|
197
|
+
|
|
198
|
+
### Thay đổi trong bản 1.1.9
|
|
195
199
|
|
|
196
200
|
- **Dashboard.** Mở thẳng `http://127.0.0.1:3456/ui` là dùng được. Trang không cần link từ `switch ui` nữa: gateway đặt admin token vào trang. Trang của web khác vẫn không đọc được token.
|
|
197
201
|
|
|
@@ -594,6 +598,15 @@ Trước khi gửi mẫu, gateway che mọi giá trị string bằng chuỗi `x`
|
|
|
594
598
|
- `switch contract-probe [--model m]` gửi sáu request thử cho mỗi model và mỗi format qua gateway.
|
|
595
599
|
- `switch contract-check` lấy các finding còn mở từ intact và ghi một file test cho mỗi field bị mất.
|
|
596
600
|
|
|
601
|
+
### Tự cải thiện cùng intact
|
|
602
|
+
|
|
603
|
+
[intact](https://github.com/louisphamdev/intact) là proxy giữ credential mà gateway này có thể dùng làm upstream. Hai công cụ tự tìm và tự sửa lỗi của nhau theo hai vòng.
|
|
604
|
+
|
|
605
|
+
- **intact sửa những gì provider từ chối.** intact ghi lại mọi lỗi của provider và gom các lỗi lặp lại thành nhóm. Với 429 giả, intact gửi lại request lỗi và bỏ dần từng nửa system prompt. Đoạn nhỏ nhất mà provider từ chối được lưu thành filter trong database của intact. Mọi máy nhận bản sửa ngay, gateway này không cần cập nhật. Hai ví dụ: Antigravity trả 429 giả cho "You are Codex, an agent based on GPT-5" và cho "You are a Claude agent, built on Anthropic's Claude Agent SDK".
|
|
606
|
+
- **Gateway này sửa những gì converter làm mất.** Khi bật contract lab, gateway gửi các mẫu đã che lên intact. intact so mỗi mẫu với request mà intact nhận được, rồi ghi lại mỗi field mà phép chuyển đổi làm mất. `switch contract-check` ghi một test đỏ cho mỗi finding, và bản sửa nằm trong converter.
|
|
607
|
+
|
|
608
|
+
Nhờ cách chia này, fingerprint của provider không bao giờ là rule trong gateway này. Nó là filter trong intact, do intact tự tìm và chứng minh bằng cách gửi lại request.
|
|
609
|
+
|
|
597
610
|
---
|
|
598
611
|
|
|
599
612
|
## Tuỳ chọn Nâng cao
|