hubrelay 0.2.0__tar.gz

hubrelay-0.2.0/LICENSE

@@ -0,0 +1,21 @@
+MIT License
+
+Copyright (c) 2026 relay-hub contributors
+
+Permission is hereby granted, free of charge, to any person obtaining a copy
+of this software and associated documentation files (the "Software"), to deal
+in the Software without restriction, including without limitation the rights
+to use, copy, modify, merge, publish, distribute, sublicense, and/or sell
+copies of the Software, and to permit persons to whom the Software is
+furnished to do so, subject to the following conditions:
+
+The above copyright notice and this permission notice shall be included in all
+copies or substantial portions of the Software.
+
+THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
+IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
+FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
+AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
+LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
+OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
+SOFTWARE.

hubrelay-0.2.0/PKG-INFO

@@ -0,0 +1,126 @@
+Metadata-Version: 2.4
+Name: hubrelay
+Version: 0.2.0
+Summary: Self-hosted LLM relay/gateway for LAN: multi-upstream key pool, downstream tokens, usage accounting, conformance probing (局域网大模型中转站)
+License: MIT
+Keywords: llm,gateway,relay,proxy,openai,anthropic,one-api,self-hosted,ollama,lm-studio,api-gateway,key-pool,chatgpt-proxy,localai,中转站,大模型
+Classifier: Development Status :: 4 - Beta
+Classifier: Intended Audience :: Developers
+Classifier: License :: OSI Approved :: MIT License
+Classifier: Operating System :: OS Independent
+Classifier: Programming Language :: Python :: 3
+Classifier: Programming Language :: Python :: 3.10
+Classifier: Programming Language :: Python :: 3.11
+Classifier: Programming Language :: Python :: 3.12
+Classifier: Topic :: System :: Networking
+Classifier: Topic :: Software Development :: Libraries
+Requires-Python: >=3.10
+Description-Content-Type: text/markdown
+License-File: LICENSE
+Dynamic: license-file
+
+# relay-hub · 局域网/自托管大模型中转站
+
+[![CI](https://github.com/bilibiliUID1480494301/relay-hub/actions/workflows/ci.yml/badge.svg)](https://github.com/bilibiliUID1480494301/relay-hub/actions/workflows/ci.yml)
+[![License: MIT](https://img.shields.io/badge/License-MIT-blue.svg)](./LICENSE)
+![Python](https://img.shields.io/badge/python-3.10%2B-blue.svg)
+![Dependencies](https://img.shields.io/badge/dependencies-none-brightgreen.svg)
+
+A self-hosted LLM relay/gateway for your LAN: multi-upstream key pool, downstream
+tokens, usage accounting, circuit breaking, and conformance probing. Pure Python
+standard library — no third-party runtime dependencies.
+
+一个自托管的大模型中转站：把多家上游（官方 API Key、本地自托管推理服务）统一成一个
+OpenAI/Anthropic 兼容入口，带号池调度、下游令牌、用量记账、分级熔断和一致性探测。
+纯 Python 标准库实现，零第三方运行时依赖。
+
+## 功能 Features
+
+- **上游号池** Upstream key pool：多渠道轮询/最少失败/额度感知调度，优先级与权重，
+  四档分级冷却（额度耗尽 / 限流 / 5xx / 鉴权失效），热加载。
+- **下游令牌** Downstream tokens：per-device 令牌（对标 one-api 的「令牌」），模型白名单、
+  RPM/每日限额、用量记账，明文只在发放时出现一次。
+- **双协议入口** Dual protocol：`POST /v1/messages`（Anthropic）与
+  `POST /v1/chat/completions`（OpenAI），同一令牌两种鉴权头都认。
+- **配对发放** Pairing：带外配对码（成功即焚、限次）+ 可选的局域网免码配对。
+- **管理控制台** Admin console：本地网页，管理渠道/令牌/策略/请求明细/用量/审计。
+- **一致性探测** Conformance probe：对着任意兼容网关跑合规探测，抓出不合规实现。
+- **请求审计** Request audit：控制面操作审计与请求明细（脱敏）。
+
+## 特色 Highlights
+
+- **三层防环路** Loop protection：转发链路标识（`Via` / `X-Relay-Hub-Hops` /
+  `X-Request-ID`，逐跳累加，本站实例标记一现即判环）+ 入口请求内容指纹在飞计数 +
+  出口「同指纹 × 同上游」时间窗查重。就算中间隔了会改写参数的第三方网关也能兜住，
+  专治「上游指回自己」的拓扑环。
+- **语义指纹应答缓存** Response cache：非流式 200 应答按语义指纹缓存 5 分钟——指纹只含
+  模型、规范化 messages、tools、采样参数等语义字段，绝不混入链路标识/鉴权/时间戳
+  （否则永不命中）；按调用者隔离，不跨用户串答案；命中即回、不触上游、不预扣额度。
+- **缓存记账** Cache accounting：上游 usage 中的缓存命中量（Anthropic 的
+  `cache_read/cache_creation_input_tokens`、OpenAI 的 `cached_tokens` 折算）记入
+  渠道用量与请求明细，管理控制台直接可见。
+- **额度预扣与多退少补** Pre-consume：绑定用户的请求先按输入体量预估冻结额度，
+  完工后按实际用量结算，上游失败全额退——堵「发大 prompt 中途断开白嫖上游」的洞。
+- **排队而非硬拒** Concurrency gate：并发满员进入 VIP/普通双等待池排队（优先名单
+  设备/IP 插队），队满或超时才 429；叠加单 IP 与令牌双层 RPM 限流。
+- **本机推理服务扫描** Local scan：Ollama / LM Studio / vLLM / llama.cpp 等一键扫进号池，
+  与官方 API 渠道同权参与调度、熔断与记账。
+
+## 快速开始 Quick Start
+
+> ⚠️ **注意**：PyPI 上的 `relay-hub` 是**别人的同名项目**，与本仓库无关，请勿 `pip install relay-hub`。
+> 本项目在 PyPI 上的分发名是 **`hubrelay`**。
+
+```bash
+pip install hubrelay          # PyPI 安装（推荐）
+# 或源码安装：pip install git+https://github.com/bilibiliUID1480494301/relay-hub.git
+
+# 1) 建号池并添加一个上游 Key
+python -m relayhub.gateway pool init
+python -m relayhub.gateway pool add --base-url https://api.example.com \
+  --api-key sk-xxx --protocol openai-chat --model my-model
+
+# 2) 启动中转站
+python -m relayhub.gateway serve --pool pool.json --api-key rh_master
+
+# 3)（可选）本地网页控制台
+python -m relayhub.gateway admin
+```
+
+更多子命令（`token` / `clients` / `pair` / `audit` / `check` / `scan` / `requests` /
+`usage`）见各自主命令的 `--help`。See each subcommand's `--help` for details.
+
+## 运行环境 Requirements
+
+- Python 3.10+（仅标准库）
+- Windows / macOS / Linux
+
+## 免责声明 Disclaimer
+
+> **中文**：本项目仅供学习、研究与个人自托管用途。使用者应自行确保其使用行为符合
+> 所在地区法律法规，以及其接入的上游服务的用户协议与服务条款。本项目按「现状」提供，
+> 不附带任何明示或暗示的担保；作者不对任何人因使用本项目而产生的直接或间接损失负责。
+> 请勿将本项目用于任何违反上游服务条款或损害第三方权益的用途，由此产生的一切风险与
+> 责任由使用者自行承担。
+>
+> **English**: This project is provided for learning, research, and personal
+> self-hosting purposes only. You are solely responsible for ensuring that your
+> use complies with applicable laws and regulations in your jurisdiction as well
+> as the terms of service of any upstream services you connect to. The software
+> is provided "AS IS", without warranty of any kind. In no event shall the
+> authors be liable for any claim, damages, or other liability arising from the
+> use of this software. Any risk arising from use in violation of upstream terms
+> of service rests solely with the user.
+
+## 安全须知 Security Notes
+
+- 上游 Key 以明文 JSON 存放在本地号池文件中（与常见客户端做法一致）；请自行做好
+  文件权限与磁盘加密，**不要**把号池文件提交进版本库或分享给他人。
+- 绑定非回环地址（公网/局域网）前，网关强制要求已配置凭证（master Key 或下游令牌），
+  且所有流量都必须携带凭证。
+- 管理控制台默认只监听回环地址；绑非回环地址必须显式提供 `--token`。
+- 遇到疑似密钥泄露请立即吊销（`token rm` / 更换上游 Key）。
+
+## 许可证 License
+
+[MIT](./LICENSE)

hubrelay-0.2.0/README.md

@@ -0,0 +1,105 @@
+# relay-hub · 局域网/自托管大模型中转站
+
+[![CI](https://github.com/bilibiliUID1480494301/relay-hub/actions/workflows/ci.yml/badge.svg)](https://github.com/bilibiliUID1480494301/relay-hub/actions/workflows/ci.yml)
+[![License: MIT](https://img.shields.io/badge/License-MIT-blue.svg)](./LICENSE)
+![Python](https://img.shields.io/badge/python-3.10%2B-blue.svg)
+![Dependencies](https://img.shields.io/badge/dependencies-none-brightgreen.svg)
+
+A self-hosted LLM relay/gateway for your LAN: multi-upstream key pool, downstream
+tokens, usage accounting, circuit breaking, and conformance probing. Pure Python
+standard library — no third-party runtime dependencies.
+
+一个自托管的大模型中转站：把多家上游（官方 API Key、本地自托管推理服务）统一成一个
+OpenAI/Anthropic 兼容入口，带号池调度、下游令牌、用量记账、分级熔断和一致性探测。
+纯 Python 标准库实现，零第三方运行时依赖。
+
+## 功能 Features
+
+- **上游号池** Upstream key pool：多渠道轮询/最少失败/额度感知调度，优先级与权重，
+  四档分级冷却（额度耗尽 / 限流 / 5xx / 鉴权失效），热加载。
+- **下游令牌** Downstream tokens：per-device 令牌（对标 one-api 的「令牌」），模型白名单、
+  RPM/每日限额、用量记账，明文只在发放时出现一次。
+- **双协议入口** Dual protocol：`POST /v1/messages`（Anthropic）与
+  `POST /v1/chat/completions`（OpenAI），同一令牌两种鉴权头都认。
+- **配对发放** Pairing：带外配对码（成功即焚、限次）+ 可选的局域网免码配对。
+- **管理控制台** Admin console：本地网页，管理渠道/令牌/策略/请求明细/用量/审计。
+- **一致性探测** Conformance probe：对着任意兼容网关跑合规探测，抓出不合规实现。
+- **请求审计** Request audit：控制面操作审计与请求明细（脱敏）。
+
+## 特色 Highlights
+
+- **三层防环路** Loop protection：转发链路标识（`Via` / `X-Relay-Hub-Hops` /
+  `X-Request-ID`，逐跳累加，本站实例标记一现即判环）+ 入口请求内容指纹在飞计数 +
+  出口「同指纹 × 同上游」时间窗查重。就算中间隔了会改写参数的第三方网关也能兜住，
+  专治「上游指回自己」的拓扑环。
+- **语义指纹应答缓存** Response cache：非流式 200 应答按语义指纹缓存 5 分钟——指纹只含
+  模型、规范化 messages、tools、采样参数等语义字段，绝不混入链路标识/鉴权/时间戳
+  （否则永不命中）；按调用者隔离，不跨用户串答案；命中即回、不触上游、不预扣额度。
+- **缓存记账** Cache accounting：上游 usage 中的缓存命中量（Anthropic 的
+  `cache_read/cache_creation_input_tokens`、OpenAI 的 `cached_tokens` 折算）记入
+  渠道用量与请求明细，管理控制台直接可见。
+- **额度预扣与多退少补** Pre-consume：绑定用户的请求先按输入体量预估冻结额度，
+  完工后按实际用量结算，上游失败全额退——堵「发大 prompt 中途断开白嫖上游」的洞。
+- **排队而非硬拒** Concurrency gate：并发满员进入 VIP/普通双等待池排队（优先名单
+  设备/IP 插队），队满或超时才 429；叠加单 IP 与令牌双层 RPM 限流。
+- **本机推理服务扫描** Local scan：Ollama / LM Studio / vLLM / llama.cpp 等一键扫进号池，
+  与官方 API 渠道同权参与调度、熔断与记账。
+
+## 快速开始 Quick Start
+
+> ⚠️ **注意**：PyPI 上的 `relay-hub` 是**别人的同名项目**，与本仓库无关，请勿 `pip install relay-hub`。
+> 本项目在 PyPI 上的分发名是 **`hubrelay`**。
+
+```bash
+pip install hubrelay          # PyPI 安装（推荐）
+# 或源码安装：pip install git+https://github.com/bilibiliUID1480494301/relay-hub.git
+
+# 1) 建号池并添加一个上游 Key
+python -m relayhub.gateway pool init
+python -m relayhub.gateway pool add --base-url https://api.example.com \
+  --api-key sk-xxx --protocol openai-chat --model my-model
+
+# 2) 启动中转站
+python -m relayhub.gateway serve --pool pool.json --api-key rh_master
+
+# 3)（可选）本地网页控制台
+python -m relayhub.gateway admin
+```
+
+更多子命令（`token` / `clients` / `pair` / `audit` / `check` / `scan` / `requests` /
+`usage`）见各自主命令的 `--help`。See each subcommand's `--help` for details.
+
+## 运行环境 Requirements
+
+- Python 3.10+（仅标准库）
+- Windows / macOS / Linux
+
+## 免责声明 Disclaimer
+
+> **中文**：本项目仅供学习、研究与个人自托管用途。使用者应自行确保其使用行为符合
+> 所在地区法律法规，以及其接入的上游服务的用户协议与服务条款。本项目按「现状」提供，
+> 不附带任何明示或暗示的担保；作者不对任何人因使用本项目而产生的直接或间接损失负责。
+> 请勿将本项目用于任何违反上游服务条款或损害第三方权益的用途，由此产生的一切风险与
+> 责任由使用者自行承担。
+>
+> **English**: This project is provided for learning, research, and personal
+> self-hosting purposes only. You are solely responsible for ensuring that your
+> use complies with applicable laws and regulations in your jurisdiction as well
+> as the terms of service of any upstream services you connect to. The software
+> is provided "AS IS", without warranty of any kind. In no event shall the
+> authors be liable for any claim, damages, or other liability arising from the
+> use of this software. Any risk arising from use in violation of upstream terms
+> of service rests solely with the user.
+
+## 安全须知 Security Notes
+
+- 上游 Key 以明文 JSON 存放在本地号池文件中（与常见客户端做法一致）；请自行做好
+  文件权限与磁盘加密，**不要**把号池文件提交进版本库或分享给他人。
+- 绑定非回环地址（公网/局域网）前，网关强制要求已配置凭证（master Key 或下游令牌），
+  且所有流量都必须携带凭证。
+- 管理控制台默认只监听回环地址；绑非回环地址必须显式提供 `--token`。
+- 遇到疑似密钥泄露请立即吊销（`token rm` / 更换上游 Key）。
+
+## 许可证 License
+
+[MIT](./LICENSE)

hubrelay-0.2.0/hubrelay.egg-info/PKG-INFO

@@ -0,0 +1,126 @@
+Metadata-Version: 2.4
+Name: hubrelay
+Version: 0.2.0
+Summary: Self-hosted LLM relay/gateway for LAN: multi-upstream key pool, downstream tokens, usage accounting, conformance probing (局域网大模型中转站)
+License: MIT
+Keywords: llm,gateway,relay,proxy,openai,anthropic,one-api,self-hosted,ollama,lm-studio,api-gateway,key-pool,chatgpt-proxy,localai,中转站,大模型
+Classifier: Development Status :: 4 - Beta
+Classifier: Intended Audience :: Developers
+Classifier: License :: OSI Approved :: MIT License
+Classifier: Operating System :: OS Independent
+Classifier: Programming Language :: Python :: 3
+Classifier: Programming Language :: Python :: 3.10
+Classifier: Programming Language :: Python :: 3.11
+Classifier: Programming Language :: Python :: 3.12
+Classifier: Topic :: System :: Networking
+Classifier: Topic :: Software Development :: Libraries
+Requires-Python: >=3.10
+Description-Content-Type: text/markdown
+License-File: LICENSE
+Dynamic: license-file
+
+# relay-hub · 局域网/自托管大模型中转站
+
+[![CI](https://github.com/bilibiliUID1480494301/relay-hub/actions/workflows/ci.yml/badge.svg)](https://github.com/bilibiliUID1480494301/relay-hub/actions/workflows/ci.yml)
+[![License: MIT](https://img.shields.io/badge/License-MIT-blue.svg)](./LICENSE)
+![Python](https://img.shields.io/badge/python-3.10%2B-blue.svg)
+![Dependencies](https://img.shields.io/badge/dependencies-none-brightgreen.svg)
+
+A self-hosted LLM relay/gateway for your LAN: multi-upstream key pool, downstream
+tokens, usage accounting, circuit breaking, and conformance probing. Pure Python
+standard library — no third-party runtime dependencies.
+
+一个自托管的大模型中转站：把多家上游（官方 API Key、本地自托管推理服务）统一成一个
+OpenAI/Anthropic 兼容入口，带号池调度、下游令牌、用量记账、分级熔断和一致性探测。
+纯 Python 标准库实现，零第三方运行时依赖。
+
+## 功能 Features
+
+- **上游号池** Upstream key pool：多渠道轮询/最少失败/额度感知调度，优先级与权重，
+  四档分级冷却（额度耗尽 / 限流 / 5xx / 鉴权失效），热加载。
+- **下游令牌** Downstream tokens：per-device 令牌（对标 one-api 的「令牌」），模型白名单、
+  RPM/每日限额、用量记账，明文只在发放时出现一次。
+- **双协议入口** Dual protocol：`POST /v1/messages`（Anthropic）与
+  `POST /v1/chat/completions`（OpenAI），同一令牌两种鉴权头都认。
+- **配对发放** Pairing：带外配对码（成功即焚、限次）+ 可选的局域网免码配对。
+- **管理控制台** Admin console：本地网页，管理渠道/令牌/策略/请求明细/用量/审计。
+- **一致性探测** Conformance probe：对着任意兼容网关跑合规探测，抓出不合规实现。
+- **请求审计** Request audit：控制面操作审计与请求明细（脱敏）。
+
+## 特色 Highlights
+
+- **三层防环路** Loop protection：转发链路标识（`Via` / `X-Relay-Hub-Hops` /
+  `X-Request-ID`，逐跳累加，本站实例标记一现即判环）+ 入口请求内容指纹在飞计数 +
+  出口「同指纹 × 同上游」时间窗查重。就算中间隔了会改写参数的第三方网关也能兜住，
+  专治「上游指回自己」的拓扑环。
+- **语义指纹应答缓存** Response cache：非流式 200 应答按语义指纹缓存 5 分钟——指纹只含
+  模型、规范化 messages、tools、采样参数等语义字段，绝不混入链路标识/鉴权/时间戳
+  （否则永不命中）；按调用者隔离，不跨用户串答案；命中即回、不触上游、不预扣额度。
+- **缓存记账** Cache accounting：上游 usage 中的缓存命中量（Anthropic 的
+  `cache_read/cache_creation_input_tokens`、OpenAI 的 `cached_tokens` 折算）记入
+  渠道用量与请求明细，管理控制台直接可见。
+- **额度预扣与多退少补** Pre-consume：绑定用户的请求先按输入体量预估冻结额度，
+  完工后按实际用量结算，上游失败全额退——堵「发大 prompt 中途断开白嫖上游」的洞。
+- **排队而非硬拒** Concurrency gate：并发满员进入 VIP/普通双等待池排队（优先名单
+  设备/IP 插队），队满或超时才 429；叠加单 IP 与令牌双层 RPM 限流。
+- **本机推理服务扫描** Local scan：Ollama / LM Studio / vLLM / llama.cpp 等一键扫进号池，
+  与官方 API 渠道同权参与调度、熔断与记账。
+
+## 快速开始 Quick Start
+
+> ⚠️ **注意**：PyPI 上的 `relay-hub` 是**别人的同名项目**，与本仓库无关，请勿 `pip install relay-hub`。
+> 本项目在 PyPI 上的分发名是 **`hubrelay`**。
+
+```bash
+pip install hubrelay          # PyPI 安装（推荐）
+# 或源码安装：pip install git+https://github.com/bilibiliUID1480494301/relay-hub.git
+
+# 1) 建号池并添加一个上游 Key
+python -m relayhub.gateway pool init
+python -m relayhub.gateway pool add --base-url https://api.example.com \
+  --api-key sk-xxx --protocol openai-chat --model my-model
+
+# 2) 启动中转站
+python -m relayhub.gateway serve --pool pool.json --api-key rh_master
+
+# 3)（可选）本地网页控制台
+python -m relayhub.gateway admin
+```
+
+更多子命令（`token` / `clients` / `pair` / `audit` / `check` / `scan` / `requests` /
+`usage`）见各自主命令的 `--help`。See each subcommand's `--help` for details.
+
+## 运行环境 Requirements
+
+- Python 3.10+（仅标准库）
+- Windows / macOS / Linux
+
+## 免责声明 Disclaimer
+
+> **中文**：本项目仅供学习、研究与个人自托管用途。使用者应自行确保其使用行为符合
+> 所在地区法律法规，以及其接入的上游服务的用户协议与服务条款。本项目按「现状」提供，
+> 不附带任何明示或暗示的担保；作者不对任何人因使用本项目而产生的直接或间接损失负责。
+> 请勿将本项目用于任何违反上游服务条款或损害第三方权益的用途，由此产生的一切风险与
+> 责任由使用者自行承担。
+>
+> **English**: This project is provided for learning, research, and personal
+> self-hosting purposes only. You are solely responsible for ensuring that your
+> use complies with applicable laws and regulations in your jurisdiction as well
+> as the terms of service of any upstream services you connect to. The software
+> is provided "AS IS", without warranty of any kind. In no event shall the
+> authors be liable for any claim, damages, or other liability arising from the
+> use of this software. Any risk arising from use in violation of upstream terms
+> of service rests solely with the user.
+
+## 安全须知 Security Notes
+
+- 上游 Key 以明文 JSON 存放在本地号池文件中（与常见客户端做法一致）；请自行做好
+  文件权限与磁盘加密，**不要**把号池文件提交进版本库或分享给他人。
+- 绑定非回环地址（公网/局域网）前，网关强制要求已配置凭证（master Key 或下游令牌），
+  且所有流量都必须携带凭证。
+- 管理控制台默认只监听回环地址；绑非回环地址必须显式提供 `--token`。
+- 遇到疑似密钥泄露请立即吊销（`token rm` / 更换上游 Key）。
+
+## 许可证 License
+
+[MIT](./LICENSE)

hubrelay-0.2.0/hubrelay.egg-info/SOURCES.txt

@@ -0,0 +1,42 @@
+LICENSE
+README.md
+pyproject.toml
+hubrelay.egg-info/PKG-INFO
+hubrelay.egg-info/SOURCES.txt
+hubrelay.egg-info/dependency_links.txt
+hubrelay.egg-info/entry_points.txt
+hubrelay.egg-info/top_level.txt
+relayhub/__init__.py
+relayhub/backup.py
+relayhub/paths.py
+relayhub/gateway/__init__.py
+relayhub/gateway/__main__.py
+relayhub/gateway/admin.py
+relayhub/gateway/audit.py
+relayhub/gateway/clients.py
+relayhub/gateway/conformance.py
+relayhub/gateway/discovery.py
+relayhub/gateway/localscan.py
+relayhub/gateway/pairing.py
+relayhub/gateway/policy.py
+relayhub/gateway/pool.py
+relayhub/gateway/reqlog.py
+relayhub/gateway/router.py
+relayhub/gateway/service.py
+relayhub/gateway/tokens.py
+relayhub/gateway/upstream.py
+relayhub/gateway/users.py
+tests/test_admin.py
+tests/test_admin_console.py
+tests/test_audit.py
+tests/test_discovery.py
+tests/test_gateway.py
+tests/test_localscan.py
+tests/test_multimodal.py
+tests/test_pairing.py
+tests/test_policy.py
+tests/test_pool.py
+tests/test_pool_tiers.py
+tests/test_reqlog.py
+tests/test_tokens.py
+tests/test_users.py

hubrelay-0.2.0/hubrelay.egg-info/dependency_links.txt

@@ -0,0 +1 @@
+

hubrelay-0.2.0/hubrelay.egg-info/entry_points.txt

@@ -0,0 +1,2 @@
+[console_scripts]
+hubrelay = relayhub.gateway.__main__:main

hubrelay-0.2.0/hubrelay.egg-info/top_level.txt

@@ -0,0 +1 @@
+relayhub

hubrelay-0.2.0/pyproject.toml

@@ -0,0 +1,30 @@
+[project]
+name = "hubrelay"
+version = "0.2.0"
+description = "Self-hosted LLM relay/gateway for LAN: multi-upstream key pool, downstream tokens, usage accounting, conformance probing (局域网大模型中转站)"
+readme = "README.md"
+license = {text = "MIT"}
+requires-python = ">=3.10"
+dependencies = []
+keywords = ["llm", "gateway", "relay", "proxy", "openai", "anthropic", "one-api",
+            "self-hosted", "ollama", "lm-studio", "api-gateway", "key-pool",
+            "chatgpt-proxy", "localai", "中转站", "大模型"]
+classifiers = [
+  "Development Status :: 4 - Beta",
+  "Intended Audience :: Developers",
+  "License :: OSI Approved :: MIT License",
+  "Operating System :: OS Independent",
+  "Programming Language :: Python :: 3",
+  "Programming Language :: Python :: 3.10",
+  "Programming Language :: Python :: 3.11",
+  "Programming Language :: Python :: 3.12",
+  "Topic :: System :: Networking",
+  "Topic :: Software Development :: Libraries",
+]
+
+[project.scripts]
+hubrelay = "relayhub.gateway.__main__:main"
+
+[tool.pytest.ini_options]
+pythonpath = ["."]
+testpaths = ["tests"]

hubrelay-0.2.0/relayhub/__init__.py

@@ -0,0 +1,7 @@
+"""relay-hub：局域网/自托管大模型中转站。
+
+上游号池（多 Key 轮转、熔断冷却）+ 双协议适配（Anthropic/OpenAI）
++ HTTP 网关服务（鉴权、配对、用量记账）。
+"""
+
+__version__ = "0.1.0"

hubrelay-0.2.0/relayhub/backup.py

@@ -0,0 +1,91 @@
+"""写入前的带时间戳备份与回滚。
+
+约定（与 oj 项目一致）：时间戳文件名不含冒号，避免 WinError 123。
+"""
+
+from __future__ import annotations
+
+import json
+import shutil
+from dataclasses import dataclass
+from datetime import datetime
+from pathlib import Path
+
+STAMP_FMT = "%Y%m%dT%H%M%S"
+MANIFEST_NAME = "manifest.json"
+
+
+@dataclass(frozen=True)
+class Snapshot:
+    snapshot_id: str
+    root: Path
+
+    @property
+    def manifest_path(self) -> Path:
+        return self.root / self.snapshot_id / MANIFEST_NAME
+
+    def read_manifest(self) -> dict:
+        return json.loads(self.manifest_path.read_text(encoding="utf-8"))
+
+
+def make_snapshot(paths: list[Path], root: Path) -> Snapshot:
+    """把 paths 里存在的文件复制到 <root>/<stamp>/，返回快照句柄。"""
+    stamp = datetime.now().strftime(STAMP_FMT)
+    target = root / stamp
+    # 同一秒内重复快照时避免互相覆盖
+    suffix = 1
+    while target.exists():
+        suffix += 1
+        target = root / f"{stamp}-{suffix}"
+
+    target.mkdir(parents=True, exist_ok=False)
+    entries = []
+    for src in paths:
+        if not src.is_file():
+            entries.append({"path": str(src), "existed": False})
+            continue
+        dst = target / src.name
+        shutil.copy2(src, dst)
+        entries.append({"path": str(src), "existed": True, "bytes": dst.stat().st_size})
+
+    manifest = {"created_at": datetime.now().isoformat(timespec="seconds"), "files": entries}
+    (target / MANIFEST_NAME).write_text(
+        json.dumps(manifest, ensure_ascii=False, indent=2), encoding="utf-8"
+    )
+    return Snapshot(snapshot_id=target.name, root=root)
+
+
+def list_snapshots(root: Path) -> list[Snapshot]:
+    if not root.is_dir():
+        return []
+    items = [p for p in root.iterdir() if p.is_dir() and (p / MANIFEST_NAME).is_file()]
+    return [Snapshot(snapshot_id=p.name, root=root) for p in sorted(items, reverse=True)]
+
+
+def latest_snapshot(root: Path) -> Snapshot | None:
+    found = list_snapshots(root)
+    return found[0] if found else None
+
+
+def restore(snapshot: Snapshot, dry_run: bool = False) -> list[str]:
+    """把快照里的文件写回原位。返回人类可读的操作说明。"""
+    lines: list[str] = []
+    manifest = snapshot.read_manifest()
+    for entry in manifest["files"]:
+        dst = Path(entry["path"])
+        if not entry.get("existed"):
+            if dst.is_file():
+                lines.append(f"删除 {dst}（快照时不存在）")
+                if not dry_run:
+                    dst.unlink()
+            else:
+                lines.append(f"跳过 {dst}（快照时不存在，当前也不存在）")
+            continue
+        src = snapshot.root / snapshot.snapshot_id / dst.name
+        if not src.is_file():
+            lines.append(f"缺少备份文件 {src}，跳过")
+            continue
+        lines.append(f"还原 {dst}")
+        if not dry_run:
+            shutil.copy2(src, dst)
+    return lines

hubrelay-0.2.0/relayhub/gateway/__init__.py

@@ -0,0 +1,52 @@
+"""中转站层：号池 + 路由 + 参考实现 + 一致性探测器。
+
+真跑中转站用 `KeyPoolRouter`（发真实上游请求）；
+`DemoRouter` 只返回固定文本，是测试靶子。
+"""
+
+from .conformance import CheckResult, Probe, run_checks
+from .pool import (
+    PROTOCOL_ANTHROPIC,
+    PROTOCOL_OPENAI_CHAT,
+    KeyPool,
+    PoolError,
+    UpstreamKey,
+    key_from_spec,
+)
+from .router import KeyPoolRouter, RelayOutcome, RouterError
+from .service import Channel, ChannelPool, DemoRouter, RelayServer, demo_pool, demo_router
+from .upstream import (
+    UpstreamError,
+    UpstreamReply,
+    call_once,
+    normalize_base,
+    stream_events,
+    to_anthropic_request,
+)
+
+__all__ = [
+    "PROTOCOL_ANTHROPIC",
+    "PROTOCOL_OPENAI_CHAT",
+    "Channel",
+    "ChannelPool",
+    "CheckResult",
+    "DemoRouter",
+    "KeyPool",
+    "KeyPoolRouter",
+    "PoolError",
+    "Probe",
+    "RelayOutcome",
+    "RelayServer",
+    "RouterError",
+    "UpstreamError",
+    "UpstreamKey",
+    "UpstreamReply",
+    "call_once",
+    "demo_pool",
+    "demo_router",
+    "key_from_spec",
+    "normalize_base",
+    "run_checks",
+    "stream_events",
+    "to_anthropic_request",
+]