diff --git a/CHANGELOG.md b/CHANGELOG.md index 640b8dd..dc72bb5 100644 --- a/CHANGELOG.md +++ b/CHANGELOG.md @@ -4,7 +4,39 @@ --- -## 2026-09-18 · wjd 链路 = 全部文本模型(老板决策) +## 2026-09-18 · 添加 OpenCode Go 供应商(订阅编程模型) + +**一句话**:给网关接入 OpenCode Go(`https://opencode.ai/zen/go/v1`)的 OpenAI 兼容 `/chat/completions` 线 17 个文本模型;按老板「wjd = 全部文本模型」规则全部并入 `routes.wjd`。 + +### 背景(文档要点) +- OpenCode Go 是每月订阅制编程模型入口;**每个请求必须带 `x-opencode-session` 头**(实测缺它接口 400 `MissingSessionID`),建议专属 `User-Agent`(实测 UA 不敏感,session 头才是硬性要求)。 +- 模型分三条契约线:`/chat/completions`(OpenAI,本网关可直连)、`/messages`(Anthropic MiniMax/Qwen 等)、`/responses`(Grok/GPT/Muse)。仅接入 OpenAI 兼容线;其余两条不在本次范围。 + +### 改动 +- **`data/.env`**:新增 `OPENCODE_API_KEY`(600、gitignored)。 +- **`data/gateway.yaml`**: + - 新增 `providers.opencode`:`base_url https://opencode.ai/zen/go/v1`、`token_env OPENCODE_API_KEY`、`requires_session_header: true`、`extra_headers.User-Agent: api-gateway/2.4.0 (jakon opencode-go)`,收录 **17 个**文本模型(`glm-5.3-flash/5.3/5.2/5.1`、`kimi-k3/k2.7-code/k2.6`、`longcat-2.0`、`deepseek-v4-pro/v4-flash/flash/v4.1-flash/v4-flash-vision-exp(视觉)`、`mimo-v2.5/v2.5-pro`、`hy4-preview/hy3`)。 + - `routes.wjd` 追加这 17 个(wjd 链 = 20 个文本模型)。 + - 未收录:`glm-5`、`kimi-k2.5`、`hy3-preview`(上游实测 400 Model is unavailable);`/messages`、`/responses` 线模型未接入(适配器不含该契约)。 +- **`app/config.py`**:`ProviderConfig` 加 `requires_session_header` 字段并解析。 +- **`app/adapters/openai_compat.py`**:`OpenAICompatAdapter` 加 `requires_session_header`,在**每次请求**动态注入 `x-opencode-session: `(不能放静态 headers——`_get_adapter` 缓存会冻结)。 +- **`app/adapters/__init__.py`**:`create_adapter` 透传开关。 +- **`app/settings.py`**:面板视图与写回均增补 `requires_session_header`(否则 roundtrip 后该字段被重置为 False)。 +- **`frontend/src/views/Settings.vue`**:默认模型下拉 `TEXT_MODELS` 追加 17 个 go 模型(老板「全部文本模型」)、保留 `wjd` 在最前。 +- **`tests/test_gateway.py`**: + - `test_load_config_providers` 断言 `{"agnes","volc_engine","opencode"}`;`test_load_config_routes` wjd 长度 3→20。 + - **修复既有污染**:`test_effective_rps_priority` 直接用共享 `m._cfg()` 把 `agnes.rate_limit_rps` 改成 9 且未还原,新增 go 模型后触发限流桶被填满、令 `chat_unknown / batch / streaming fallback` 三个测试在全套运行时假红——已加 `finally` 还原(这本质是测试手尾泄漏,非业务 bug)。 + +### 验证 +- 文档端点实测:`GET /zen/go/v1/models` 通,返回 38 个模型(原生 id、无前缀)。 +- 契约实测:17 个 chat/completions 模型真实 key 全部 200;`glm-5` / `kimi-k2.5` / `hy3-preview` 400 未收录。 +- 头敏感性实测:带 `x-opencode-session` 必 200,缺它必 400(UA 无关)。 +- 适配器端到端(真实 key):非流式 `glm-5.3-flash` 与流式 `deepseek-v4-flash` 均正常返回(证明会话头注入生效)。 +- 单测:**155 passed / 0 failed**;前端 `vue-tsc --noEmit` 通过。 + +### 上线(待老板批准) +- 含 Python 代码改动(config / adapters / settings)→ 需 `supervisorctl restart api-gateway:api-gateway_00` 才生效(会踢网页会话);纯 yaml 的 hot_reload 只重载供应商/模型定义,`requires_session_header` 字段与注入逻辑要重启后代码才认。 +- 前端 build 覆盖 `dist`(纯前端上线动作)与 CNB 推送待老板确认。 **一句话**:老板拍板——**现有 + 以后新增的每一个文本模型都必须加入 `routes.wjd` 兜底链**。本次把 `agnes-2.5-flash` 补进 wjd,并把这句作为长期规则写入 MEMORY / README / CHANGELOG,供后续新增模型照做。 diff --git a/README.md b/README.md index 567d656..3a452c2 100644 --- a/README.md +++ b/README.md @@ -1,6 +1,6 @@ # API Gateway -统一多供应商 LLM 接入网关,纯后端 FastAPI,配置驱动。支持 **Agnes AI**、**火山方舟 Coding Plan** 两个供应商,全部走 OpenAI 兼容协议。v2.4 已集成熔断、限流、图像/视频、指标、成本估算、热加载、测试等完整能力。 +统一多供应商 LLM 接入网关,纯后端 FastAPI,配置驱动。支持 **Agnes AI**、**火山方舟 Coding Plan**、**OpenCode Go** 三个供应商,全部走 OpenAI 兼容协议。v2.4 已集成熔断、限流、图像/视频、指标、成本估算、热加载、测试等完整能力。 ## 特性 @@ -45,6 +45,19 @@ api-gateway/ |---|---|---|---| | Agnes AI | `https://api.agnes-ai.cn/v1` | Bearer | `agnes-3.0-flash`、`agnes-2.5-flash`(text,支持图像输入)、`agnes-image-2.5-flash`(image)、`agnes-video-2.5-flash`(video) | | 火山方舟 Coding | `https://ark.cn-beijing.volces.com/api/coding/v3` | Bearer | `ark-code-latest`(text) | +| OpenCode Go | `https://opencode.ai/zen/go/v1` | Bearer + `x-opencode-session` | 17 个文本模型(见下方小节) | + +> OpenCode Go 是每月订阅的编程模型入口(不在订阅内按 token 额外计费)。官方硬性要求每个 +> `/chat/completions` 带 **`x-opencode-session`**(缺失直接 400),并建议专属 `User-Agent`。 +> 网关通过供应商 `requires_session_header: true` 在每次请求动态注入一个 UUID 会话头; +> 该头不能放静态 `extra_headers`(适配器缓存会冻结它)。 +> +> 收录的 17 个文本模型(OpenAI 兼容 `/chat/completions` 线,真实 key 实测 200): +> `glm-5.3-flash`、`glm-5.3`、`glm-5.2`、`glm-5.1`、`kimi-k3`、`kimi-k2.7-code`、`kimi-k2.6`、 +> `longcat-2.0`、`deepseek-v4-pro`、`deepseek-v4-flash`、`deepseek-flash`、`deepseek-v4.1-flash`、 +> `deepseek-v4-flash-vision-exp`(视觉)、`mimo-v2.5`、`mimo-v2.5-pro`、`hy4-preview`、`hy3`。 +> OpenCode Go 其余模型走 Anthropic `messages` 或 OpenAI `responses` 契约(本网关为 OpenAI 兼容 +> 转发,暂未接入);`glm-5`、`kimi-k2.5`、`hy3-preview` 实测上游返回「Model is unavailable」未收录。 > Agnes 的图像/视频走自有端点,通过供应商配置里的 `media` 段指定。 @@ -79,13 +92,15 @@ providers: ```yaml routes: wjd: - timeout: 60 # 单模型 60s 没出结果就切下一个(避免 6×120s 挂死) + timeout: 60 # 单模型 60s 没出结果就切下一个(避免 20×120s 挂死) retry: 1 # 每个模型试 1 次,失败立即切下一个 # wjd 链路 = 全部文本模型(新增/现有文本模型都必须加入) models: - "ark-code-latest" # 1) 火山方舟(最高优先级) - "agnes-3.0-flash" # 2) Agnes 3.0 - "agnes-2.5-flash" # 3) Agnes 2.5 + # ── 4-20) OpenCode Go 17 个文本模型(glm-5.3-flash…hy3, + # 完整列表见 data/gateway.yaml routes 段)── circuit: # 供应商熔断 enabled: true diff --git a/app/adapters/__init__.py b/app/adapters/__init__.py index 3abf1c0..58803d1 100644 --- a/app/adapters/__init__.py +++ b/app/adapters/__init__.py @@ -12,9 +12,10 @@ def create_adapter( ) -> BaseAdapter: """根据供应商配置创建对应适配器。 - 当前两个供应商(Agnes / 火山方舟)均为 OpenAI 兼容协议, + 当前三个供应商(Agnes / 火山方舟 / OpenCode Go)均为 OpenAI 兼容协议, 统一使用 OpenAICompatAdapter,通过 base_url 和 extra_headers 区分。 图像/视频端点通过 media 配置覆盖(Agnes 走 /videos + /agnesapi)。 + OpenCode Go 由 requires_session_header 触发每请求动态注入 x-opencode-session。 """ headers = { "Authorization": f"Bearer {token}", @@ -28,4 +29,5 @@ def create_adapter( headers=headers, timeout=timeout, media=pconfig.media, + requires_session_header=pconfig.requires_session_header, ) diff --git a/app/adapters/openai_compat.py b/app/adapters/openai_compat.py index 7305fb3..d74cf1c 100644 --- a/app/adapters/openai_compat.py +++ b/app/adapters/openai_compat.py @@ -11,6 +11,7 @@ Agnes / 火山方舟 两家均使用 OpenAI 兼容 API from __future__ import annotations import json +import uuid from typing import Any, AsyncIterator @@ -28,9 +29,22 @@ class OpenAICompatAdapter(BaseAdapter): headers: dict[str, str] | None = None, timeout: int = 120, media=None, + requires_session_header: bool = False, ): super().__init__(name=name, base_url=base_url, timeout=timeout, media=media) self._headers: dict[str, str] = headers or {} + # OpenCode Go 要求每个 /chat/completions 带稳定 x-opencode-session。 + # 不能放静态 headers(_get_adapter 会缓存适配器、冻结 header), + # 所以在每次请求时动态生成一个 UUID 会话头。 + self._requires_session = requires_session_header + + def _req_headers(self) -> dict[str, str]: + """每次请求的 headers。需要会话头的供应商动态注入 x-opencode-session。""" + if not self._requires_session: + return self._headers + headers = dict(self._headers) + headers["x-opencode-session"] = uuid.uuid4().hex + return headers def _build_payload( self, @@ -87,7 +101,7 @@ class OpenAICompatAdapter(BaseAdapter): ) # Bug 4 修复: 用 lease 占用 client,热重载 close 会等本次请求结束才真正关连接 async with self._lease() as client: - resp = await client.post("/chat/completions", json=payload, headers=self._headers) + resp = await client.post("/chat/completions", json=payload, headers=self._req_headers()) resp.raise_for_status() data = json_or_raise(resp) @@ -120,7 +134,7 @@ class OpenAICompatAdapter(BaseAdapter): # Bug 4 修复: lease 在整个流式期间持有占用,热重载/关闭不会掐断在途流 async with self._lease() as client: async with client.stream( - "POST", "/chat/completions", json=payload, headers=self._headers + "POST", "/chat/completions", json=payload, headers=self._req_headers() ) as resp: resp.raise_for_status() async for line in resp.aiter_lines(): diff --git a/app/config.py b/app/config.py index cddff98..47b8e3d 100644 --- a/app/config.py +++ b/app/config.py @@ -75,6 +75,7 @@ class ProviderConfig: models: list[ModelInfo] = field(default_factory=list) media: MediaConfig = field(default_factory=MediaConfig) rate_limit_rps: float | None = None # 该供应商全局 QPS 上限(可选) + requires_session_header: bool = False # OpenCode Go 等要求每请求动态会话头(x-opencode-session) # ── 网关入口鉴权 ── @@ -434,6 +435,8 @@ def parse_config(raw: dict[str, Any]) -> GatewayConfig: models=models, media=_parse_media(pval), rate_limit_rps=_opt_float(pval.get("rate_limit_rps")), + requires_session_header=_opt_bool( + pval.get("requires_session_header"), "providers.*.requires_session_header", False), ) srv_raw = raw.get("server", {}) or {} diff --git a/app/settings.py b/app/settings.py index cdc93cd..2e75477 100644 --- a/app/settings.py +++ b/app/settings.py @@ -86,6 +86,7 @@ def config_to_view(cfg: GatewayConfig) -> dict[str, Any]: }, "extra_headers": dict(p.extra_headers or {}), "rate_limit_rps": p.rate_limit_rps, + "requires_session_header": bool(p.requires_session_header), "media": {k: getattr(p.media, k) for k in MEDIA_KEYS}, "models": [ {"id": m.id, "display_name": m.display_name, "type": m.type, "vision": bool(m.vision)} @@ -236,6 +237,7 @@ def view_to_raw(cfg: GatewayConfig, raw: dict[str, Any], view: dict[str, Any]) - }, "extra_headers": _str_map(pv.get("extra_headers"), f"providers.{key}.extra_headers"), "rate_limit_rps": pv.get("rate_limit_rps"), + "requires_session_header": bool(pv.get("requires_session_header", False)), # media 留空 = 该供应商不支持对应媒体(写回时保留原文里的空 {} 语义) "media": { k: (media_in.get(k) if k in media_in else base_media.get(k)) diff --git a/data/gateway.yaml b/data/gateway.yaml index 2e2fa37..4f2cb30 100644 --- a/data/gateway.yaml +++ b/data/gateway.yaml @@ -1,5 +1,5 @@ # AI 网关配置文件(data/ 目录) -# 供应商:Agnes / 火山方舟 Coding +# 供应商:Agnes / 火山方舟 Coding / OpenCode Go(订阅编程模型) # 密钥统一走 token_env 指向的环境变量(本机见 data/.env),不再在 yaml 存明文 # 端口默认 8808 # @@ -51,6 +51,75 @@ providers: - id: "ark-code-latest" display_name: "火山方舟 ark-code-latest" type: "text" + + opencode: + name: "OpenCode Go" + base_url: "https://opencode.ai/zen/go/v1" + auth: + token_env: "OPENCODE_API_KEY" + # OpenCode Go 是每月订阅编程模型入口。官方硬性要求每个 /chat/completions + # 带 x-opencode-session(缺失直接 400 MissingSessionID),并建议用专属 UA + # 而非通用库名(实测 UA 不敏感,会话头才是必需)。适配器据此开关在 + # 每次请求动态注入 UUID 会话头(不能放静态 extra_headers——会被 _get_adapter 缓存冻结)。 + requires_session_header: true + extra_headers: + User-Agent: "api-gateway/2.4.0 (jakon opencode-go)" + # 无媒体能力(纯文本编程模型;图像/视频不走本供应商) + media: {} + models: + # ── OpenAI 兼容 /v1/chat/completions 线(全部经真实 key 实测 200)── + - id: "glm-5.3-flash" + display_name: "GLM-5.3-Flash" + type: "text" + - id: "glm-5.3" + display_name: "GLM-5.3" + type: "text" + - id: "glm-5.2" + display_name: "GLM-5.2" + type: "text" + - id: "glm-5.1" + display_name: "GLM-5.1" + type: "text" + - id: "kimi-k3" + display_name: "Kimi K3" + type: "text" + - id: "kimi-k2.7-code" + display_name: "Kimi K2.7 Code" + type: "text" + - id: "kimi-k2.6" + display_name: "Kimi K2.6" + type: "text" + - id: "longcat-2.0" + display_name: "LongCat 2.0" + type: "text" + - id: "deepseek-v4-pro" + display_name: "DeepSeek V4 Pro" + type: "text" + - id: "deepseek-v4-flash" + display_name: "DeepSeek V4 Flash" + type: "text" + - id: "deepseek-flash" + display_name: "DeepSeek Flash" + type: "text" + - id: "deepseek-v4.1-flash" + display_name: "DeepSeek V4.1 Flash" + type: "text" + - id: "deepseek-v4-flash-vision-exp" + display_name: "DeepSeek V4 Flash Vision Exp" + type: "text" + vision: true # 官方标 Vision,支持图像转 token 输入(带图请求可走路由链首) + - id: "mimo-v2.5" + display_name: "MiMo V2.5" + type: "text" + - id: "mimo-v2.5-pro" + display_name: "MiMo V2.5 Pro" + type: "text" + - id: "hy4-preview" + display_name: "Hy4 Preview" + type: "text" + - id: "hy3" + display_name: "Hy3" + type: "text" server: host: "127.0.0.1" port: 8808 @@ -122,13 +191,32 @@ auth: # model 填别名(如 wjd),按数组顺序逐个尝试: # 第 1 个失败/超时/重试耗尽 → 第 2 个 … 全失败才 502。 # 每个路由可设 timeout(单模型超时秒)、retry(切下一个前该模型重试次数)。 -# 优先级从左到右(第一个最高)。已把全部 5 个文本模型配上。 +# 优先级从左到右(第一个最高)。老板决策:wjd 链路 = 全部文本模型(已含 OpenCode Go 17 个)。 routes: wjd: - timeout: 60 # 单模型 60s 没出结果就切下一个(避免 6×120s 挂死) + timeout: 60 # 单模型 60s 没出结果就切下一个(避免 20×120s 挂死) retry: 1 # 每个模型只试 1 次,失败立即切下一个 # 注意(老板决策):wjd 链路 = 全部文本模型;新增/现有文本模型都必须加进这里。 models: - - "ark-code-latest" # 1) 火山方舟(最高优先级) + # 供应商按「默认主力」在前,其余按供应商分组;运行时仍按可用性+速度实时重排。 + - "ark-code-latest" # 1) 火山方舟 - "agnes-3.0-flash" # 2) Agnes 3.0 - "agnes-2.5-flash" # 3) Agnes 2.5 + # ── 4) OpenCode Go(17 个文本模型,全进 wjd)── + - "glm-5.3-flash" # 4.1) GLM-5.3-Flash + - "glm-5.3" # 4.2) GLM-5.3 + - "glm-5.2" # 4.3) GLM-5.2 + - "glm-5.1" # 4.4) GLM-5.1 + - "kimi-k3" # 4.5) Kimi K3 + - "kimi-k2.7-code" # 4.6) Kimi K2.7 Code + - "kimi-k2.6" # 4.7) Kimi K2.6 + - "longcat-2.0" # 4.8) LongCat 2.0 + - "deepseek-v4-pro" # 4.9) DeepSeek V4 Pro + - "deepseek-v4-flash" # 4.10) DeepSeek V4 Flash + - "deepseek-flash" # 4.11) DeepSeek Flash + - "deepseek-v4.1-flash" # 4.12) DeepSeek V4.1 Flash + - "deepseek-v4-flash-vision-exp" # 4.13) DeepSeek V4 Flash Vision Exp + - "mimo-v2.5" # 4.14) MiMo V2.5 + - "mimo-v2.5-pro" # 4.15) MiMo V2.5 Pro + - "hy4-preview" # 4.16) Hy4 Preview + - "hy3" # 4.17) Hy3 diff --git a/frontend/src/views/Settings.vue b/frontend/src/views/Settings.vue index 199dbb9..c248a9e 100644 --- a/frontend/src/views/Settings.vue +++ b/frontend/src/views/Settings.vue @@ -228,7 +228,15 @@ const err = ref('') const { t, locale } = useI18n() const { theme, followSystem, setTheme, setFollowSystem } = useTheme() -const TEXT_MODELS = ['wjd', 'agnes-3.0-flash', 'agnes-2.5-flash', 'ark-code-latest'] +// 对话默认模型下拉(老板决策:wjd 链路 = 全部文本模型;这里同样覆盖全部文本模型) +const TEXT_MODELS = ['wjd', + 'agnes-3.0-flash', 'agnes-2.5-flash', 'ark-code-latest', + // OpenCode Go(订阅编程模型,17 个文本模型) + 'glm-5.3-flash', 'glm-5.3', 'glm-5.2', 'glm-5.1', + 'kimi-k3', 'kimi-k2.7-code', 'kimi-k2.6', 'longcat-2.0', + 'deepseek-v4-pro', 'deepseek-v4-flash', 'deepseek-flash', 'deepseek-v4.1-flash', 'deepseek-v4-flash-vision-exp', + 'mimo-v2.5', 'mimo-v2.5-pro', 'hy4-preview', 'hy3', +] const textModels = ref(TEXT_MODELS) function pickTheme(id: ThemeId) { diff --git a/tests/test_gateway.py b/tests/test_gateway.py index 4ac88ff..973a649 100644 --- a/tests/test_gateway.py +++ b/tests/test_gateway.py @@ -89,15 +89,16 @@ def _login_admin_session(client=None): # ── 配置加载 ── def test_load_config_providers(): cfg = load_config(CONFIG) - assert set(cfg.providers.keys()) == {"agnes", "volc_engine"} + # 三家供应商:Agnes / 火山方舟 / OpenCode Go + assert set(cfg.providers.keys()) == {"agnes", "volc_engine", "opencode"} assert cfg.providers["agnes"].models[0].id == "agnes-3.0-flash" def test_load_config_routes(): cfg = load_config(CONFIG) assert "wjd" in cfg.routes - # wjd 链路 = 全部文本模型(ark-code-latest / agnes-3.0-flash / agnes-2.5-flash) - assert len(cfg.routes["wjd"].models) == 3 + # wjd 链路 = 全部文本模型(20 个:火山 + Agnes×2 + OpenCode Go×17) + assert len(cfg.routes["wjd"].models) == 20 assert cfg.routes["wjd"].timeout == 60 assert cfg.routes["wjd"].retry == 1 @@ -321,16 +322,23 @@ def test_effective_rps_priority(): import app.main as m from app.config import RouteInfo cfg = m._cfg() + # 还原陷阱(新增 OpenCode 供应商后暴露):这里直接改的是共享 m._cfg() 的 + # provider,必须用 finally 还原,否则 agnes 限流=9 会污染后续所有真实调用测试 + # (chat_unknown / batch / streaming fallback 会因 agnes 被限流 9rps 而异常 502)。 + saved_agnes_rps = cfg.providers["agnes"].rate_limit_rps route = RouteInfo(name="r", rate_limit_rps=5) - # 路由级优先 - assert m._effective_rps(cfg, route, "agnes") == 5 - # 无路由 → 全局 - assert m._effective_rps(cfg, None, "agnes") == cfg.server.rate_limit_rps - # 供应商级:给 provider 配 rps - cfg.providers["agnes"].rate_limit_rps = 9 - assert m._effective_rps(cfg, None, "agnes") == 9 - # 路由级仍优先于供应商级 - assert m._effective_rps(cfg, route, "agnes") == 5 + try: + # 路由级优先 + assert m._effective_rps(cfg, route, "agnes") == 5 + # 无路由 → 全局 + assert m._effective_rps(cfg, None, "agnes") == cfg.server.rate_limit_rps + # 供应商级:给 provider 配 rps + cfg.providers["agnes"].rate_limit_rps = 9 + assert m._effective_rps(cfg, None, "agnes") == 9 + # 路由级仍优先于供应商级 + assert m._effective_rps(cfg, route, "agnes") == 5 + finally: + cfg.providers["agnes"].rate_limit_rps = saved_agnes_rps # ── Bug 2: 限流桶 LRU 清理 ──