feat: 接入 OpenCode Go 供应商(17 个 OpenAI 兼容文本模型)

- gateway.yaml 新增 providers.opencode(requires_session_header + 专属 UA),
  收录 17 个 chat/completions 模型(glm/kimi/longcat/deepseek/mimo/hy),
  全部并入 wjd(wjd 现 20 个文本模型)
- config.py 加 ProviderConfig.requires_session_header 开关
- openai_compat 每次请求动态注入 x-opencode-session(缓存冻结坑),create_adapter 透传
- settings.py 面板视图/写回增补该字段(修 roundtrip 配置被改)
- Settings.vue 默认模型下拉追加 17 个模型
- 测试:providers/wjd 断言更新;修 test_effective_rps_priority 共享 cfg 污染(finally 还原)
- 单测 155 passed / 0 failed;typecheck 通过;真实 key 端到端非流式+流式皆通
This commit is contained in:
api-gateway committed 2026-09-18 10:23:31 +08:00
1 parent ae33da28df
commit 50f972c51b
9 files changed
+195 -23

No files matched your search

+33 -1
View File
@@ -4,7 +4,39 @@
---
## 2026-09-18 · wjd 链路 = 全部文本模型(老板决策)
## 2026-09-18 · 添加 OpenCode Go 供应商(订阅编程模型)
**一句话**:给网关接入 OpenCode Go(`https://opencode.ai/zen/go/v1`)的 OpenAI 兼容 `/chat/completions` 线 17 个文本模型;按老板「wjd = 全部文本模型」规则全部并入 `routes.wjd`。
### 背景(文档要点)
- OpenCode Go 是每月订阅制编程模型入口;**每个请求必须带 `x-opencode-session` 头**(实测缺它接口 400 `MissingSessionID`),建议专属 `User-Agent`(实测 UA 不敏感,session 头才是硬性要求)。
- 模型分三条契约线:`/chat/completions`(OpenAI,本网关可直连)、`/messages`(Anthropic MiniMax/Qwen 等)、`/responses`(Grok/GPT/Muse)。仅接入 OpenAI 兼容线;其余两条不在本次范围。
### 改动
- **`data/.env`**:新增 `OPENCODE_API_KEY`(600、gitignored)。
- **`data/gateway.yaml`**:
- 新增 `providers.opencode`:`base_url https://opencode.ai/zen/go/v1`、`token_env OPENCODE_API_KEY`、`requires_session_header: true`、`extra_headers.User-Agent: api-gateway/2.4.0 (jakon opencode-go)`,收录 **17 个**文本模型(`glm-5.3-flash/5.3/5.2/5.1`、`kimi-k3/k2.7-code/k2.6`、`longcat-2.0`、`deepseek-v4-pro/v4-flash/flash/v4.1-flash/v4-flash-vision-exp(视觉)`、`mimo-v2.5/v2.5-pro`、`hy4-preview/hy3`)。
- `routes.wjd` 追加这 17 个(wjd 链 = 20 个文本模型)。
- 未收录:`glm-5`、`kimi-k2.5`、`hy3-preview`(上游实测 400 Model is unavailable);`/messages`、`/responses` 线模型未接入(适配器不含该契约)。
- **`app/config.py`**:`ProviderConfig` 加 `requires_session_header` 字段并解析。
- **`app/adapters/openai_compat.py`**:`OpenAICompatAdapter` 加 `requires_session_header`,在**每次请求**动态注入 `x-opencode-session: <uuid>`(不能放静态 headers——`_get_adapter` 缓存会冻结)。
- **`app/adapters/__init__.py`**:`create_adapter` 透传开关。
- **`app/settings.py`**:面板视图与写回均增补 `requires_session_header`(否则 roundtrip 后该字段被重置为 False)。
- **`frontend/src/views/Settings.vue`**:默认模型下拉 `TEXT_MODELS` 追加 17 个 go 模型(老板「全部文本模型」)、保留 `wjd` 在最前。
- **`tests/test_gateway.py`**:
- `test_load_config_providers` 断言 `{"agnes","volc_engine","opencode"}`;`test_load_config_routes` wjd 长度 3→20。
- **修复既有污染**:`test_effective_rps_priority` 直接用共享 `m._cfg()` 把 `agnes.rate_limit_rps` 改成 9 且未还原,新增 go 模型后触发限流桶被填满、令 `chat_unknown / batch / streaming fallback` 三个测试在全套运行时假红——已加 `finally` 还原(这本质是测试手尾泄漏,非业务 bug)。
### 验证
- 文档端点实测:`GET /zen/go/v1/models` 通,返回 38 个模型(原生 id、无前缀)。
- 契约实测:17 个 chat/completions 模型真实 key 全部 200;`glm-5` / `kimi-k2.5` / `hy3-preview` 400 未收录。
- 头敏感性实测:带 `x-opencode-session` 必 200,缺它必 400(UA 无关)。
- 适配器端到端(真实 key):非流式 `glm-5.3-flash` 与流式 `deepseek-v4-flash` 均正常返回(证明会话头注入生效)。
- 单测:**155 passed / 0 failed**;前端 `vue-tsc --noEmit` 通过。
### 上线(待老板批准)
- 含 Python 代码改动(config / adapters / settings)→ 需 `supervisorctl restart api-gateway:api-gateway_00` 才生效(会踢网页会话);纯 yaml 的 hot_reload 只重载供应商/模型定义,`requires_session_header` 字段与注入逻辑要重启后代码才认。
- 前端 build 覆盖 `dist`(纯前端上线动作)与 CNB 推送待老板确认。
**一句话**:老板拍板——**现有 + 以后新增的每一个文本模型都必须加入 `routes.wjd` 兜底链**。本次把 `agnes-2.5-flash` 补进 wjd,并把这句作为长期规则写入 MEMORY / README / CHANGELOG,供后续新增模型照做。
+17 -2
View File
@@ -1,6 +1,6 @@
# API Gateway
统一多供应商 LLM 接入网关,纯后端 FastAPI,配置驱动。支持 **Agnes AI**、**火山方舟 Coding Plan** 两个供应商,全部走 OpenAI 兼容协议。v2.4 已集成熔断、限流、图像/视频、指标、成本估算、热加载、测试等完整能力。
统一多供应商 LLM 接入网关,纯后端 FastAPI,配置驱动。支持 **Agnes AI**、**火山方舟 Coding Plan**、**OpenCode Go** 三个供应商,全部走 OpenAI 兼容协议。v2.4 已集成熔断、限流、图像/视频、指标、成本估算、热加载、测试等完整能力。
## 特性
@@ -45,6 +45,19 @@ api-gateway/
|---|---|---|---|
| Agnes AI | `https://api.agnes-ai.cn/v1` | Bearer | `agnes-3.0-flash`、`agnes-2.5-flash`(text,支持图像输入)、`agnes-image-2.5-flash`(image)、`agnes-video-2.5-flash`(video) |
| 火山方舟 Coding | `https://ark.cn-beijing.volces.com/api/coding/v3` | Bearer | `ark-code-latest`(text) |
| OpenCode Go | `https://opencode.ai/zen/go/v1` | Bearer + `x-opencode-session` | 17 个文本模型(见下方小节) |
> OpenCode Go 是每月订阅的编程模型入口(不在订阅内按 token 额外计费)。官方硬性要求每个
> `/chat/completions` 带 **`x-opencode-session`**(缺失直接 400),并建议专属 `User-Agent`。
> 网关通过供应商 `requires_session_header: true` 在每次请求动态注入一个 UUID 会话头;
> 该头不能放静态 `extra_headers`(适配器缓存会冻结它)。
>
> 收录的 17 个文本模型(OpenAI 兼容 `/chat/completions` 线,真实 key 实测 200):
> `glm-5.3-flash`、`glm-5.3`、`glm-5.2`、`glm-5.1`、`kimi-k3`、`kimi-k2.7-code`、`kimi-k2.6`、
> `longcat-2.0`、`deepseek-v4-pro`、`deepseek-v4-flash`、`deepseek-flash`、`deepseek-v4.1-flash`、
> `deepseek-v4-flash-vision-exp`(视觉)、`mimo-v2.5`、`mimo-v2.5-pro`、`hy4-preview`、`hy3`。
> OpenCode Go 其余模型走 Anthropic `messages` 或 OpenAI `responses` 契约(本网关为 OpenAI 兼容
> 转发,暂未接入);`glm-5`、`kimi-k2.5`、`hy3-preview` 实测上游返回「Model is unavailable」未收录。
> Agnes 的图像/视频走自有端点,通过供应商配置里的 `media` 段指定。
@@ -79,13 +92,15 @@ providers:
```yaml
routes:
wjd:
timeout: 60 # 单模型 60s 没出结果就切下一个(避免 6×120s 挂死)
timeout: 60 # 单模型 60s 没出结果就切下一个(避免 20×120s 挂死)
retry: 1 # 每个模型试 1 次,失败立即切下一个
# wjd 链路 = 全部文本模型(新增/现有文本模型都必须加入)
models:
- "ark-code-latest" # 1) 火山方舟(最高优先级)
- "agnes-3.0-flash" # 2) Agnes 3.0
- "agnes-2.5-flash" # 3) Agnes 2.5
# ── 4-20) OpenCode Go 17 个文本模型(glm-5.3-flash…hy3,
# 完整列表见 data/gateway.yaml routes 段)──
circuit: # 供应商熔断
enabled: true
+3 -1
View File
@@ -12,9 +12,10 @@ def create_adapter(
) -> BaseAdapter:
"""根据供应商配置创建对应适配器。
当前两个供应商(Agnes / 火山方舟)均为 OpenAI 兼容协议,
当前三个供应商(Agnes / 火山方舟 / OpenCode Go)均为 OpenAI 兼容协议,
统一使用 OpenAICompatAdapter,通过 base_url 和 extra_headers 区分。
图像/视频端点通过 media 配置覆盖(Agnes 走 /videos + /agnesapi)。
OpenCode Go 由 requires_session_header 触发每请求动态注入 x-opencode-session。
"""
headers = {
"Authorization": f"Bearer {token}",
@@ -28,4 +29,5 @@ def create_adapter(
headers=headers,
timeout=timeout,
media=pconfig.media,
requires_session_header=pconfig.requires_session_header,
)
+16 -2
View File
@@ -11,6 +11,7 @@ Agnes / 火山方舟 两家均使用 OpenAI 兼容 API
from __future__ import annotations
import json
import uuid
from typing import Any, AsyncIterator
@@ -28,9 +29,22 @@ class OpenAICompatAdapter(BaseAdapter):
headers: dict[str, str] | None = None,
timeout: int = 120,
media=None,
requires_session_header: bool = False,
):
super().__init__(name=name, base_url=base_url, timeout=timeout, media=media)
self._headers: dict[str, str] = headers or {}
# OpenCode Go 要求每个 /chat/completions 带稳定 x-opencode-session。
# 不能放静态 headers(_get_adapter 会缓存适配器、冻结 header),
# 所以在每次请求时动态生成一个 UUID 会话头。
self._requires_session = requires_session_header
def _req_headers(self) -> dict[str, str]:
"""每次请求的 headers。需要会话头的供应商动态注入 x-opencode-session。"""
if not self._requires_session:
return self._headers
headers = dict(self._headers)
headers["x-opencode-session"] = uuid.uuid4().hex
return headers
def _build_payload(
self,
@@ -87,7 +101,7 @@ class OpenAICompatAdapter(BaseAdapter):
)
# Bug 4 修复: 用 lease 占用 client,热重载 close 会等本次请求结束才真正关连接
async with self._lease() as client:
resp = await client.post("/chat/completions", json=payload, headers=self._headers)
resp = await client.post("/chat/completions", json=payload, headers=self._req_headers())
resp.raise_for_status()
data = json_or_raise(resp)
@@ -120,7 +134,7 @@ class OpenAICompatAdapter(BaseAdapter):
# Bug 4 修复: lease 在整个流式期间持有占用,热重载/关闭不会掐断在途流
async with self._lease() as client:
async with client.stream(
"POST", "/chat/completions", json=payload, headers=self._headers
"POST", "/chat/completions", json=payload, headers=self._req_headers()
) as resp:
resp.raise_for_status()
async for line in resp.aiter_lines():
+3
View File
@@ -75,6 +75,7 @@ class ProviderConfig:
models: list[ModelInfo] = field(default_factory=list)
media: MediaConfig = field(default_factory=MediaConfig)
rate_limit_rps: float | None = None # 该供应商全局 QPS 上限(可选)
requires_session_header: bool = False # OpenCode Go 等要求每请求动态会话头(x-opencode-session)
# ── 网关入口鉴权 ──
@@ -434,6 +435,8 @@ def parse_config(raw: dict[str, Any]) -> GatewayConfig:
models=models,
media=_parse_media(pval),
rate_limit_rps=_opt_float(pval.get("rate_limit_rps")),
requires_session_header=_opt_bool(
pval.get("requires_session_header"), "providers.*.requires_session_header", False),
)
srv_raw = raw.get("server", {}) or {}
+2
View File
@@ -86,6 +86,7 @@ def config_to_view(cfg: GatewayConfig) -> dict[str, Any]:
},
"extra_headers": dict(p.extra_headers or {}),
"rate_limit_rps": p.rate_limit_rps,
"requires_session_header": bool(p.requires_session_header),
"media": {k: getattr(p.media, k) for k in MEDIA_KEYS},
"models": [
{"id": m.id, "display_name": m.display_name, "type": m.type, "vision": bool(m.vision)}
@@ -236,6 +237,7 @@ def view_to_raw(cfg: GatewayConfig, raw: dict[str, Any], view: dict[str, Any]) -
},
"extra_headers": _str_map(pv.get("extra_headers"), f"providers.{key}.extra_headers"),
"rate_limit_rps": pv.get("rate_limit_rps"),
"requires_session_header": bool(pv.get("requires_session_header", False)),
# media 留空 = 该供应商不支持对应媒体(写回时保留原文里的空 {} 语义)
"media": {
k: (media_in.get(k) if k in media_in else base_media.get(k))
+92 -4
View File
@@ -1,5 +1,5 @@
# AI 网关配置文件(data/ 目录)
# 供应商:Agnes / 火山方舟 Coding
# 供应商:Agnes / 火山方舟 Coding / OpenCode Go(订阅编程模型)
# 密钥统一走 token_env 指向的环境变量(本机见 data/.env),不再在 yaml 存明文
# 端口默认 8808
#
@@ -51,6 +51,75 @@ providers:
- id: "ark-code-latest"
display_name: "火山方舟 ark-code-latest"
type: "text"
opencode:
name: "OpenCode Go"
base_url: "https://opencode.ai/zen/go/v1"
auth:
token_env: "OPENCODE_API_KEY"
# OpenCode Go 是每月订阅编程模型入口。官方硬性要求每个 /chat/completions
# 带 x-opencode-session(缺失直接 400 MissingSessionID),并建议用专属 UA
# 而非通用库名(实测 UA 不敏感,会话头才是必需)。适配器据此开关在
# 每次请求动态注入 UUID 会话头(不能放静态 extra_headers——会被 _get_adapter 缓存冻结)。
requires_session_header: true
extra_headers:
User-Agent: "api-gateway/2.4.0 (jakon opencode-go)"
# 无媒体能力(纯文本编程模型;图像/视频不走本供应商)
media: {}
models:
# ── OpenAI 兼容 /v1/chat/completions 线(全部经真实 key 实测 200)──
- id: "glm-5.3-flash"
display_name: "GLM-5.3-Flash"
type: "text"
- id: "glm-5.3"
display_name: "GLM-5.3"
type: "text"
- id: "glm-5.2"
display_name: "GLM-5.2"
type: "text"
- id: "glm-5.1"
display_name: "GLM-5.1"
type: "text"
- id: "kimi-k3"
display_name: "Kimi K3"
type: "text"
- id: "kimi-k2.7-code"
display_name: "Kimi K2.7 Code"
type: "text"
- id: "kimi-k2.6"
display_name: "Kimi K2.6"
type: "text"
- id: "longcat-2.0"
display_name: "LongCat 2.0"
type: "text"
- id: "deepseek-v4-pro"
display_name: "DeepSeek V4 Pro"
type: "text"
- id: "deepseek-v4-flash"
display_name: "DeepSeek V4 Flash"
type: "text"
- id: "deepseek-flash"
display_name: "DeepSeek Flash"
type: "text"
- id: "deepseek-v4.1-flash"
display_name: "DeepSeek V4.1 Flash"
type: "text"
- id: "deepseek-v4-flash-vision-exp"
display_name: "DeepSeek V4 Flash Vision Exp"
type: "text"
vision: true # 官方标 Vision,支持图像转 token 输入(带图请求可走路由链首)
- id: "mimo-v2.5"
display_name: "MiMo V2.5"
type: "text"
- id: "mimo-v2.5-pro"
display_name: "MiMo V2.5 Pro"
type: "text"
- id: "hy4-preview"
display_name: "Hy4 Preview"
type: "text"
- id: "hy3"
display_name: "Hy3"
type: "text"
server:
host: "127.0.0.1"
port: 8808
@@ -122,13 +191,32 @@ auth:
# model 填别名(如 wjd),按数组顺序逐个尝试:
# 第 1 个失败/超时/重试耗尽 → 第 2 个 … 全失败才 502。
# 每个路由可设 timeout(单模型超时秒)、retry(切下一个前该模型重试次数)。
# 优先级从左到右(第一个最高)。已把全部 5 个文本模型配上。
# 优先级从左到右(第一个最高)。老板决策:wjd 链路 = 全部文本模型(已含 OpenCode Go 17 个)。
routes:
wjd:
timeout: 60 # 单模型 60s 没出结果就切下一个(避免 6×120s 挂死)
timeout: 60 # 单模型 60s 没出结果就切下一个(避免 20×120s 挂死)
retry: 1 # 每个模型只试 1 次,失败立即切下一个
# 注意(老板决策):wjd 链路 = 全部文本模型;新增/现有文本模型都必须加进这里。
models:
- "ark-code-latest" # 1) 火山方舟(最高优先级)
# 供应商按「默认主力」在前,其余按供应商分组;运行时仍按可用性+速度实时重排。
- "ark-code-latest" # 1) 火山方舟
- "agnes-3.0-flash" # 2) Agnes 3.0
- "agnes-2.5-flash" # 3) Agnes 2.5
# ── 4) OpenCode Go(17 个文本模型,全进 wjd)──
- "glm-5.3-flash" # 4.1) GLM-5.3-Flash
- "glm-5.3" # 4.2) GLM-5.3
- "glm-5.2" # 4.3) GLM-5.2
- "glm-5.1" # 4.4) GLM-5.1
- "kimi-k3" # 4.5) Kimi K3
- "kimi-k2.7-code" # 4.6) Kimi K2.7 Code
- "kimi-k2.6" # 4.7) Kimi K2.6
- "longcat-2.0" # 4.8) LongCat 2.0
- "deepseek-v4-pro" # 4.9) DeepSeek V4 Pro
- "deepseek-v4-flash" # 4.10) DeepSeek V4 Flash
- "deepseek-flash" # 4.11) DeepSeek Flash
- "deepseek-v4.1-flash" # 4.12) DeepSeek V4.1 Flash
- "deepseek-v4-flash-vision-exp" # 4.13) DeepSeek V4 Flash Vision Exp
- "mimo-v2.5" # 4.14) MiMo V2.5
- "mimo-v2.5-pro" # 4.15) MiMo V2.5 Pro
- "hy4-preview" # 4.16) Hy4 Preview
- "hy3" # 4.17) Hy3
+9 -1
View File
@@ -228,7 +228,15 @@ const err = ref('')
const { t, locale } = useI18n()
const { theme, followSystem, setTheme, setFollowSystem } = useTheme()
const TEXT_MODELS = ['wjd', 'agnes-3.0-flash', 'agnes-2.5-flash', 'ark-code-latest']
// 对话默认模型下拉(老板决策:wjd 链路 = 全部文本模型;这里同样覆盖全部文本模型)
const TEXT_MODELS = ['wjd',
'agnes-3.0-flash', 'agnes-2.5-flash', 'ark-code-latest',
// OpenCode Go(订阅编程模型,17 个文本模型)
'glm-5.3-flash', 'glm-5.3', 'glm-5.2', 'glm-5.1',
'kimi-k3', 'kimi-k2.7-code', 'kimi-k2.6', 'longcat-2.0',
'deepseek-v4-pro', 'deepseek-v4-flash', 'deepseek-flash', 'deepseek-v4.1-flash', 'deepseek-v4-flash-vision-exp',
'mimo-v2.5', 'mimo-v2.5-pro', 'hy4-preview', 'hy3',
]
const textModels = ref<string[]>(TEXT_MODELS)
function pickTheme(id: ThemeId) {
+20 -12
View File
@@ -89,15 +89,16 @@ def _login_admin_session(client=None):
# ── 配置加载 ──
def test_load_config_providers():
cfg = load_config(CONFIG)
assert set(cfg.providers.keys()) == {"agnes", "volc_engine"}
# 三家供应商:Agnes / 火山方舟 / OpenCode Go
assert set(cfg.providers.keys()) == {"agnes", "volc_engine", "opencode"}
assert cfg.providers["agnes"].models[0].id == "agnes-3.0-flash"
def test_load_config_routes():
cfg = load_config(CONFIG)
assert "wjd" in cfg.routes
# wjd 链路 = 全部文本模型(ark-code-latest / agnes-3.0-flash / agnes-2.5-flash)
assert len(cfg.routes["wjd"].models) == 3
# wjd 链路 = 全部文本模型(20 个:火山 + Agnes×2 + OpenCode Go×17)
assert len(cfg.routes["wjd"].models) == 20
assert cfg.routes["wjd"].timeout == 60
assert cfg.routes["wjd"].retry == 1
@@ -321,16 +322,23 @@ def test_effective_rps_priority():
import app.main as m
from app.config import RouteInfo
cfg = m._cfg()
# 还原陷阱(新增 OpenCode 供应商后暴露):这里直接改的是共享 m._cfg() 的
# provider,必须用 finally 还原,否则 agnes 限流=9 会污染后续所有真实调用测试
# (chat_unknown / batch / streaming fallback 会因 agnes 被限流 9rps 而异常 502)。
saved_agnes_rps = cfg.providers["agnes"].rate_limit_rps
route = RouteInfo(name="r", rate_limit_rps=5)
# 路由级优先
assert m._effective_rps(cfg, route, "agnes") == 5
# 无路由 → 全局
assert m._effective_rps(cfg, None, "agnes") == cfg.server.rate_limit_rps
# 供应商级:给 provider 配 rps
cfg.providers["agnes"].rate_limit_rps = 9
assert m._effective_rps(cfg, None, "agnes") == 9
# 路由级仍优先于供应商级
assert m._effective_rps(cfg, route, "agnes") == 5
try:
# 路由级优先
assert m._effective_rps(cfg, route, "agnes") == 5
# 无路由 → 全局
assert m._effective_rps(cfg, None, "agnes") == cfg.server.rate_limit_rps
# 供应商级:给 provider 配 rps
cfg.providers["agnes"].rate_limit_rps = 9
assert m._effective_rps(cfg, None, "agnes") == 9
# 路由级仍优先于供应商级
assert m._effective_rps(cfg, route, "agnes") == 5
finally:
cfg.providers["agnes"].rate_limit_rps = saved_agnes_rps
# ── Bug 2: 限流桶 LRU 清理 ──