From 15a2e6eb9e144496bc21aa3f25132798a566606f Mon Sep 17 00:00:00 2001 From: api-gateway Date: Thu, 17 Sep 2026 09:19:47 +0800 Subject: [PATCH] =?UTF-8?q?chore:=20=E7=A7=BB=E9=99=A4=20b.ai=20=E4=BE=9B?= =?UTF-8?q?=E5=BA=94=E5=95=86=EF=BC=88qwen3.8-flash/hy3=EF=BC=89=E2=80=94?= =?UTF-8?q?=E2=80=94=20=E9=85=8D=E7=BD=AE/=E4=BB=A3=E7=A0=81/=E6=96=87?= =?UTF-8?q?=E6=A1=A3/=E6=B5=8B=E8=AF=95/.env=20=E5=85=A8=E6=B8=85?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- CHANGELOG.md | 22 +++++++++++++++++++++ README.md | 8 ++------ app/adapters/__init__.py | 2 +- app/adapters/openai_compat.py | 2 +- app/config.py | 2 +- app/main.py | 6 +++--- data/gateway.yaml | 25 ++---------------------- docs/frontend-design.md | 2 +- frontend/src/views/Settings.vue | 2 +- tests/test_gateway.py | 34 ++++++++++++++++----------------- 10 files changed, 51 insertions(+), 54 deletions(-) diff --git a/CHANGELOG.md b/CHANGELOG.md index 917d398..91f9df1 100644 --- a/CHANGELOG.md +++ b/CHANGELOG.md @@ -4,6 +4,28 @@ --- +## 2026-09-17 · 移除 b.ai 供应商 + +**一句话**:老板要求删除 b.ai 供应商及其两个模型(`qwen3.8-flash`、`hy3`),代码、配置、文档、测试全清。 + +### 改动清单 +- **`data/gateway.yaml`**:删 `providers.b_ai` 整块(含 `qwen3.8-flash`、`hy3` 两个模型);`routes.wjd` 兜底链由 4 项(ark-code/agnes/qwen3.8/hy3)精简为 2 项(`ark-code-latest` → `agnes-3.0-flash`);`pricing.per_model` 删 `qwen3.8-flash`/`hy3` 两条;头部供应商注释 `Agnes / b.ai / 火山方舟 / 智谱 GLM` → `Agnes / 火山方舟 / 智谱 GLM`。 +- **`data/.env`**:删 `B_AI_API_KEY=sk-nf...`(纯删除,密钥不再使用)。 +- **`app/main.py`**:`description` 字符串去 b.ai;测速探针注释去掉 `b.ai(qwen3.8-flash/hy3)` 引用。 +- **`app/config.py`**:`ModelInfo.vision` 注释去掉 `b.ai 系`。 +- **`app/adapters/{__init__,openai_compat}.py`**:docstring「四家」→「三家」,供应商列表去 b.ai。 +- **`README.md`**:头部「四个供应商」→「三个」;供应商表删 b.ai 行;路由示例去 `qwen3.8-flash`/`hy3` 并去其重编号;pricing 示例去 b.ai 两条;`# 编辑 .env 填入` 行去 `B_AI_API_KEY`。 +- **`frontend/src/views/Settings.vue`**:`TEXT_MODELS` 去 `qwen3.8-flash`。 +- **`docs/frontend-design.md`**:供应商列表去 b.ai。 +- **`tests/test_gateway.py`**:`test_load_config_providers` 集合去 `b_ai`;`test_load_config_routes` wjd 长度 4→2;`test_wjd_route_orders_by_availability_and_speed` 用 `GLM-4.7-Flash` 替代 `qwen3.8-flash` 做速度排序演示,env var 清单改 `ZHIPU_API_KEY`;`test_vision_first_reorders_only_when_vision_exists` 改用非视觉模型 `GLM-Z1-Flash`(原 `hy3`);`test_config_endpoints_permission_matrix` 及路由写回测试中的 `hy3` 改 `GLM-4.1V-Thinking-Flash`;媒体路由测试的 `qwen3.8-flash` 改 `GLM-4.1V-Thinking-Flash`。 + +### 验证 +- 单测 **155 passed / 0 failed**(修正 6 处断言后全绿)。 +- 全项目 grep `b_ai|api.b.ai|B_AI_API_KEY|qwen3.8-flash|hy3` 命中仅为 CHANGELOG 历史条目(保留)—— 其余全部清零。 +- 纯配置+文档改动,`hot_reload` 自动生效;若重启,`/v1/models` 由 14 → 12(`agnes` 3 + `volc_engine` 1 + `bigmodel` 8),`routes.wjd` 由 4 → 2。 + +--- + ## 2026-09-16 · 集成智谱 CogView-3-Flash(文生图)+ CogVideoX-Flash(文生视频) **一句话**:给上一轮的智谱供应商补上媒体生成——图像页用 `cogview-3-flash`、视频页用 `cogvideox-flash`,前后端按「选到的供应商」自动切到智谱契约(不动 Agnes)。 diff --git a/README.md b/README.md index cac8e03..1d9a266 100644 --- a/README.md +++ b/README.md @@ -1,6 +1,6 @@ # API Gateway -统一多供应商 LLM 接入网关,纯后端 FastAPI,配置驱动。支持 **Agnes AI**、**b.ai**、**火山方舟 Coding Plan**、**智谱 GLM** 四个供应商,全部走 OpenAI 兼容协议。v2.4 已集成熔断、限流、图像/视频、指标、成本估算、热加载、测试等完整能力。 +统一多供应商 LLM 接入网关,纯后端 FastAPI,配置驱动。支持 **Agnes AI**、**火山方舟 Coding Plan**、**智谱 GLM** 三个供应商,全部走 OpenAI 兼容协议。v2.4 已集成熔断、限流、图像/视频、指标、成本估算、热加载、测试等完整能力。 ## 特性 @@ -44,7 +44,6 @@ api-gateway/ | 供应商 | Base URL | 认证 | 模型 | |---|---|---|---| | Agnes AI | `https://api.agnes-ai.cn/v1` | Bearer | `agnes-3.0-flash`(text)、`agnes-image-2.5-flash`(image)、`agnes-video-2.5-flash`(video) | -| b.ai | `https://api.b.ai/v1` | Bearer | `qwen3.8-flash`、`hy3`(text) | | 火山方舟 Coding | `https://ark.cn-beijing.volces.com/api/coding/v3` | Bearer | `ark-code-latest`(text) | | 智谱 GLM | `https://open.bigmodel.cn/api/paas/v4` | Bearer | 文本:`GLM-4.7-Flash`、`GLM-4-Flash-250414`、`GLM-Z1-Flash`、`GLM-4.6V-Flash`、`GLM-4V-Flash`、`GLM-4.1V-Thinking-Flash`(其中 3 个 V 型号支持图像输入);图像:`cogview-3-flash`;视频:`cogvideox-flash`(文生视频,异步 `/videos/generations` + `/async-result/{id}` 轮询) | @@ -86,8 +85,6 @@ routes: models: - "ark-code-latest" # 1) 火山方舟(最高优先级) - "agnes-3.0-flash" # 2) Agnes 兜底 - - "qwen3.8-flash" # 3) b.ai qwen 兜底 - - "hy3" # 4) b.ai hy3 兜底 circuit: # 供应商熔断 enabled: true @@ -281,7 +278,6 @@ pricing: # 人民币/百万 token,用于估算成本 per_model: agnes-3.0-flash: { input: 0.35, output: 1.00 } ark-code-latest: { input: 0.50, output: 2.00 } - qwen3.8-flash: { input: 0.30, output: 0.60 } # 未配置的模型不返回 estimated_cost_cny ``` @@ -301,7 +297,7 @@ python run.py # 默认读 data/gateway.yaml,端口 8808 ```bash cp .env.example .env -# 编辑 .env 填入 AGNES_API_KEY / B_AI_API_KEY / VOLC_API_KEY +# 编辑 .env 填入 AGNES_API_KEY / VOLC_API_KEY / ZHIPU_API_KEY python run.py # 启动时自动读取 .env ``` diff --git a/app/adapters/__init__.py b/app/adapters/__init__.py index 7752b83..4c3fca3 100644 --- a/app/adapters/__init__.py +++ b/app/adapters/__init__.py @@ -12,7 +12,7 @@ def create_adapter( ) -> BaseAdapter: """根据供应商配置创建对应适配器。 - 当前四个供应商(Agnes / b.ai / 火山方舟 / 智谱 GLM)均为 OpenAI 兼容协议, + 当前三个供应商(Agnes / 火山方舟 / 智谱 GLM)均为 OpenAI 兼容协议, 统一使用 OpenAICompatAdapter,通过 base_url 和 extra_headers 区分。 图像/视频端点通过 media 配置覆盖(Agnes 走 /videos + /agnesapi)。 """ diff --git a/app/adapters/openai_compat.py b/app/adapters/openai_compat.py index 003fc31..ab8b520 100644 --- a/app/adapters/openai_compat.py +++ b/app/adapters/openai_compat.py @@ -1,6 +1,6 @@ """OpenAI 兼容协议适配器。 -Agnes / b.ai / 火山方舟 / 智谱 GLM 四家均使用 OpenAI 兼容 API +Agnes / 火山方舟 / 智谱 GLM 三家均使用 OpenAI 兼容 API (POST {base_url}/chat/completions),本适配器统一处理。 图像/视频端点可通过 media 配置覆盖: diff --git a/app/config.py b/app/config.py index c874776..b1fc1ee 100644 --- a/app/config.py +++ b/app/config.py @@ -22,7 +22,7 @@ class ModelInfo: type: str = "text" # text | image | video # 第十三轮: 是否支持「图像输入」(多模态 / 视觉)。 # Agnes 3.0 Flash 文档明确「输入模态:文本、图像 URL」,实测 data:image/png;base64 也能识别; - # 其余文本模型(ark-code / b.ai 系)文档未声明图像输入 → 默认 False。 + # 其余文本模型(ark-code 等)文档未声明图像输入 → 默认 False。 # 用途:① /v1/models 暴露给前端标注/告警;② 带图请求走路由别名时把有视觉能力的模型排到前面。 vision: bool = False diff --git a/app/main.py b/app/main.py index 82a97b4..9831c22 100644 --- a/app/main.py +++ b/app/main.py @@ -307,7 +307,7 @@ VERSION = "2.4.0" app = FastAPI( title="API Gateway", - description="统一多供应商 LLM 接入网关(Agnes / b.ai / 火山方舟)", + description="统一多供应商 LLM 接入网关(Agnes / 火山方舟 / 智谱 GLM)", version=VERSION, lifespan=lifespan, default_response_class=UTF8JSONResponse, @@ -1196,8 +1196,8 @@ async def models_speedtest(request: Request, _auth=Depends(require_auth)): try: await adapter.chat(model=m["id"], messages=[{"role": "user", "content": "hi"}], temperature=0, max_tokens=16, stop=None) - # max_tokens 固定 >2:b.ai(qwen3.8-flash/hy3) 上游对 max_tokens<=2 回 400 - # ("max_tokens must be greater than 2"),故探针用 16 而不是 1,保证各供应商上游都认。 + # max_tokens 固定 >2:部分上游对 max_tokens<=2 回 400(要求 >2),故探针用 16 而不是 1,保证各供应商上游都认。 + # ("max_tokens must be greater than 2") ok = True break except Exception as e: diff --git a/data/gateway.yaml b/data/gateway.yaml index 64b2c50..78c7e8a 100644 --- a/data/gateway.yaml +++ b/data/gateway.yaml @@ -1,5 +1,5 @@ # AI 网关配置文件(data/ 目录) -# 供应商:Agnes / b.ai / 火山方舟 Coding / 智谱 GLM(bigmodel) +# 供应商:Agnes / 火山方舟 Coding / 智谱 GLM(bigmodel) # 密钥统一走 token_env 指向的环境变量(本机见 data/.env),不再在 yaml 存明文 # 端口默认 8808 # @@ -34,23 +34,6 @@ providers: display_name: "Agnes Video 2.5 Flash" type: "video" - b_ai: - name: "b.ai" - base_url: "https://api.b.ai/v1" - auth: - token_env: "B_AI_API_KEY" - extra_headers: {} - # b.ai 仅 OpenAI 兼容文本;图像/视频留空 = 不支持 - media: {} - models: - - id: "qwen3.8-flash" - display_name: "b.ai qwen3.8-flash" - type: "text" - vision: true # 实测支持视觉(2026-09-15 红图探针→答"红色") - - id: "hy3" - display_name: "b.ai hy3" - type: "text" - volc_engine: name: "火山方舟 Coding Plan" base_url: "https://ark.cn-beijing.volces.com/api/coding/v3" @@ -157,8 +140,6 @@ pricing: per_model: agnes-3.0-flash: { input: 0.35, output: 1.00 } ark-code-latest: { input: 0.50, output: 2.00 } - qwen3.8-flash: { input: 0.30, output: 0.60 } - hy3: { input: 0.30, output: 0.60 } # ── 媒体下载代理白名单(第十七轮)──────────────────────── # 生成的图片/视频挂在第三方 CDN 上且不带 CORS 头,浏览器里既 fetch 不到 blob、 @@ -191,10 +172,8 @@ auth: # 优先级从左到右(第一个最高)。已把全部 5 个文本模型配上。 routes: wjd: - timeout: 60 # 单模型 60s 没出结果就切下一个(避免 6×120s 挂死) + timeout: 60 # 单模型 60s 没出结果就切下一个(避免 3×120s 挂死) retry: 1 # 每个模型只试 1 次,失败立即切下一个 models: - "ark-code-latest" # 1) 火山方舟(最高优先级) - "agnes-3.0-flash" # 2) Agnes 兜底 - - "qwen3.8-flash" # 3) b.ai qwen 兜底 - - "hy3" # 4) b.ai hy3 兜底 diff --git a/docs/frontend-design.md b/docs/frontend-design.md index d89a9b8..ecbcae6 100644 --- a/docs/frontend-design.md +++ b/docs/frontend-design.md @@ -7,7 +7,7 @@ ## 1. 背景与目标 -网关是一个 OpenAI 兼容的多供应商 LLM 统一接入层(Agnes / b.ai / 火山方舟),已具备完整 REST 能力(对话/图像/视频/批量/模型/指标/日志/健康)。当前**只能通过 curl / 二次开发调用,没有可视化界面**。 +网关是一个 OpenAI 兼容的多供应商 LLM 统一接入层(Agnes / 火山方舟 / 智谱 GLM),已具备完整 REST 能力(对话/图像/视频/批量/模型/指标/日志/健康)。当前**只能通过 curl / 二次开发调用,没有可视化界面**。 本前端目标是给这台网关做一个**单页管理台(SPA)**: 1. 「用」—— 对话、图像、视频、批量,测试各种模型与降级行为; diff --git a/frontend/src/views/Settings.vue b/frontend/src/views/Settings.vue index 840e789..a9881c1 100644 --- a/frontend/src/views/Settings.vue +++ b/frontend/src/views/Settings.vue @@ -228,7 +228,7 @@ const err = ref('') const { t, locale } = useI18n() const { theme, followSystem, setTheme, setFollowSystem } = useTheme() -const TEXT_MODELS = ['wjd', 'agnes-3.0-flash', 'ark-code-latest', 'qwen3.8-flash', 'GLM-4.7-Flash', 'GLM-4-Flash-250414', 'GLM-Z1-Flash', 'GLM-4.6V-Flash', 'GLM-4V-Flash', 'GLM-4.1V-Thinking-Flash'] +const TEXT_MODELS = ['wjd', 'agnes-3.0-flash', 'ark-code-latest', 'GLM-4.7-Flash', 'GLM-4-Flash-250414', 'GLM-Z1-Flash', 'GLM-4.6V-Flash', 'GLM-4V-Flash', 'GLM-4.1V-Thinking-Flash'] const textModels = ref(TEXT_MODELS) function pickTheme(id: ThemeId) { diff --git a/tests/test_gateway.py b/tests/test_gateway.py index a0bd19e..2cd2280 100644 --- a/tests/test_gateway.py +++ b/tests/test_gateway.py @@ -89,7 +89,7 @@ def _login_admin_session(client=None): # ── 配置加载 ── def test_load_config_providers(): cfg = load_config(CONFIG) - assert set(cfg.providers.keys()) == {"agnes", "b_ai", "volc_engine", "bigmodel"} + assert set(cfg.providers.keys()) == {"agnes", "volc_engine", "bigmodel"} assert cfg.providers["agnes"].models[0].id == "agnes-3.0-flash" # 智谱:base_url + token_env + 6 个模型 + V 型号视觉标记 assert cfg.providers["bigmodel"].base_url == "https://open.bigmodel.cn/api/paas/v4" @@ -119,7 +119,7 @@ def test_load_config_providers(): def test_load_config_routes(): cfg = load_config(CONFIG) assert "wjd" in cfg.routes - assert len(cfg.routes["wjd"].models) == 4 + assert len(cfg.routes["wjd"].models) == 2 assert cfg.routes["wjd"].timeout == 60 assert cfg.routes["wjd"].retry == 1 @@ -333,7 +333,7 @@ def test_resolve_media_model_via_route_alias(): # wjd 路由链里第 2 个是 agnes-3.0-flash(text),但 image 模型不在这条链 → 走别名找不到 image # 单独构造一条指向 image 的路由来验证别名解析逻辑 from app.config import RouteInfo - cfg.routes["img"] = RouteInfo(name="img", models=["qwen3.8-flash", "agnes-image-2.5-flash"]) + cfg.routes["img"] = RouteInfo(name="img", models=["GLM-4.1V-Thinking-Flash", "agnes-image-2.5-flash"]) res = m._resolve_media_model(cfg, "img", "image") assert res is not None and res[4] == "agnes-image-2.5-flash" @@ -2318,7 +2318,7 @@ def test_wjd_route_orders_by_availability_and_speed(): from app.config import RouteInfo from app.circuit import CircuitBreakerRegistry import app.main as m - saved = {k: os.environ.get(k) for k in ("AGNES_API_KEY", "B_AI_API_KEY", "VOLC_API_KEY")} + saved = {k: os.environ.get(k) for k in ("AGNES_API_KEY", "VOLC_API_KEY", "ZHIPU_API_KEY")} for k in saved: os.environ[k] = "test-token" orig_m, orig_c = m._metrics, m._circuits @@ -2328,22 +2328,22 @@ def test_wjd_route_orders_by_availability_and_speed(): cfg = m._cfg() cfg.routes["wjd_speedtest"] = RouteInfo( name="wjd_speedtest", - models=["ark-code-latest", "agnes-3.0-flash", "qwen3.8-flash"], # 配置优先级 volc>agnes>b_ai + models=["ark-code-latest", "agnes-3.0-flash", "GLM-4.7-Flash"], # 配置优先级 volc>agnes>bigmodel retry=1) try: # 冷启动:没有任何延迟样本 → 保持配置顺序 assert m._route_chain(cfg, "wjd_speedtest")[0] == [ - "ark-code-latest", "agnes-3.0-flash", "qwen3.8-flash"] - # 喂速度:agnes 最快、b_ai 次之、volc 最慢 → 完全重排 + "ark-code-latest", "agnes-3.0-flash", "GLM-4.7-Flash"] + # 喂速度:agnes 最快、bigmodel 次之、volc 最慢 → 完全重排 m._metrics.record_latency("agnes-3.0-flash", 0.5) - m._metrics.record_latency("qwen3.8-flash", 1.5) + m._metrics.record_latency("GLM-4.7-Flash", 1.5) m._metrics.record_latency("ark-code-latest", 4.0) assert m._route_chain(cfg, "wjd_speedtest")[0] == [ - "agnes-3.0-flash", "qwen3.8-flash", "ark-code-latest"] + "agnes-3.0-flash", "GLM-4.7-Flash", "ark-code-latest"] # 最快那个供应商熔断开 → 排到最后,次快上位(未测速的可用模型才用探测位兜底) m._circuits.get("agnes")._state = "open" chain2 = m._route_chain(cfg, "wjd_speedtest")[0] - assert chain2[0] == "qwen3.8-flash", chain2 + assert chain2[0] == "GLM-4.7-Flash", chain2 assert chain2[-1] == "agnes-3.0-flash", chain2 finally: m._metrics, m._circuits = orig_m, orig_c @@ -2556,9 +2556,9 @@ def test_vision_first_reorders_only_when_vision_exists(): """带图请求:链上有视觉模型才重排(提到最前),一个都没有就别动(不掩盖能力缺失)。""" import app.main as m cfg = load_config(CONFIG) - assert m._vision_first(cfg, ["ark-code-latest", "agnes-3.0-flash", "hy3"]) == \ - ["agnes-3.0-flash", "ark-code-latest", "hy3"], "视觉模型提到最前,其余保持相对顺序" - assert m._vision_first(cfg, ["ark-code-latest", "hy3"]) == ["ark-code-latest", "hy3"] + assert m._vision_first(cfg, ["ark-code-latest", "agnes-3.0-flash", "GLM-Z1-Flash"]) == \ + ["agnes-3.0-flash", "ark-code-latest", "GLM-Z1-Flash"], "视觉模型提到最前,其余保持相对顺序" + assert m._vision_first(cfg, ["ark-code-latest", "GLM-Z1-Flash"]) == ["ark-code-latest", "GLM-Z1-Flash"] def test_messages_have_images_detects_vision_blocks(): @@ -3564,7 +3564,7 @@ def test_config_save_applies_without_restart(): view["server"]["timeout"] = 95 view["server"]["retry"] = 2 view["observability"]["access_log_maxlen"] = 777 - view["routes"]["wjd"]["models"] = ["hy3", "ark-code-latest"] + view["routes"]["wjd"]["models"] = ["GLM-4.1V-Thinking-Flash", "ark-code-latest"] view["providers"]["volc_engine"]["models"].append( {"id": "ark-code-mini", "display_name": "迷你", "type": "text", "vision": False}) view["pricing"]["per_model"]["ark-code-mini"] = {"input": 0.1, "output": 0.2} @@ -3578,17 +3578,17 @@ def test_config_save_applies_without_restart(): assert m.config.server.timeout == 95 assert m.config.server.retry == 2 assert m.config.observability.access_log_maxlen == 777 - assert m.config.routes["wjd"].models == ["hy3", "ark-code-latest"] + assert m.config.routes["wjd"].models == ["GLM-4.1V-Thinking-Flash", "ark-code-latest"] assert m.config.find_provider_for_model("ark-code-mini")[0] == "volc_engine" assert m._access._max == 777, "访问日志容量应就地调整" # 盘上也变了,且旧文件有备份 on_disk = _yaml.safe_load(cfg_path.read_text(encoding="utf-8")) assert on_disk["server"]["timeout"] == 95 - assert on_disk["routes"]["wjd"]["models"] == ["hy3", "ark-code-latest"] + assert on_disk["routes"]["wjd"]["models"] == ["GLM-4.1V-Thinking-Flash", "ark-code-latest"] assert (P(tmp.name) / "gateway.yaml.bak").exists(), "保存前应备份原文件" # 路由链顺序变更后,/v1/models 立刻跟着变(页面/调用方看到的就是新顺序) lm = client.get("/v1/models", headers=ah).json() - assert [x for x in lm["data"] if x["type"] == "route"][0]["models"][:2] == ["hy3", "ark-code-latest"] + assert [x for x in lm["data"] if x["type"] == "route"][0]["models"][:2] == ["GLM-4.1V-Thinking-Flash", "ark-code-latest"] # ② 改"需重启"的键:能保存,但要明确回提示(不能假装已生效) assert _yaml.safe_load(cfg_path.read_text(encoding="utf-8"))["server"]["port"] == 8808