chore: 移除 b.ai 供应商(qwen3.8-flash/hy3)—— 配置/代码/文档/测试/.env 全清

This commit is contained in:
api-gateway committed 2026-09-17 09:19:47 +08:00
1 parent 8c4eb2f057
commit 44fc4a5e50
10 files changed
+51 -54

No files matched your search

+22
View File
@@ -4,6 +4,28 @@
---
## 2026-09-17 · 移除 b.ai 供应商
**一句话**:老板要求删除 b.ai 供应商及其两个模型(`qwen3.8-flash`、`hy3`),代码、配置、文档、测试全清。
### 改动清单
- **`data/gateway.yaml`**:删 `providers.b_ai` 整块(含 `qwen3.8-flash`、`hy3` 两个模型);`routes.wjd` 兜底链由 4 项(ark-code/agnes/qwen3.8/hy3)精简为 2 项(`ark-code-latest` → `agnes-3.0-flash`);`pricing.per_model` 删 `qwen3.8-flash`/`hy3` 两条;头部供应商注释 `Agnes / b.ai / 火山方舟 / 智谱 GLM` → `Agnes / 火山方舟 / 智谱 GLM`。
- **`data/.env`**:删 `B_AI_API_KEY=sk-nf...`(纯删除,密钥不再使用)。
- **`app/main.py`**:`description` 字符串去 b.ai;测速探针注释去掉 `b.ai(qwen3.8-flash/hy3)` 引用。
- **`app/config.py`**:`ModelInfo.vision` 注释去掉 `b.ai 系`。
- **`app/adapters/{__init__,openai_compat}.py`**:docstring「四家」→「三家」,供应商列表去 b.ai。
- **`README.md`**:头部「四个供应商」→「三个」;供应商表删 b.ai 行;路由示例去 `qwen3.8-flash`/`hy3` 并去其重编号;pricing 示例去 b.ai 两条;`# 编辑 .env 填入` 行去 `B_AI_API_KEY`。
- **`frontend/src/views/Settings.vue`**:`TEXT_MODELS` 去 `qwen3.8-flash`。
- **`docs/frontend-design.md`**:供应商列表去 b.ai。
- **`tests/test_gateway.py`**:`test_load_config_providers` 集合去 `b_ai`;`test_load_config_routes` wjd 长度 4→2;`test_wjd_route_orders_by_availability_and_speed` 用 `GLM-4.7-Flash` 替代 `qwen3.8-flash` 做速度排序演示,env var 清单改 `ZHIPU_API_KEY`;`test_vision_first_reorders_only_when_vision_exists` 改用非视觉模型 `GLM-Z1-Flash`(原 `hy3`);`test_config_endpoints_permission_matrix` 及路由写回测试中的 `hy3` 改 `GLM-4.1V-Thinking-Flash`;媒体路由测试的 `qwen3.8-flash` 改 `GLM-4.1V-Thinking-Flash`。
### 验证
- 单测 **155 passed / 0 failed**(修正 6 处断言后全绿)。
- 全项目 grep `b_ai|api.b.ai|B_AI_API_KEY|qwen3.8-flash|hy3` 命中仅为 CHANGELOG 历史条目(保留)—— 其余全部清零。
- 纯配置+文档改动,`hot_reload` 自动生效;若重启,`/v1/models` 由 14 → 12(`agnes` 3 + `volc_engine` 1 + `bigmodel` 8),`routes.wjd` 由 4 → 2。
---
## 2026-09-16 · 集成智谱 CogView-3-Flash(文生图)+ CogVideoX-Flash(文生视频)
**一句话**:给上一轮的智谱供应商补上媒体生成——图像页用 `cogview-3-flash`、视频页用 `cogvideox-flash`,前后端按「选到的供应商」自动切到智谱契约(不动 Agnes)。
+2 -6
View File
@@ -1,6 +1,6 @@
# API Gateway
统一多供应商 LLM 接入网关,纯后端 FastAPI,配置驱动。支持 **Agnes AI**、**b.ai**、**火山方舟 Coding Plan**、**智谱 GLM** 四个供应商,全部走 OpenAI 兼容协议。v2.4 已集成熔断、限流、图像/视频、指标、成本估算、热加载、测试等完整能力。
统一多供应商 LLM 接入网关,纯后端 FastAPI,配置驱动。支持 **Agnes AI**、**火山方舟 Coding Plan**、**智谱 GLM** 三个供应商,全部走 OpenAI 兼容协议。v2.4 已集成熔断、限流、图像/视频、指标、成本估算、热加载、测试等完整能力。
## 特性
@@ -44,7 +44,6 @@ api-gateway/
| 供应商 | Base URL | 认证 | 模型 |
|---|---|---|---|
| Agnes AI | `https://api.agnes-ai.cn/v1` | Bearer | `agnes-3.0-flash`(text)、`agnes-image-2.5-flash`(image)、`agnes-video-2.5-flash`(video) |
| b.ai | `https://api.b.ai/v1` | Bearer | `qwen3.8-flash`、`hy3`(text) |
| 火山方舟 Coding | `https://ark.cn-beijing.volces.com/api/coding/v3` | Bearer | `ark-code-latest`(text) |
| 智谱 GLM | `https://open.bigmodel.cn/api/paas/v4` | Bearer | 文本:`GLM-4.7-Flash`、`GLM-4-Flash-250414`、`GLM-Z1-Flash`、`GLM-4.6V-Flash`、`GLM-4V-Flash`、`GLM-4.1V-Thinking-Flash`(其中 3 个 V 型号支持图像输入);图像:`cogview-3-flash`;视频:`cogvideox-flash`(文生视频,异步 `/videos/generations` + `/async-result/{id}` 轮询) |
@@ -86,8 +85,6 @@ routes:
models:
- "ark-code-latest" # 1) 火山方舟(最高优先级)
- "agnes-3.0-flash" # 2) Agnes 兜底
- "qwen3.8-flash" # 3) b.ai qwen 兜底
- "hy3" # 4) b.ai hy3 兜底
circuit: # 供应商熔断
enabled: true
@@ -281,7 +278,6 @@ pricing: # 人民币/百万 token,用于估算成本
per_model:
agnes-3.0-flash: { input: 0.35, output: 1.00 }
ark-code-latest: { input: 0.50, output: 2.00 }
qwen3.8-flash: { input: 0.30, output: 0.60 }
# 未配置的模型不返回 estimated_cost_cny
```
@@ -301,7 +297,7 @@ python run.py # 默认读 data/gateway.yaml,端口 8808
```bash
cp .env.example .env
# 编辑 .env 填入 AGNES_API_KEY / B_AI_API_KEY / VOLC_API_KEY
# 编辑 .env 填入 AGNES_API_KEY / VOLC_API_KEY / ZHIPU_API_KEY
python run.py # 启动时自动读取 .env
```
+1 -1
View File
@@ -12,7 +12,7 @@ def create_adapter(
) -> BaseAdapter:
"""根据供应商配置创建对应适配器。
当前四个供应商(Agnes / b.ai / 火山方舟 / 智谱 GLM)均为 OpenAI 兼容协议,
当前三个供应商(Agnes / 火山方舟 / 智谱 GLM)均为 OpenAI 兼容协议,
统一使用 OpenAICompatAdapter,通过 base_url 和 extra_headers 区分。
图像/视频端点通过 media 配置覆盖(Agnes 走 /videos + /agnesapi)。
"""
+1 -1
View File
@@ -1,6 +1,6 @@
"""OpenAI 兼容协议适配器。
Agnes / b.ai / 火山方舟 / 智谱 GLM 四家均使用 OpenAI 兼容 API
Agnes / 火山方舟 / 智谱 GLM 三家均使用 OpenAI 兼容 API
(POST {base_url}/chat/completions),本适配器统一处理。
图像/视频端点可通过 media 配置覆盖:
+1 -1
View File
@@ -22,7 +22,7 @@ class ModelInfo:
type: str = "text" # text | image | video
# 第十三轮: 是否支持「图像输入」(多模态 / 视觉)。
# Agnes 3.0 Flash 文档明确「输入模态:文本、图像 URL」,实测 data:image/png;base64 也能识别;
# 其余文本模型(ark-code / b.ai 系)文档未声明图像输入 → 默认 False。
# 其余文本模型(ark-code 等)文档未声明图像输入 → 默认 False。
# 用途:① /v1/models 暴露给前端标注/告警;② 带图请求走路由别名时把有视觉能力的模型排到前面。
vision: bool = False
+3 -3
View File
@@ -307,7 +307,7 @@ VERSION = "2.4.0"
app = FastAPI(
title="API Gateway",
description="统一多供应商 LLM 接入网关(Agnes / b.ai / 火山方舟)",
description="统一多供应商 LLM 接入网关(Agnes / 火山方舟 / 智谱 GLM)",
version=VERSION,
lifespan=lifespan,
default_response_class=UTF8JSONResponse,
@@ -1196,8 +1196,8 @@ async def models_speedtest(request: Request, _auth=Depends(require_auth)):
try:
await adapter.chat(model=m["id"], messages=[{"role": "user", "content": "hi"}],
temperature=0, max_tokens=16, stop=None)
# max_tokens 固定 >2:b.ai(qwen3.8-flash/hy3) 上游对 max_tokens<=2 回 400
# ("max_tokens must be greater than 2"),故探针用 16 而不是 1,保证各供应商上游都认。
# max_tokens 固定 >2:部分上游对 max_tokens<=2 回 400(要求 >2),故探针用 16 而不是 1,保证各供应商上游都认。
# ("max_tokens must be greater than 2")
ok = True
break
except Exception as e:
+2 -23
View File
@@ -1,5 +1,5 @@
# AI 网关配置文件(data/ 目录)
# 供应商:Agnes / b.ai / 火山方舟 Coding / 智谱 GLM(bigmodel)
# 供应商:Agnes / 火山方舟 Coding / 智谱 GLM(bigmodel)
# 密钥统一走 token_env 指向的环境变量(本机见 data/.env),不再在 yaml 存明文
# 端口默认 8808
#
@@ -34,23 +34,6 @@ providers:
display_name: "Agnes Video 2.5 Flash"
type: "video"
b_ai:
name: "b.ai"
base_url: "https://api.b.ai/v1"
auth:
token_env: "B_AI_API_KEY"
extra_headers: {}
# b.ai 仅 OpenAI 兼容文本;图像/视频留空 = 不支持
media: {}
models:
- id: "qwen3.8-flash"
display_name: "b.ai qwen3.8-flash"
type: "text"
vision: true # 实测支持视觉(2026-09-15 红图探针→答"红色")
- id: "hy3"
display_name: "b.ai hy3"
type: "text"
volc_engine:
name: "火山方舟 Coding Plan"
base_url: "https://ark.cn-beijing.volces.com/api/coding/v3"
@@ -157,8 +140,6 @@ pricing:
per_model:
agnes-3.0-flash: { input: 0.35, output: 1.00 }
ark-code-latest: { input: 0.50, output: 2.00 }
qwen3.8-flash: { input: 0.30, output: 0.60 }
hy3: { input: 0.30, output: 0.60 }
# ── 媒体下载代理白名单(第十七轮)────────────────────────
# 生成的图片/视频挂在第三方 CDN 上且不带 CORS 头,浏览器里既 fetch 不到 blob、
@@ -191,10 +172,8 @@ auth:
# 优先级从左到右(第一个最高)。已把全部 5 个文本模型配上。
routes:
wjd:
timeout: 60 # 单模型 60s 没出结果就切下一个(避免 6×120s 挂死)
timeout: 60 # 单模型 60s 没出结果就切下一个(避免 3×120s 挂死)
retry: 1 # 每个模型只试 1 次,失败立即切下一个
models:
- "ark-code-latest" # 1) 火山方舟(最高优先级)
- "agnes-3.0-flash" # 2) Agnes 兜底
- "qwen3.8-flash" # 3) b.ai qwen 兜底
- "hy3" # 4) b.ai hy3 兜底
+1 -1
View File
@@ -7,7 +7,7 @@
## 1. 背景与目标
网关是一个 OpenAI 兼容的多供应商 LLM 统一接入层(Agnes / b.ai / 火山方舟),已具备完整 REST 能力(对话/图像/视频/批量/模型/指标/日志/健康)。当前**只能通过 curl / 二次开发调用,没有可视化界面**。
网关是一个 OpenAI 兼容的多供应商 LLM 统一接入层(Agnes / 火山方舟 / 智谱 GLM),已具备完整 REST 能力(对话/图像/视频/批量/模型/指标/日志/健康)。当前**只能通过 curl / 二次开发调用,没有可视化界面**。
本前端目标是给这台网关做一个**单页管理台(SPA)**:
1. 「用」—— 对话、图像、视频、批量,测试各种模型与降级行为;
+1 -1
View File
@@ -228,7 +228,7 @@ const err = ref('')
const { t, locale } = useI18n()
const { theme, followSystem, setTheme, setFollowSystem } = useTheme()
const TEXT_MODELS = ['wjd', 'agnes-3.0-flash', 'ark-code-latest', 'qwen3.8-flash', 'GLM-4.7-Flash', 'GLM-4-Flash-250414', 'GLM-Z1-Flash', 'GLM-4.6V-Flash', 'GLM-4V-Flash', 'GLM-4.1V-Thinking-Flash']
const TEXT_MODELS = ['wjd', 'agnes-3.0-flash', 'ark-code-latest', 'GLM-4.7-Flash', 'GLM-4-Flash-250414', 'GLM-Z1-Flash', 'GLM-4.6V-Flash', 'GLM-4V-Flash', 'GLM-4.1V-Thinking-Flash']
const textModels = ref<string[]>(TEXT_MODELS)
function pickTheme(id: ThemeId) {
+17 -17
View File
@@ -89,7 +89,7 @@ def _login_admin_session(client=None):
# ── 配置加载 ──
def test_load_config_providers():
cfg = load_config(CONFIG)
assert set(cfg.providers.keys()) == {"agnes", "b_ai", "volc_engine", "bigmodel"}
assert set(cfg.providers.keys()) == {"agnes", "volc_engine", "bigmodel"}
assert cfg.providers["agnes"].models[0].id == "agnes-3.0-flash"
# 智谱:base_url + token_env + 6 个模型 + V 型号视觉标记
assert cfg.providers["bigmodel"].base_url == "https://open.bigmodel.cn/api/paas/v4"
@@ -119,7 +119,7 @@ def test_load_config_providers():
def test_load_config_routes():
cfg = load_config(CONFIG)
assert "wjd" in cfg.routes
assert len(cfg.routes["wjd"].models) == 4
assert len(cfg.routes["wjd"].models) == 2
assert cfg.routes["wjd"].timeout == 60
assert cfg.routes["wjd"].retry == 1
@@ -333,7 +333,7 @@ def test_resolve_media_model_via_route_alias():
# wjd 路由链里第 2 个是 agnes-3.0-flash(text),但 image 模型不在这条链 → 走别名找不到 image
# 单独构造一条指向 image 的路由来验证别名解析逻辑
from app.config import RouteInfo
cfg.routes["img"] = RouteInfo(name="img", models=["qwen3.8-flash", "agnes-image-2.5-flash"])
cfg.routes["img"] = RouteInfo(name="img", models=["GLM-4.1V-Thinking-Flash", "agnes-image-2.5-flash"])
res = m._resolve_media_model(cfg, "img", "image")
assert res is not None and res[4] == "agnes-image-2.5-flash"
@@ -2318,7 +2318,7 @@ def test_wjd_route_orders_by_availability_and_speed():
from app.config import RouteInfo
from app.circuit import CircuitBreakerRegistry
import app.main as m
saved = {k: os.environ.get(k) for k in ("AGNES_API_KEY", "B_AI_API_KEY", "VOLC_API_KEY")}
saved = {k: os.environ.get(k) for k in ("AGNES_API_KEY", "VOLC_API_KEY", "ZHIPU_API_KEY")}
for k in saved:
os.environ[k] = "test-token"
orig_m, orig_c = m._metrics, m._circuits
@@ -2328,22 +2328,22 @@ def test_wjd_route_orders_by_availability_and_speed():
cfg = m._cfg()
cfg.routes["wjd_speedtest"] = RouteInfo(
name="wjd_speedtest",
models=["ark-code-latest", "agnes-3.0-flash", "qwen3.8-flash"], # 配置优先级 volc>agnes>b_ai
models=["ark-code-latest", "agnes-3.0-flash", "GLM-4.7-Flash"], # 配置优先级 volc>agnes>bigmodel
retry=1)
try:
# 冷启动:没有任何延迟样本 → 保持配置顺序
assert m._route_chain(cfg, "wjd_speedtest")[0] == [
"ark-code-latest", "agnes-3.0-flash", "qwen3.8-flash"]
# 喂速度:agnes 最快、b_ai 次之、volc 最慢 → 完全重排
"ark-code-latest", "agnes-3.0-flash", "GLM-4.7-Flash"]
# 喂速度:agnes 最快、bigmodel 次之、volc 最慢 → 完全重排
m._metrics.record_latency("agnes-3.0-flash", 0.5)
m._metrics.record_latency("qwen3.8-flash", 1.5)
m._metrics.record_latency("GLM-4.7-Flash", 1.5)
m._metrics.record_latency("ark-code-latest", 4.0)
assert m._route_chain(cfg, "wjd_speedtest")[0] == [
"agnes-3.0-flash", "qwen3.8-flash", "ark-code-latest"]
"agnes-3.0-flash", "GLM-4.7-Flash", "ark-code-latest"]
# 最快那个供应商熔断开 → 排到最后,次快上位(未测速的可用模型才用探测位兜底)
m._circuits.get("agnes")._state = "open"
chain2 = m._route_chain(cfg, "wjd_speedtest")[0]
assert chain2[0] == "qwen3.8-flash", chain2
assert chain2[0] == "GLM-4.7-Flash", chain2
assert chain2[-1] == "agnes-3.0-flash", chain2
finally:
m._metrics, m._circuits = orig_m, orig_c
@@ -2556,9 +2556,9 @@ def test_vision_first_reorders_only_when_vision_exists():
"""带图请求:链上有视觉模型才重排(提到最前),一个都没有就别动(不掩盖能力缺失)。"""
import app.main as m
cfg = load_config(CONFIG)
assert m._vision_first(cfg, ["ark-code-latest", "agnes-3.0-flash", "hy3"]) == \
["agnes-3.0-flash", "ark-code-latest", "hy3"], "视觉模型提到最前,其余保持相对顺序"
assert m._vision_first(cfg, ["ark-code-latest", "hy3"]) == ["ark-code-latest", "hy3"]
assert m._vision_first(cfg, ["ark-code-latest", "agnes-3.0-flash", "GLM-Z1-Flash"]) == \
["agnes-3.0-flash", "ark-code-latest", "GLM-Z1-Flash"], "视觉模型提到最前,其余保持相对顺序"
assert m._vision_first(cfg, ["ark-code-latest", "GLM-Z1-Flash"]) == ["ark-code-latest", "GLM-Z1-Flash"]
def test_messages_have_images_detects_vision_blocks():
@@ -3564,7 +3564,7 @@ def test_config_save_applies_without_restart():
view["server"]["timeout"] = 95
view["server"]["retry"] = 2
view["observability"]["access_log_maxlen"] = 777
view["routes"]["wjd"]["models"] = ["hy3", "ark-code-latest"]
view["routes"]["wjd"]["models"] = ["GLM-4.1V-Thinking-Flash", "ark-code-latest"]
view["providers"]["volc_engine"]["models"].append(
{"id": "ark-code-mini", "display_name": "迷你", "type": "text", "vision": False})
view["pricing"]["per_model"]["ark-code-mini"] = {"input": 0.1, "output": 0.2}
@@ -3578,17 +3578,17 @@ def test_config_save_applies_without_restart():
assert m.config.server.timeout == 95
assert m.config.server.retry == 2
assert m.config.observability.access_log_maxlen == 777
assert m.config.routes["wjd"].models == ["hy3", "ark-code-latest"]
assert m.config.routes["wjd"].models == ["GLM-4.1V-Thinking-Flash", "ark-code-latest"]
assert m.config.find_provider_for_model("ark-code-mini")[0] == "volc_engine"
assert m._access._max == 777, "访问日志容量应就地调整"
# 盘上也变了,且旧文件有备份
on_disk = _yaml.safe_load(cfg_path.read_text(encoding="utf-8"))
assert on_disk["server"]["timeout"] == 95
assert on_disk["routes"]["wjd"]["models"] == ["hy3", "ark-code-latest"]
assert on_disk["routes"]["wjd"]["models"] == ["GLM-4.1V-Thinking-Flash", "ark-code-latest"]
assert (P(tmp.name) / "gateway.yaml.bak").exists(), "保存前应备份原文件"
# 路由链顺序变更后,/v1/models 立刻跟着变(页面/调用方看到的就是新顺序)
lm = client.get("/v1/models", headers=ah).json()
assert [x for x in lm["data"] if x["type"] == "route"][0]["models"][:2] == ["hy3", "ark-code-latest"]
assert [x for x in lm["data"] if x["type"] == "route"][0]["models"][:2] == ["GLM-4.1V-Thinking-Flash", "ark-code-latest"]
# ② 改"需重启"的键:能保存,但要明确回提示(不能假装已生效)
assert _yaml.safe_load(cfg_path.read_text(encoding="utf-8"))["server"]["port"] == 8808