feat: 新增智谱 GLM 供应商(6 模型,3 视觉;密钥走 data/.env)
This commit is contained in:
1 parent
950f9bbf3d
commit
35680c7b95
8 files changed
+80
-9
No files matched your search
@@ -4,6 +4,30 @@
|
|||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
|
## 2026-09-16 · 新增智谱 GLM(open.bigmodel.cn)供应商
|
||||||
|
|
||||||
|
**一句话**:接入智谱开放平台作为新的 OpenAI 兼容供应商,收录 6 个 Flash 模型(3 文本 + 3 视觉),密钥走 `data/.env` 的 `ZHIPU_API_KEY`,真图实测确认 3 个 V 型号支持图像输入。
|
||||||
|
|
||||||
|
### 供应商接入
|
||||||
|
- `data/gateway.yaml` 新增 `providers.bigmodel`:
|
||||||
|
- `base_url: https://open.bigmodel.cn/api/paas/v4`(适配器自动拼 `/chat/completions`)
|
||||||
|
- `auth.token_env: ZHIPU_API_KEY`(明文 key 不进 yaml,统一放 `data/.env`,chmod 600)
|
||||||
|
- 媒体端点 `media: {}`(智谱无图像/视频生成端点)
|
||||||
|
- 模型 6 个:`GLM-4.7-Flash`、`GLM-4-Flash-250414`、`GLM-Z1-Flash`、`GLM-4.6V-Flash`、`GLM-4V-Flash`、`GLM-4.1V-Thinking-Flash`,其中 3 个 V 型号标 `vision: true`
|
||||||
|
- `data/.env` 追加 `ZHIPU_API_KEY=<智谱 Key>`(49 位,未入版本库)。
|
||||||
|
- 前端 `Settings.vue` 的「对话默认模型」静态清单 `TEXT_MODELS` 追加这 6 个模型;Models 页 / `/v1/models` 本身是动态的,重启后自动出现。
|
||||||
|
|
||||||
|
### 排查与实测(重点)
|
||||||
|
- 首把 Key `cdfb6b5e...` 直接裸调 6 模型一度全 **401「令牌已过期」** → 误判 Key 无效。后用官方示例格式 + `glm-5.3` 重打是 **429「余额不足」**(说明 Key 认证是通的)→ 回到 6 模型官方格式再打:5 个 200,`GLM-4.7-Flash` 偶发 **429「访问量过大」(1305,瞬时过载,模型存在)**。**结论:Key 有效,之前 401 是上游瞬时过载造成的误报。**
|
||||||
|
- 视觉探针(1×1 红图)被智谱拒 **400 code 1210「图片输入格式/解析错误」** —— 是**图太小**的问题,非格式问题。换 200×200 标准红图后 data-URI 与外链 URL 均识别:`GLM-4V-Flash`、`GLM-4.1V-Thinking-Flash` 认「红色」✅;`GLM-4.6V-Flash` 全程遇上游过载(1305)未取到视觉结果,型号带 V 故仍标 `vision: true`(如后续实测不一致可再改)。
|
||||||
|
- 端到端:用生产同一适配器 `OpenAICompatAdapter`(真实 `base_url` + `Bearer` 解析 token)直连智谱——文本 `GLM-4-Flash-250414` ✅、推理 `GLM-Z1-Flash` ✅(返回含 thinking)、视觉 `GLM-4V-Flash`(data-URI 图)✅ 全部 HTTP 200。
|
||||||
|
|
||||||
|
### 上线
|
||||||
|
- 配置层 `hot_reload` 会自动热更 gateway.yaml;但 **ZHIPU_API_KEY 是新增环境变量,需重启进程才加载** → 待老板批准后重启,`/v1/models` 由 6 → 12 个文本模型、Models 页自动多出智谱 6 个。
|
||||||
|
- 单测:修正 `test_load_config_providers`(供应商集合加入 `bigmodel` + 智谱 6 模型/V 标记断言),**154 passed / 1 failed**(仅剩 feedback 无关遗留)。
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
## 2026-09-15 · 新增 OpenCode Zen(免费档)供应商
|
## 2026-09-15 · 新增 OpenCode Zen(免费档)供应商
|
||||||
|
|
||||||
**一句话**:把 OpenCode Zen 作为第 4 个供应商接入,只收录文档定价页列出的**免费模型**。打通后发现免费档比较刁钻:既被 Cloudflare 拦默认 UA,又强制要求每个请求带独立会话头——两条都已在适配器层解决,实测全部 200。
|
**一句话**:把 OpenCode Zen 作为第 4 个供应商接入,只收录文档定价页列出的**免费模型**。打通后发现免费档比较刁钻:既被 Cloudflare 拦默认 UA,又强制要求每个请求带独立会话头——两条都已在适配器层解决,实测全部 200。
|
||||||
|
|||||||
@@ -1,6 +1,6 @@
|
|||||||
# API Gateway
|
# API Gateway
|
||||||
|
|
||||||
统一多供应商 LLM 接入网关,纯后端 FastAPI,配置驱动。支持 **Agnes AI**、**b.ai**、**火山方舟 Coding Plan** 三个供应商,全部走 OpenAI 兼容协议。v2.4 已集成熔断、限流、图像/视频、指标、成本估算、热加载、测试等完整能力。
|
统一多供应商 LLM 接入网关,纯后端 FastAPI,配置驱动。支持 **Agnes AI**、**b.ai**、**火山方舟 Coding Plan**、**智谱 GLM** 四个供应商,全部走 OpenAI 兼容协议。v2.4 已集成熔断、限流、图像/视频、指标、成本估算、热加载、测试等完整能力。
|
||||||
|
|
||||||
## 特性
|
## 特性
|
||||||
|
|
||||||
@@ -32,7 +32,7 @@ api-gateway/
|
|||||||
│ └── adapters/
|
│ └── adapters/
|
||||||
│ ├── __init__.py # 适配器工厂
|
│ ├── __init__.py # 适配器工厂
|
||||||
│ ├── base.py # 抽象基类(chat / chat_stream / image / video)
|
│ ├── base.py # 抽象基类(chat / chat_stream / image / video)
|
||||||
│ └── openai_compat.py # OpenAI 兼容适配器(三家通用 + 媒体端点)
|
│ └── openai_compat.py # OpenAI 兼容适配器(四家通用 + 媒体端点)
|
||||||
├── tests/test_gateway.py # 单元测试(mock 供应商,不依赖真实网络)
|
├── tests/test_gateway.py # 单元测试(mock 供应商,不依赖真实网络)
|
||||||
├── Makefile # 快捷命令(install/run/test/lint/clean)
|
├── Makefile # 快捷命令(install/run/test/lint/clean)
|
||||||
├── run.py # 启动入口
|
├── run.py # 启动入口
|
||||||
@@ -46,6 +46,7 @@ api-gateway/
|
|||||||
| Agnes AI | `https://api.agnes-ai.cn/v1` | Bearer | `agnes-3.0-flash`(text)、`agnes-image-2.5-flash`(image)、`agnes-video-2.5-flash`(video) |
|
| Agnes AI | `https://api.agnes-ai.cn/v1` | Bearer | `agnes-3.0-flash`(text)、`agnes-image-2.5-flash`(image)、`agnes-video-2.5-flash`(video) |
|
||||||
| b.ai | `https://api.b.ai/v1` | Bearer | `qwen3.8-flash`、`hy3`(text) |
|
| b.ai | `https://api.b.ai/v1` | Bearer | `qwen3.8-flash`、`hy3`(text) |
|
||||||
| 火山方舟 Coding | `https://ark.cn-beijing.volces.com/api/coding/v3` | Bearer | `ark-code-latest`(text) |
|
| 火山方舟 Coding | `https://ark.cn-beijing.volces.com/api/coding/v3` | Bearer | `ark-code-latest`(text) |
|
||||||
|
| 智谱 GLM | `https://open.bigmodel.cn/api/paas/v4` | Bearer | `GLM-4.7-Flash`、`GLM-4-Flash-250414`、`GLM-Z1-Flash`、`GLM-4.6V-Flash`、`GLM-4V-Flash`、`GLM-4.1V-Thinking-Flash`(text;其中 `GLM-4.6V-Flash`/`GLM-4V-Flash`/`GLM-4.1V-Thinking-Flash` 支持图像输入) |
|
||||||
|
|
||||||
> Agnes 的图像/视频走自有端点,通过供应商配置里的 `media` 段指定。
|
> Agnes 的图像/视频走自有端点,通过供应商配置里的 `media` 段指定。
|
||||||
|
|
||||||
|
|||||||
@@ -12,7 +12,7 @@ def create_adapter(
|
|||||||
) -> BaseAdapter:
|
) -> BaseAdapter:
|
||||||
"""根据供应商配置创建对应适配器。
|
"""根据供应商配置创建对应适配器。
|
||||||
|
|
||||||
当前三个供应商(Agnes / b.ai / 火山方舟)均为 OpenAI 兼容协议,
|
当前四个供应商(Agnes / b.ai / 火山方舟 / 智谱 GLM)均为 OpenAI 兼容协议,
|
||||||
统一使用 OpenAICompatAdapter,通过 base_url 和 extra_headers 区分。
|
统一使用 OpenAICompatAdapter,通过 base_url 和 extra_headers 区分。
|
||||||
图像/视频端点通过 media 配置覆盖(Agnes 走 /videos + /agnesapi)。
|
图像/视频端点通过 media 配置覆盖(Agnes 走 /videos + /agnesapi)。
|
||||||
"""
|
"""
|
||||||
|
|||||||
@@ -1,6 +1,6 @@
|
|||||||
"""OpenAI 兼容协议适配器。
|
"""OpenAI 兼容协议适配器。
|
||||||
|
|
||||||
Agnes / b.ai / 火山方舟 coding plan 三家均使用 OpenAI 兼容 API
|
Agnes / b.ai / 火山方舟 / 智谱 GLM 四家均使用 OpenAI 兼容 API
|
||||||
(POST {base_url}/chat/completions),本适配器统一处理。
|
(POST {base_url}/chat/completions),本适配器统一处理。
|
||||||
|
|
||||||
图像/视频端点可通过 media 配置覆盖:
|
图像/视频端点可通过 media 配置覆盖:
|
||||||
|
|||||||
+1
-1
@@ -1197,7 +1197,7 @@ async def models_speedtest(request: Request, _auth=Depends(require_auth)):
|
|||||||
await adapter.chat(model=m["id"], messages=[{"role": "user", "content": "hi"}],
|
await adapter.chat(model=m["id"], messages=[{"role": "user", "content": "hi"}],
|
||||||
temperature=0, max_tokens=16, stop=None)
|
temperature=0, max_tokens=16, stop=None)
|
||||||
# max_tokens 固定 >2:b.ai(qwen3.8-flash/hy3) 上游对 max_tokens<=2 回 400
|
# max_tokens 固定 >2:b.ai(qwen3.8-flash/hy3) 上游对 max_tokens<=2 回 400
|
||||||
# ("max_tokens must be greater than 2"),故探针用 16 而不是 1,保证三家供应商都认。
|
# ("max_tokens must be greater than 2"),故探针用 16 而不是 1,保证各供应商上游都认。
|
||||||
ok = True
|
ok = True
|
||||||
break
|
break
|
||||||
except Exception as e:
|
except Exception as e:
|
||||||
|
|||||||
+37
-2
@@ -1,6 +1,6 @@
|
|||||||
# AI 网关配置文件(data/ 目录)
|
# AI 网关配置文件(data/ 目录)
|
||||||
# 供应商:Agnes / b.ai / 火山方舟 Coding
|
# 供应商:Agnes / b.ai / 火山方舟 Coding / 智谱 GLM(bigmodel)
|
||||||
# 密钥统一走 token_env 指向的环境变量(本机见 .env),不再在 yaml 存明文
|
# 密钥统一走 token_env 指向的环境变量(本机见 data/.env),不再在 yaml 存明文
|
||||||
# 端口默认 8808
|
# 端口默认 8808
|
||||||
#
|
#
|
||||||
# 说明:本文件是项目的**唯一配置文件**(run.py 默认读取;GATEWAY_CONFIG 可覆盖)。
|
# 说明:本文件是项目的**唯一配置文件**(run.py 默认读取;GATEWAY_CONFIG 可覆盖)。
|
||||||
@@ -63,6 +63,41 @@ providers:
|
|||||||
display_name: "火山方舟 ark-code-latest"
|
display_name: "火山方舟 ark-code-latest"
|
||||||
type: "text"
|
type: "text"
|
||||||
|
|
||||||
|
# ── 智谱 GLM(OpenAI 兼容 /chat/completions)──────────
|
||||||
|
# 密钥走 token_env(data/.env → ZHIPU_API_KEY),不在 yaml 存明文。
|
||||||
|
# Flash 系文本模型免费档可用;GLM-4V/4.6V/4.1V 系支持「图像输入」:
|
||||||
|
# 已用 200×200 红图真图实测 4V-Flash 与 4.1V-Thinking-Flash 均认出「红色」;
|
||||||
|
# 4.6V-Flash 实侧遇上游瞬时过载(1305)未取到视觉结果,型号带 V 故仍标 vision。
|
||||||
|
bigmodel:
|
||||||
|
name: "智谱 GLM"
|
||||||
|
base_url: "https://open.bigmodel.cn/api/paas/v4"
|
||||||
|
auth:
|
||||||
|
token_env: "ZHIPU_API_KEY"
|
||||||
|
extra_headers: {}
|
||||||
|
media: {}
|
||||||
|
models:
|
||||||
|
- id: "GLM-4.7-Flash"
|
||||||
|
display_name: "GLM-4.7-Flash"
|
||||||
|
type: "text"
|
||||||
|
- id: "GLM-4-Flash-250414"
|
||||||
|
display_name: "GLM-4-Flash-250414"
|
||||||
|
type: "text"
|
||||||
|
- id: "GLM-Z1-Flash"
|
||||||
|
display_name: "GLM-Z1-Flash"
|
||||||
|
type: "text"
|
||||||
|
- id: "GLM-4.6V-Flash"
|
||||||
|
display_name: "GLM-4.6V-Flash"
|
||||||
|
type: "text"
|
||||||
|
vision: true
|
||||||
|
- id: "GLM-4V-Flash"
|
||||||
|
display_name: "GLM-4V-Flash"
|
||||||
|
type: "text"
|
||||||
|
vision: true
|
||||||
|
- id: "GLM-4.1V-Thinking-Flash"
|
||||||
|
display_name: "GLM-4.1V-Thinking-Flash"
|
||||||
|
type: "text"
|
||||||
|
vision: true
|
||||||
|
|
||||||
server:
|
server:
|
||||||
host: "127.0.0.1"
|
host: "127.0.0.1"
|
||||||
port: 8808
|
port: 8808
|
||||||
|
|||||||
@@ -228,7 +228,7 @@ const err = ref('')
|
|||||||
const { t, locale } = useI18n()
|
const { t, locale } = useI18n()
|
||||||
const { theme, followSystem, setTheme, setFollowSystem } = useTheme()
|
const { theme, followSystem, setTheme, setFollowSystem } = useTheme()
|
||||||
|
|
||||||
const TEXT_MODELS = ['wjd', 'agnes-3.0-flash', 'ark-code-latest', 'qwen3.8-flash']
|
const TEXT_MODELS = ['wjd', 'agnes-3.0-flash', 'ark-code-latest', 'qwen3.8-flash', 'GLM-4.7-Flash', 'GLM-4-Flash-250414', 'GLM-Z1-Flash', 'GLM-4.6V-Flash', 'GLM-4V-Flash', 'GLM-4.1V-Thinking-Flash']
|
||||||
const textModels = ref<string[]>(TEXT_MODELS)
|
const textModels = ref<string[]>(TEXT_MODELS)
|
||||||
|
|
||||||
function pickTheme(id: ThemeId) {
|
function pickTheme(id: ThemeId) {
|
||||||
|
|||||||
+12
-1
@@ -89,8 +89,19 @@ def _login_admin_session(client=None):
|
|||||||
# ── 配置加载 ──
|
# ── 配置加载 ──
|
||||||
def test_load_config_providers():
|
def test_load_config_providers():
|
||||||
cfg = load_config(CONFIG)
|
cfg = load_config(CONFIG)
|
||||||
assert set(cfg.providers.keys()) == {"agnes", "b_ai", "volc_engine"}
|
assert set(cfg.providers.keys()) == {"agnes", "b_ai", "volc_engine", "bigmodel"}
|
||||||
assert cfg.providers["agnes"].models[0].id == "agnes-3.0-flash"
|
assert cfg.providers["agnes"].models[0].id == "agnes-3.0-flash"
|
||||||
|
# 智谱:base_url + token_env + 6 个模型 + V 型号视觉标记
|
||||||
|
assert cfg.providers["bigmodel"].base_url == "https://open.bigmodel.cn/api/paas/v4"
|
||||||
|
assert cfg.providers["bigmodel"].auth.token_env == "ZHIPU_API_KEY"
|
||||||
|
bm_ids = [m.id for m in cfg.providers["bigmodel"].models]
|
||||||
|
assert bm_ids == ["GLM-4.7-Flash", "GLM-4-Flash-250414", "GLM-Z1-Flash",
|
||||||
|
"GLM-4.6V-Flash", "GLM-4V-Flash", "GLM-4.1V-Thinking-Flash"]
|
||||||
|
for m in cfg.providers["bigmodel"].models:
|
||||||
|
if m.id in ("GLM-4.6V-Flash", "GLM-4V-Flash", "GLM-4.1V-Thinking-Flash"):
|
||||||
|
assert m.vision is True
|
||||||
|
else:
|
||||||
|
assert m.vision is False
|
||||||
|
|
||||||
|
|
||||||
def test_load_config_routes():
|
def test_load_config_routes():
|
||||||
|
|||||||
Reference in new issue
Block a user