api-gateway
4dc41e04e7
第三十三轮:模型接口加入上下文参数(context_window / max_output_tokens)
老板 2026-09-24 要求:「文档里有写明支持上下文多少吗?有的话就修改 ai 网关,
接口加入上下文参数」+「Agnes 先加上,opencode go 看下 v2/docs/console/go/ 文档,
没有的话就看接口里有没有,这个也要加入同步脚本里」。
数据来源(逐一核查过):
- Agnes:官方**每个文本模型详情页**的「限制与价格」表写明 `上下文窗口` / `最大输出`
(定价页没有这两项)。3.0-flash = 512K/65,536、2.5-flash = 512K/65.5K、
2.5-pro 与 2.5-pro-beta = 1M/65,536。图片/视频页无此表 → 留 0。
- OpenCode:官方文档(Zen 页、v2/docs/console/go/)**都不写**上下文;`/zen/go/v1/models`
实测只回 id/object/created/owned_by(单模型详情 404、include 参数被忽略)。
唯一机器可读来源是 **models.dev**(OpenCode 团队维护),其 `opencode-go` /
`opencode` 两供应商每条模型都带 `limit.context` / `limit.output`。
口径(老板拍板):只用于**更新网关已有模型**,不拿它当增删依据(models.dev 收录
比官方 Go 文档多,含 omen-alpha 等未收录的);跨源不一致时取**保守下限**
(minimax-m3 Go 1M / Zen 512K → 512,000;qwen3.6-plus → 262,144)。
改动:
- app/config.py:ModelInfo 新增 context_window / max_output_tokens(默认 0 = 未标注),
解析 + to_dict 序列化一并带上。
- app/main.py:GET /models 与 /v1/models 输出这两个字段;别名继承目标模型的值。
- app/settings.py:「供应商与模型」面板往返不丢字段(默认 0 → 未配置的模型不会被
补出 `context_window: 0` 污染 YAML);提交了就以此为准,没提交则沿用文件原文。
- data/gateway.yaml:37 个模型落盘(33 OpenCode + 4 Agnes 文本),文本级插入保住
全部手写注释(注释行 162 → 236)。
- scripts/sync_models.py:新增 fetch_models_dev()(拉失败返回 None → 只跳过上下文
同步、不当成漂移)、fetch_agnes_context()(逐模型页解析「限制与价格」表)、
diff() 产出 ctx_drift、build_plan/apply_plan(_set_context 块内改值,保留行尾注释、
幂等)、verify() 回读校验、render_plan/render 显示漂移;_DRIFT_KEYS 与
plan_is_empty 认 ctx_set。
- tests:新增 3 个(models.dev 保守下限合并 + 抓失败返回 None;_set_context 幂等与
保注释;/models 带出字段且未标注不瞎补)→ **201 passed / 0 failed**;ci_check.sh 全绿。
上线:supervisorctl restart api-gateway:api-gateway_00(pid 3492804)后实测
/v1/models 45 个模型、38 个带 context_window(含 wjd 别名继承 = 1,000,000/384,000),
图片模型正确为 0。
2026-09-24 15:00:26 +08:00
..
2026-09-18 22:45:20 +08:00
2026-09-15 17:05:46 +08:00
2026-09-15 17:05:46 +08:00
2026-09-24 15:00:26 +08:00
2026-09-15 17:05:46 +08:00
2026-09-15 17:05:46 +08:00
2026-09-24 15:00:26 +08:00
2026-09-18 16:33:33 +08:00
2026-09-18 16:33:33 +08:00
2026-09-15 17:05:46 +08:00
2026-09-18 22:45:20 +08:00
2026-09-24 15:00:26 +08:00
2026-09-18 22:45:20 +08:00
2026-09-18 22:45:20 +08:00