jidekin
c1ccc572fc
test: 修复 7 个失败用例 + 测试隔离(225/225 全绿)
...
- 新增 tests/conftest.py:CALLLOG_DB 指向临时目录 + 自动打开库(TestClient 不走 lifespan)
- 4 个 /logs 用例适配读库后的行为(断言前 flush;只看自己改为库里塞记录 + /logs/calls 断言)
- 夹具 grok-4.6 → grok-4.7(模型清单已同步)
- api_calls 增 video_id 列(自动迁移),/logs 映射补回该字段
- requirements-dev.txt(pytest);测试改为幂等
- 版本 2.9.13 → 2.9.14
2026-10-23 16:17:19 +08:00
jidekin
4c58a36743
feat(persist): 视频回调任务落库续跑 + /logs 改读库
...
- 新表 video_jobs:回调任务先落库再派生,结束标记 done/failed
- 启动时 pending_jobs() 续跑(6 小时内),provider 不存在/超时标记 failed/expired
- /logs 与 /logs/recent 共用 _recent_entries() 读库;删除遗留 _logs_for_account()
- 版本 2.9.12 → 2.9.13
2026-10-23 16:06:45 +08:00
jidekin
7aa9032829
feat(logs): 详情彻底不截断(捕获 4MiB / 入库 8MiB)+ 实时页按需取全文
...
- 请求体捕获上限 128KiB → 4MiB(CALLLOG_BODY_MAX);在途缓存条数 128 → 64 控内存
- 入库上限 256KiB → 8MiB(CALLLOG_CONTENT_MAX)
- 新增 GET /logs/entry/{id}:本人或管理员可取该条完整提示词/回复(实时页展开时调用)
- 实时列表仍给 8KB 预览 + body_len/resp_len,展开替换为全文并显示「完整 N 字」
- 实测 285KiB 提示词完整落库与返回
- 版本 2.9.11 → 2.9.12
2026-10-23 16:01:24 +08:00
jidekin
5643824422
fix(ui): 资产卡片模型名/日期分两行 + 命中率加口径说明
...
- Users.vue:模型名一行、日期一行(不再挤一起被省略),图像/视频共用
- 命中率(CallLogs 列表列 + Logs 实时 chip)加 hover 说明:
首次请求/短提示词/前缀变化时命中率为 0 属正常
- 版本 2.9.10 → 2.9.11
2026-10-23 15:45:29 +08:00
jidekin
105ce16e0e
fix(users): 资产卡片文字压叠 + 失效图片改为友好占位
...
- .asset-grid 由 flex(固定 150px) 改为 grid(minmax 170px),.asset-cell 加 min-width:0
- 缩略图 width:100% + aspect-ratio 4/3;元信息行加 ellipsis;下载按钮贴底
- el-image 加 #error 插槽:过期签名 CDN 链接显示「链接已失效」而非「加载失败」整块
- 版本 2.9.9 → 2.9.10
2026-10-23 15:41:52 +08:00
jidekin
39ecf5226a
feat(logs): 调用日志列表加「缓存命中」列(量 + 命中率)
...
数据本来就有(tok_cached/tok_prompt),只是列表没显示:命中率此前只在详情弹窗里。
- 列表新增列:命中量(k/M 缩写)+ 命中率%(按档位配色)
- 实测 107 条带 token 记录:命中 62 条,中位 83.9%,最高 99.7%
- 版本 2.9.8 → 2.9.9
2026-10-23 15:37:02 +08:00
jidekin
1dc793af8e
feat(logs): 视频轮询时间线落库(重启不丢)
...
- 新增 video_polls 表(video_id/ts/status/progress/ok/error/raw,索引 (video_id,ts))
- metrics.video_poll_push 同步落库(唯一写入点,同时保留内存态)
- _attach_polls 改为优先读库、回落内存;/logs/recent 补上 _attach_polls 调用
- 保留策略与 api_calls 共用 90 天
- 版本 2.9.7 → 2.9.8
2026-10-23 15:34:28 +08:00
jidekin
5dda8df115
feat(users): 移除用户管理里的「调用日志」页签(已有独立日志页)
...
- Users.vue 活动抽屉去掉 logs 页签与表格,默认停在「图像」;只拉 history/images|videos
- 删除后端 GET /auth/users/{username}/logs(唯一调用方即该页签)
- 移除 i18n users.tabLogs(zh/en)
- 版本 2.9.6 → 2.9.7
2026-10-23 15:31:34 +08:00
jidekin
4e3391ff7c
feat(logs): 实时日志改为读库,重启不丢
...
- 新增 GET /logs/recent?n=200(从 api_calls 取最近 N 条,形状与 /logs 条目一致)
- 权限口径不变:只看自己的(admin 也只看自己);看全站走 /logs/calls
- 前端实时页改调 /logs/recent,保留 5 秒自动刷新
- 修 query() 漏选 tok_* 四列导致实时页 token 显示为 0
- 版本 2.9.5 → 2.9.6
2026-10-23 15:28:09 +08:00
jidekin
f66e52797d
fix(calllog): 流式请求的请求内容为空(请求体被提前 pop)
...
_flush_calllog 原先无条件 BODY_BY_RID.pop(rid),但流式请求的访问日志条目
要等 SSE 发完才由 AccessLog.add 产生,中间件收尾在 SSE 开始前就 pop 走了请求体。
改为:流式只 peek(留给 AccessLog.add),非流式才 pop(早失败条目必须在此取走)。
版本 2.9.4 → 2.9.5
2026-10-23 15:22:18 +08:00
jidekin
6457a92314
feat(logs): 实时日志展开显示单笔 token 用量与缓存命中率
...
- calllog 新增 peek_tokens(rid):只读不消耗,供实时日志展示(落库仍由 _row pop)
- AccessLog.add 把 token 挂到条目 tokens 字段
- 实时日志展开新增「Token 用量」块:输入/输出/缓存命中/推理 + 命中率(cached÷prompt)
- 调用日志详情弹窗补同样一行 token(数据取自 tok_* 列)
- 版本 2.9.3 → 2.9.4
2026-10-23 15:19:39 +08:00
jidekin
b54dc303f9
chore(sync): 2026-10-23 模型清单同步(minimax-m3.1-flash-free → minimax-m3.1-flash)
...
scripts/sync_models.py 每日同步产物:官方文档把免费版 id 去掉了 -free 后缀,
按官方最新清单更新。
2026-10-23 13:42:22 +08:00
jidekin
06cbe53735
style(calllog): 详情弹窗固定高度,内容区内部滚动
...
- 弹窗 height: min(78vh,860px),el-dialog__body overflow:hidden(弹窗自身不出滚动条)
- 内容/提示词/回复三块 flex 等分剩余高度,各自 overflow:auto 内部滚动
- 原 max-height:460px 改为 none,min-height:90px 兜底
- el-dialog teleport 到 body,故用非 scoped 全局样式块(选择器挂在 .calllog-dlg 下)
- 版本 2.9.2 → 2.9.3
2026-10-23 13:38:28 +08:00
jidekin
4ef03aa8f0
feat(calllog): 详情不截断记录(捕获/清洗/入库三处上限全部放开)
...
- 请求体捕获 8000 → 128KiB(_CONTENT_MAX,可用 CALLLOG_BODY_MAX 调)
- 回复文本改用新增的 _content():128KiB 且保留换行/制表(_logsafe 会把换行压成 ?)
- 入库上限 CALLLOG_CONTENT_MAX 默认 8000 → 256KiB(实际等于不截断)
- 详情新增 prompt_full(完整提取内容,保留换行),与原始 JSON 并列展示
- BODY_BY_RID 有界 128 条,防止宽上限下内存膨胀
- 版本 2.9.1 → 2.9.2
2026-10-23 11:36:26 +08:00
jidekin
ee42754095
feat(calllog): 列表加「内容」列,显示请求体 messages 的 content
...
- 新增 prompt_preview():抽取用户实际输入(兼容 chat/responses/messages 三种格式)
- 列表返回 prompt_text(单行/240字),不再吐原文;详情也带 prompt_text
- 前端:模型列后新增「内容」列 + 详情弹窗「内容」块
- 版本 2.9.0 → 2.9.1
2026-10-23 11:32:37 +08:00
jidekin
9dc25d9abf
chore(metrics): 补提交 RID contextvar(2.9.0 的 token 侧信道依赖它)
...
上一个提交漏了本文件:main.py 的 RID.set(rid) 与 calllog.note_tokens 都依赖
app/metrics.py 里新加的 RID ContextVar,不同步提交会导致仓库检出后无法启动。
2026-10-23 11:29:06 +08:00
jidekin
46f10f4594
feat(metrics): 指标改由 SQLite 提供(重启不清零)+ 月度用量导出
...
- 新增 _usage_snapshot():调用数/供应商/token/耗时(p50,p95) 走 api_calls 聚合,
运行时长/在途/熔断仍取内存;库不可用自动回落内存态
- 影响 /metrics、/metrics/prometheus、/health.models;口径从「启动以来」变「最近 90 天」
- token 落库:表加 4 列(老库自动 ALTER),用 rid contextvar + token 侧信道关联
- 新增 /logs/usage/monthly 与 /logs/usage/monthly/export(仅管理员)+ 前端月度用量弹窗
- 模型统计排除无模型行(匿名早失败不再显示 ?)
- 版本 2.8.0 → 2.9.0
2026-10-23 11:28:53 +08:00
jidekin
bb4c9281f7
fix(calllog): 翻译键移回顶层 + 内容上限 2000→8000
...
- calllogs.* 的 i18n 段此前被插进 upload 段内部,导致新面板全部显示原始键名;
已移到 logs 之后作为顶层键,zh/en 结构复核一致
- 请求体摘要 raw[:2000]→8000、回复文本 _logsafe(...,2000)→8000(5 处),
实测 6000 字提示词可完整落库
2026-10-23 11:24:19 +08:00
jidekin
09b79c1306
feat(calllog): 调用日志落地(SQLite / 90 天 / 管理员可查全部)
...
- app/calllog.py:SQLite 表 api_calls(21 列,含提示词与回复)+ 异步批量写 + 双向握手
(流式请求的访问日志条目比响应晚到也能落库)+ 早失败补记 + 失败也记 Key 前 8 位
- 新增 4 个仅管理员端点:/logs/calls、/logs/calls/stats、/logs/calls/{id}、/logs/calls/export
- 前端:日志页新增「实时 / 调用日志」页签,新组件 CallLogs.vue(筛选/分页/详情/CSV 导出)
- 保留 90 天;队列满丢弃计数,不反压请求;零新依赖
- docs:新增 docs/call-log-design.md(方案对比与三个关键设计)
- 版本 2.7.3 → 2.8.0
2026-10-23 10:02:07 +08:00
jidekin
1999b5e7ac
fix(security): 成员不再读到全站用量(/health 按角色分流)+ WAF 放行 /v1/
...
- /health: 非 admin 只回运行态(status/version/uptime/in_flight/in_flight_peak/providers 名称与模型数);
全局 tokens、各模型全局调用/失败率、供应商熔断状态收口到管理员
- /metrics: 明确保留按账号聚合(老板口径:成员首页要看自己的调用次数),未收成仅管理员
- docs: 新增 docs/waf-api-access.md,沉淀 AI 编程客户端被 1Panel WAF 误杀 403 的根因/修复/排查
- CHANGELOG: 记录本次工单全过程
- 版本 2.7.2 → 2.7.3
2026-10-22 19:41:05 +08:00
Jidekin
68c912d9ab
chore(sync): 2026-10-21 二次同步(剔除 3 个地区受限模型)
...
opencode 28 → 25:-beam-free -muse-spark-1.3-contributor -muse-spark-1.2-contributor
补上下文窗口:minimax-m3.1-flash-free 1M/512K、step-5-preview 1M/64K、agnes-2.5-pro-beta 1M/64K
热重载 10:46:23 已生效。
2026-10-21 10:46:56 +08:00
Jidekin
0367fa52c6
fix(sync): 中国大陆地区受限的 OpenCode 模型不再同步进网关
...
文档 Go 页脚注写明了地区限制,之前只解析表格、把脚注漏了:
Beam Free: Not available in ... China (including Hong Kong and Macau) ...
Muse Spark 1.x Contributor: ... regions permitted by Meta's Geographic Use Policy
本机出口在中国大陆,实测 beam-free / muse-spark-1.3 / muse-spark-1.2 在
zen 与 inference 两条端点均 403 RegionError「This model is not available in
your country」(同批 minimax-m3.1-flash-free / step-5-preview 均 200)。
新增 OC_REGION_BLOCKED 名单:同步时跳过(不新增;网关里已有的按已下线删除),
并在报告里单列「跳过(对中国大陆出口不可用,RegionError)」。
以后换境外出口或文档解除限制,把 id 从名单移走即可恢复。
2026-10-21 10:46:56 +08:00
Jidekin
a9e1826377
chore(sync): 2026-10-21 模型清单同步(+4 / -7)
...
opencode: +beam-free +minimax-m3.1-flash-free +step-5-preview
-deepseek-v4-flash -deepseek-v4-flash-vision-exp -grok-4.6
-kimi-k2.6 -minimax-m2.7 -space-bunny -step-5-preview-free
agnes: +agnes-2.5-pro-beta(¥3/¥6)
重新适配文档后首次落盘,热重载已生效。
2026-10-21 10:26:51 +08:00
Jidekin
5a69852dd8
fix(sync): 适配 OpenCode 文档改版(Endpoints 改为 /inference/go/<vendor>/v1/)
...
文档 Endpoints 表地址从 https://opencode.ai/zen/go/v1/ <path> 改为按供应商分线:
/inference/go/openai/v1/{chat/completions,responses}
/inference/go/anthropic/v1/messages
/inference/go/google/...(Google 原生,网关不支持)
旧的 "/zen/go/v1/" 硬匹配导致一个模型都解析不出,每日同步固定 exit 2。
改为按路径末尾识别三条协议线(新旧格式都兼容),认不出的跳过并在报告里单列。
2026-10-21 10:26:51 +08:00
Jidekin
23244a7b80
chore(frontend): package-lock 去掉腾讯云内网镜像源,改用官方源
...
194 处 resolved 指向 http://mirrors.tencentyun.com/npm/(腾讯云内网地址 ,
仅腾讯云机器可达)。在非腾讯云环境 npm ci 会直接失败:
npm error network request to http://mirrors.tencentyun.com/npm/ ... failed,
reason: getaddrinfo ENOTFOUND mirrors.tencentyun.com
改为 https://registry.npmjs.org/ —— 只换 URL,依赖版本与 integrity 哈希完全不变。
本机另配 registry=npmmirror + replace-registry-host=always,安装时自动走国内镜像。
实测:删掉 node_modules 后 npm ci 12.5s 通过,npm run build 28.7s 通过。
2026-10-16 16:06:40 +08:00
api-gateway
2c215032f8
docs(cleanup): 历史条目里的旧托管字样一并清掉
...
老板「全清」:CHANGELOG 里的历史提及(如「已推 CNB <sha>」「立『上生产必推 CNB』规则」)全部改写/去除,
不再保留。纯文档改动,未升版本号。
2026-10-12 14:46:40 +08:00
api-gateway
36c0a17b96
chore(cleanup): 清除 CNB 残留(远端 / 脚本 / 文档)
...
老板:「CNB 的都删了,代码,文档相关的都去掉」。
- scripts/push_cnb.sh 移除(归档 /root/.trash/2026-10-12-cnb-retire-cleanup/ + MANIFEST)
- scripts/push_gitea.sh 注释去掉 CNB 表述
- README 发布纪律段、docs/agents-dev-plan.md 的 CNB 表述改 Gitea
- 历史条目(CHANGELOG/MEMORY/日记)保留不改写;纯文档/配置清理,未升版本号
2026-10-12 14:35:10 +08:00
api-gateway
896ff79580
chore(branch): 分支统一为 main(master 改名 main)
...
老板:「统一成 main,都默认 main 分支」。
- 本地 git branch -m master main;本机 git config --global init.defaultBranch main
- README 发布纪律段分支名同步改 main(历史 CHANGELOG 条目保留 master 原文)
- CHANGELOG 记本轮;纯文档/分支名改动,未升版本号
2026-10-12 14:26:19 +08:00
api-gateway
a4204839c9
chore(release): Gitea 推送改为免密(建 API token push-automation)
...
老板:「新建凭据吧,把凭据记到记忆和 md 文件里,不要丢失了,后面直接免密推送」。
- 新建 Gitea API token(name=push-automation,scope=write:repository,够 push 私有仓库)
- scripts/push_gitea.sh 改为默认免密:凭据顺序 GITEA_TOKEN → 参数 → GITEA_PASS → ~/.gitea_token(600)
- 安全口径不变:一次性内嵌、输出打码、不写 .git/config、推完核对远端=本地并复查无明文(退出码 2/3/4/5)
- 凭据只落本机两处(~/.gitea_token + MEMORY.md),**不写进本仓库任何文件**
- README 发布纪律段与 CHANGELOG 同步说明
2026-10-12 14:17:50 +08:00
api-gateway
23ee74c540
docs+tooling: 代码托管改推自建 Gitea(CNB 退役,老板 2026-10-12 改口径)
...
老板原话:「以后改动的代码不提交 cnb 了,改成提交到 gitea 上」→ 推翻 2026-09-24 的「上生产必推 CNB」。
- 新增 scripts/push_gitea.sh:与 push_cnb.sh 同一套安全口径(一次性带密码内嵌 URL;
无密码退 2 / 工作区脏退 3 / 推完核对远端=本地 / 复查 .git/config 无明文;密码不内置进任何文件),
目标换成 https://git.wangjinding.com/Jidekin/api-gateway.git
- scripts/push_cnb.sh 保留但**已停用**(文件头加醒目说明)
- README「版本号与发布纪律 → 发布流程」:推 CNB → 推 Gitea,并写明原 CNB 口径作废
- CHANGELOG 记本轮
背景:CNB 那把 token 已实测失效(push/ls-remote 回 Repository Not Found、API 回 errcode:16 not logged in、
SSH 22 端口超时);同期老板起了自建 Gitea(容器 1Panel-gitea-CjQz,commitgo/gitea-ee:27.3.8,
公网 https://git.wangjinding.com),三个项目已建 private 仓库并推全量历史。
注:纯文档/工具改动,**未升版本号**(与 16d973c「立推 CNB 规则」同类,历史先例同样不升)。
2026-10-12 14:13:25 +08:00
api-gateway
ce0cd0f812
feat(models): 单独测速改并发(每行独立、上限 3)+ 收尾每日同步漂移(2.7.1 → 2.7.2)
...
老板:「单独测速能异步测速不,不用等到上一个回来后才能测速其他的」
- 单独测速(每行常驻 ⚡ )改为**并发**:状态从单个 latCurrentId 换成 latRunning 集合,
每行自己的加载图标与按钮状态、互不阻塞;并发上限 SPEEDTEST_MAX_CONCURRENCY=3,
到上限按钮置灰并在悬浮里说明「同时最多测 3 个,等一个回来再点」。
- 一键测速**保持串行**(老板定的口味:测一个显示一个;且并发会把免费额度瞬间打满 → 上游 429
会把结果刷成一片失败)。整轮在跑时单测按钮禁用;有单测在飞时一键测速按钮禁用(互斥)。
- 抽 probeOne() 共用「一次探针 = 一个模型」的取数与出错处理(整轮 / 单测同一份逻辑)。
- i18n 新增 models.testOneRunning / models.testOneBusy(中英对称 751/751),
speedtestHint 补「每行 ⚡ 单测可同时跑 {n} 个」。后端零改动(该端点本就是 async)。
收尾(每日同步 10-07~10-10 落盘的漂移,一直未入库):
- data/gateway.yaml:space-bunny-free → space-bunny(官方改名并转收费 $0.15/$0.60)、
新增 space-bunny / claude-haiku-5-5 / step-5-preview-free,opencode 30 → 32 个模型。
- tests:test_models_payload_marks_free_models 样本 space-bunny-free → longcat-2.5-preview-free
(否则该用例因配置漂移假红);app/config.py 注释同步。
验证:单测 225 passed / 0 failed、ci_check.sh 六门禁全绿;线上真机实测——同时点 3 行 ⚡
(agnes-3.0-flash / deepseek-v4.1-flash / dots3-note-prev)3 行**同时**转圈、各自独立回
621/1662/951 ms,第 4 行按钮置灰(悬浮=上限提示),一键测速按钮同时置灰;三个回来后
按钮全部恢复、未测的行仍为「—」;一键测速仍串行(全程 1 个转圈)、36/36 行填满
(4 行失败为上游真实原因:1 超时 + 2 DataPolicyError + 1 Endpoint unavailable)。
2026-10-12 13:44:26 +08:00
api-gateway
1728aa03e0
feat(ui): 界面提示白话化 + 清理未引用的死键(版本 2.7.0 → 2.7.1)
...
老板要求「检查所有界面提示,客户不需要知道的不用提示」,
二次确认口径:普通成员看不到内部实现;术语要换成大白话
(「管理员也不懂熔断器是啥」)。
- 熔断术语白话化:熔断器/熔断状态 → 「供应商自动保护」;
CLOSED/HALF_OPEN/OPEN → 「正常 / 恢复中 / 已暂停」;
探测中 → 「检测中」;熔断冷却 → 「暂停时长」;窗口/阈值 → 「统计次数/触发次数」
(指标页、仪表盘、API 文档端点说明)
- 智能体页去内部实现暴露:
· 删掉 cfgWorkspace 整行(原显示内部 agent_id)
· cfgEngine 值由「qwenpaw · https://...」改为文案「由平台提供」
· 引擎就绪/不可达 → 「可用/暂不可用」;引擎连接中断 → 「连接中断」
· slug → 「标识」;“显示名与 slug 可改” → “显示名与标识可改”
· 去掉"在服务器上"等部署细节措辞
- 其它白话化:in-flight → “当前并发”;「开始与网关对话」→「开始对话」;
“参数由网关固定/上游硬约束” → “参数已固定”;
“上游一次只出 1 张/上游没有返回图片” → 去"上游"措辞;
“下载走网关代拉” → “下载更省心”;“协议线” → “格式”
- 保留(老板确认):API 文档页的技术契约(Bearer/400/路径格式名)、
配置页的文件名与变量名(gateway.yaml/.env/token_env)
- 删除 120 个未被引用的死键(gc 段早期表格化编辑设计残留:
f_*/h_*/circuit/tab*/pKey 等,页面只用 YAML 编辑器与 env 两块)
及 subHint(暴露引擎名+内部 URL 的孤儿键)
i18n 869 → 749 键(中英对称)。ci_check.sh 六道门禁全绿。
2026-09-30 15:26:12 +08:00
api-gateway
1af4e67a2b
feat(providers): 按老板要求整个删除「火山方舟 Coding Plan」供应商(版本 2.6.1 → 2.7.0)
...
火山方舟 Coding Plan 已停止(后续不可用),涉及的全部清除:
- data/gateway.yaml:删 providers.volc_engine 整块、pricing 里的
ark-code-latest、头部/协议线/下载白名单相关注释
- .env / data/.env / .env.example:删 VOLC_API_KEY(顺带清 .env 里
遗留的 B_AI_API_KEY 空变量)
- app/main.py:FastAPI description、注释去火山(版本 2.6.1 → 2.7.0)
- app/config.py / settings.py / adapters/{__init__,openai_compat}.py:注释去火山
- frontend/src/views/Settings.vue:对话默认模型下拉删 ark-code-latest
- README.md / docs/frontend-design.md:供应商表、价格表、活体检查等去火山
- design/v1/board.html、design/v3/agents.py:设计稿演示数据换掉火山
- tests/test_gateway.py:改写配置用例的样本改用 agnes/opencode;
保留「已删模型不该残留」的回归护栏
删除(老板确认不保留):
- /root/api-gateway/ 旧副本(非运行目录)
- data/*.bak 7 个历史配置备份
- design/design/v2/ 过时设计稿(含 b.ai/智谱/火山演示数据)
验证:单测 225 passed / 0 failed;ci_check.sh 六道门禁全绿;
已重启上线(pid 1704259),/v1/models 供应商仅 agnes/opencode/dots、无 ark-code。
CHANGELOG 历史条目(真实变更记录)保留。
2026-09-30 15:13:50 +08:00
api-gateway
fe9a9fb786
style(agents): 模型切换挪到对话框左下角 + 去掉所有 QwenPaw 外链与内部提示(版本 2.6.0 → 2.6.1)
...
老板三条要求:①模型切换放对话框左下角,不用去配置页;②去掉所有「打开 QwenPaw」
外链;③客户不需要知道的提示(如「提示词归 QwenPaw 管」)全去掉。
- 切换器移入输入区左下角(原静态模型名位置):紧凑 .model-inline 样式、
可搜索、按供应商分组 + 视觉标;进页面即 loadEngineModels(),展开时兜底刷新
- 配置页模型栏改只读展示 + 一行「在对话框左下角切换」指引
- 删除 qwenpawUrl 计算属性 + 3 处 QwenPaw 外链
- i18n 删 14 个内部/面向 QwenPaw 的键(整键删,不留空串——体检器不允许空文案),
并改写 sub/subagents/engineBadge/engineDownHint/cfgSlugHint/cfgSuffixHint/
sharedNote/listFootHint 为客户视角措辞;中英 869/869 对称
- 纯前端改动(后端端点与测试未变,224 passed)
验收:线上实测左下角下拉显示 wjd → 切 deepseek-v4-pro 生效并落盘 → 已恢复 wjd;
配置页截图确认无任何 QwenPaw 字样;重启网关不会回退模型(已实测)。
2026-09-30 14:51:04 +08:00
api-gateway
0cb369ae80
feat(agents): 模型改为页面可选(方案 A)+ 修引擎模型读不到的静默 bug(版本 2.5.4 → 2.6.0)
...
推翻旧结论:模型不是全局唯一,而是每个 profile 各存一份 active_model
(PUT /api/models/active scope=agent → workspaces/<profile>/agent.json),
改完即时生效不用重启 —— 实测切模型后真对话 turn_usage 的 model_name 确实变了。
真 bug:refresh_engine_live() 读的是 /api/providers/active,那条是 404,
异常被吞 → engine_live['model'] 恒为空串 → 配置页模型栏一直显示「—」。
改用 ACTIVE_MODEL_PATH=/api/models/active + get_active_model()。
新增:
- 适配器 get_active_model / set_active_model(4xx 抛 EngineError 并透传引擎原文)
- GET /agents/engine/models(只列真能用的;实时 current,不走 TTL 缓存)
- PUT /agents/engine/model(带防自指护栏,不得指向 agent/*)
- 前端配置页模型栏:只读 → 可搜索下拉(按供应商分组 + 视觉标)+ 刷新;失败回滚
- i18n 删过期键、加 5 新键(中英 883/883 对称)
- 测试 +5(端点/路径常量回归/body 与头/4xx 抛错/防自指),224 passed
语义:方案 A = 所有智能体共用这一个模型(一个 profile 一个 active_model),
做不到 A 用 flash 且 B 用 pro 并存;那需方案 B(一智能体一 profile)。
2026-09-30 14:40:58 +08:00
api-gateway
42e2a31017
style(agents): 对话与配置两个 Tab 内容间距放宽 + 补缺失的 --gap-xs(版本 2.5.3 → 2.5.4)
...
- style.css 补上缺失的 --gap-xs: 6px(Agents.vue 早已引用但全局未定义,两处 margin 静默失效)
- 对话:.conv 行距/padding 放宽、.chat-main 补 gap、composer .bar 顶距语义化、trace/step 放宽
- 配置:.frow 行距 8→14px、.f-val padding 8px、.f-hint 行高 1.65、.cfg-grid .card-h 补底距、.row-actions 顶距
- 列表/头部:.ag padding 11px、.ag-list gap 4px、.ag-tabs padding 8px
- .ops-row:empty { display:none } 去掉不流式时的幽灵行
- vite.config.ts 补 /agents dev 代理
- 量测验收:frow 行距 28→30、行间 8→14;conv 高 65→68;页面无横向溢出
- ci_check.sh 六道门禁全绿
2026-09-30 14:07:23 +08:00
api-gateway
267dc42db6
style(agents): 修 KPI 与下方块 0 间距 + 左右两栏恢复等高(版本 2.5.2 → 2.5.3)
...
老板圈红框指出 KPI 卡与下面内容之间空得太明显。先量后改,定位到两个叠加根因:
1. KPI 与下方块间距 = 0(kpis.bottom=219 == ag-layout.y=219,两排卡紧贴)
2. .ag-layout 被 min-height: calc(100vh - 300px) 撑到 733px,而左列表卡内容
只有 ~150px → 卡下方 580px 空白
改法:
- .ag-kpis 加 margin-bottom: var(--gap-lg) → KPI 与下方 14px
- 去掉 .ag-layout 的 min-height 撑高;左卡改 align-self:stretch + 内部列表
flex:1 滚动,不再单独设高度上限
验收实测:row-h 78→102 / 14px / kpis 116→219 / 14px / ag-layout 233→966,
左列表卡与右详情均 233→966 (h=733) 完全齐平。
测试 219 全过;ci_check 全绿。
2026-09-30 11:31:58 +08:00
api-gateway
389fd1b6fa
style(agents): 智能体页间距与对齐优化(版本 2.5.1 → 2.5.2)
...
老板反馈「智能体的界面不是很美观,优化下,特别是间距和对齐地方」。
先量后改 —— 用 Playwright 读实际布局矩形定位,修完再量验收。
修复前实测到的 6 个问题:
1. 左右两栏底部差一截(左卡 h=149 vs 右卡 h=492)
2. 卡片套卡片(详情区外层是 .card,内部对话区又各有 .card)
3. KPI 注脚基线不齐(第1张两行、其余一行)
4. 对话区左栏独立色块错位(自带底色+圆角,与主区对不上)
5. 左栏卡标题被挤成两行(「智能 体」)
6. 页面底部大空白(内容未撑满视口)
改法:
- 左卡 align-self:stretch + 内部列表 flex:1 滚动 → 两卡 y=219/bottom=952 齐平
- 详情区去掉外层 .card,身份条+Tab 合成「头部卡」;对话区整体一张卡,
左栏改 border-right 分隔线
- KPI 注脚 margin-top:auto + nowrap + 省略号 → 四张注脚 y 全为 182
- 列表卡标题独占一行;底部加共用引擎的说明引导
- .ag-layout 加 min-height: calc(100vh - 300px) 撑满视口
验收:listCard.bottom == chat.bottom == 952;四张 KPI 注脚 y 一致;无 JS 错误。
测试 219 全过;ci_check 全绿。
2026-09-29 14:28:37 +08:00
api-gateway
96301897c4
feat(agents): 图片附件 + 修两个真 bug(版本 2.5.0 → 2.5.1)
...
老板要求「图片附件功能加上,其他的先不做」。
QwenPaw 侧格式(实测确认后再动手):{"type":"image","image_url":"<data-URI>"
—— 塞纯红 64×64 PNG 的 data URI,模型正确答出「红色」。
改动:
- app/adapters/qwenpaw_engine.py:放行图片内容块,并同时支持两种写法 ——
AgentScope 原生 image 与 OpenAI 风格 image_url(前端发的是后者);
新增 _image_url();缺 url 的块跳过;audio/video/file 仍忽略
- views/Agents.vue:对话输入区加附件按钮(pickImage 复用现有浏览器内压缩,最多 4 张)
+ 待发缩略图可删 + 消息气泡内渲染图片;允许「只发图不带字」
- lib/agents.ts:content 放宽为 string | any[]
- i18n 新增 4 键,中英对称 879/879
修掉两个真 bug(本轮才暴露):
1. image_url 写法被忽略 —— 分支只认 type=="image",而前端发 image_url
→ 图片会静默丢失(功能等于没做)。测试用例抓出来的。
2. /agents/{slug}/chat 500 —— 上轮加计量打标时 log.info(..., rounds) 写在
rounds = ... 之前,UnboundLocalError → 端点 500。已加回归用例
test_agent_chat_endpoint_source_order 固化(这类声明顺序错误跑不出来)。
上线实测:两张图(红+蓝)→ 模型答「红色,蓝色」顺序正确,system_suffix 同时生效,
usage wjd/24112 tokens/缓存 2048;浏览器路径也验证过(上传→缩略图→发送→渲染→无 JS 错误)。
已知引擎侧行为(非网关问题):QwenPaw SSE 只有 text 事件、无独立 reasoning 通道,
模型有时把思考写进正文;且上下文会污染视觉判断(同图脏上下文答「白色」、干净会话答「蓝色」)。
测试 218 → 219 全过。
2026-09-29 14:00:49 +08:00
api-gateway
51c9af59c4
feat(agents): 新增「智能体」功能模块(路线 A)+ 版本 2.5.0
...
老板要求「在 ai 网关里做智能体 agent,新的一个菜单」,一期仅管理员、成熟后下发。
完整设计(27 条决策,4 轮评审)见 docs/agents-dev-plan.md。
架构(路线 A):界面与权限在网关,执行在 QwenPaw(独立 profile ai-gateway)。
网关当门面(鉴权/计量/灰度/审计),引擎提供工具能力(文件/命令/浏览器)。
Step -1 技术验证(实测,全部改变或确认了设计):
- 请求级指定模型【无效】:传 model 被忽略,turn_usage 回 provider_id=opencode、
model_name=deepseek-v4.1-flash;AgentRequest 无 model 字段。模型是 profile 级。
→ 甲案:所有智能体共用 ai-gateway 一个 profile ⇒ 共用同一模型,配置页模型栏只读。
- role:"system"【被接受且生效】:塞入「只用英文回答」后模型真的用英文
→ params.system_suffix 走注入 system 消息。
- SSE 事件谱已录制 → tests/fixtures/sse-tool-flow.sse + docs/qwenpaw-agent-api-sse.md
后端:
- app/agents.py:AgentStore(data/agents.yaml,600/原子写/mtime 热载)+ 严格校验
(slug 三重查重:模型 id/别名/QwenPaw profile;params 4 键白名单;suffix 限长 2000;
max_agents=5 软上限,归档不计入;restore 可恢复)
- app/adapters/qwenpaw_engine.py:OpenAI 形状 ↔ AgentScope Agent API + SSE 翻译器
(text 累积、delta:false 快照忽略、plugin_call→轨迹、call_id 配对 output、turn_usage→计量)
- app/agents_routes.py:GET/POST/PUT/DELETE /agents、/restore、/chat(SSE)、/stop、
/runs、/sessions、/test + 新增 GET /auth/me(灰度通道,features.agents 后端权威);
权限唯一入口 can_use_agent();防自指(引擎模型不得指向 agent/*)
- app/history.py:会话类别扩展支持 agent_<slug>(复用现有存储)
- data/agents.yaml(配置,入库);data/agent_runs.json(运行时,gitignore)
前端:
- views/Agents.vue(列表 + 对话/配置/运行记录)+ lib/agents.ts(SSE 解析)
- 菜单核心组第 5 位 + 图标 bot;router meta.admin 双层守卫;i18n 中英对称 871/871
上线实测:真实对话跑通 —— 让智能体 read_file 读 /etc/hostname,前端正确显示
「执行了 1 步」+ 工具参数、正文、计量(wjd · 47196 tokens · 缓存 13696)、终态;
引擎调用经 wangjinding 过网关(计量闭环)。
测试 209 → 217 全过(新增 8 条,含用真实夹具验证 SSE 翻译器);ci_check 全绿。
2026-09-29 13:22:12 +08:00
api-gateway
bccb72bad5
样式规范统一:版本 2.4.0→2.4.1 + 页面四周等距 + 间距走令牌
...
前端间距(老板反馈「卡片上下左右间距不一样」):
- .page / .page-fill 由 (上下≠左右)改为 var(--pad-page)=四周 16px;
窄屏 12px 14px → 四周 12px
- 新增间距阶梯令牌 --pad-page / --gap-lg / --gap-sm;grid2/grid3/grid-eq/kpis/set-grid/
m-grid 的 gap 统一走 --gap-lg;窄屏 kpis 10px → var(--gap-sm)
- 新增 .page-col > * + * 通用规则:纵向堆叠的卡片自动有间距
版本号纪律(老板 2026-09-29 立):
- VERSION 2.4.0 → 2.4.1,README 新增「版本号与发布纪律」专章(含每次改动都要加版本号、
唯一权威定义处为 main.py 的 VERSION、发布流程、上生产必推 CNB)
其他:
- .gitignore 新增 design/ 规则(设计稿脚本与 PNG 约 11MB,历史上从未入库,保持不入库)
- docs/agents-dev-plan.md 智能体功能开发计划(27 条决策,待开工)
2026-09-29 12:08:04 +08:00
api-gateway
05d6d078cc
Dots AI 纳入每日模型清单同步
...
老板要求:「把 https://dots.ai/platform/docs 加入每日定时任务的同步任务来」。
这条源和另两家不同:dots 文档页是 **SPA**,正文(模型定价表、上下文窗口、「免费体验」说明)
**不在 HTML 里**,而是随前端 JS chunk 发布(实测在 assets/ApiDocsPage-*.js,chunk 名带 hash、
发版就变)→ 抓取走两步发现:文档页 → 主包 index-*.js → ApiDocsPage-*.js → 取该 chunk。
同步三项:
- 模型清单:取自定价表行 {model:"…",input:"$…",output:"$…"}(按出现次数全收,加模型不用改代码);
- 免费状态:取「免费体验」横幅 —— **它是"当前免费试用"**(原文:恢复收费前会提前告知),
横幅在=free:true、横幅没了=按报价收费 → 落盘改 false(试用结束会在每日报告里现形);
- 上下文窗口:正文「…上限为 524,288 Token」。
- **不写定价**:文档报价是 USD/M,网关 pricing 是 ¥/M → 换算要汇率、不能猜,只列在报告里给人看。
健壮性:这条链路最脆(SPA + hash chunk),故**失败不致命** —— main() 单独兜住,失败置空、
跳过 Dots 比对并在报告里写「⚠ 文档抓取失败」,另两家照常;解析不出模型则抛错交给这层兜。
顺带修:_set_free() 幂等 —— 同一条同步说明不重复追加(原先重复应用同一 plan 会把注释滚成
「原注释;说明;说明」;不同日期的说明仍各记一条=变更历史)。
验证:
- 干跑(真实配置):三家「无漂移 ✓」,Dots 段带报价行,plan_is_empty → 「无需落盘」;
实测 --apply 也是「无需落盘:网关已与文档一致 ✓」;
- 造副本模拟漂移(free=false/context=131072):两处漂移都报出 + 两条落盘动作 → --apply 写盘成功、
回读校验过、复跑无漂移(幂等);
- 新增测试「Dots 抓取口径 + 漂移识别 + 落盘幂等」→ 208 → 209 全过。
cron 任务 d83693fc-… 同步更新:名称改为「模型清单每日同步(OpenCode Go + Agnes + Dots → ai 网关)」,
提示词加第三家来源 + 「Dots 抓取失败不致命、照实带出来」,并要求带出 Dots 报价行、
「受保护不删」段与视频默认模型标记。
2026-09-29 10:00:30 +08:00
api-gateway
ef6beead10
接入 Dots AI(小红书)+ 新增 api-key 鉴权样式
...
老板要求:「查看 https://dots.ai/platform/docs 文档,帮我在 ai 网关上配置 dots.ai 的
供应商」(API Key 由老板提供,落 data/.env,不入库、不写进任何提交内容)。
文档要点(通读):base https://note3-prev-api.askdiandian.com/v1;两条线
POST /v1/chat/completions(OpenAI 兼容)与 POST /v1/messages(Anthropic 兼容,需固定头
anthropic-version: 2023-06-01);**认证是自定义头 `api-key: <KEY>`**(既不是 Bearer 也不是
x-api-key);模型 dots3-note-prev 上下文窗口 512K(524,288)、当前免费体验;
官方限流按单个 Key 计 60 次/分钟、1,500,000 Tokens/分钟。
改动:
- 新增鉴权样式 `api-key`(AUTH_STYLES 由 bearer/x-api-key/none 扩为四种):适配器
auth_headers() 按线发 `api-key: <token>`;静态头里残留的同名头一并剥掉再按线补;
解析期校验接受该值、乱写的(api_key 下划线)仍被拒。
- data/gateway.yaml 新增 dots 供应商:两条线各自声明 path/auth,messages 线带
anthropic-version;rate_limit_rps: 1.0(= 官方 60/分钟,按 Key);模型 dots3-note-prev
(context_window 524288、vision: true、free: true、双协议线;官方未给最大输出上限→留空不猜)。
- 顺带补 Anthropic 口径的缓存统计:其 input_tokens 不含缓存部分,缓存命中在
cache_read_input_tokens、写缓存在 cache_creation_input_tokens(三者互斥)。_usage_detail()
改为分口径:OpenAI 的 prompt_tokens 已含缓存;Anthropic 三者相加为输入总量、缓存取
cache_read_input_tokens —— 否则 messages 线的缓存量永远记 0(接 Dots 时实测到)。
上线实测(重启后,两条线各一次瘦请求,均免费):
POST /v1/chat/completions → 200 usage{prompt 17, completion 8}
POST /v1/messages → 200 usage{input 17, output 8}
/v1/models:42 个模型,dots3-note-prev 带 context_window 524288 / 双协议线 / free
指标:calls{dots3-note-prev: ok 1}、tokens{prompt 14, completion 4}
测试:新增「Dots 配置 + api-key 样式(含解析期拒绝非法值)」与「Anthropic 缓存口径」两条
回归;既有 test_load_config_providers 供应商集合更新为四家。206 → 208 全过。
2026-09-29 09:40:16 +08:00
api-gateway
7c3d5fad24
上游会话 id:客户端显式带 x-opencode-session 时优先用它
...
老板要求:「x-opencode-session 如果 api 请求有带的话优先用请求上的,没有再用 apikey 的那个方式」。
取值优先级(_upstream_session):
① 入站 x-opencode-session 头(本轮新增) → sha256("s:{账号}:{客户端值}")[:32]
② conversation_id → sha256("{账号}:{conversation_id}")[:32]
③ 用这个 API Key 自己(一个 Key 一个稳定会话)→ sha256("k:{去前缀Key}")[:32]
④ 登录页会话(无 Key) → sha256("u:{账号}")[:32]
- 仍按账号哈希:保留第二十六轮的账号隔离(两个账号写同一个值也不会被绑到同一上游会话标识)
- 入站值过 conversation_id 同款入口校验(仅 ASCII、≤128 字符),非法值静默丢弃并回退
(可选头不该把请求打回 400);三个调用点(直传 / managed 非流式 / managed 流式)全接
- 新增 _inbound_session(request) 与 SESSION_HEADER 常量
实测(生产):同一会话头连打两次同一段 4k 前缀 → cached 0 → 1920(稳定复用);不带头回退
Key 派生也命中。同时更正一条旧认知:上游缓存**并非严格按 session 隔离**(换会话头同前缀
照样命中 1920),会话 id 是「纳入缓存」的前提而非隔离边界 —— README 与代码注释已同步。
测试 204 → 206 全过(新增取值优先级+账号隔离、入站头端到端两条);ci_check 全绿。
2026-09-28 19:35:59 +08:00
api-gateway
9a1fa219f3
修「token 统计恒 0」+ token 细分(缓存命中 / 推理)
...
老板 2026-09-28:「ai 网关 token 数统计有问题,一直都是 0;token 是不是可以细分,
命中缓存之类的;能细分就细分」。
【真因】/v1/chat/completions 的 **managed 流式路径**(改写分支,QwenPaw 实际走的就是它)
只把累计的 usage **转发给客户端**,从没写进指标。上游每轮都发 usage(实测 chunk 里带
prompt_tokens 与 prompt_tokens_details.cached_tokens)。
现场取证:网关记了 **663 次调用、tokens 恒为 {prompt: 0, completion: 0}**。
对照:直传路径(messages/responses)与非流式路径本来就有记账 —— 只漏了「流式 + 改写」。
【修复】该路径补 _record_usage_metrics(stream_usage)。
【顺带做 token 细分】(上游 usage 本来就有,此前只记总数):
- cached = prompt_tokens_details.cached_tokens(命中缓存的输入量,已含在 prompt 内)
- reasoning = completion_tokens_details.reasoning_tokens(输出里的思考量,已含在 completion 内)
- Metrics.record_tokens(prompt, completion, cached=0, reasoning=0):全局与按账号两条桶都细分
- 四处记录点全接上;直传流式的扫描器补采 reasoning_tokens
- 新增辅助 _usage_detail()/_record_usage_metrics(),一处判据四路复用
- Prometheus 新增 api_gateway_tokens_cached_total / api_gateway_tokens_reasoning_total(含 HELP/TYPE)
- 前端「指标」页新增两张卡:缓存命中 Token(占输入 x%)、推理 Token(占输出 x%);中英文案对称
【上线实测】
- 瘦请求 → tokens {prompt: 62, completion: 2, cached: 0, reasoning: 1}
- 4k token 同前缀请求两次:第 1 次 cached=0;第 2 次 cached=1920 / prompt=4076
→ 网关累计 cached=1920(输入命中率 22.9%)
- Prometheus 导出同值
【测试】新增两条回归(managed 流式必须记账含细分、细分累加互不干扰),202 → 204 全过;
ci_check.sh 全绿;i18n 中英 759/759 对称。
2026-09-28 18:42:26 +08:00
api-gateway
968fc9d76d
chore(sync): 每日同步 09-27/09-28 落盘的配置改动入库
...
由 cron 的 scripts/sync_models.py --apply 自动落盘、此前未入库(按「线上配置 = 仓库配置」
的硬性规则补齐):
- 删除 agnes/agnes-video-v2.0(官方文档已不收录)
- 新增 opencode/longcat-2.5-preview-free(文档新增,标 Free)
- 更新 opencode/qwen3.8-max 的 context_window 1000000 → 262144(models.dev 保守下限)
线上经 hot_reload 早已生效,本次只是把仓库补齐。
2026-09-28 18:42:25 +08:00
api-gateway
0ae03f01ed
请求体上限 2MB → 20MB(带图对话 413)
...
起因:会话 1790234457104-wwgr3uq 报
`413 请求体超过上限 2000000 字节`。dump 显示 agent_state 达 2,688,007 字节:
生成的 PNG 以 base64 内联进对话历史(单张 100KB~750KB),两条 assistant 消息
就占 2.5MB,把网关自有的 2MB 限制顶爆。
- server.max_body_size: 2_000_000 → 20_000_000(config.py 默认值 +
gateway.yaml + _opt_int 兜底三处同步)。
- nginx 侧无需改动:全局 nginx.conf 已是 client_max_body_size 50m,
两个站点 conf 未单独设置 → 实际生效值 50m > 20m。
- 保留限制(只调大数字,不放开),内部网关 + nginx 两层仍在把关。
- 新增回归 test_server_max_body_size_is_20mb 钉住三处一致
(配置默认值 / YAML 现值 / 兜底解析)→ 202 passed / 0 failed。
上线实测(pid 3525434):3MB 与 19MB 请求体均过体积检查到鉴权层(401),
21MB 精确 413 且报「请求体超过上限 20000000 字节」。
2026-09-24 16:10:07 +08:00
api-gateway
08a4aeed7a
第三十三轮:模型接口加入上下文参数(context_window / max_output_tokens)
...
老板 2026-09-24 要求:「文档里有写明支持上下文多少吗?有的话就修改 ai 网关,
接口加入上下文参数」+「Agnes 先加上,opencode go 看下 v2/docs/console/go/ 文档,
没有的话就看接口里有没有,这个也要加入同步脚本里」。
数据来源(逐一核查过):
- Agnes:官方**每个文本模型详情页**的「限制与价格」表写明 `上下文窗口` / `最大输出`
(定价页没有这两项)。3.0-flash = 512K/65,536、2.5-flash = 512K/65.5K、
2.5-pro 与 2.5-pro-beta = 1M/65,536。图片/视频页无此表 → 留 0。
- OpenCode:官方文档(Zen 页、v2/docs/console/go/)**都不写**上下文;`/zen/go/v1/models`
实测只回 id/object/created/owned_by(单模型详情 404、include 参数被忽略)。
唯一机器可读来源是 **models.dev**(OpenCode 团队维护),其 `opencode-go` /
`opencode` 两供应商每条模型都带 `limit.context` / `limit.output`。
口径(老板拍板):只用于**更新网关已有模型**,不拿它当增删依据(models.dev 收录
比官方 Go 文档多,含 omen-alpha 等未收录的);跨源不一致时取**保守下限**
(minimax-m3 Go 1M / Zen 512K → 512,000;qwen3.6-plus → 262,144)。
改动:
- app/config.py:ModelInfo 新增 context_window / max_output_tokens(默认 0 = 未标注),
解析 + to_dict 序列化一并带上。
- app/main.py:GET /models 与 /v1/models 输出这两个字段;别名继承目标模型的值。
- app/settings.py:「供应商与模型」面板往返不丢字段(默认 0 → 未配置的模型不会被
补出 `context_window: 0` 污染 YAML);提交了就以此为准,没提交则沿用文件原文。
- data/gateway.yaml:37 个模型落盘(33 OpenCode + 4 Agnes 文本),文本级插入保住
全部手写注释(注释行 162 → 236)。
- scripts/sync_models.py:新增 fetch_models_dev()(拉失败返回 None → 只跳过上下文
同步、不当成漂移)、fetch_agnes_context()(逐模型页解析「限制与价格」表)、
diff() 产出 ctx_drift、build_plan/apply_plan(_set_context 块内改值,保留行尾注释、
幂等)、verify() 回读校验、render_plan/render 显示漂移;_DRIFT_KEYS 与
plan_is_empty 认 ctx_set。
- tests:新增 3 个(models.dev 保守下限合并 + 抓失败返回 None;_set_context 幂等与
保注释;/models 带出字段且未标注不瞎补)→ **201 passed / 0 failed**;ci_check.sh 全绿。
上线:supervisorctl restart api-gateway:api-gateway_00(pid 3492804)后实测
/v1/models 45 个模型、38 个带 context_window(含 wjd 别名继承 = 1,000,000/384,000),
图片模型正确为 0。
2026-09-24 15:00:26 +08:00
api-gateway
07bc504d68
docs: CHANGELOG 记「缓存命中率恒 0」的排查与修复
...
补上修复说明与技术细节:真因(流式 usage 丢 prompt_tokens_details)、
三层证伪过程(QwenPaw 组装 / 出站 payload / 上游字段)、修法与回归、
上线验证数据,以及排查方法论(流式与非流式是两条路径;
入站 → 出站 → 上游 → 网关回程的排查顺序)。
2026-09-24 14:40:04 +08:00
api-gateway
fddaa91de3
fix(usage): 流式 usage 透传 prompt_tokens_details —— 修 QwenPaw 缓存命中率恒 0
...
老板报:QwenPaw 上用 ai 网关(wangjinding 供应商)调用 v4.1,
网页显示的缓存命中率一直是 0。
排查(实测,非推断):
- QwenPaw 侧 messages/tools 完全正常:6 份连续抓包逐条比对,前面所有消息
逐字节一致、仅末尾追加 2 条(msgs 362→372 单调递增),tools 26 个逐字节相同。
- 网关出站 payload 正常:model/stream/stream_options 全同,session 稳定。
- 用网关真实出站 payload 原样直打上游:cached_tokens=126464 / 126848(99% 命中)
⇒ 上游缓存一直好好的。
- 真因:**网关流式响应重建 usage 时只挑 prompt_tokens/completion_tokens/
total_tokens 三个字段累加,把 `prompt_tokens_details.cached_tokens` 丢了**,
末尾又用这份残缺 usage 覆盖上游原始值发给客户端 —— QwenPaw 从未收到缓存字段,
只能记 0。(同一 bug 让网关自己的控制台也看不到缓存命中。)
修复:
- 新增 `_merge_usage()`:整数累加、非整数(如 prompt_tokens_details 这类整份
快照)覆盖,实现**全字段透传**;流式累加改用它。
- `_UsageScanner`(直传线记账)顺带收集 cached_tokens,counts() 多返回该键
(消费方按名取值,不影响既有逻辑),网关控制台口径同步修正。
- 非流式路径本就原样透传 `result["usage"]`,无需改动。
回归:test_merge_usage_keeps_prompt_tokens_details、
test_usage_scanner_collects_cached_tokens。测试 198 passed / 0 failed。
上线验证:流式请求第 2 次 usage 已带 `prompt_tokens_details.cached_tokens=7168`。
2026-09-24 14:39:09 +08:00