第二十六轮:会话 id 入站校验 + 按账号隔离 + 422 处理器异常对象清洗
1) conversation_id 零校验 → 中文触发 httpx header ascii 编码异常,被误判成
"上游失败"重试 3 次后回 502。现在入站校验(仅 ASCII / ≤128 字符 / 剥空白、
空白串视作未传),非法值直接 422 且一次都不发上游。
2) 网关不再原样透传 conversation_id,改为派生 sha256("{账号}:{conversation_id}")[:32]
作为 x-opencode-session(同账号同对话恒定、账号间隔离、不暴露账号名与业务命名)。
3) 顺修通用隐患:pydantic v2 把校验器抛出的异常对象放进 errors()[].ctx,
而 422 处理器直接把它塞进响应体 → 序列化 TypeError → 500「网关内部错误」。
新增 _jsonable_errors() 清洗,并剥掉 "Value error, " 前缀。
另:实测更正此前结论 —— cached_tokens 与 x-opencode-session 无稳定关系
(同一 session 连打 6 次 [0,0,0,0,896,896];缓存落定后换全新 session 亦可命中 936)。
上游是机会性内容前缀缓存;该头只是会话标识。README/CHANGELOG 已更正。
单测 171 passed / 0 failed(新增 3);隔离实例 8899 真机验证通过;未上线待批准。
This commit is contained in:
1 parent
562a72074b
commit
1b54802ad3
5 files changed
+279
-13
No files matched your search
@@ -4,6 +4,62 @@
|
||||
|
||||
---
|
||||
|
||||
## 2026-09-18 · 第二十六轮:会话 id 入站校验 + 按账号隔离(老板:「修掉」)
|
||||
|
||||
**背景**:老板问「用网关 API 直接调 OpenCode Go 时 `x-opencode-session` 是什么逻辑、同一会话怎么设计」,
|
||||
顺带实测出两个问题。查证与实测过程见 `memory/2026-09-18/`。
|
||||
|
||||
### 实测事实(真实 key)
|
||||
- 上游**硬性要求**该头:缺失或空字符串 → `400 MissingSessionID`;**格式不限**(UUID / `user1:conv-42` /
|
||||
300 字符 / 4000 字符都收)。
|
||||
- **⚠️ 结论更正(同一轮内自我推翻,务必记住)**:最初用「同一长 prompt 打 4 次」得到
|
||||
"缓存以该头为作用域"(同 session 第二次全量命中 897、换 session 归零、同 session 末尾追加前缀命中 832)。
|
||||
随后补做**时间对照实验**才发现那是**时间巧合**:同一 session 连打 6 次得到 `[0,0,0,0,896,896]`
|
||||
(前 4 次全不命中);等 25 秒让缓存落定后**换全新 session** 打同一 prompt,出现「命中 936」与
|
||||
「不命中 0」**混合**。
|
||||
→ **真实结论:`cached_tokens` 与该头没有稳定关系**。上游是机会性的**内容前缀缓存**(命中时比例很高,
|
||||
但不可依赖),推测受上游多实例/缓存分片/写入延迟影响。该头的真实作用是上游的**会话标识**(必带,缺失 400)。
|
||||
→ **方法论教训:判断"缓存是否绑定某个变量",必须做时间对照**(先让缓存落定,再只变那一个变量),
|
||||
否则会把"缓存写入延迟"误读成"变量生效"。一次顺序观察不足以定性。
|
||||
|
||||
### 修的 Bug 1:非法 `conversation_id` 被误报成「上游故障」
|
||||
`conversation_id` 此前**零校验**。传中文(或任何非 ASCII)时:httpx 组 header 抛
|
||||
`'ascii' codec can't encode characters` → 被当成上游失败 → **重试 3 次**(必然全失败)→
|
||||
最终回 **502「路由 x 全部模型调用失败」** + 记熔断。客户端传错值,却被伪装成上游挂了。
|
||||
|
||||
- `app/models.py`:新增 `CONVERSATION_ID_MAX = 128` + `ChatRequest._validate_conversation_id`
|
||||
(剥两端空白;空白串按"未传"处理回退随机 UUID;非 ASCII / 超长 → 校验失败)。
|
||||
- **入站即 422,且一次都不发上游**(回归用例断言适配器零调用)。
|
||||
- *连带修掉一个通用隐患*:pydantic v2 会把校验器抛出的**异常对象**放进 `errors()[i]["ctx"]["error"]`,
|
||||
而 422 处理器原先直接把 `exc.errors()` 塞进响应体 → 序列化抛 `TypeError` → 中间件兜底成
|
||||
**500「网关内部错误: TypeError」**(任何自定义校验器都会踩)。现新增 `_jsonable_errors()`
|
||||
清洗 ctx(异常对象转字符串)、收敛 input,并在输出前 `json.dumps` 自检降级;顺带剥掉 pydantic 的
|
||||
`Value error, ` 前缀(字段名已在 `loc` 里,避免「conversation_id: Value error, conversation_id …」的噪音)。
|
||||
|
||||
### 修的 Bug 2:会话 id 原样透传 → 跨账号共用同一个上游会话标识
|
||||
两个账号只要用了同一字符串(`test`、`1`、照文档抄的示例),就会把**同一个会话标识**发给上游。
|
||||
没有证据表明这会让对方看到你的内容(缓存/上下文都不会把别人的回答返给你),但语义上是错的:
|
||||
上游以为这是"同一个会话",账号之间在归属/记账/可能的限流口径上互相串味。
|
||||
|
||||
- `app/main.py`:新增 `_upstream_session(conversation_id, account)`,派生
|
||||
`sha256(f"{account}:{conversation_id}")[:32]`;非流式(`_chat_fallback`)与流式(`_stream_response`)
|
||||
两个调用点统一改用它。同一账号同一对话仍是恒定标识(语义正确),账号间天然隔离,
|
||||
且上游只看到一个 32 位十六进制串(不暴露账号名与业务命名)。
|
||||
*注意:不要把它当成缓存优化——缓存与该标识无关(见上文结论更正)。*
|
||||
|
||||
### 验证
|
||||
- 单测 **171 passed / 0 failed**(原 168 + 新增 3:模型层归一化与拒绝、按账号隔离与稳定性、
|
||||
非 ASCII/超长在入站被拦且**零上游调用**)。
|
||||
- 隔离实例 8899(项目副本 `/tmp/gw26-verify`,pid 1238326;生产 8808 未受影响)真机实测:
|
||||
- 中文 `conversation_id` → **422**(此前 502 + 白重试 3 次)、超长 500 字符 → **422**、空白串 → **200**(视作未传);
|
||||
- 两个账号(admin / liunuanshu)用**同一个** `conversation_id` 各调 `kimi-k3` → **都 200**(派生后的值被上游正常接受);
|
||||
- 缓存归属实验(直连上游、真实 key,prompt≈940 token):见上文**结论更正**的三组数据。
|
||||
- 文档:README 补「取值限制 / 派生规则 / OpenAI SDK 用 extra_body」+ 缓存结论更正;本 CHANGELOG 记一轮。
|
||||
- **上线状态**:含 Python 代码改动 → 需 `supervisorctl restart api-gateway:api-gateway_00` 才生效(会踢网页会话),
|
||||
**待老板批准**;本轮无前端改动,不需要 `npm run build`。
|
||||
|
||||
---
|
||||
|
||||
## 2026-09-18 · deepseek-v4.1-flash 视觉能力实测确认(纯配置,hot_reload 生效)
|
||||
|
||||
**背景**:老板提示 `deepseek-v4.1-flash`(OpenCode Go)是多模态。上游 `/models` 不提供能力字段(返回只有
|
||||
@@ -80,6 +136,7 @@
|
||||
## 2026-09-18 · OpenCode Go 会话 id 升级为「对话级稳定」(方案 A)
|
||||
|
||||
**背景**:上一轮 `x-opencode-session` 是每请求随机 UUID —— 能过上游 400 强校验,但每次 id 都变,吃不到文档所述的提示词缓存。本轮按老板要求实现**稳定会话**:同一段对话共用同一个 session id。
|
||||
(→ **该动因后来被实测推翻**:第二十六轮的时间对照实验证明缓存与该头无关,稳定会话本身不带来缓存收益;保留本节点只为记录当时的判断依据。)
|
||||
|
||||
### 改动
|
||||
- **`app/models.py`**:`ChatRequest` 显式声明 `conversation_id: str | None`(网关内部字段,不进 `model_extra` → **不透传上游**)。
|
||||
|
||||
Reference in new issue
Block a user