第二十六轮:会话 id 入站校验 + 按账号隔离 + 422 处理器异常对象清洗
1) conversation_id 零校验 → 中文触发 httpx header ascii 编码异常,被误判成
"上游失败"重试 3 次后回 502。现在入站校验(仅 ASCII / ≤128 字符 / 剥空白、
空白串视作未传),非法值直接 422 且一次都不发上游。
2) 网关不再原样透传 conversation_id,改为派生 sha256("{账号}:{conversation_id}")[:32]
作为 x-opencode-session(同账号同对话恒定、账号间隔离、不暴露账号名与业务命名)。
3) 顺修通用隐患:pydantic v2 把校验器抛出的异常对象放进 errors()[].ctx,
而 422 处理器直接把它塞进响应体 → 序列化 TypeError → 500「网关内部错误」。
新增 _jsonable_errors() 清洗,并剥掉 "Value error, " 前缀。
另:实测更正此前结论 —— cached_tokens 与 x-opencode-session 无稳定关系
(同一 session 连打 6 次 [0,0,0,0,896,896];缓存落定后换全新 session 亦可命中 936)。
上游是机会性内容前缀缓存;该头只是会话标识。README/CHANGELOG 已更正。
单测 171 passed / 0 failed(新增 3);隔离实例 8899 真机验证通过;未上线待批准。
This commit is contained in:
1 parent
6bdf2ef357
commit
1e1130a8ad
5 files changed
+279
-13
No files matched your search
@@ -50,12 +50,26 @@ api-gateway/
|
||||
> OpenCode Go 是每月订阅的编程模型入口(不在订阅内按 token 额外计费)。官方硬性要求每个
|
||||
> `/chat/completions` 带 **`x-opencode-session`**(缺失直接 400),并建议专属 `User-Agent`。
|
||||
> 网关通过供应商 `requires_session_header: true` 动态注入该头,且**该头不能放静态
|
||||
> `extra_headers`**(适配器缓存会把它冻结)。会话 id 的取值逻辑(方案 A):
|
||||
> 前端对话页为「同一段对话」维持一个稳定 `conversation_id` 并随请求带来,网关把它
|
||||
> 原样透传为 `x-opencode-session`——同一段对话的多次请求共享同一 session,可命中
|
||||
> 上游提示词缓存;请求未带时回退为每次请求一个随机 UUID(仍能过强校验,只是没有
|
||||
> 缓存收益)。`conversation_id` 是网关内部字段(在 `ChatRequest` 显式声明),
|
||||
> **不会透传给上游**。
|
||||
> `extra_headers`**(适配器缓存会把它冻结)。会话 id 的取值逻辑(方案 A + 第二十六轮加固):
|
||||
> 前端对话页为「同一段对话」维持一个稳定 `conversation_id` 并随请求带来;**纯 API 调用**则在请求体
|
||||
> 里带同名字段(用 OpenAI SDK 时放 `extra_body={"conversation_id": ...}`)。网关**不原样透传**,
|
||||
> 而是派生成 `sha256("{账号}:{conversation_id}")[:32]` 再作为 `x-opencode-session` 发往上游:
|
||||
> 同一账号的同一段对话**恒定不变**(给上游一个语义正确的「对话级」标识,而不是每请求一个随机值),
|
||||
> 不同账号之间**天然隔离**(两人碰巧用了同一个字符串,也不会共用同一个上游会话标识);
|
||||
> 请求未带(或传空白串)时回退为每次请求一个随机 UUID(仍能过强校验)。
|
||||
>
|
||||
> - **关于提示词缓存(实测更正,2026-09-18):不要指望用稳定会话 id 来吃缓存。**
|
||||
> 多轮实测(真实 key、长 prompt 约 940 token)显示 `cached_tokens` 与该头**没有稳定关系**:
|
||||
> 同一 session 连打 6 次得到 `[0,0,0,0,896,896]`(前 4 次未命中,之后才命中);
|
||||
> 等缓存落定后**换全新 session** 打同一 prompt,也是「命中 936」与「不命中 0」混合出现。
|
||||
> 上游确实有内容前缀缓存(命中时能看到大比例 `cached_tokens`),但它是**机会性的**、与 session
|
||||
> 值无关,推测受上游多实例/缓存分片/写入延迟影响。该头的真实作用是上游的**会话标识**
|
||||
> (缺失直接 400),网关保证的只是「同一段对话 → 稳定标识」这一语义。
|
||||
> - `conversation_id` 是网关内部字段(在 `ChatRequest` 显式声明),**不会透传给上游**。
|
||||
> - **取值限制**:仅 ASCII、两端空白自动剥掉、最长 128 字符。它最终要进 **HTTP header**——
|
||||
> 传中文时 httpx 组 header 会抛 `UnicodeEncodeError`,若不在入站拦住就会被误判成"上游失败"
|
||||
> 并重试 3 次、最终回 502(第二十六轮已修:这类非法值入站即 **422**,且**一次都不发上游**)。
|
||||
> - 建议用 `uuid4().hex`,或用 `用户:对话` 这类你自己可控且稳定的值。
|
||||
>
|
||||
> 收录的 17 个文本模型(OpenAI 兼容 `/chat/completions` 线,真实 key 实测 200):
|
||||
> `glm-5.3-flash`、`glm-5.3`、`glm-5.2`、`glm-5.1`、`kimi-k3`、`kimi-k2.7-code`、`kimi-k2.6`、
|
||||
|
||||
Reference in new issue
Block a user