feat(logs): 调用日志列表加「缓存命中」列(量 + 命中率)
数据本来就有(tok_cached/tok_prompt),只是列表没显示:命中率此前只在详情弹窗里。 - 列表新增列:命中量(k/M 缩写)+ 命中率%(按档位配色) - 实测 107 条带 token 记录:命中 62 条,中位 83.9%,最高 99.7% - 版本 2.9.8 → 2.9.9
This commit is contained in:
1 parent
1dc793af8e
commit
39ecf5226a
5 files changed
+53
-1
No files matched your search
@@ -1,5 +1,23 @@
|
||||
# CHANGELOG
|
||||
|
||||
## 2026-10-23 · 调用日志列表加「缓存命中」列(2.9.8 → 2.9.9)
|
||||
|
||||
老板:「调用日志的命中缓存率为什么一直都是 0」。
|
||||
|
||||
**先给结论:数据没坏,是列表上看不到这一列。** 缓存命中率一直只在**详情弹窗**里显示,
|
||||
列表没有;而 admin 自己那几条测试请求都是 38~41 token 的短提示词,上游不会缓存 →
|
||||
所以看起来"一直是 0"。真实业务的调用是命中的。
|
||||
|
||||
实测(同一时刻库里的 107 条带 token 记录):
|
||||
- **命中 62 条 / 未命中 45 条**
|
||||
- 命中组:最低 11.1%、**中位 83.9%**、最高 99.7%
|
||||
- 未命中组:输入 38 ~ 60192 token(短提示词不触发上游缓存;长提示词的前缀不一致也不命中)
|
||||
|
||||
改动:
|
||||
- 调用日志列表新增「缓存命中」列(在耗时之后):显示 `命中量 / 命中率%`,
|
||||
量按 k/M 缩写,命中率按档位配色(≥50% 绿、>0 黄、0 淡显)。
|
||||
- 数据直接取列表接口已返回的 `tok_cached` / `tok_prompt`,无额外查询。
|
||||
|
||||
## 2026-10-23 · 视频轮询时间线落库(2.9.7 → 2.9.8)
|
||||
|
||||
老板:「视频任务的轮询时间线也要落库」。
|
||||
|
||||
Reference in new issue
Block a user