feat(logs): 调用日志列表加「缓存命中」列(量 + 命中率)

数据本来就有(tok_cached/tok_prompt),只是列表没显示:命中率此前只在详情弹窗里。
- 列表新增列:命中量(k/M 缩写)+ 命中率%(按档位配色)
- 实测 107 条带 token 记录:命中 62 条,中位 83.9%,最高 99.7%
- 版本 2.9.8 → 2.9.9
This commit is contained in:
jidekin committed 2026-10-23 15:37:02 +08:00
1 parent 5c75d62a3e
commit 3ecb8b8b97
5 files changed
+53 -1

No files matched your search

+18
View File
@@ -1,5 +1,23 @@
# CHANGELOG
## 2026-10-23 · 调用日志列表加「缓存命中」列(2.9.8 → 2.9.9)
老板:「调用日志的命中缓存率为什么一直都是 0」。
**先给结论:数据没坏,是列表上看不到这一列。** 缓存命中率一直只在**详情弹窗**里显示,
列表没有;而 admin 自己那几条测试请求都是 38~41 token 的短提示词,上游不会缓存 →
所以看起来"一直是 0"。真实业务的调用是命中的。
实测(同一时刻库里的 107 条带 token 记录):
- **命中 62 条 / 未命中 45 条**
- 命中组:最低 11.1%、**中位 83.9%**、最高 99.7%
- 未命中组:输入 38 ~ 60192 token(短提示词不触发上游缓存;长提示词的前缀不一致也不命中)
改动:
- 调用日志列表新增「缓存命中」列(在耗时之后):显示 `命中量 / 命中率%`,
量按 k/M 缩写,命中率按档位配色(≥50% 绿、>0 黄、0 淡显)。
- 数据直接取列表接口已返回的 `tok_cached` / `tok_prompt`,无额外查询。
## 2026-10-23 · 视频轮询时间线落库(2.9.7 → 2.9.8)
老板:「视频任务的轮询时间线也要落库」。
+1 -1
View File
@@ -355,7 +355,7 @@ _docs_on = config.server.docs_enabled # 安全默认关(report: /docs、/ope
# 2026-09-30: 2.6.1 → 2.7.0(按老板要求整个删除「火山方舟 Coding Plan」供应商:配置/模型/代码/文档/前端下拉/环境变量全清)。
# 2026-09-30: 2.7.0 → 2.7.1(界面提示白话化:熔断器→供应商自动保护、引擎→运行环境、slug→标识;删 120 个未引用死键)。
# ★ 版本号纪律:每次改动都要往上加,小改动加小版本号、大改动加大版本号(README 有专章)。
VERSION = "2.9.8"
VERSION = "2.9.9"
app = FastAPI(
title="API Gateway",
+1
View File
@@ -244,6 +244,7 @@ export default {
colFailRate: 'Fail rate',
colModels: 'Models',
colContent: 'Content',
colCache: 'Cache hit',
},
users: {
+1
View File
@@ -244,6 +244,7 @@ export default {
colFailRate: '失败率',
colModels: '模型数',
colContent: '内容',
colCache: '缓存命中',
},
users: {
+32
View File
@@ -62,6 +62,16 @@
<el-table-column :label="t('calllogs.colLatency')" width="92">
<template #default="{ row }">{{ row.latency_ms != null ? row.latency_ms + 'ms' : '—' }}</template>
</el-table-column>
<!-- 2026-10-23:缓存命中量与命中率(cached ÷ prompt) -->
<el-table-column :label="t('calllogs.colCache')" width="118">
<template #default="{ row }">
<span v-if="row.tok_prompt" :class="hitCls(row)">
{{ fmtTok(row.tok_cached) }}
<i class="hit-pct">{{ hitRate(row) }}%</i>
</span>
<span v-else class="muted-t">—</span>
</template>
</el-table-column>
<el-table-column :label="t('calllogs.colStatus')" width="84">
<template #default="{ row }">
<span :class="row.ok ? 'ok-t' : 'err-t'">{{ row.status ?? '—' }}</span>
@@ -272,6 +282,24 @@ async function exportCsv() {
setTimeout(() => URL.revokeObjectURL(href), 10_000)
}
/** 缓存命中量:≥1000 用 k 缩写,便于表格窄列显示。 */
function fmtTok(n: any): string {
const v = Number(n) || 0
if (v >= 1_000_000) return (v / 1_000_000).toFixed(1) + 'M'
if (v >= 1000) return (v / 1000).toFixed(1) + 'k'
return String(v)
}
/** 命中率 = tok_cached ÷ tok_prompt(0 保护)。 */
function hitRate(row: any): number {
const p = Number(row.tok_prompt) || 0
const c = Number(row.tok_cached) || 0
return p > 0 ? Math.round((c / p) * 1000) / 10 : 0
}
function hitCls(row: any): string {
const r = hitRate(row)
return r >= 50 ? 'hit-good' : r > 0 ? 'hit-mid' : 'hit-none'
}
function rowCls({ row }: { row: any }) {
return row.ok ? '' : 'row-fail'
}
@@ -301,6 +329,10 @@ onMounted(loadPage)
.pager-bar { display: flex; justify-content: flex-end; padding-top: 10px; }
.sub { font-size: 11.5px; color: var(--muted-2); }
.muted-t { color: var(--muted-2); }
.hit-pct { font-style: normal; opacity: .75; font-size: 11px; margin-left: 3px; }
.hit-good { color: var(--ok); font-variant-numeric: tabular-nums; }
.hit-mid { color: #a97c00; font-variant-numeric: tabular-nums; }
.hit-none { color: var(--muted-2); font-variant-numeric: tabular-nums; }
.kv { display: grid; grid-template-columns: repeat(3, minmax(0, 1fr)); gap: 6px 14px; font-size: 12.5px; }
.kv span { display: flex; gap: 6px; align-items: baseline; overflow: hidden; }
.kv i { font-style: normal; color: var(--muted-2); min-width: 52px; }