feat(models): 单独测速改并发(每行独立、上限 3)+ 收尾每日同步漂移(2.7.1 → 2.7.2)
老板:「单独测速能异步测速不,不用等到上一个回来后才能测速其他的」 - 单独测速(每行常驻 ⚡)改为**并发**:状态从单个 latCurrentId 换成 latRunning 集合, 每行自己的加载图标与按钮状态、互不阻塞;并发上限 SPEEDTEST_MAX_CONCURRENCY=3, 到上限按钮置灰并在悬浮里说明「同时最多测 3 个,等一个回来再点」。 - 一键测速**保持串行**(老板定的口味:测一个显示一个;且并发会把免费额度瞬间打满 → 上游 429 会把结果刷成一片失败)。整轮在跑时单测按钮禁用;有单测在飞时一键测速按钮禁用(互斥)。 - 抽 probeOne() 共用「一次探针 = 一个模型」的取数与出错处理(整轮 / 单测同一份逻辑)。 - i18n 新增 models.testOneRunning / models.testOneBusy(中英对称 751/751), speedtestHint 补「每行 ⚡ 单测可同时跑 {n} 个」。后端零改动(该端点本就是 async)。 收尾(每日同步 10-07~10-10 落盘的漂移,一直未入库): - data/gateway.yaml:space-bunny-free → space-bunny(官方改名并转收费 $0.15/$0.60)、 新增 space-bunny / claude-haiku-5-5 / step-5-preview-free,opencode 30 → 32 个模型。 - tests:test_models_payload_marks_free_models 样本 space-bunny-free → longcat-2.5-preview-free (否则该用例因配置漂移假红);app/config.py 注释同步。 验证:单测 225 passed / 0 failed、ci_check.sh 六门禁全绿;线上真机实测——同时点 3 行 ⚡ (agnes-3.0-flash / deepseek-v4.1-flash / dots3-note-prev)3 行**同时**转圈、各自独立回 621/1662/951 ms,第 4 行按钮置灰(悬浮=上限提示),一键测速按钮同时置灰;三个回来后 按钮全部恢复、未测的行仍为「—」;一键测速仍串行(全程 1 个转圈)、36/36 行填满 (4 行失败为上游真实原因:1 超时 + 2 DataPolicyError + 1 Endpoint unavailable)。
This commit is contained in:
1 parent
68868d45b5
commit
fce46840ad
9 files changed
+129
-51
No files matched your search
@@ -513,11 +513,13 @@ export default {
|
||||
testing: 'Probing latency of every text model…',
|
||||
testingShort: 'Testing…',
|
||||
testOne: 'Test this model',
|
||||
testOneRunning: 'Testing this model…',
|
||||
testOneBusy: 'Up to {n} at a time — wait for one to finish',
|
||||
latency: 'Latency',
|
||||
failed: 'Failed',
|
||||
speedtestDone: 'Speed test done, {n} models',
|
||||
speedtestFail: 'Speed test failed',
|
||||
speedtestHint: 'Latency probed per format',
|
||||
speedtestHint: 'Latency probed per format; per-row ⚡ tests run {n} at a time',
|
||||
textModelCount: '{n} text models',
|
||||
// Round 27: the supported-formats column (three protocol lines). Line names are the
|
||||
// vendors' own endpoint names, so they are not translated.
|
||||
|
||||
@@ -518,11 +518,13 @@ export default {
|
||||
testing: '正在测试全部文本模型延迟…',
|
||||
testingShort: '测速中…',
|
||||
testOne: '单独测速',
|
||||
testOneRunning: '正在测这一个…',
|
||||
testOneBusy: '同时最多测 {n} 个,等一个回来再点',
|
||||
latency: '延迟',
|
||||
failed: '失败',
|
||||
speedtestDone: '测速完成,共 {n} 个模型',
|
||||
speedtestFail: '测速失败',
|
||||
speedtestHint: '按模型自己的格式探测延迟',
|
||||
speedtestHint: '按模型自己的格式探测延迟;每行 ⚡ 单测可同时跑 {n} 个',
|
||||
textModelCount: '{n} 个文本模型',
|
||||
// 第二十七轮:支持的格式列(三条协议线)。格式名直接用各家标准端点名,不译。
|
||||
protocols: '支持的格式',
|
||||
|
||||
@@ -15,9 +15,12 @@
|
||||
<div class="card">
|
||||
<div class="card-h">
|
||||
<b>{{ t('models.allTextModels') }}</b>
|
||||
<span class="sub">{{ t('models.speedtestHint') }}</span>
|
||||
<span class="sub">{{ t('models.speedtestHint', { n: SPEEDTEST_MAX_CONCURRENCY }) }}</span>
|
||||
<span style="flex:1"></span>
|
||||
<el-button size="small" :loading="latTesting" @click="runSpeedtest()">
|
||||
<!-- 一键测速与单独测速互斥:整轮在跑时不让单测插队(同一个模型会被两边同时覆盖结果);
|
||||
反过来,有单测在飞时也先别开整轮。 -->
|
||||
<el-button size="small" :loading="latTesting" :disabled="latRunningCount > 0"
|
||||
@click="runSpeedtest()">
|
||||
{{ latTesting ? t('models.testingShort') : t('models.speedtest') }}
|
||||
</el-button>
|
||||
</div>
|
||||
@@ -43,11 +46,13 @@
|
||||
<span class="muted-2 st-prov">{{ m.provider }}</span>
|
||||
<span style="flex:1"></span>
|
||||
<span class="pill st-lat" :class="latCls(m.id)">
|
||||
<span v-if="m.id === latCurrentId" class="st-spin" aria-hidden="true"></span>
|
||||
<!-- 加载图标两种来源:整轮测速的当前行(latCurrentId),或这一个单独在测(latRunning) -->
|
||||
<span v-if="m.id === latCurrentId || latRunning[m.id]" class="st-spin" aria-hidden="true"></span>
|
||||
<span v-else>{{ latText(m.id) }}</span>
|
||||
</span>
|
||||
<button class="st-one" :disabled="latTesting || !!latCurrentId"
|
||||
:title="t('models.testOne')" :aria-label="t('models.testOne')" @click="retestOne(m.id)">
|
||||
<button class="st-one"
|
||||
:disabled="latTesting || !!latRunning[m.id] || latRunningCount >= SPEEDTEST_MAX_CONCURRENCY"
|
||||
:title="testOneHint(m)" :aria-label="testOneHint(m)" @click="retestOne(m.id)">
|
||||
<Icon name="bolt" :size="13" />
|
||||
</button>
|
||||
</div>
|
||||
@@ -228,13 +233,39 @@ function protocolsOf(row: any): string[] {
|
||||
// 每个格式标签的悬浮说明:这条线对应哪个端点(点进说明文档也是这个对应关系)
|
||||
function protoTitle(p: string): string { return `POST /v1/${p}` }
|
||||
|
||||
// ── 测速(2026-10-12:单独测速改为并发)──────────────────────────
|
||||
// 两套状态分开记:
|
||||
// · 一键测速(runSpeedtest):整轮**串行**——latTesting = 整轮在跑、latCurrentId = 整轮当前那一行。
|
||||
// 串行是老板定的口味(测一个显示一个),且并发会把免费额度瞬间打满 → 上游 429,
|
||||
// 结果会刷成一片「失败」,反而失去参考价值。
|
||||
// · 单独测速(retestOne):**可并发**——每行独立(latRunning 记着正在测的 id),
|
||||
// 不用等上一个回来才能点下一个。上限 SPEEDTEST_MAX_CONCURRENCY 是别让手一抖
|
||||
// 把全部免费档一次轰出去(免费档 429 同样会把结果刷成失败)。
|
||||
const SPEEDTEST_MAX_CONCURRENCY = 3
|
||||
const latTesting = ref(false)
|
||||
const latCurrentId = ref('') // 当前正在测的模型 id:该行延迟位显示加载图标
|
||||
const latCurrentId = ref('') // 整轮测速当前测到的模型 id:该行延迟位显示加载图标
|
||||
const latRunning = ref<Record<string, boolean>>({}) // 正在单独测的模型 id(可同时多个)
|
||||
const latRunningCount = computed(() => Object.keys(latRunning.value).length)
|
||||
// protocol 由后端返回:探针**按模型自己的协议线**挑一条(优先级 chat → messages → responses),
|
||||
// 记下来才能在悬浮提示里说清「这次多少毫秒是走哪条线测的」——多线模型不写清楚会让人误解。
|
||||
const latByModel = ref<Record<string, { ok: boolean; latency_ms: number | null; error: string; protocol: string }>>({})
|
||||
|
||||
// 探一次 = 一个模型一次请求;出错不抛,统一回一行结果(整轮 / 单测共用)
|
||||
async function probeOne(id: string) {
|
||||
try {
|
||||
const j = await api('/v1/models/speedtest', { method: 'POST', body: JSON.stringify({ model: id }) })
|
||||
const r: any[] = (j && j.results) || []
|
||||
const hit = r[0]
|
||||
return hit
|
||||
? { ok: !!hit.ok, latency_ms: hit.latency_ms ?? null, error: hit.error || '', protocol: hit.protocol || '' }
|
||||
: { ok: false, latency_ms: null, error: t('models.speedtestFail'), protocol: '' }
|
||||
} catch (e: any) {
|
||||
return { ok: false, latency_ms: null, error: (e && e.message) || String(e), protocol: '' }
|
||||
}
|
||||
}
|
||||
|
||||
async function runSpeedtest() {
|
||||
if (latTesting.value) return
|
||||
if (latTesting.value || latRunningCount.value) return // 整轮在跑 / 有单测在飞 → 不开整轮
|
||||
// 逐个测速:按列表顺序,测一个立刻显示那一行、再测下一个;当前测的行显示加载图标。
|
||||
// 串行天然不会把免费额度瞬间打满(并发时免费档供应商容易 429)。
|
||||
const ids = textModelRows.value.map((m) => m.id)
|
||||
@@ -242,41 +273,39 @@ async function runSpeedtest() {
|
||||
latTesting.value = true
|
||||
for (const id of ids) {
|
||||
latCurrentId.value = id
|
||||
let row: { ok: boolean; latency_ms: number | null; error: string; protocol: string }
|
||||
try {
|
||||
const j = await api('/v1/models/speedtest', { method: 'POST', body: JSON.stringify({ model: id }) })
|
||||
const r: any[] = (j && j.results) || []
|
||||
const hit = r[0]
|
||||
row = hit
|
||||
? { ok: !!hit.ok, latency_ms: hit.latency_ms ?? null, error: hit.error || '', protocol: hit.protocol || '' }
|
||||
: { ok: false, latency_ms: null, error: t('models.speedtestFail'), protocol: '' }
|
||||
} catch (e: any) {
|
||||
// 单个模型出错不中断整轮,标记失败后继续下一个
|
||||
row = { ok: false, latency_ms: null, error: (e && e.message) || String(e), protocol: '' }
|
||||
}
|
||||
const row = await probeOne(id) // 单个模型出错不中断整轮,标记失败后继续下一个
|
||||
latByModel.value = { ...latByModel.value, [id]: row } // 响应式替换 → 该行即时更新
|
||||
}
|
||||
latCurrentId.value = ''
|
||||
latTesting.value = false
|
||||
ElMessage.success(t('models.speedtestDone', { n: ids.length }))
|
||||
}
|
||||
// 单个模型重新测速(失败行旁的「重新测速」按钮):只重测这一个,复用当前行加载图标
|
||||
|
||||
// 单个模型测速(每行常驻的 ⚡ 按钮):只测这一个;**并发** —— 各测各的,不等别人回来
|
||||
async function retestOne(id: string) {
|
||||
if (latTesting.value || latCurrentId.value) return // 整轮测速中 / 已有单测在跑 → 忽略,避免打架
|
||||
latCurrentId.value = id
|
||||
try {
|
||||
const j = await api('/v1/models/speedtest', { method: 'POST', body: JSON.stringify({ model: id }) })
|
||||
const r: any[] = (j && j.results) || []
|
||||
const hit = r[0]
|
||||
const row = hit
|
||||
? { ok: !!hit.ok, latency_ms: hit.latency_ms ?? null, error: hit.error || '', protocol: hit.protocol || '' }
|
||||
: { ok: false, latency_ms: null, error: t('models.speedtestFail'), protocol: '' }
|
||||
latByModel.value = { ...latByModel.value, [id]: row }
|
||||
} catch (e: any) {
|
||||
latByModel.value = { ...latByModel.value, [id]: { ok: false, latency_ms: null, error: (e && e.message) || String(e), protocol: '' } }
|
||||
} finally {
|
||||
latCurrentId.value = ''
|
||||
if (latTesting.value || latRunning.value[id]) return // 整轮测速中 / 这一个已经在测 → 忽略
|
||||
if (latRunningCount.value >= SPEEDTEST_MAX_CONCURRENCY) {
|
||||
ElMessage.warning(t('models.testOneBusy', { n: SPEEDTEST_MAX_CONCURRENCY }))
|
||||
return
|
||||
}
|
||||
latRunning.value = { ...latRunning.value, [id]: true }
|
||||
try {
|
||||
const row = await probeOne(id)
|
||||
latByModel.value = { ...latByModel.value, [id]: row }
|
||||
} finally {
|
||||
const next = { ...latRunning.value }
|
||||
delete next[id]
|
||||
latRunning.value = next
|
||||
}
|
||||
}
|
||||
|
||||
// 单测按钮的悬浮说明:说清现在为什么点不了(正在测这一个 / 并发已满)
|
||||
function testOneHint(m: { id: string }): string {
|
||||
if (latRunning.value[m.id]) return t('models.testOneRunning')
|
||||
if (latRunningCount.value >= SPEEDTEST_MAX_CONCURRENCY) {
|
||||
return t('models.testOneBusy', { n: SPEEDTEST_MAX_CONCURRENCY })
|
||||
}
|
||||
return t('models.testOne')
|
||||
}
|
||||
function latText(id: string): string {
|
||||
const row = latByModel.value[id]
|
||||
|
||||
Reference in new issue
Block a user