星点匠心建站 星点匠心建站XD JIANXIN STUDIO
400-883-9527 免费定制方案
ARTICLE DETAIL

资讯详情

深耕新锐建站与运营推广的一线实战洞察。

dsh-our-free-model 用量看板完全指南:Token、生成速度与首字延迟一次看懂

dsh-our-free-model 用量看板完全指南:Token、生成速度与首字延迟一次看懂 dsh-our-free-model 用量看板完全指南Token、生成速度与首字延迟一次看懂【免费下载链接】dsh-our-free-model在 dsh 里装上这个插件即可无需登录、注册或填 API Key就能使用包括 DeepSeek V4.1 Flash、Kimi K3 在内的前沿模型——完全免费不限量。 All you do is install this plugin in dsh: no login, no sign-up, no API key — the frontier models are just there, DeepSeek V4.1 Flash and Kimi K3 among them. Completely free, with no usage cap.项目地址: https://gitcode.com/gh_mirrors/ds/dsh-our-free-model给 dsh 装上 dsh-our-free-model 插件之后除了白拿 DeepSeek V4.1 Flash、Kimi K3 这些免费模型你还会顺手得到一个 dsh-our-free-model 用量看板每次对话消耗了多少 Token、模型吐字有多快、第一个字多久冒出来全部逐次记录。有一点值得放在最前面说——这些数据只写进你电脑里的一个 JSON 文件从不上传任何服务器。想查 Token 消耗、想排查哪次调用变慢看这一处就够了。场景一刚装好插件先搞清楚 Token 都花在哪装完插件第一步是打开「设置 → Our Free Model → 用量看板」。页面顶部是一排计数器Token 总量、输出 Token、推理 Token、上游请求数、请求失败数、对话回合数、回合失败数、已恢复数。这些数字只增不减从你第一次用起累加到现在中途不会清零。最容易看晕的是「请求」和「回合」这两组数字它们的统计口径不一样请求数数的是物理上的 HTTP 调用回合数数的是你一次交互的最终结果。举个典型例子——回答写到一半被截断插件自动重发续写最后记成 2 次请求、1 次请求失败、1 个回合、0 个回合失败、1 次已恢复。所以两个数字对不上是常态不用怀疑数据错了回合口径的完整来龙去脉写在 docs/issue-12-recovery.md。除了计数器这个页面还摆着 17 周的 Token 热力图、从首个记录日画到今天的总量曲线、按模型汇总的表格以及一张「最近一回合」小卡片属于长期趋势的主阵地。另外两个入口在插件面板里「数据看板」页看当天大盘——今日/全部 Token 消耗、平均生成速度、缓存命中率、成功率、账号透视、模型性能表和最近 12 条明细「运行日志」页看逐请求明细分页可选 10/20/50/100 条还能打开 10 秒自动刷新。三句话记住分工看长期趋势开用量看板看今天整体情况开数据看板查某次调用出了什么事开运行日志。场景二某次调用明显变慢怎么定位问题 先给两个指标下定义。输出速度tok/s回答「模型每秒吐多少字」按你最近 40 次调用统计而且是把这段时间的总 token 除以总秒数的加权值首字延迟TTFT回答「从你按下发送到屏幕上冒出第一个字过了多少毫秒」同样取最近 40 次且只拿成功样本求平均失败的调用不往里掺。速度这个数字以前栽过跟头。早期版本遇到过两个翻车现场一次调用计费 422 个输出 token其中 291 个是 reasoning token在第一个可见帧出现之前就已经生成完拿整段耗时一除报出 349 tok/s实际解码只有 108 tok/s更离谱的一次63 个 token 挤在 1 ms 的窗口里单点算出 63 000 tok/s把 26 次调用的简单平均抬到 2 493 tok/s而那条车道的真实水平只有约 40 tok/s。现在有三道防线把这类假数挡掉分子剔除src/stream.js 的windowTokens()把没流式送出的 reasoning token 从分子里拿掉窗口过滤src/store.js 的decodeWindow()规定解码窗口不足 250 ms、或者算出来超过 250 tok/s 的样本直接判定不可测不参与任何求和加权而非平均模型表和面板汇总都按总 token ÷ 总秒数算一次异常样本带不偏全局。面板底部会附一句「输出速度只统计 n/total 次可测的调用」那个 n/total 就是可测比例。这些断言全部由 scripts/speed-stat-test.mjs 固化成回归测试。真要去查某一次慢调用两条路。一是看「最近一回合」卡片最新一次调用的模型、来源对话 / 桌面 / 转发 / 测速、输入输出 token、首帧 ms 和 tok/s 都在上面它走 60 秒的轻量轮询刚发完消息不用刷新整页就能刷出结果。二是翻「运行日志」页每一行对应一个物理请求含结果、耗时、首字、速度和输入 / 输出 / 推理 / 缓存四档 token 细分失败原因悬停在徽章上就能看到。日志底层是一个只保留最近 400 条的样本环所以更早的调用不会出现在这张表里页面末尾的「窗口」说明就是提醒这件事。另外先排除两个「慢得合理」的情况部分模型上游本身就慢README 里记过 nemotron-3.5-lightning-free 首字延迟实测超过 30 秒mimo-v2.6-flash-free 这类长思考模型在思考阶段可以静默 60–70 秒且不发任何思考帧首字数字偏高属正常现象。若怀疑是本地链路某一跳慢转发侧按received → body_received → dispatch → first_delta → finished打了阶段点排查方法见 docs/issue-34-request-diagnostics.md。场景三把时间拉长看看每天的用量节奏热力图长得像 GitHub 贡献图一格一天四档色阶从少到多悬停能看到当天日期、token 数和参与模型。它的格子规则很死固定 17 周共 113 到 119 格每列从周日开始、到今天为止不预生成未来日期日期键用 src/store.js 里dayKey()按本机日历计算跨月、跨年、夏令时切换都不会丢格。修复早期的格子拉伸问题时专门补了 40 项回归检查覆盖跨年、闰日、上海与纽约时区决策记录在 docs/issue-30-heatmap.md。总量曲线是另一套粒度它画的是从首个记录日到今天的累计 Token 或请求数支持按单个模型筛选和热力图的「按天」不是一回事别拿它跟热力图逐格对照。还有个隐藏的生命周期设定热力图的日桶文件只保留最近 120 天更早的按天数据会自动清出所以「按天」看最近三个月「累计」看全部历史各取所需。常见问题速答问生成速度那一列为什么是横杠「—」横杠不是坏了。有些模型把整段答案集中在一两个大帧里落地或者思考阶段根本不流式返回于是没有一个能测量「每秒吐多少字」的时间窗decodeWindow()判定不可测看板就空着。模型表里整列都是「—」说明该模型一次可测调用都没有。设计取向是宁可不显示也不把思考耗时混进输出速度里给你看个假数。问热力图空了、模型表里的 0 和「—」怎么区分三样东西含义不同。热力图完全空白是你还没聊过会显示「还没有用量记录。用一次对话后回来看看。」某天记到 0 token格子照常入图不会被误判成空态——这是 issue #30 修复时特意保留的分支。模型表里失败数、已恢复数显示「—」代表「没有这类记录」语义上就等于 0只是排版上做了区分。问累计数字旁边怎么冒出个「估算」标记从旧版本升级上来才会看到升级前的回合与失败数是按上游请求估算的面板会标注「升级前历史按上游请求估算升级后回合按最终结果精确记录」。这是口径迁移的正常状态不是数据丢了升级后新产生的记录都是精确值。一张表核对所有统计口径 项目口径窗口 / 范围输出速度加权总 token ÷ 总秒数最近 40 次调用仅可测样本首字延迟 TTFT成功样本均值最近 40 次调用缓存命中率cacheRead ÷input cacheRead数据看板的「今日 / 全部」范围成功率请求数 − 失败数÷ 请求数失败计入分母数据看板的「今日 / 全部」范围Token 总量输入 / 输出 / 推理只增不减的累计值首次使用至今请求数 / 回合数物理请求 vs 最终结果两种计数首次使用至今表外还有几项口径列在这里一并核对Token 热力图按天汇总固定显示最近 17 周113–119 天日桶文件只保留最近 120 天总量曲线累计折线覆盖全部有记录的天可按模型筛选最近明细 / 速度样本单次样本样本环保留最近 400 条「最近一回合」卡片60 秒轻量轮询刷新数据放在哪里删掉它有多干净所有用量和设置都写在DSH_HOME默认~/.dsh下our-free-model/目录里的纯 JSON 文件文件权限 0600落盘走「临时文件 重命名」的流程写一半崩溃也留不下半截文件。插件不上传任何遥测。哪天不想要了把整个our-free-model目录删掉所有用量记录即刻清空不留残余。从装好插件后的第一个数字到第 17 周的回看每一次 Token、速度、首字延迟的来龙去脉都落在本机这几个文件里——查数的时候不用翻别的角落这里就是全部答案 【免费下载链接】dsh-our-free-model在 dsh 里装上这个插件即可无需登录、注册或填 API Key就能使用包括 DeepSeek V4.1 Flash、Kimi K3 在内的前沿模型——完全免费不限量。 All you do is install this plugin in dsh: no login, no sign-up, no API key — the frontier models are just there, DeepSeek V4.1 Flash and Kimi K3 among them. Completely free, with no usage cap.项目地址: https://gitcode.com/gh_mirrors/ds/dsh-our-free-model创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表