Strata Token/s 估算器：模型速度与硬件升级预估

这个试算器整理了本文作者 Ethan Lab 在 i7-11700／RTX 5060 Ti 16GB／64 GB RAM 主机上完成的四组模型实测，并结合 Strata 官方与社群的公开测试，用来估算更换显卡、DDR 内存或 PCIe 配置后的 tokens/s 与固定工作量耗时。Ethan Lab 的本机测量是部分模型的校准依据；公开比较则使用 Strata 项目作者的 Ryzen 5 7600／RTX 5070 12GB 主机。所选目标配置的结果仍是条件式公式预估。

本机测试主机内存：32 GB × 2，双通道，共 64 GB（DDR4-3200）。

怎么使用

1. 缺省为 IQ2_XS (Swift 1.5) 与作者整台主机配置。IQ2_XS 是原版，另有明示的 Swift 比较代理值，不能当成作者对原版的实测。
2. 选择显卡与 CPU，再填 DDR 类型、实际传输率、信道数、容量和 PCIe 世代。只换 GPU／CPU 不会自动变更内存与主板设置；「回到作者主机配置」会一并重设。未列型号可展开硬件参数手动输入。
3. 看 Prefill／Decode tokens/s、合成总耗时与相对作者配置的公式预测变化。相同模型与硬件为 0%；负的耗时变化表示较快，正值表示较慢。与作者来源实测的差距另列于预测误差表，原版 IQ2_XS 的 Swift 代理也会标示。

作者比较基准与假设

作者主机为 Ryzen 5 7600、RTX 5070 12GB、64 GB DDR5-5200 与 PCIe 5.0 ×16。公式采双信道 RAM 83.2 GB/s 与有效 H2D 50 GB/s，两者是明示假设，不是这台主机的带宽实测。Q2_0 使用 v0.1.36 发布数据，其他实测模型使用 v0.1.26 单次纪录，每格输出 256 tokens。模型栏列出各自的来源与版本；原版 IQ2_XS 缺少作者同口径测速，暂以 Swift 的 2,092.02／78.60 tokens/s 作比较代理。

数字代表什么

Prefill 使用名义 32K 输入的测速口径；Decode 使用读完名义 4K 输入后的生成速率，并非生成 4K tokens 的实测。时间以「输入 tokens ÷ Prefill ＋输出 tokens ÷ Decode」换算，缺省 51,200＋4,096 tokens。这是比较指针，并不包含工具、编译、加载、排队、提示缓存或真正完成任务所需的全部时间。

自订模型与 AMD 的界线

自订模型必须提供对应作者 Ryzen 5 7600／RTX 5070 主机的 P0／D0 与专家 RAM 区大小，并维持名义 32K Prefill／4K 输入 Decode 测速口径。模型的参数量、bpw 或专家数，不能单独推导出 tokens/s；自订架构的硬件外推仍未独立验证。AMD 规格可选，但只有在你明确激活探索性外推后才显示数字，结果不能当成 AMD 实测或 NVIDIA／AMD 排名。

适用范围与数据源

基础 v4 使用 15 笔配置、14 台独立主机，其中含两组 OCuLink／eGPU 或扩充座主机报告。删除这两组后重做拟合，在相同保留测试主机上的交叉验证误差反而增加，因此保留历史数据并揭露这项限制；这不代表任意 eGPU／扩充座已有可靠公式，本工具不提供这类连接情境的估算。接口以 11～32 GB 级别的单张 NVIDIA 桌机卡、专家仍需 RAM／GPU 分工且没有换页为范围。Coder 在 24／32GB 卡、Q2_0 在 32GB 卡等可能全驻留情境不直接套用。增加 RAM 容量不会自动提高速度；容量主要用于判断是否放得下模型。自动 H2D 是明示的估计值，不是侦测你的电脑。

历史 v4 的原版 IQ3_XXS 探索性分组持出 MAPE 为 Prefill 19.81%、Decode 8.47%、合成耗时 10.88%。这些数字只描述当时的数据与公式，不是本次更新、其他模型或 AMD 的通用准确率，也不是每次预测的误差上限。作者 IQ3_XXS 与公式吻合，是既有校准条件，不能算作独立验证。

本次稽核与数据限制

2026-10-16 稽核确认作者 GPU Compute 14,333、CPU Mark 26,960 与既有校准相符，并保留原 v4 硬件系数与已核对的本机观测。公式以作者硬件重写为 P̂＝A_P × ∏(x／x_作者)^β_P，Decode 同理；A 是公式在作者主机的估计，B 是作者来源的实测或代理速率，两者不必相等。目标速度预测不变；硬件效益的耗时变化以输入／A_P＋输出／A_D 为分母，因此相同配置为 0%。A 与 B 的差距独立列为预测误差，没有强制把公式对齐实测。作者主机的 Swift Prefill 估计仍比来源实测低约 18.80%，上方对照表会呈现差距。Q2_0 现行官方基准 2,653／93.5 与历史校准批量 2,170.85／92.97 不同，不能把来源批量差异全部归因于硬件。

稽核也试过模类型偏差修正、以作者数据强制调整基准，以及让本机与作者结果吻合的 VRAM 修正。这些候选没有改善相应的持出或外部检核，部分误差反而变大，因此本次不采用。把已知测量点全部对齐，不能证明对新主机更准；需要更多独立、同口径的硬件与模型配对测量。

保留的本机核对数据：原版 IQ2_XS 于 2026-10-08 的三次中位数为 1,628.57／67.25 tokens/s；IQ2_XS (Swift 1.5) 于 2026-10-11 的九次中位数为 1,622.10／65.55。这些是 i7-11700／RTX 5060 Ti 主机的独立观测，不是上方作者主机比较值。提示档相同，但日期与次数不同，不能推论两者在所有硬件都相等或固定相差同一比例。

试算参数只在你的浏览器运算；此工具不会把输入发送到服务器。