EthanLab 軟體開發 · 產品管理 · 科技評測
搜尋
返回研究筆記
人工智慧

Strata 模型比較與實測成績：IQ2_XS、IQ3_XXS、IQ3_S 的速度、分數與記憶體

整理 RTX 5060 Ti 16GB、64 GiB RAM 執行 Qwen3.8-Flash-Next 的九次實測，對照 Strata 作者的速度，並比較 ISTA 量化分數、模型大小與 RAM 用量。

在 i7-11700、RTX 5060 Ti 16GB 與 64 GiB RAM 上，IQ2_XS、IQ3_XXS、IQ3_S 的九次實測 Decode 中位數分別為 65.55、51.30、42.45 tokens/s。本文完整比較三款模型的 Prefill／Decode、逐次結果、作者速度與換算耗時、LiveCodeBench 分數、下載大小，以及 RAM 用量和剩餘容量。IQ2_XS 測速使用 Swift 1.5，兩款 IQ3 使用原版；品質分數另列原版量化，避免混為同一模型。

Strata 系列：模型比較與實測 · 硬體公式與驗證 · 升級成本與效益

三款模型：九次實測總覽

下表及後方作者比較採用同一組基準：IQ2_XS／IQ3_XXS 為 2026-10-11 的 Strata 0.1.41；IQ3_S 為 2026-10-15 的 0.1.43.1。每款模型的 Prefill／名義 32K、Decode／名義 4K 各九次，共 54 次引擎執行。IQ3_XXS 的新版重測另列，不混入這組中位數。

三款模型的九次中位數與最低～最高，單位 tokens/s
模型 Prefill 中位數 Prefill 範圍 Decode 中位數 Decode 範圍
IQ2_XS (Swift 1.5) 1,622.10 1,600.68–1,627.45 65.55 61.08–66.93
IQ3_XXS 1,666.44 1,648.03–1,667.46 51.30 50.78–53.42
IQ3_S 1,626.96 1,581.32–1,641.58 42.45 41.07–43.03
逐模型測試條件
項目 IQ2_XS IQ3_XXS IQ3_S
模型變種 Swift 1.5 原版 Qwen 原版 Qwen
測試日期 2026-10-11 2026-10-11 2026-10-15
Strata 0.1.41 0.1.41 0.1.43.1
NVIDIA 驅動 591.86 591.86 610.88
KV streaming 開；resident 32,768 開；resident 32,768 關；安裝器依 RAM 選擇

三款均使用同一台主機、保存的替代原始碼提示與 token IDs；並非作者未公開的原文。名義 32K／4K 實際輸入 31,566／3,562 tokens，Prefill 計時涵蓋 31,565／3,561 tokens，最後一個提示 token 留給首步 Decode。每次 greedy 生成 256 tokens；65,536 上下文、INT8 KV、MTP spec 4／min-p 0.5、expert-cache／prefill auto、顯存預留 1,500 MiB。

測速期間停止 HTTP 與看圖服務，每次啟動全新引擎，零提示快取重用，未清除作業系統檔案快取；計時不含模型載入。兩組舊版九次結果由原三次加六次組成，IQ3_S 為九次新測；未剔除較慢樣本。各表同一列只是各自第 N 次執行，不代表同時或交錯測試。模型變種、KV 與驅動差異見上表，因此這是實際配置比較，不能把差距全歸因於量化。

Prefill／名義 32K：完整九次結果，單位 tokens/s
次數 IQ2_XS (Swift 1.5) IQ3_XXS IQ3_S
1 1,600.68 1,648.03 1,626.22
2 1,619.99 1,652.45 1,581.32
3 1,620.37 1,667.16 1,603.99
4 1,623.67 1,666.63 1,626.96
5 1,622.78 1,667.46 1,621.56
6 1,627.45 1,667.13 1,637.45
7 1,622.76 1,665.17 1,641.58
8 1,607.08 1,666.44 1,637.69
9 1,622.10 1,664.15 1,639.34
Decode／名義 4K：完整九次結果，單位 tokens/s
次數 IQ2_XS (Swift 1.5) IQ3_XXS IQ3_S
1 61.08 51.54 41.89
2 64.07 50.85 42.10
3 64.78 50.78 42.44
4 66.18 51.01 42.45
5 65.55 51.20 41.07
6 66.92 51.63 42.73
7 63.27 51.30 42.60
8 66.93 53.42 43.03
9 66.93 51.57 42.77

版本重測與資料完整性

版本覆蓋：Prefill／Decode 九次中位數，單位 tokens/s
模型 0.1.41 0.1.43.1 新版速度變化
IQ2_XS (Swift 1.5) 1,622.10 / 65.55 未測 無同模型兩版配對
IQ3_XXS 1,666.44 / 51.30 1,665.73 / 51.65 Prefill −0.04%; Decode +0.68%
IQ3_S 未測 1,626.96 / 42.45 無同模型兩版配對

只有 IQ3_XXS 完成同模型兩版各九次重測；0.1.43.1 採用 2026-10-13 的有效重測資料，已作廢的批次不使用。新版逐次結果保留如下；作者比較與 v4 預測公式仍使用 0.1.41 的 IQ3_XXS 基準。

IQ3_XXS／0.1.43.1：另外九次有效重測，單位 tokens/s
次數 Prefill / 32K Decode / 4K
1 1,672.80 51.65
2 1,672.26 51.65
3 1,665.73 51.23
4 1,667.96 51.50
5 1,642.28 51.75
6 1,655.38 51.24
7 1,655.48 51.77
8 1,669.69 52.43
9 1,655.81 51.77

本機與作者的同模型比較

硬體配置
項目 本機 Strata 作者
CPU Intel Core i7-11700 AMD Ryzen 5 7600
GPU RTX 5060 Ti 16GB RTX 5070 12GB
顯卡連線 PCIe 4.0 ×8 PCIe 5.0 ×16
RAM 64GB DDR4-3200，雙通道 64GB DDR5-5200，通道未確認

IQ2_XS 雙方均使用 Swift 1.5；IQ3_XXS、IQ3_S 雙方均使用原版 Qwen。本機 IQ2_XS／IQ3_XXS 保留 2026 年 10 月 11 日 Strata 0.1.41 各九次中位數；IQ3_S 採用 10 月 15 日 Strata 0.1.43.1 各九次中位數。作者每格為單次測量。下表秒數統一按 51,200 輸入＋4,096 輸出 tokens換算。

速度與換算耗時；速度單位 tokens/s，時間單位秒
模型／項目 本機速度 作者速度 作者速度提升 本機秒數 作者秒數 作者耗時減少
Swift IQ2_XS／Prefill 1,622.10 2,092.02 ＋29.0% 31.6 24.5 22.5%
Swift IQ2_XS／Decode 65.55 78.60 ＋19.9% 62.5 52.1 16.6%
Swift IQ2_XS／合計 — — — 94.1 76.6 18.6%
原版 IQ3_XXS／Prefill 1,666.44 1,745.16 ＋4.7% 30.7 29.3 4.5%
原版 IQ3_XXS／Decode 51.30 61.64 ＋20.2% 79.8 66.5 16.8%
原版 IQ3_XXS／合計 — — — 110.6 95.8 13.4%
原版 IQ3_S／Prefill 1,626.96 1,624.07 −0.2% 31.5 31.5 −0.2%
原版 IQ3_S／Decode 42.45 53.30 ＋25.6% 96.5 76.8 20.4%
原版 IQ3_S／合計 — — — 128.0 108.4 15.3%

耗時減少＝1−作者秒數÷本機秒數；速度提升＝作者 tokens/s÷本機 tokens/s−1，均以未四捨五入數值計算。這是模型推論時間換算，不是完整 coding-agent 任務的實測耗時。

作者使用 Strata 0.1.26、英語 MTP 詞彙表；本機使用 0.1.41／0.1.43.1、CJK MTP 詞彙表，提示及上下文／KV 條件也不完全相同，因此不能把差距全歸因於硬體或量化。本機原版 IQ3_XXS 比 Swift IQ2_XS 的 Prefill 快 2.7%、Decode 慢 21.7%，同時涉及模型變種與量化差異。IQ3_S 的 KV 與驅動差異見上方測試條件；作者速度提升或耗時減少為負值時，表示作者較慢。

ISTA 量化品質：LiveCodeBench v6

版本對照：下表 IQ2_XS 的 83.43 分及 68.0 GB 下載量屬於 ISTA 原版，不是上方 Swift 1.5 測速模型的品質成績。IQ3_XXS、IQ3_S 的速度與分數則都對應原版量化。三款都有分數，但不可將 Swift 的速度與原版的分數合併視為同一模型實測。

以下為 ISTA-DASLab 的原版量化評測，不包含 Swift 1.5。分數越高越好；下載大小使用十進位 GB，不等於執行時 RAM 用量。

Qwen3.8-Flash-Next 各量化版本 LiveCodeBench v6 分數
Qwen3.8-Flash-Next 各量化版本 LiveCodeBench v6 分數，點圖可檢視原尺寸。
模型下載大小與程式題得分
版本 下載大小（GB） LiveCodeBench v6
Q2_0 66.4 81.14
IQ2_XS 68.0 83.43
IQ3_XXS 75.8 86.29
IQ3_S 83.6 86.86
Coder IQ1_M，裁剪 50% 專家 58.4 86.28
BF16 原版基準 — 87.43

IQ3_XXS 到 IQ3_S 增加 7.8 GB 下載量，得分提高 0.57 分。Coder 是獨立的專家裁剪版本，不能視為單純降低量化精度。圖表縱軸從 80 分起以放大差異；程式題分數不代表完整 coding-agent 任務成功率。來源：ISTA 原版量化評測、Coder 模型卡。

64 GiB RAM 還剩多少？

本機安裝 64.00 GiB，Windows 可使用總容量 63.84 GiB。以下用同一容量比較三款模型；本節一律採 GiB，概估值不是精密量測。

三款模型的 RAM 預算與剩餘容量（GiB）
項目 IQ2_XS IQ3_XXS IQ3_S
安裝總容量 64.00 64.00 64.00
Windows 可使用總容量 63.84 63.84 63.84
RAM 中的專家權重：約 33.53 40.05 46.57
模型整體 RAM 概估 39.12（官方） 45.63（官方） 52.15（本文推算）
扣除模型概估後剩餘 24.72 18.20 11.69
本機卸載／重載實測增量，含看圖 未量測 44.12 未量測
扣除實測增量後剩餘 未量測 19.72 未量測

IQ2_XS／IQ3_XXS 整體概估沿用官方「專家權重＋其他開銷」口徑。官方未列出 IQ3_S 的同口徑總量：本文以官方專家大小加上前兩款約 5.59 GiB 的其他開銷，推算為 52.15 GiB，不是 IQ3_S 實測或官方直接公布的總量。IQ2_XS 的官方數字屬於原版量化；Swift 1.5 僅可按相近架構作容量參考，未另量測。以上將官方十進位 GB 概估換算成 GiB；保留兩位小數僅便於比較，不代表量測精度。

剩餘容量仍包含 Windows 與其他程式已使用的部分，不是當下空閒 RAM。IQ3_XXS 的 44.12 GiB 來自 2026-10-13、65,536 上下文且啟用看圖時，整機卸載／重載前後差值；受快取與背景活動影響，不是程序獨占用量。官方概估與實測分開扣除，不能重複扣；差額以未四捨五入數值計算。

資料定義見 Strata RAM 概估與 專家權重與容量條件。下載檔案、RAM、VRAM 是不同項目；MODELS 的 RAM＋VRAM 欄不能直接當成系統 RAM 用量。

三款模型怎麼選

本機的取捨
模型 適合的優先需求 代價
IQ2_XS 優先回答生成速度、留更多 RAM 給開發工具 本機測速是 Swift；原版品質分數不可直接套用
IQ3_XXS 兼顧原版品質與 RAM 空間 生成較慢；仍須替開發工具保留記憶體
IQ3_S 優先原版量化的 LiveCodeBench 成績 生成最慢；64 GiB 主機可留給其他工作的容量最少

原版 IQ3_XXS 比原版 IQ2_XS 的 LiveCodeBench 高 2.86 分；IQ3_S 再高 0.57 分。在這台主機上，三款的 Prefill 接近，主要差別在 Decode 和 RAM 預算。這些分數衡量程式題，不能保證長時間 coding-agent 任務不會中斷或成功完成。

測速來源

研究筆記

留言討論

留下你的想法

你的電子郵件不會公開。