层级 MSE（mse_layer_wise）：敏感层分析算法说明¶

简介¶

概述：mse_layer_wise 用于layer范围分析：在每个 Decoder 块内，对由 quant_modules 选中的子模块（实现上主要为块内 Linear）分别做浮点与量化前向，在子模块输出上计算 MSE（均方误差，Mean Squared Error）并在块内取均值得到敏感度分数，输出 Decoder 块粒度排序，指导整层或整块（如整段 attention / MLP）回退。
核心思想：块内聚合的量化重构误差越大，该块在当前量化子集下越敏感。

使用前准备¶

安装 msModelSlim 工具，详情请参见《msModelSlim工具安装指南》。

原理¶

对同一批校准样本，按 Decoder 层遍历：在块内对命中配置的子模块采集浮点与量化前向输出。
对每一路可对齐的输出计算 MSE；将该块内所有有效 MSE 取均值作为该块的 score。
解读：score 越大表示该 Decoder 块在当前 quant_modules 参数配置下对量化越敏感。

适用要求¶

推荐场景：希望通过 Decoder 块内子模块输出角度比较各层敏感度，从而辅助整层或整块回退决策。
模型适配：无需模型适配器额外实现分析接口；model_type 支持范围与 ModelslimV1 量化一致，参见《大模型支持矩阵》。
配置影响：参数 quant_modules 决定参与对比量化的子模块集合，不同配置会得到不同排序。

功能介绍¶

命令行示例¶

msmodelslim analyze layer \
    --model_type Qwen3-32B \
    --model_path ${model_path} \
    --metrics mse_layer_wise \
    --quant_modules "*mlp*" \
    --calib_dataset ${calib_dataset} \
    --topk 15 \
    --device npu

命令行参数说明¶

参数	说明
`layer`	Decoder 块级敏感度分析
`--metrics`	指定分析算法，取值为 `mse_layer_wise` 时使用本算法
`--quant_modules`	通配符列表，指定参与量化对比的模块范围

完整参数见敏感层分析工具使用指南参数说明。

FAQ¶

换 `quant_modules` 后层排序变了，是否正常？¶

现象: 调整 quant_modules 通配后，各层 TopK 顺序与调整前不一致。

解决方案: 属于预期，调整 quant_modules 后，参与量化对比的子模块集合发生变化，块内 MSE 的聚合结果随之改变，因此各层相对名次也会不同。请按目标量化方案固定一版配置后再解读；同一命令仍不稳定时再排查校准顺序与随机性。