# GSM8K任务微调前后的有效头数

比较原Qwen3.5-2B发布权重与同一revision上的纯LoRA seed0（额外GSM8K GRPO，非SFT）。没有训练新模型。主指标为√JS距离消融影响的N_eff；正变化表示更分散，负变化表示更集中。

| 输入组 | 原权重中位数 [P10,P90] | 微调后中位数 [P10,P90] | 配对变化中位数 | 增加的观测比例 |
|---|---:|---:|---:|---:|
| 原四条文本 | 8.931822 [5.784081,11.672658] | 8.918301 [5.776576,11.683940] | -0.007827 | 45.6% |
| GSM8K测试题前缀 | 8.906046 [6.013504,11.801882] | 8.904117 [5.982593,11.818115] | -0.006747 | 47.2% |

每组4条输入×6个接收层×25个query位置×8个接收query头=4800个配对观测；它们不是4800个独立文本样本。前后使用同一原模型tokenizer、完全相同token IDs。原四条输入的基线8.931822/16已精确复现。

GSM8K输入取原作者固定版本test split中前4道至少32token的题目，仅用题目前32token，不含答案，不套不同聊天模板。另算了同组GSM8K输入的原权重基线；没有把旧通用文本与新任务文本混作配对。

## 方法与限定

所有6个普通注意力接收层和16个上游输出头均保留；每次移除一个上游头在全序列的投影输出，重算中间MLP/残差/归一化和检索分布。微调只改变18个GDN层的指定投影，普通注意力权重不变；隐藏状态和上游贡献仍会变化。

采用read-only FP32有效权重W+2BA，未把增量舍入为BF16、未修改底座；另用base projection+2B(Ax)独立前向校验。头输出求和、空消融和源数组复用校验均记录。JS散度及QKV复合相对变化也保留，避免只展示有利度量。这里QKV补充指标仅覆盖相同六个普通注意力接收层，其原基线不能与旧研究全部23连接的76.0%混作同一统计量。

单个发布者训练seed、4条短文本/组，仅支持这些输入上的描述性变化；不推广为所有微调都会如此，不报告GSM8K准确率，不据此推断删头可用或最终LM能力。配对变化中位数与两个总体中位数之差不是同一个统计量。

[公开微调权重与训练说明](https://huggingface.co/Avifenesh/gdn-beta-gate-qwen3.5-2b-grpo)；固定版本、参数SHA、dataset版本和题目索引见protocol.json/gsm8k-source.json/samples.json。所有权重、适配器和缓存继续保留。
