今天小编分享的科学经验：微软1bit LLM新研究：原生4bit激活值量化，可充分利用新一代GPU对4bit计算的原生支持，欢迎阅读。
微软又有 "1 bit LLM" 新成果了——
发布BitNet v2框架，为 1 bit LLM 实现了原生 4 bit 激活值量化，由此可充分利用新一代 GPU（如 GB200）对 4 bit 计算的原生支持能力。
同时减少内存带宽 & 提升计算效率。
之前，，把 LLM 的权重量化到 1.58-bit，显著降低延迟、内存占用等推理成本。
然鹅 BitNet b1.58激活值还是 8-bit，这就导致没办法充分利用新一代硬體的 4 bit 计算能力，计算环节出现效率瓶颈。
还有个问题也很关键：
研究发现注意力层和前馈网络层的输入激活值分布还比较接近高斯分布，量化起来相对容易。
但中间状态的激活值有很多异常值，这就给低 bit 量化带来了很大阻碍。
此前的 BitNet a4.8 相关研究，尝试过用 4 bit 量化输入，8 bit 稀疏化处理中间状态。
这种方法虽然性能损失不大，可稀疏化在批量推理场景里不太适合用来提高吞吐量，因为硬體更适合密集计算。
这次，团队最新推出了 BitNet v2，通过引入H-BitLinear 模块，该模块在激活量化前应用 Hadamard 变换。
研究中能有效将注意力层和前馈网络中尖锐的激活分布重塑为更接近高斯分布的形式，显著减少异常通道，使 4 bit 激活量化成为可能。
下面来看看究竟是怎么做的。
引入 H-BitLinear 模块
对于权重量化，根据团队此前研究，使用 per-tensor absmean 函数将权重量化为三元值 {-1, 0, 1}：
对于低 bit 激活，团队引入了 H-BitLinear。
H-BitLinear 被用于注意力层的权重矩阵 Wo 和前馈网络（FFN）层的 Wdown 中，这两处正是激活值异常值最为集中的位置。
该模块在激活值量化前应用 Hadamard 变换，满足以下条件：
通过 Hadamard 变换，中间状态分布更接近高斯分布，显著减少了异常值数量，使其更适合 INT4 量化。
对于 8 bit 和 4 bit 激活，分别采用 per-token absmax 和 absmean 函数，激活量化可以表示为：
最终，H-BitLinear 的矩阵乘法运算可形式化表示为：
其中 LN 表示层归一化（layer normalization）操作。
另外，训练策略方面，研究人员用了 STE 来近似梯度，还采用混合精度训练更新参数。在反向传播的时候，会绕过量化里那些不可微函数，并且利用 Hadamard 变换矩阵的正交性，对梯度也进行变换。
团队还表示，4 bit 激活的 BitNet v2 可以从 8 bit 激活的版本接着训练，用少量数据微调就行，性能损失基本可以忽略不计，优化器的状态还能接着用。
4bit 激活版本相比 8bit 激活性能几乎不降
实验阶段，研究者将 BitNet v2 与 BitNet b1.58、BitNet a4.8 在不同模型规模（400M、1.3B、3B 和 7B）上进行了对比，所有模型都使用 1.58bit 权重训练。
主要实验结果显示，引入 Hadamard 变换的 BitNet v2（8 bit 激活）相比 BitNet b1.58 在各规模模型上都有所提升，在 7B 规模上，平均准确率提高了 0.61%。
当降至 4 bit 激活时，BitNet v2 的困惑度与 BitNet a4.8 相当，下游任务表现甚至更优。
研究者还对 BitNet v2 进行了低 bit 注意力状态的详细实验，采用后 RoPE 量化处理 QKV 状态。采用 3 bit KV 缓存的 BitNet v2 在 3B、7B 模型上达到了与全精度 KV 缓存版本相当的准确率：
与后训练量化方法 SpinQuant、QuaRot 相比较，BitNet v2 表现更优：
消融实验则进一步验证了 Hadamard 变换对低 bit 激活的关键作用，没有旋转变换则模型会发散。
更多研究细节，感兴趣的童鞋可以查看原论文。
论文链接：https://arxiv.org/pdf/2504.18415
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法！
— 完 —
点亮星标
科技前沿进展每日见
