清华微软最新力作：用物理学革新Transformer注意力，「大海捞针」精度暴涨30%！

最近，85花杨幂正在拍摄新剧《生万物》，相关路透也引发了热议。该剧是一部农村题材大戏，也是杨幂的转型之作，备受关注。由于杨幂今年上半年三部作品都遭遇不同程度的差评，杨幂能否翻身成功，似乎就看这部戏。

本文来自于微信公众号 新智元，作者：新智元，授权 转载发布。

【新智元导读】随着诺贝尔物理学奖颁给了「机器学习之父」Geoffrey Hinton，另一个借鉴物理学概念的模型架构也横空出世——微软清华团队的 架构Differential ，从注意力模块入手，实现了Tran ormer的核心能力提升。

随着近些年来NLP领域研究的不断深入，我们逐渐发现，Tran ormer架构中出现的幻觉问题，以及各种下游任务中的性能不足，都或多或少与注意力缺陷有关。

虽然上下文窗口可以扩展，但是Tran ormer还是无法真正关注到有价值的信息。

最近，微软研究院和清华大学的研究人员共同提出了一种新的模型架构——Differential Tran ormer，不仅保留了原始Tran ormer中的可扩展性，也能让模型更加关注上下文中与任务相关的关键信息。

实验表明，注意力机制的改进，不仅显著提升了检索精度，还能缓解LLM的幻觉。

论文地址:https://arxiv.org/abs/2410.05258

Tran ormer的困境

众所周知，Tran ormer的核心是注意力机制，采用softmax函数来衡量序列中各种标记的重要性。然而，最近的研究表明，LLM难以从上下文中准确到检索关键信息。

比如去年斯坦福Percy Liang团队的一篇论文就指出，虽然语言模型能够接受较长的上下文作为输入，但并不能稳健地利用长输入上下文中的信息。

论文地址:https://arxiv.org/abs/2307.03172

比如，实验中发现，仅仅改变关键信息在文档中的出现位置，就可以造成GPT-3.5T bo检索性能的大范围波动。

此外，本篇论文的实验结果证明，Tran ormer经常过度关注不相关的上下文，本文将其称之为「注意力噪声」。

如图1（左）所示，模型分配给正确 的注意力分数 ，同时不成比例地关注不相关的上下文，这意味着信噪比 ，最终淹没了正确 。

由此看来，我们对于LLM检索、利用长上下文的过程，知之甚少，其注意力过程也需要更多的改进。

本文所提出的Differential Tran ormer（DIFF Tran ormer）正是希望用「差分注意力」(differential tention)机制 注意力噪声，促使模型关注上下文中的关键信息。

图1的对比结果可以看出，DIFF Tran ormer给出的注意力分数的分布明显不同于传统Tran ormer架构，给予关键信息更高的注意力分数，进而显著提升了检索能力。

这种能力的提升，对于有效利用LLM的长上下文窗口、缓解幻觉、关键信息检索等方面都有重要的意义。

模型架构

DIFF Tran ormer也可以用于纯Encoder或Encoder-Decoder模型，但本篇论文以纯Decoder模型为例进行描述。

整个模型由L个DIFF Tran ormer层堆叠而成，每层由一个差分注意力模块和前馈网络模块连接形成。

宏观布局类似于传统Tran ormer架构，但主要区别在于修改了注意力的softmax过程，并且采用了pre-RMSNorm、SwiGLU等改进。

该模块的结构示意图和伪代码如图2所示，具体的代码实现可参考项目GitHub。

代码地址:https://github.com/microsoft/unilm/tree/master/Diff-Tran ormer

除了传统注意力中的权重矩阵W^Q、W^K、W^V ∈ ℝ^{d_model×2⁢d}，模块中还加入了可学习标量λ。

具体来说，给定输入序列X ∈ ℝ^{N×d_model}，首先将其投影为Q、K、V矩阵Q_1，Q_2，K_1，K_2∈ ℝ^{N×d} ， V ∈ ℝ^{N×2⁢d}，然后是差分注意力算子DiffAttn（·）通过公式(1)计算输出:

λ被初始化为常量λ_{init} ∈ （0，1），并依照公式(2)与其他权重参数同步更新:

其中，λ_𝐪𝟏 ， λ_𝐤𝟏 ， λ_𝐪𝟐 ， λ_𝐤𝟐 ∈ ℝ^d也都是是可学习向量。

之所以命名为「差分注意力」，是指两个softmax函数间的差异可以 注意力噪音。

这个想法类似于电气工程中提出的差分放大器（differential amplifiler），将两个信号之间的差异作为输出，从而 输入中的共模噪声;降噪耳机的设计也是基于类似的思路。

DIFF Tran ormer中也可以使用多头注意力机制，在同一层的多个head间共享参数λ，将每个head的输出进行归一化处理后再拼接、投影，就得到了最终输出，如公式（3）所示。

公式（3）中的LN(·)是指对每个头使用RMSNorm，但如图2(左)所示，也可以使用GroupNorm。

加上前馈网络模块，每个DIFF Tran ormer层就可以描述为:

实验

首先，研究人员在1T token上训练3B大小的DIFF Tran ormer模型，并在各种下游任务上与之前有竞争力的Tran ormer架构模型进行比较，结果如表1所示。

基线模型大小都为3B，其中，StableLM-3B-4E1T的1T结果取自技术报告，而OpenLLaMA-v2-3B和StableLM-base-alpha-3B-v2同样使用1T数据训练，表中分数为Eval Harness基准 上的零样本准确率。

结果显示，，与之前经过精心调优的Tran ormer语言模型相比，DIFF Tran ormer取得了良好的性能。

尤其是对于长上下文任务，如图4所示，随着上下文长度不断增加，累计平均的负对数似然值（NLL）持续降低，说明Diff Tran ormer可以更有效地利用不断增加的上下文。

「大海捞针」（Needle-In-A-Haystack） 被广泛用于评估LLM提取长上下文中的关键信息的能力。

本文的实验遵循LWM和Gemini1.5的「多针」评估方案，在不同长度的上下文中，N根针 入不同的深度。每根「针」都由一个简洁的句子组成，为特定城市分配一个独特的魔法数字。

针被放置在上下文中的5个不同深度:0%、25%、50%、75%和100%，同时随机放置其他分散注意力的针。待测LLM的目标，就是是检索与查询城市相对应的数字。

4k上下文检索的可结果如表2所示。虽然两种模型在N=1或N=2时都取得了良好的准确率，但随着N的增加，DIFF Tran ormer的性能保持相对一致，Tran ormer则显著下降。

4K长度的平均检索精度，N代表针数，R表示查询城市的数量

将上下文长度扩展至64k时， 就更加明显，尤其是关键信息位于前半部分时（即0%、25% 和50%深度）。

特别是，将针放置在25%深度时，DIFF Tran ormer相对于传统Tran ormer实现了76%的精度提升。

除了检索精度，表3进一步分析了两种模型为上下文分配的注意力分数。可以看出， DIFF Tran ormer的确将更多的注意力分配给了有用的信息，并有效地 注意力噪声。

值得注意的是，DIFF Tran ormer在提升检索精度的同时也缓解了幻觉现象。

实验包含模型在总结（图4a）和问答(图4b)两种任务上的幻觉评估。可以发现，与Tran ormer相比，DIFF Tran ormer的上下文幻觉明显减轻。

这种性能的提高可能源于，改进后的注意力模块能更好第关注任务所需信息，而非不相关的上下文。

这与之前研究中的观察结果一致，即Tran ormer出现上下文幻觉的一个主要原因是注意力分数的错误分配。

对文本摘要和问题回答的幻觉评估。准确度越高表示幻觉越少;评估时采用GPT-4o进行自动化的二元判断

除了下游任务性能，论文还进行了缩放特性的对比。

如图3a所示，分别使用83 、1.4B、2.8B、6.8B和13.1B参数训练语言模型，发现DIFF Tran ormer依旧遵循Scaling Law。

根据拟合曲线，68亿参数规模的DIFF Tran ormer达到了与110亿参数规模Tran ormer相当的验证损失，但仅需62.2%的参数。

同样，78亿参数的DIFF Tran ormer匹配了131亿参数的Tran ormer的性能，参数量是后者的59.5%。

如图3b所示，训练数据的缩放也遵循类似规律，且拟合曲线表明，使用160B token训练的DIFF Tran ormer达到了与使用251B token训练的Tran ormer相当的性能，但仅消耗了63.7%的训练数据。

此外，在HellaSwag上的 结果还可以发现，Diff Tran ormer对量化和位宽的稳健性显著高于Tran ormer。

作者介绍

本文的4位共同一作都来自微软研究院，其中两位是清华大学学生。

Tianzhu Ye本科毕业于清华大学自动化系，今年刚刚进入本系就读博士一年级，目前是微软自然语言计算部门实习生。

Li Dong从2018年起担任MSRA自然语言计算组的首席研究员。

他2012年毕业于北京航空航天大学，获得了计算机科学与工程方向的学士和硕士学位，之后前往爱丁堡大学攻读信息学博士，曾在微软Redmond研究院自然语言处理组实习。

Yuqing Xia是微软亚洲研究院（MSRA）系统与网络研究组的研究员，此前于2019年在北京大学获得了生物学博士学位

她的研究方向是利用现代硬件技术为计算密集型任务（如机器学习和深度学习）构建大规模计算系统。

此外，她还对如何运用人工智能来推动自然科学（尤其是生物学）的研究进展抱有浓厚兴趣。

Yutao Sun是清华大学的一年级博士生，导师是王建勇。同时，他也在微软亚洲研究院实习，由董力指导。

他的研究兴趣是大语言模型的骨干网络、长序列的建模和推理，以及大语言模型在其他领域的应用。

参考资料:

https://arxiv.org/abs/2410.05258