​ 原文：https://mp.weixin.qq.com/s/Cg-BR4oSAvvoZsvQGTfmCQ 

欢迎关注公zh: Al-Frontiers

**transformer往期文章推荐**
[收藏! transformer学习资源汇总](https://mp.weixin.qq.com/s/qap5mePkP2rVbVSMsaBUMw)
[transformer进阶之路：#1 整体概述](https://mp.weixin.qq.com/s/R3BxCMu5CSFo_HPcVJTuOA)
[transformer进阶之路：#2 工作原理详解](https://mp.weixin.qq.com/s/D3ztMx5HeGMD30PenmDizg)

这是 Transformer 系列文章的第三篇，沿用前期「**自上而下**」的方式讨论 Transformer。前两篇里，我们了解了 Transformer 是什么、架构，工作机制。

本篇文章我们将深入探索 「**多头注意力**」——— Transformer 的大脑。

# **Transformer 中如何使用注意力**

正如我们在第二篇 [transformer进阶之路：#2 工作原理详解](https://mp.weixin.qq.com/s/D3ztMx5HeGMD30PenmDizg)所讨论的，Transformer 在三个地方用到了注意力：
1. **编码器****中的自注意力**：输入序列关注自己
2. **解码器****中的自注意力**：目标序列关注自己
3. **解码器****中的****编码器****-解码器注意力**：目标序列关注输入序列
	![image](https://developer.qcloudimg.com/http-save/yehe-11939351/20e4e788ad4f4bdcbb2d90effd17b869.png)

**注意力输入的参数：Query、Key 和 Value**

注意力层接收三个参数形式的输入，分别叫做 **Query（查询）**、**Key（键）** 和 **Value（值）**。

这三个参数的结构很相似：序列里的每个词都由一个向量来表示。

## **编码器自注意力**

输入序列首先被送入输入嵌入和位置编码，该模块为输入序列中的每个词生成一个编码表示，该表示捕捉了每个词的含义和位置。然后，该编码表示被送入第一个编码器中的自注意力机制，该机制接收查询（Query）、键（Key）和值（Value）三个参数。自注意力机制随后也为输入序列中的每个词生成一个编码表示，但这次编码表示中加入了每个词的注意力分数。随着编码结果依次经过堆栈中的所有编码器，每个自注意力模块都会将自身的注意力分数添加到每个词的编码表示中。

![image](https://developer.qcloudimg.com/http-save/yehe-11939351/7940ffbf4ac55a3502b712d997f4f5bc.png)

## **解码器自注意力**

在解码器栈中，目标序列首先被送入输出嵌入和位置编码，该过程会为目标序列中的每个词生成一个编码表示，该表示捕捉了每个词的含义和位置。

然后，该编码表示被送入第一个解码器中的自注意力机制，该机制会接收查询（Query）、键（Key）和值（Value）这三个参数。自注意力机制随后也会为目标序列中的每个词生成一个编码表示，该表示还包含了每个词的注意力得分。

经过层归一化之后，这个表示被传给第一个解码器中「**编码器-解码器注意力**」的 **Query** 参数。

## **编码器-解码器注意力**

与此同时，**编码器堆栈最后一个编码器的输出**，被传给编码器-解码器注意力的 **Value 和 Key** 参数。

这样一来，编码器-解码器注意力同时拿到了两样东西：一个是**目标序列的表示**（来自解码器自注意力），另一个是**输入序列的表示**（来自编码器堆栈）。所以，它生成的表示里，既包含了目标序列每个词的注意力分数，也融入了输入序列注意力分数带来的影响。

当这个表示流过解码器堆栈里的所有解码器时，每一个自注意力层和每一个编码器-解码器注意力层，也都会把自己的注意力分数继续加进每个词的表示里。

# **多个注意力头**

在 Transformer 里，注意力模块会把自己的计算**并行地重复多次**。每一次重复，就叫做一个「**注意力头**」。注意力模块会把它的 Query、Key 和 Value 参数**按 N 份切开**，然后把每一份独立地传给一个单独的头。所有这些相似的注意力计算结果，最后会被组合在一起，生成一个最终的注意力分数。这就是「**多头注意力**」的由来——它给了 Transformer 更强大的能力，去为每个词编码**多重关系**和**细微差别**。
![image](https://developer.qcloudimg.com/http-save/yehe-11939351/e7df08b6a1a8abe456b139c8600cd58a.png)
为了准确理解数据在内部是怎么处理的，我们还是以训练一个翻译任务为例，一步步走过注意力模块的工作流程。我们只用一个训练样本：输入序列是英文 "You are welcome"，目标序列是西班牙语 "De nada"。

# **注意力的超参数**

有三个超参数决定了数据的维度：
- **嵌入尺寸**：嵌入向量的宽度（我们的例子里用了宽度 6）。这个维度会贯穿整个 Transformer 模型，所以有时候也会被叫成别的名字，比如**模型尺寸**等等。
- **查询尺寸**（等于 Key 和 Value 的尺寸）：三个线性层用来生成 Query、Key 和 Value 矩阵时，各自使用的权重的尺寸（我们的例子里，查询尺寸用了 3）。
- **注意力头的数量**（我们的例子里用了 2 个头）。

除此之外，还有个**批量大小**，它给了我们一个表示样本数量的维度。
# **输入层**

输入嵌入和位置编码层，产出一个形状为 (**样本数, 序列长度, 嵌入尺寸**) 的矩阵。这个矩阵被喂给堆栈里第一个编码器的 Query、Key 和 Value。
![image](https://developer.qcloudimg.com/http-save/yehe-11939351/ca879f2c6f4252fd2a164bd1157b1f8d.png)

为了让图示更简单，我们会丢掉批量这个维度，只关注剩下的维度。
![image](https://developer.qcloudimg.com/http-save/yehe-11939351/797e11296bc8e1a714717425a4d2fb26.png)
# **线性层**

Query、Key 和 Value 各自有一个独立的线性层，每个层有自己的权重。输入数据穿过这些线性层，就产生了 Q、K 和 V 矩阵。
![5 线性层.png](https://developer.qcloudimg.com/http-save/yehe-11939351/a43cf32100d8185e7532d10df6cfc8fb.png)

# **把数据拆分到各个注意力头**

现在，数据要被拆分到多个注意力头上，这样每个头才能独立处理。

但有个关键点需要理解：这**仅仅是逻辑上的拆分**。Query、Key 和 Value 并不是真的被切成了一个个独立的物理矩阵——每个头一个。相反，Query、Key 和 Value 各自仍然是一个单独的数据矩阵，只不过矩阵里为每个头划出了**逻辑上独立的分区**。同样，也不是每个头都有自己独立的线性层。实际上，**所有注意力头共享同一个线性层**，只不过它们在自己的**那一块**逻辑数据分区上操作。

**线性层的权重也按头做了逻辑分区**
这种逻辑拆分，是通过把**输入数据**和**线性层的权重**，都均匀地划分到各个注意力头上实现的。我们可以通过设定下面的查询尺寸来达到这一点：

**查询尺寸 = 嵌入尺寸 / 头的数量**
![6 线性层的权重也按头做了逻辑分区.png](https://developer.qcloudimg.com/http-save/yehe-11939351/035530f0cf94bafa6ddb62d6fe2b4438.png)
在我们的例子里，查询尺寸 = 6 / 2 = 3。尽管线性层的权重（和输入数据）是一个单独的矩阵，但我们可以把它想象成：每个头的独立层权重，被**堆叠**在了一起。
![6.1 线性层的权重也按头做了逻辑分区.png](https://developer.qcloudimg.com/http-save/yehe-11939351/22219214dc9db5a144c2d3d8c6d6cb57.png)
因此，**所有头的计算可以通过一次矩阵运算完成**，而不需要 N 次独立的运算。这让计算更高效，也让模型保持简洁，因为需要的线性层更少了，但同时仍然保留了独立注意力头的强大能力。

## **重塑 Q、K 和 V 矩阵**

线性层输出的 Q、K 和 V 矩阵会被重塑，以**显式地包含一个「头」的维度**。现在，每个**切片**就对应每个头的矩阵。

这个矩阵会被再次重塑——这次是**交换「头」和「序列」这两个维度**。尽管图示里没有画出**批量**维度，但 Q 现在的维度变成了 (批量, 头, 序列, 查询尺寸)。
![7 重塑 Q、K 和 V 矩阵.png](https://developer.qcloudimg.com/http-save/yehe-11939351/e5beeb7227eae72e9fc08e0b1cb51d56.png)

下面的图示展示了我们的示例 Q 矩阵，从线性层出来后，被拆分的完整过程。

最后一个步骤只是为了可视化——虽然 Q 矩阵仍然是一个单独的矩阵，但我们可以把它想象成每个头有一个逻辑上独立的 Q 矩阵。
![7.1 重塑 Q、K 和 V 矩阵.png](https://developer.qcloudimg.com/http-save/yehe-11939351/22060636c0a42d8f331cfa57ede098dc.png)
现在，我们准备好计算注意力分数了。

# **为每个头计算注意力分数**

现在我们有了 Q、K 和 V 这三个矩阵，并且它们已经被拆分到了各个头上。下面就用它们来计算注意力分数。

我们会只使用最后两个维度（序列和查询尺寸）来展示单个头的计算，同时跳过前两个维度（批量和头）。本质上，我们可以想象这些计算会为每个头、批量里的每个样本**重复**进行——尽管很明显，它们实际上是作为**一次**矩阵运算发生的，而不是一个循环。

**第一步**，是做一个 Q 和 K 之间的矩阵乘法。
![8 计算每个头部的注意力得分.png](https://developer.qcloudimg.com/http-save/yehe-11939351/4d7becba40ffc7b59287d20de8aa7256.png)

然后，一个**掩码值**会被加到结果上。在编码器自注意力里，这个掩码用来**屏蔽掉填充值**，让它们不参与注意力分数的计算。

在解码器自注意力和解码器的编码器-解码器注意力里，会用到不同的掩码，我们稍后在流程中会讲到。
![8.1.png](https://developer.qcloudimg.com/http-save/yehe-11939351/d00099e2a6898ed7763f296707edc97d.png)

接下来，结果被**缩放**：除以查询尺寸的平方根。然后对它应用一个 **Softmax**。
![8.2.png](https://developer.qcloudimg.com/http-save/yehe-11939351/b05d5dcdc22a6e2c23de4445916cf9c5.png)
最后，再做一次矩阵乘法：这次是 Softmax 的输出 与 V 矩阵相乘。
![8.3.png](https://developer.qcloudimg.com/http-save/yehe-11939351/071b2efdc1eb962e7f9712766983e38f.png)
编码器自注意力里，完整的注意力分数计算如下所示：
![8.4.png](https://developer.qcloudimg.com/http-save/yehe-11939351/fd4f4fce4ce9a4a17545ccffb321f27a.png)

# **把每个头的注意力分数合并起来**

现在我们为每个头都得到了独立的注意力分数，需要把它们**合并**成一个单一的分数。这个合并操作，基本上就是拆分操作的逆过程。

它的做法很简单：**重塑**结果矩阵，去掉**头**这个维度。具体步骤是：
- 通过交换**头**和**序列**维度，来重塑注意力分数矩阵。换句话说，矩阵形状从 (**批量, 头, 序列, 查询尺寸**) 变成 (**批量, 序列, 头, 查询尺寸**)。
- 再通过重塑成 (批量, 序列, 头 * 查询尺寸)，来**坍缩掉「头」维度**。这实际上就是把每个头的注意力分数向量，**拼接**成了一个合并后的注意力分数。

因为 **嵌入尺寸 = 头数量 * 查询尺寸**，所以合并后的分数维度是 (**批量, 序列, 嵌入尺寸**)。下面的图示展示了示例分数矩阵合并的完整过程。
![9 将每个头部注意力得分合并在一起.png](https://developer.qcloudimg.com/http-save/yehe-11939351/47b61b5f2df4df4ff230ae71d449a2db.png)

# **端到端的多头注意力**

把上面所有步骤整合起来，就是多头注意力的端到端流程。
![10 端到端的多头注意力.png](https://developer.qcloudimg.com/http-save/yehe-11939351/caa21df8c44c8a25f4a0800c5da10466.png)

# **多头拆分如何带来更丰富的解读**

一个嵌入向量承载了一个词的含义。正如我们所见，在多 head 注意力里，输入（和目标）序列的嵌入向量会被**逻辑上拆分**到多个头上。这有什么意义呢？
![11 多头拆分如何带来更丰富的解读.png](https://developer.qcloudimg.com/http-save/yehe-11939351/f880e2e1f53a72d35bcfb608c2b84907.png)
这意味着：嵌入向量的**不同部分**，可以去学习每个词含义的不同方面——特别是当这个词与序列里其他词产生关联的时候。这让 Transformer 能够捕捉到对序列**更丰富的解读**。

下面的例子可能不太现实，但能帮你建立直觉。比方说，嵌入向量的一个部分可能捕捉名词的**性别属性**（阳性、阴性、中性），而另一个部分可能捕捉名词的**数量属性**（单数 vs 复数）。这在翻译时可能很重要——因为很多语言里，到底该用哪个动词，取决于这些属性。

# **解码器自注意力和掩码**

解码器自注意力的工作方式，与编码器自注意力几乎一样，唯一的区别是，它操作的是目标序列的每个词。
![12 解码器自注意力和掩码.png](https://developer.qcloudimg.com/http-save/yehe-11939351/44c23468bad2016b55c1abc4c37785e3.png)
类似地，这里的掩码，也是用来屏蔽掉目标序列里的填充词。
# **解码器中的编码器-解码器注意力和掩码**

编码器-解码器注意力，从两个来源接收输入。因此，它和那两种自注意力都不一样：
- 编码器自注意力计算的是：每个**输入词**与其他**输入词**之间的交互。
- 解码器自注意力计算的是：每个**目标词**与其他**目标词**之间的交互。
- **编码器-解码器注意力**计算的是：每个**目标词**与每个**输入词**之间的交互。
	![13 解码器中的编码器-解码器注意力和遮蔽.png](https://developer.qcloudimg.com/http-save/yehe-11939351/92dd07d22d2864d91a49a099fc8c08c4.png)

所以，最终注意力分数矩阵里的每个格子，都对应一个 Query（也就是一个目标序列词）与所有 Key（输入序列词）和所有 Value（输入序列词）之间的交互。

同样，这里的掩码也会屏蔽掉目标输出中**位置靠后的词**。关于这一点，在系列的第二篇文章里已经详细解释过了。

# **结语**

希望本篇文章能让读者对 Transformer 中的注意力模块的功能有一个大致的了解。结合我们在前面文章中介绍的 Transformer 整体端到端流程，现在已经详细阐述了整个 Transformer 架构的运作方式。

现在我们已完全理解了 Transformer 的工作原理。但是，我们还没有完全解答 Transformer 的 Attention 为什么要执行这些计算。为什么会使用查询、键和值的概念，以及为什么会执行我们刚才看到的矩阵乘法？

我们从直觉上介绍了 Transformer是**捕捉每个词与其他词之间的关系**，但这究竟是什么意思？是如何赋予 Transformer 的注意力机制理解序列中每个词的细微差别的能力的？

我们将在下篇文章给大家回答上述问题。

**感谢阅读文章，如果觉得不错，欢迎点赞、关注、转发！**

​ 原文：https://mp.weixin.qq.com/s/Cg-BR4oSAvvoZsvQGTfmCQ

transformer系列：#3 深度解析多头注意力

这是 Transformer 系列文章的第三篇，本篇文章我们将深入探索 「多头注意力」——— Transformer 的大脑。

人工智能

算法

前端

深入解析Transformer多头注意力机制，详解编码器-解码器自注意力工作原理，剖析Query、Key、Value参数作用。通过翻译任务实例演示注意力分数计算流程，阐述多头拆分如何实现更丰富的语义解读。适合NLP开发者和Transformer学习者了解注意力机制核心原理。

数据分区

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

transformer系列：#3 深度解析多头注意力-腾讯云开发者社区-腾讯云

transformer系列：#3 深度解析多头注意力

transformer系列：#3 深度解析多头注意力

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐