T32 · 把完整层放回整机，再看 decoder

源侧完整block说明了各算子职责。把它放回层叠以后，目标侧还多了一次读取源H的接口。

状态 b0

整机母图复现，源形成最终H；decoder每层masked self、cross、FFN各自有Add/Norm。

状态 b1

masked self处理后的当前目标表示发Q，源最终H提供K/V；不是未处理的词向量直接查询。

状态 b2

逐位置FFN之后还会层叠，最后的目标表示才进入词表头产生候选分布。

公式与算例详情

源self的Q/K/V来自同一层源输入；目标masked self来自同一层目标输入，只读合法前缀；cross的Q来自该decoder层masked self及其Add/Norm之后，K/V来自encoder最终H。每个子层各自有残差和LayerNorm，投影参数按层按头学习。固定源H不会因追加一个目标词而重新编码；各decoder层对H的K/V投影仍有各自参数。词表投影位于完整decoder层叠之后。

继续学习

让整套 Transformer 共同完成一次预测 · LAB03：F · 跟着一个 token 穿过完整 encoder block

历史推导与原实验身份：R46 · B01。旧切分、代词、权重与测量保留原任务条件，不能替换成本轮九单位新句。

原始来源

• https://arxiv.org/pdf/1706.03762v1：。原版本及采用边界见正文