T30 · 完整翻译器里，gave 这一行能看谁？

源端已重新形成表示，但完整翻译器还需要目标信息边界。先看整机，再把右移与mask索引对齐。

状态 b0

源embedding与位置进入encoder层叠产生H，decoder层叠之后才接词表头。先圈encoder，为后续开层定位。

状态 b1

八个目标输入与标签右移对应：BOS→I，I→gave，gave→him。沿已显示的输入行指出BOS/I/gave合法前缀，再核对him处在标签端；本态是观察题。

状态 b2

八乘八因果可见性矩阵有真实token标签；gave行mask为0/0/0/−∞…，禁止位置softmax后为0。

公式与算例详情

源输入九单位全部给定，源self与目标cross可以读取所有有效源位置。目标输入为BOS/I/gave/him/a/book/yesterday/.，标签为I/gave/him/a/book/yesterday/./EOS。gave在输入第3行；它的合法目标key列是BOS/I/gave，包含自身。对未来score加−∞，softmax后权重为0；标签him不进入该行输入。padding mask另负责屏蔽填充位置，本例无padding。encoder和decoder均采用原2017post-norm子层安排。

继续学习

让整套 Transformer 共同完成一次预测 · LAB03：F · 跟着一个 token 穿过完整 encoder block

路径 A：分数进步了，为什么这一句仍然错 · LAB02：路径A · 分数进步了，为什么这一句仍然错

历史推导与原实验身份：R41 · R46。旧切分、代词、权重与测量保留原任务条件，不能替换成本轮九单位新句。

原始来源

• https://arxiv.org/pdf/1706.03762v1：。原版本及采用边界见正文