S13.md · 可读全文
这里保留原文的中文、公式标记、代码和链接。可直接交给 Agent 读取，也可选取下方原文复制。此入口返回 HTML；原始 .md / .py 文件仍保留，完整候选包同时包含 UTF-8 原件。
# S13 · 已经能译，为什么还要回头读？
短给书句不是固定摘要必然失败的证据；它用于把新接口的职责具体化。不同输出时刻可以提出不同读取需求。
<span id="s13-b0"></span>
## 状态 b0
左侧源位置压成一个c，右侧保留每处h_j；新的接口让不同目标步可重新读取。
<span id="s13-b1"></span>
## 状态 b1
前缀BOS，当前需表达给书者，源位置“我”承担本例相应信息。
<span id="s13-b2"></span>
## 状态 b2
前缀BOS I gave，当前需表达接收者，源位置“她”提供相关信息。
<span id="s13-b3"></span>
## 状态 b3
前缀BOS I gave her a book，当前需表达时间，源位置“昨天”提供相关信息。
## 公式与算例详情
保存源位置表示 $H=(h_1,\ldots,h_6)$，不再要求所有目标位置只读同一个摘要。每个生成步骤由 decoder 的当前状态产生需求，计算源位置权重，并形成条件内容 $c_t=\sum_j\alpha_{tj}v_j$；输出头仍需根据 decoder 状态与 $c_t$ 形成词表分布。权重不是目标词，内容向量也不是答案。
主图采用六段源切分“我／昨天／给了／她／一本／书”，目标包含 `I gave her a book yesterday . EOS` 八项。BOS 是起点，EOS 也需要预测。画中箭头表示任务所需要的信息，不是把“她→her”的人工对齐直接交给模型。
先读再更新与先更新再读是可区分的实现约定。LAB02 是先以旧 decoder 状态读取，再把上一步词 embedding 与条件内容送入更新，词表头使用更新后的状态与内容；不能把尚未送入本次更新的最后一个前缀 token 说成已经包含于旧状态。后续三源数值是独立算子放大，不冒充这一六位置模型的同次前向。
2014 Bahdanau使用可学习的加性打分，例如$e_{tj}=v^T anh(W_s s_{t-1}+W_hh_j)$，沿源位置归一化后加权源内容。源encoder与目标decoder仍为循环网络。亮线标明课堂任务的信息需要，不冒充保存模型的实测attention权重。
### 继续学习
[2014：先拥有一个可工作的翻译器，再决定改哪里](https://codingai-lec05.pages.dev/course/knowledge/translation-choices-2014.html) · [LAB02：D/E · 固定源序，比较两种读取接口](https://deepnote.com/workspace/ise3309jingao-5ba66b0a-4283-4f5a-ae06-3f68d3201e99/project/Fall-26-Lecture-05-841ec8e7-e352-4840-b628-d3742b03d6d0/notebook/LAB-02-bba1d024d8e64a589c290b09381de692?utm_content=bba1d024d8e64a589c290b09381de692&utm_source=openai&utm_medium=mcp&utm_campaign=openaimcp&utm_term=get_notebook)
[读取之后，系统怎样决定写 her](https://codingai-lec05.pages.dev/course/knowledge/attention-to-prediction.html) · [LAB02：E · 只改 q 或只改 V，分别会改变什么？](https://deepnote.com/workspace/ise3309jingao-5ba66b0a-4283-4f5a-ae06-3f68d3201e99/project/Fall-26-Lecture-05-841ec8e7-e352-4840-b628-d3742b03d6d0/notebook/LAB-02-bba1d024d8e64a589c290b09381de692?utm_content=bba1d024d8e64a589c290b09381de692&utm_source=openai&utm_medium=mcp&utm_campaign=openaimcp&utm_term=get_notebook)
保留的完整推导：[R30](course/R30.html) · [R31](course/R31.html) · [R37](course/R37.html)。
### 原始来源
- [https://arxiv.org/pdf/1409.0473v1](https://arxiv.org/pdf/1409.0473v1)：本页说明所列原版本。本页原始出处与适用条件见正文