S06 · RNN 与完整条件序列系统
上一段需要一个能跨步保留信息的通路。先将这条通路写成共享状态更新，再把它放回完整翻译任务，认识各部件承担的工作。
状态 b0
蓝盒事实进入h1，后续输入沿同一更新规则形成h_t；末尾任务读取状态。
状态 b1
Encoder读源句形成摘要c，Decoder同时接收源条件与BOS／已有目标前缀，输出下一词并继续。
公式与算例详情
完整条件生成分解为$p(y\mid x)=\prod_{t=1}^{8}p(y_t\mid y_{<t},x)$。此分解不是词独立假设，每项都带已写前缀和源句条件。encoder读取六个源token并形成最终状态$c$；本页采用“以$c$初始化decoder状态”的固定摘要示意，后续通过decoder状态继续携带源条件。另有每一步再次注入$c$的设计，不能把所有固定摘要系统画成同一种接口。
decoder从BOS开始给出词表分布，选择token后作为下一步输入，直到EOS。encoder／decoder是输入输出职责，不等同于某个唯一网络名字。固定摘要的图只先表明系统可以怎样工作，尚未证明其翻译质量；容量和长句困难要在系统闭合以后通过证据讨论。
教学展开借鉴CS224N Lecture05物理p14–21：任务、完整Seq2Seq、条件目标与训练，然后才问固定摘要；不是先抽走翻译任务，讲完一整章语言模型后再补回来。
与保存实验分开： LAB02为隔离读取方式，共同使用BiLSTM源编码器，固定组masked mean、动态组按query读取，并在同一位置向decoder注入context；两组decoder初态均为零。课堂“末摘要初始化decoder”是概念系统，不是该checkpoint的接口；LAB02首步零query导致均匀权重。两者不可拼成同次运行。核对入口：deepnote/dn1/build_notebooks.py的CLS02与LAB02保存说明。
本页第一态接续钥匙蓝盒的具体事实，第二态再回到给书任务；两者用于说明相同更新思想，不是同一个训练或评测样本。摘要初始化是概念Seq2Seq模型。LAB02的实际实现保留零初态、每步context注入的原身份，不能将本图当作该checkpoint逐层结构。
继续学习
原始来源
- https://arxiv.org/pdf/1409.3215v1：本页说明所列原版本。本页原始出处与适用条件见正文