Lecture 05 · 这条错译,让你先改哪一处?

R28 · 这条错译,让你先改哪一处?

已经有了能运行、能训练并带搜索的翻译器。现在回到开场同一事件,用一处人称错译选择下一项实验;随后还会在学完读取机制后重新检验这次判断。

状态 b0

同一源句的him错译旁标出四个可改部位。先提出解释及可观察预期,单个错词还不足以定位原因。

我昨天给了她一本书。候选错译:I gave him a book yesterday . EOS教学构造固定向量 encoder–decoder + beam:仅凭错译,能定位哪一处?源序 / 路径反转是否帮助优化?状态 / 容量接收者是否保留得住?条件读取当前需求能否取到“她”?候选搜索高分正确候选是否漏掉?先押一个解释,再说它预期出现什么现象。

状态 b1

摘要与笔记让访问方式可比较:一次汇总与按当前需要重读。类比帮助选择待试接口,没有替机制评价作答。

写入时决定保留什么读取时再决定用什么保留一个摘要保留可重读的位置表示同一错译:him → her

状态 b2

两组论文内对照出现。先分别读各表的改动与结果,再检查共同条件;不要把独立系统拼成统一排行榜。

两组独立证据,都使下一次实验值得认真选择WMT14 英→法 · 全测试集 BLEU ↑(参考词串重合评分,非正确率)Sutskever v1 · 固定向量Bahdanau v1 · 改变读取源句正序26.17源句反转30.59RNNenc-5017.82RNNsearch-5026.75同表:单模型,beam=12另有双向编码等变化优先试动态读取,同时保留强固定向量基线。若先把旧基线调好也合理;两组数不能跨表相减。同一错译:him → her

公式与算例详情

共同观察与待检验选择

源句“我昨天给了她一本书。”,构造错译“I gave him a book yesterday . EOS”。这不是历史论文样本或真实运行输出。四个候选解释都与观察相容:源序与优化、状态容量/保留、读取接口、搜索。摘要与可重读笔记只类比访问方式,不证明机制优劣。研究选择需要伴随可观察预期。学完完整读取和任务训练后,在R37回到同一个对象,给出控制与改判条件。

2014 年秋:已公开工作怎样改变下一次实验

固定向量 encoder–decoder 是能工作的起点。Cho 等的 RNN Encoder–Decoder 用于短语评分,不能不加说明便当作同一个完整句子翻译实验。此处回看 Sutskever 与 Bahdanau 已公开的早期论文;本页时点设为相关工作已公开后的2014年秋;教学顺序不是实际研究者知悉对方工作的顺序。

论文内比较 系统与设置 全测试集 BLEU
Sutskever v1 Table 1 单模型,beam=12,源句正序 26.17
同上 单模型,beam=12,源句反转 30.59
Bahdanau v1 Table 1 RNNenc-50 17.82
同上 RNNsearch-50 26.75

两组是独立比较,不能把它们拼成四个系统在统一条件下的排名。Sutskever 的深 LSTM 与更大词表、不同训练及搜索设置不等于 Bahdanau 的基线。后者的 RNNsearch 使用双向编码器,每向 1000 单元,而 RNNenc 的编码器为 1000 单元,因而也不只是开关 attention 的消融。

Sutskever Figure 3 报告少于 35 词的句子没有性能下降,最长句仅轻微下降。这反驳“固定向量在长句上必然崩溃”的叙述,但不否定另一个设置下的瓶颈动机。Bahdanau Figure 2 在其设置中显示长度相关差别;图形趋势不应编造成未报告的精确分组数值。

本课的研究判断是优先验证动态读取,同时保留源句反转的强固定向量基线。动态读取改变了信息接口,值得实验;并非旧接口已经被证明不可能。如果原系统尚未调好,先做反转和搜索诊断也是有依据的选择。

下一次比较尽量固定数据、分词、词表、训练预算、参数量、搜索与评测;单独控制编码方向。记录总 BLEU,也按长度、未知词与关系遗漏分组。若认真优化旧基线后动态读取优势消失,降低固定表示瓶颈解释的权重;若匹配条件后长距离关系和遗漏仍稳定改善,则增加这条路线的投入。以上是待实施实验,不是本课已经得到的训练结果。

原版:Sutskever v1,Bahdanau v1。

参考与采用

  • Sequence to Sequence Learning · v1:在当时证据与资源条件下比较研究路线;细节与口径见本页说明。 复核位置:指定原版本的结构、设置与结果表
  • Learning to Align and Translate · v1:在当时证据与资源条件下比较研究路线;细节与口径见本页说明。 复核位置:指定原版本的结构、设置与结果表

原课页采用记录:M17 当时还可以怎样改、M37 研究判断回扣。页码均按PDF物理页计。

继续学习

本页自学核对:保留“我昨天给了她一本书”的错译,先列两种相容解释及预期现象;读完机制后在R37回同一对象改写判断。

若想把初始判断落实成可推翻的下一项实验,可进入《2014:先拥有一个可工作的翻译器,再决定改哪里》;动手时打开LAB02的“D/E · 固定源序,比较两种读取接口”:核对两组历史系统条件与本课合成任务的参数差异,再写源序×读取接口的控制与改判条件。 实施范围见实验路线D。 若要增加对照,按已有受控设计固定相关条件;设计本身不代表新训练已完成。