从机器翻译到 Transformer

左右滑动查看完整图解 ↔

放大阅读图解 ↗

本讲目录

49页课堂主线

一句译文里的决定

语言分析怎样参与翻译

从单位到向量

沿句子更新状态

完整地生成一句译文

需要时回头读取

重新组织完整 Transformer

从任务数据到预训练

让图像提供缺少的颜色

让同一计算少搬数据

回到研究选择

完整资源推导(可选)

本页说明

学习材料

已写到 I gave,下一词还未知

T20 · 已写到 I gave,下一词还未知

上一段已从 BOS 走到 EOS,也看过正确前缀怎样训练。现在退回同一生成时刻,只改变中文信息进入目标预测的接口。

状态 b0

原来的源初始化背景与新保留的逐位置源状态并列。已知条件只有完整中文和BOS I gave;源摘要的影响已沿decoder状态传到这里,保存源信息与当前选择读取分开。

状态 b1

Q 来自当前目标状态。各源位置提供匹配 K 与内容 V,尚未引入正确下一词。

状态 b2

源评分、源 softmax、加权内容 c 依次接入词表预测;当前目标状态也连入输出。这里c命名本次读回内容,和前面LSTM的cell状态不同。

状态 b3

从词表分布选出 him 后,反馈箭头才出现。此图展示合适译文的机制路径,没有给出实测概率。

公式与算例详情

源摘要→初始化s₀保留为前一系统的背景;b0中进入当前目标状态的灰箭头概括沿状态传递的历史,不表示本步重新注入源摘要。

本页从b2开始,c表示当前attention读回的内容向量;它不是LSTM沿时间传递的cell状态。相同字母在不同计算里有不同职责。

源端九个 h 仍是前面循环编码得到的各位置状态。图中保留所有状态,不意味着每次只挑一个状态,也不保证某个位置必定获得最高权重。真实条件预测通常使用当前目标状态和读回的内容,并在完整目标词表上归一化。当前译文是为了说明路径选择的教学示例,不是新训练模型的运行回执。

这里先教 Q/K/V 的职责;2014 Bahdanau 路线使用可学习匹配网络,后面局部手算采用点积。这一差别在 T24 口述并保留原论文来源。

继续学习

2014:先拥有一个可工作的翻译器,再决定改哪里 · LAB02:D/E · 固定源序,比较两种读取接口

读取之后,系统怎样决定写 him · LAB02:E · 只改 q 或只改 V,分别会改变什么?

历史推导与原实验身份:R30 · R31 · R37 · R32 · R33 · R34 · R28。旧切分、代词、权重与测量保留原任务条件,不能替换成本轮九单位新句。

原始来源